Cache能顶半边天,《深入理解cache训练营2期》火热招募

网络交换FPGA 2023-02-19 21:25

编者按:这是我们酝酿了非常久的一个训练营,由在阅码场做了多次相关分享的甄建勇老师执鞭。旨在帮助想要从事或者正在从事性能优化的工程师深入到计算机体系结构。之所以选择从cache开始,是因为cache在计算机体系结构能够顶半边天。尤其是愈演愈烈的AI边缘计算,需要从硅到app的性能优化


Cache营1期用户群内讨论答疑

有用户向我们反馈:”我是从做应用和算法转到Arm上的AI加速卡适配,遇到各种PCIE问题及驱动问题,效率问题,内存一致性问题,希望通过这个训练营建立一个系统的系统脉络,遇到问题可以有个框架去思考问题。

Cache营1期课程第一部分

本训练营带领你从cache领域历史->cache领域原理->cache领域实践->cache领域前沿深入理解cache,这个计算机体系结构的半边天。

Cache1期训练营合影


深入理解Cache训练营(2期)

开课时间:20233月5日下午2:00 

训练营背景                                                                                                 

现代计算机架构设计,经过多年的发展和演化,沉淀了很多重要的思想,其中一个便是“层次化”,而Cache就是这种思想的一种很好的体现。以Cache为主体的memory hierarchy,在现代计算机架构中是名副其实的“半边天”。此外,了解Cache,不仅对了解CPUGPU有重要的意义,对了解Linux Kernel也很有参考价值,此外,对Cache深入的理解,也会帮助性能调优,对写出高质量的软件大有裨益。

训练营课程大纲:

Topic

Length(h)

outline

the organization of cache

2

why cache?

direct mapped, fully associative, set associative

kinds of cache?

2

RegisterFile(CPU&GPU),RF cache

Mini-TLB,TLB,L1C,L2C,

pre-fetch buffer,IO-buffer,Disk Cache,Software cache.

dive into Cache-1

2

read,write,control

tag_RAM,data_RAM,dirty_RAM

write_merge,hit-under-miss,victim

PIPT,VIPT,VIVT

dive into Cache-2

2

cache, scratchpad and DMA?

memory hierarchy of CPU&GPU

2

CPU memory hierarchy

GPU memory hierarchy

CPU&GPU architecture technical

2

architecture technicals

let's mix CPU,GPU & AI:

         Graphics ->  Compute

         AI       -> Compute

         Compute  -> Graphcis&AI


训练营收益

  1. 1.        了解Cache的基本结构,设计方法(尤其是在第二期我们将加入TLB 实现的代码导读)。

  2. 2.        了解CPU/GPU/NPU memory hierarchy

  3. 3.        了解架构设计的基本思想,实现从工程师到设计师,再到架构师的跨越。

  4. 4.        真正打通软硬件的界限,走入全栈工程师行列。

讲师介绍:

甄建勇,某国际半导体大厂高级AI芯片架构师,十年以上半导体设计架构经验,他不但在xPU架构方面技术精湛,涉猎技术领域也非常广泛,而且在很多非技术领域也有很深的造诣。以下是甄建勇老师曾经或者现在主要研究领域及其学习路径。

嵌入式软件

C语言基础->Linux基础->现代操作系统,原理与实践->Linux Device Drivers->Understanding Linux Kernel

FPGA/ASIC

VerilogHDL数字电路设计->Xilinx/Altera datasheet

CPU架构

Digital Design and Computer Architecture->计算机体系结构->计算机体系结构-量化研究方法

GPU架构

1. Graphics

计算机图形学(video lecture)->Real Time Rendering->  Ray Tracing in One Weekend

2. General purpose

Computer Architecture:A Quantitative Approach->General-Purpose Graphics Processor Architecture-> 《通用图形处理器设计》-> CUDA programming guide-> TensorCore

NPU架构

西瓜书->TF/Caffe->AI加速器架构设计(甄建勇)

经济学

经济解释(张五常)->经济学讲义(薛兆丰)->金融学讲义(香帅)->黄奇帆的经济学课程

密码学

古今数学思想->普林斯顿微积分->图解群论->抽象代数)->现代密码学基础->全同态加密

虽然有很多领域的学习路径,但其内在逻辑是一致的,即:领域历史->领域原理->领域实践->领域前沿

以上这些领域几乎都涉及到了Cache的思想,所以Cache的学习是非常必要的。

训练营受众:

想要从事性能优化和体系结构相关工作的工程师,学生,及相关专业的技术人员。所有计算机制造领域的从业者都有可以了解Cache,对从事相关工作会非常有帮助。为了更高的讨论效率,建议参与者先建立一些计算机体系结构的基础知识。

课程定价:6000/人,老规矩,训练营老用户半价,会员减1024。详情咨询小马。


网络交换FPGA 秉承“工匠”精神,专注网络与交换领域FPGA开发与芯片实现,记录、分享与交流技术上的点点滴滴,与大家共同进步成长。
评论
  • Ubuntu20.04默认情况下为root账号自动登录,本文介绍如何取消root账号自动登录,改为通过输入账号密码登录,使用触觉智能EVB3568鸿蒙开发板演示,搭载瑞芯微RK3568,四核A55处理器,主频2.0Ghz,1T算力NPU;支持OpenHarmony5.0及Linux、Android等操作系统,接口丰富,开发评估快人一步!添加新账号1、使用adduser命令来添加新用户,用户名以industio为例,系统会提示设置密码以及其他信息,您可以根据需要填写或跳过,命令如下:root@id
    Industio_触觉智能 2025-01-17 14:14 122浏览
  • 本文介绍瑞芯微开发板/主板Android配置APK默认开启性能模式方法,开启性能模式后,APK的CPU使用优先级会有所提高。触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。源码修改修改源码根目录下文件device/rockchip/rk3562/package_performance.xml并添加以下内容,注意"+"号为添加内容,"com.tencent.mm"为AP
    Industio_触觉智能 2025-01-17 14:09 164浏览
  • 2024年是很平淡的一年,能保住饭碗就是万幸了,公司业绩不好,跳槽又不敢跳,还有一个原因就是老板对我们这些员工还是很好的,碍于人情也不能在公司困难时去雪上加霜。在工作其间遇到的大问题没有,小问题还是有不少,这里就举一两个来说一下。第一个就是,先看下下面的这个封装,你能猜出它的引脚间距是多少吗?这种排线座比较常规的是0.6mm间距(即排线是0.3mm间距)的,而这个规格也是我们用得最多的,所以我们按惯性思维来看的话,就会认为这个座子就是0.6mm间距的,这样往往就不会去细看规格书了,所以这次的运气
    wuliangu 2025-01-21 00:15 186浏览
  •     IPC-2581是基于ODB++标准、结合PCB行业特点而指定的PCB加工文件规范。    IPC-2581旨在替代CAM350格式,成为PCB加工行业的新的工业规范。    有一些免费软件,可以查看(不可修改)IPC-2581数据文件。这些软件典型用途是工艺校核。    1. Vu2581        出品:Downstream     
    电子知识打边炉 2025-01-22 11:12 53浏览
  • 临近春节,各方社交及应酬也变得多起来了,甚至一月份就排满了各式约见。有的是关系好的专业朋友的周末“恳谈会”,基本是关于2025年经济预判的话题,以及如何稳定工作等话题;但更多的预约是来自几个客户老板及副总裁们的见面,他们为今年的经济预判与企业发展焦虑而来。在聊天过程中,我发现今年的聊天有个很有意思的“点”,挺多人尤其关心我到底是怎么成长成现在的多领域风格的,还能掌握一些经济趋势的分析能力,到底学过哪些专业、在企业管过哪些具体事情?单单就这个一个月内,我就重复了数次“为什么”,再辅以我上次写的:《
    牛言喵语 2025-01-22 17:10 41浏览
  • 高速先生成员--黄刚这不马上就要过年了嘛,高速先生就不打算给大家上难度了,整一篇简单但很实用的文章给大伙瞧瞧好了。相信这个标题一出来,尤其对于PCB设计工程师来说,心就立马凉了半截。他们辛辛苦苦进行PCB的过孔设计,高速先生居然说设计多大的过孔他们不关心!另外估计这时候就跳出很多“挑刺”的粉丝了哈,因为翻看很多以往的文章,高速先生都表达了过孔孔径对高速性能的影响是很大的哦!咋滴,今天居然说孔径不关心了?别,别急哈,听高速先生在这篇文章中娓娓道来。首先还是要对各位设计工程师的设计表示肯定,毕竟像我
    一博科技 2025-01-21 16:17 101浏览
  • 数字隔离芯片是一种实现电气隔离功能的集成电路,在工业自动化、汽车电子、光伏储能与电力通信等领域的电气系统中发挥着至关重要的作用。其不仅可令高、低压系统之间相互独立,提高低压系统的抗干扰能力,同时还可确保高、低压系统之间的安全交互,使系统稳定工作,并避免操作者遭受来自高压系统的电击伤害。典型数字隔离芯片的简化原理图值得一提的是,数字隔离芯片历经多年发展,其应用范围已十分广泛,凡涉及到在高、低压系统之间进行信号传输的场景中基本都需要应用到此种芯片。那么,电气工程师在进行电路设计时到底该如何评估选择一
    华普微HOPERF 2025-01-20 16:50 73浏览
  • 嘿,咱来聊聊RISC-V MCU技术哈。 这RISC-V MCU技术呢,简单来说就是基于一个叫RISC-V的指令集架构做出的微控制器技术。RISC-V这个啊,2010年的时候,是加州大学伯克利分校的研究团队弄出来的,目的就是想搞个新的、开放的指令集架构,能跟上现代计算的需要。到了2015年,专门成立了个RISC-V基金会,让这个架构更标准,也更好地推广开了。这几年啊,这个RISC-V的生态系统发展得可快了,好多公司和机构都加入了RISC-V International,还推出了不少RISC-V
    丙丁先生 2025-01-21 12:10 112浏览
  •  万万没想到!科幻电影中的人形机器人,正在一步步走进我们人类的日常生活中来了。1月17日,乐聚将第100台全尺寸人形机器人交付北汽越野车,再次吹响了人形机器人疯狂进厂打工的号角。无独有尔,银河通用机器人作为一家成立不到两年时间的创业公司,在短短一年多时间内推出革命性的第一代产品Galbot G1,这是一款轮式、双臂、身体可折叠的人形机器人,得到了美团战投、经纬创投、IDG资本等众多投资方的认可。作为一家成立仅仅只有两年多时间的企业,智元机器人也把机器人从梦想带进了现实。2024年8月1
    刘旷 2025-01-21 11:15 399浏览
  • 现在为止,我们已经完成了Purple Pi OH主板的串口调试和部分配件的连接,接下来,让我们趁热打铁,完成剩余配件的连接!注:配件连接前请断开主板所有供电,避免敏感电路损坏!1.1 耳机接口主板有一路OTMP 标准四节耳机座J6,具备进行音频输出及录音功能,接入耳机后声音将优先从耳机输出,如下图所示:1.21.2 相机接口MIPI CSI 接口如上图所示,支持OV5648 和OV8858 摄像头模组。接入摄像头模组后,使用系统相机软件打开相机拍照和录像,如下图所示:1.3 以太网接口主板有一路
    Industio_触觉智能 2025-01-20 11:04 150浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦