Cache能顶半边天,《深入理解cache训练营2期》火热招募

原创 Linux阅码场 2023-03-17 08:15

编者按:这是我们酝酿了非常久的一个训练营,由在阅码场做了多次相关分享的甄建勇老师执鞭。旨在帮助想要从事或者正在从事性能优化的工程师深入到计算机体系结构。之所以选择从cache开始,是因为cache在计算机体系结构能够顶半边天。尤其是愈演愈烈的AI边缘计算,需要从硅到app的性能优化


Cache营1期用户群内讨论答疑

有用户向我们反馈:”我是从做应用和算法转到Arm上的AI加速卡适配,遇到各种PCIE问题及驱动问题,效率问题,内存一致性问题,希望通过这个训练营建立一个系统的系统脉络,遇到问题可以有个框架去思考问题。

Cache营1期课程第一部分

本训练营带领你从cache领域历史->cache领域原理->cache领域实践->cache领域前沿深入理解cache,这个计算机体系结构的半边天。

Cache1期训练营合影


深入理解Cache训练营(2期)

开课时间:20233月5日下午2:00 

训练营背景                                                                                                 

现代计算机架构设计,经过多年的发展和演化,沉淀了很多重要的思想,其中一个便是“层次化”,而Cache就是这种思想的一种很好的体现。以Cache为主体的memory hierarchy,在现代计算机架构中是名副其实的“半边天”。此外,了解Cache,不仅对了解CPUGPU有重要的意义,对了解Linux Kernel也很有参考价值,此外,对Cache深入的理解,也会帮助性能调优,对写出高质量的软件大有裨益。

训练营课程大纲:

Topic

Length(h)

outline

the organization of cache

2

why cache?

direct mapped, fully associative, set associative

kinds of cache?

2

RegisterFile(CPU&GPU),RF cache

Mini-TLB,TLB,L1C,L2C,

pre-fetch buffer,IO-buffer,Disk Cache,Software cache.

dive into Cache-1

2

read,write,control

tag_RAM,data_RAM,dirty_RAM

write_merge,hit-under-miss,victim

PIPT,VIPT,VIVT

dive into Cache-2

2

cache, scratchpad and DMA?

memory hierarchy of CPU&GPU

2

CPU memory hierarchy

GPU memory hierarchy

CPU&GPU architecture technical

2

architecture technicals

let's mix CPU,GPU & AI:

         Graphics ->  Compute

         AI       -> Compute

         Compute  -> Graphcis&AI


训练营收益

  1. 1.        了解Cache的基本结构,设计方法(尤其是在第二期我们将加入TLB 实现的代码导读)。

  2. 2.        了解CPU/GPU/NPU memory hierarchy

  3. 3.        了解架构设计的基本思想,实现从工程师到设计师,再到架构师的跨越。

  4. 4.        真正打通软硬件的界限,走入全栈工程师行列。

讲师介绍:

甄建勇,某国际半导体大厂高级AI芯片架构师,十年以上半导体设计架构经验,他不但在xPU架构方面技术精湛,涉猎技术领域也非常广泛,而且在很多非技术领域也有很深的造诣。以下是甄建勇老师曾经或者现在主要研究领域及其学习路径。

嵌入式软件

C语言基础->Linux基础->现代操作系统,原理与实践->Linux Device Drivers->Understanding Linux Kernel

FPGA/ASIC

VerilogHDL数字电路设计->Xilinx/Altera datasheet

CPU架构

Digital Design and Computer Architecture->计算机体系结构->计算机体系结构-量化研究方法

GPU架构

1. Graphics

计算机图形学(video lecture)->Real Time Rendering->  Ray Tracing in One Weekend

2. General purpose

Computer Architecture:A Quantitative Approach->General-Purpose Graphics Processor Architecture-> 《通用图形处理器设计》-> CUDA programming guide-> TensorCore

NPU架构

西瓜书->TF/Caffe->AI加速器架构设计(甄建勇)

经济学

经济解释(张五常)->经济学讲义(薛兆丰)->金融学讲义(香帅)->黄奇帆的经济学课程

密码学

古今数学思想->普林斯顿微积分->图解群论->抽象代数)->现代密码学基础->全同态加密

虽然有很多领域的学习路径,但其内在逻辑是一致的,即:领域历史->领域原理->领域实践->领域前沿

以上这些领域几乎都涉及到了Cache的思想,所以Cache的学习是非常必要的。

训练营受众:

想要从事性能优化和体系结构相关工作的工程师,学生,及相关专业的技术人员。所有计算机制造领域的从业者都有可以了解Cache,对从事相关工作会非常有帮助。为了更高的讨论效率,建议参与者先建立一些计算机体系结构的基础知识。

课程定价:6000/人,老规矩,训练营老用户半价,会员减1024。详情咨询小马。


Linux阅码场 专业的Linux技术社区和Linux操作系统学习平台,内容涉及Linux内核,Linux内存管理,Linux进程管理,Linux文件系统和IO,Linux性能调优,Linux设备驱动以及Linux虚拟化和云计算等各方各面.
评论
  • ARMv8-A是ARM公司为满足新需求而重新设计的一个架构,是近20年来ARM架构变动最大的一次。以下是对ARMv8-A的详细介绍: 1. 背景介绍    ARM公司最初并未涉足PC市场,其产品主要针对功耗敏感的移动设备。     随着技术的发展和市场需求的变化,ARM开始扩展到企业设备、服务器等领域,这要求其架构能够支持更大的内存和更复杂的计算任务。 2. 架构特点    ARMv8-A引入了Execution State(执行状
    丙丁先生 2025-01-12 10:30 465浏览
  •   在信号处理过程中,由于信号的时域截断会导致频谱扩展泄露现象。那么导致频谱泄露发生的根本原因是什么?又该采取什么样的改善方法。本文以ADC性能指标的测试场景为例,探讨了对ADC的输出结果进行非周期截断所带来的影响及问题总结。 两个点   为了更好的分析或处理信号,实际应用时需要从频域而非时域的角度观察原信号。但物理意义上只能直接获取信号的时域信息,为了得到信号的频域信息需要利用傅里叶变换这个工具计算出原信号的频谱函数。但对于计算机来说实现这种计算需要面对两个问题: 1.
    TIAN301 2025-01-14 14:15 108浏览
  • 食物浪费已成为全球亟待解决的严峻挑战,并对环境和经济造成了重大影响。最新统计数据显示,全球高达三分之一的粮食在生产过程中损失或被无谓浪费,这不仅导致了资源消耗,还加剧了温室气体排放,并带来了巨大经济损失。全球领先的光学解决方案供应商艾迈斯欧司朗(SIX:AMS)近日宣布,艾迈斯欧司朗基于AS7341多光谱传感器开发的创新应用来解决食物浪费这一全球性难题。其多光谱传感解决方案为农业与食品行业带来深远变革,该技术通过精确判定最佳收获时机,提升质量控制水平,并在整个供应链中有效减少浪费。 在2024
    艾迈斯欧司朗 2025-01-14 18:45 57浏览
  • 数字隔离芯片是现代电气工程师在进行电路设计时所必须考虑的一种电子元件,主要用于保护低压控制电路中敏感电子设备的稳定运行与操作人员的人身安全。其不仅能隔离两个或多个高低压回路之间的电气联系,还能防止漏电流、共模噪声与浪涌等干扰信号的传播,有效增强电路间信号传输的抗干扰能力,同时提升电子系统的电磁兼容性与通信稳定性。容耦隔离芯片的典型应用原理图值得一提的是,在电子电路中引入隔离措施会带来传输延迟、功耗增加、成本增加与尺寸增加等问题,而数字隔离芯片的目标就是尽可能消除这些不利影响,同时满足安全法规的要
    华普微HOPERF 2025-01-15 09:48 74浏览
  • 随着数字化的不断推进,LED显示屏行业对4K、8K等超高清画质的需求日益提升。与此同时,Mini及Micro LED技术的日益成熟,推动了间距小于1.2 Pitch的Mini、Micro LED显示屏的快速发展。这类显示屏不仅画质卓越,而且尺寸适中,通常在110至1000英寸之间,非常适合应用于电影院、监控中心、大型会议、以及电影拍摄等多种室内场景。鉴于室内LED显示屏与用户距离较近,因此对于噪音控制、体积小型化、冗余备份能力及电气安全性的要求尤为严格。为满足这一市场需求,开关电源技术推出了专为
    晶台光耦 2025-01-13 10:42 495浏览
  • 随着通信技术的迅速发展,现代通信设备需要更高效、可靠且紧凑的解决方案来应对日益复杂的系统。中国自主研发和制造的国产接口芯片,正逐渐成为通信设备(从5G基站到工业通信模块)中的重要基石。这些芯片凭借卓越性能、成本效益及灵活性,满足了现代通信基础设施的多样化需求。 1. 接口芯片在通信设备中的关键作用接口芯片作为数据交互的桥梁,是通信设备中不可或缺的核心组件。它们在设备内的各种子系统之间实现无缝数据传输,支持高速数据交换、协议转换和信号调节等功能。无论是5G基站中的数据处理,还是物联网网关
    克里雅半导体科技 2025-01-10 16:20 444浏览
  • 随着全球向绿色能源转型的加速,对高效、可靠和环保元件的需求从未如此强烈。在这种背景下,国产固态继电器(SSR)在实现太阳能逆变器、风力涡轮机和储能系统等关键技术方面发挥着关键作用。本文探讨了绿色能源系统背景下中国固态继电器行业的前景,并强调了2025年的前景。 1.对绿色能源解决方案日益增长的需求绿色能源系统依靠先进的电源管理技术来最大限度地提高效率并最大限度地减少损失。固态继电器以其耐用性、快速开关速度和抗机械磨损而闻名,正日益成为传统机电继电器的首选。可再生能源(尤其是太阳能和风能
    克里雅半导体科技 2025-01-10 16:18 325浏览
  • PNT、GNSS、GPS均是卫星定位和导航相关领域中的常见缩写词,他们经常会被用到,且在很多情况下会被等同使用或替换使用。我们会把定位导航功能测试叫做PNT性能测试,也会叫做GNSS性能测试。我们会把定位导航终端叫做GNSS模块,也会叫做GPS模块。但是实际上他们之间是有一些重要的区别。伴随着技术发展与越发深入,我们有必要对这三个词汇做以清晰的区分。一、什么是GPS?GPS是Global Positioning System(全球定位系统)的缩写,它是美国建立的全球卫星定位导航系统,是GNSS概
    德思特测试测量 2025-01-13 15:42 489浏览
  • 新年伊始,又到了对去年做总结,对今年做展望的时刻 不知道你在2024年初立的Flag都实现了吗? 2025年对自己又有什么新的期待呢? 2024年注定是不平凡的一年, 一年里我测评了50余块开发板, 写出了很多科普文章, 从一个小小的工作室成长为科工公司。 展望2025年, 中国香河英茂科工, 会继续深耕于,具身机器人、飞行器、物联网等方面的研发, 我觉得,要向未来学习未来, 未来是什么? 是掌握在孩子们生活中的发现,和精历, 把最好的技术带给孩子,
    丙丁先生 2025-01-11 11:35 457浏览
  • 流量传感器是实现对燃气、废气、生活用水、污水、冷却液、石油等各种流体流量精准计量的关键手段。但随着工业自动化、数字化、智能化与低碳化进程的不断加速,采用传统机械式检测方式的流量传感器已不能满足当代流体计量行业对于测量精度、测量范围、使用寿命与维护成本等方面的精细需求。流量传感器的应用场景(部分)超声波流量传感器,是一种利用超声波技术测量流体流量的新型传感器,其主要通过发射超声波信号并接收反射回来的信号,根据超声波在流体中传播的时间、幅度或相位变化等参数,间接计算流体的流量,具有非侵入式测量、高精
    华普微HOPERF 2025-01-13 14:18 477浏览
  • 01. 什么是过程能力分析?过程能力研究利用生产过程中初始一批产品的数据,预测制造过程是否能够稳定地生产符合规格的产品。可以把它想象成一种预测。通过历史数据的分析,推断未来是否可以依赖该工艺持续生产高质量产品。客户可能会要求将过程能力研究作为生产件批准程序 (PPAP) 的一部分。这是为了确保制造过程能够持续稳定地生产合格的产品。02. 基本概念在定义制造过程时,目标是确保生产的零件符合上下规格限 (USL 和 LSL)。过程能力衡量制造过程能多大程度上稳定地生产符合规格的产品。核心概念很简单:
    优思学院 2025-01-12 15:43 520浏览
  • 根据Global Info Research(环洋市场咨询)项目团队最新调研,预计2030年全球无人机电池和电源产值达到2834百万美元,2024-2030年期间年复合增长率CAGR为10.1%。 无人机电池是为无人机提供动力并使其飞行的关键。无人机使用的电池类型因无人机的大小和型号而异。一些常见的无人机电池类型包括锂聚合物(LiPo)电池、锂离子电池和镍氢(NiMH)电池。锂聚合物电池是最常用的无人机电池类型,因为其能量密度高、设计轻巧。这些电池以输出功率大、飞行时间长而著称。不过,它们需要
    GIRtina 2025-01-13 10:49 180浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦