Cache能顶半边天,《深入理解cache训练营2期》火热招募

原创 Linux阅码场 2023-02-14 08:00

编者按:这是我们酝酿了非常久的一个训练营,由在阅码场做了多次相关分享的甄建勇老师执鞭。旨在帮助想要从事或者正在从事性能优化的工程师深入到计算机体系结构。之所以选择从cache开始,是因为cache在计算机体系结构能够顶半边天。尤其是愈演愈烈的AI边缘计算,需要从硅到app的性能优化


Cache营1期用户群内讨论答疑

有用户向我们反馈:”我是从做应用和算法转到Arm上的AI加速卡适配,遇到各种PCIE问题及驱动问题,效率问题,内存一致性问题,希望通过这个训练营建立一个系统的系统脉络,遇到问题可以有个框架去思考问题。

Cache营1期课程第一部分

本训练营带领你从cache领域历史->cache领域原理->cache领域实践->cache领域前沿深入理解cache,这个计算机体系结构的半边天。

Cache1期训练营合影


深入理解Cache训练营(2期)

开课时间:20233月5日下午2:00 

训练营背景                                                                                                 

现代计算机架构设计,经过多年的发展和演化,沉淀了很多重要的思想,其中一个便是“层次化”,而Cache就是这种思想的一种很好的体现。以Cache为主体的memory hierarchy,在现代计算机架构中是名副其实的“半边天”。此外,了解Cache,不仅对了解CPUGPU有重要的意义,对了解Linux Kernel也很有参考价值,此外,对Cache深入的理解,也会帮助性能调优,对写出高质量的软件大有裨益。

训练营课程大纲:

Topic

Length(h)

outline

the organization of cache

2

why cache?

direct mapped, fully associative, set associative

kinds of cache?

2

RegisterFile(CPU&GPU),RF cache

Mini-TLB,TLB,L1C,L2C,

pre-fetch buffer,IO-buffer,Disk Cache,Software cache.

dive into Cache-1

2

read,write,control

tag_RAM,data_RAM,dirty_RAM

write_merge,hit-under-miss,victim

PIPT,VIPT,VIVT

dive into Cache-2

2

cache, scratchpad and DMA?

memory hierarchy of CPU&GPU

2

CPU memory hierarchy

GPU memory hierarchy

CPU&GPU architecture technical

2

architecture technicals

let's mix CPU,GPU & AI:

         Graphics ->  Compute

         AI       -> Compute

         Compute  -> Graphcis&AI


训练营收益

  1. 1.        了解Cache的基本结构,设计方法(尤其是在第二期我们将加入TLB 实现的代码导读)。

  2. 2.        了解CPU/GPU/NPU memory hierarchy

  3. 3.        了解架构设计的基本思想,实现从工程师到设计师,再到架构师的跨越。

  4. 4.        真正打通软硬件的界限,走入全栈工程师行列。

讲师介绍:

甄建勇,某国际半导体大厂高级AI芯片架构师,十年以上半导体设计架构经验,他不但在xPU架构方面技术精湛,涉猎技术领域也非常广泛,而且在很多非技术领域也有很深的造诣。以下是甄建勇老师曾经或者现在主要研究领域及其学习路径。

嵌入式软件

C语言基础->Linux基础->现代操作系统,原理与实践->Linux Device Drivers->Understanding Linux Kernel

FPGA/ASIC

VerilogHDL数字电路设计->Xilinx/Altera datasheet

CPU架构

Digital Design and Computer Architecture->计算机体系结构->计算机体系结构-量化研究方法

GPU架构

1. Graphics

计算机图形学(video lecture)->Real Time Rendering->  Ray Tracing in One Weekend

2. General purpose

Computer Architecture:A Quantitative Approach->General-Purpose Graphics Processor Architecture-> 《通用图形处理器设计》-> CUDA programming guide-> TensorCore

NPU架构

西瓜书->TF/Caffe->AI加速器架构设计(甄建勇)

经济学

经济解释(张五常)->经济学讲义(薛兆丰)->金融学讲义(香帅)->黄奇帆的经济学课程

密码学

古今数学思想->普林斯顿微积分->图解群论->抽象代数)->现代密码学基础->全同态加密

虽然有很多领域的学习路径,但其内在逻辑是一致的,即:领域历史->领域原理->领域实践->领域前沿

以上这些领域几乎都涉及到了Cache的思想,所以Cache的学习是非常必要的。

训练营受众:

想要从事性能优化和体系结构相关工作的工程师,学生,及相关专业的技术人员。所有计算机制造领域的从业者都有可以了解Cache,对从事相关工作会非常有帮助。为了更高的讨论效率,建议参与者先建立一些计算机体系结构的基础知识。

课程定价:6000/人,老规矩,训练营老用户半价,会员减1024。详情咨询小马。


Linux阅码场 专业的Linux技术社区和Linux操作系统学习平台,内容涉及Linux内核,Linux内存管理,Linux进程管理,Linux文件系统和IO,Linux性能调优,Linux设备驱动以及Linux虚拟化和云计算等各方各面.
评论
  • 时源芯微——RE超标整机定位与解决详细流程一、 初步测量与问题确认使用专业的电磁辐射测量设备,对整机的辐射发射进行精确测量。确认是否存在RE超标问题,并记录超标频段和幅度。二、电缆检查与处理若存在信号电缆:步骤一:拔掉所有信号电缆,仅保留电源线,再次测量整机的辐射发射。若测量合格:判定问题出在信号电缆上,可能是电缆的共模电流导致。逐一连接信号电缆,每次连接后测量,定位具体哪根电缆或接口导致超标。对问题电缆进行处理,如加共模扼流圈、滤波器,或优化电缆布局和屏蔽。重新连接所有电缆,再次测量
    时源芯微 2024-12-11 17:11 73浏览
  • RK3506 是瑞芯微推出的MPU产品,芯片制程为22nm,定位于轻量级、低成本解决方案。该MPU具有低功耗、外设接口丰富、实时性高的特点,适合用多种工商业场景。本文将基于RK3506的设计特点,为大家分析其应用场景。RK3506核心板主要分为三个型号,各型号间的区别如下图:​图 1  RK3506核心板处理器型号场景1:显示HMIRK3506核心板显示接口支持RGB、MIPI、QSPI输出,且支持2D图形加速,轻松运行QT、LVGL等GUI,最快3S内开
    万象奥科 2024-12-11 15:42 68浏览
  • 我的一台很多年前人家不要了的九十年代SONY台式组合音响,接手时只有CD功能不行了,因为不需要,也就没修,只使用收音机、磁带机和外接信号功能就够了。最近五年在外地,就断电闲置,没使用了。今年9月回到家里,就一个劲儿地忙着收拾家当,忙了一个多月,太多事啦!修了电气,清理了闲置不用了的电器和电子,就是一个劲儿地扔扔扔!几十年的“工匠式”收留收藏,只能断舍离,拆解不过来的了。一天,忽然感觉室内有股臭味,用鼻子的嗅觉功能朝着臭味重的方向寻找,觉得应该就是这台组合音响?怎么会呢?这无机物的东西不会腐臭吧?
    自做自受 2024-12-10 16:34 136浏览
  • 【萤火工场CEM5826-M11测评】OLED显示雷达数据本文结合之前关于串口打印雷达监测数据的研究,进一步扩展至 OLED 屏幕显示。该项目整体分为两部分: 一、框架显示; 二、数据采集与填充显示。为了减小 MCU 负担,采用 局部刷新 的方案。1. 显示框架所需库函数 Wire.h 、Adafruit_GFX.h 、Adafruit_SSD1306.h . 代码#include #include #include #include "logo_128x64.h"#include "logo_
    无垠的广袤 2024-12-10 14:03 69浏览
  • 全球知名半导体制造商ROHM Co., Ltd.(以下简称“罗姆”)宣布与Taiwan Semiconductor Manufacturing Company Limited(以下简称“台积公司”)就车载氮化镓功率器件的开发和量产事宜建立战略合作伙伴关系。通过该合作关系,双方将致力于将罗姆的氮化镓器件开发技术与台积公司业界先进的GaN-on-Silicon工艺技术优势结合起来,满足市场对高耐压和高频特性优异的功率元器件日益增长的需求。氮化镓功率器件目前主要被用于AC适配器和服务器电源等消费电子和
    电子资讯报 2024-12-10 17:09 84浏览
  • 智能汽车可替换LED前照灯控制运行的原理涉及多个方面,包括自适应前照灯系统(AFS)的工作原理、传感器的应用、步进电机的控制以及模糊控制策略等。当下时代的智能汽车灯光控制系统通过车载网关控制单元集中控制,表现特殊点的有特斯拉,仅通过前车身控制器,整个系统就包括了灯光旋转开关、车灯变光开关、左LED前照灯总成、右LED前照灯总成、转向柱电子控制单元、CAN数据总线接口、组合仪表控制单元、车载网关控制单元等器件。变光开关、转向开关和辅助操作系统一般连为一体,开关之间通过内部线束和转向柱装置连接为多,
    lauguo2013 2024-12-10 15:53 81浏览
  • 概述 通过前面的研究学习,已经可以在CycloneVGX器件中成功实现完整的TDC(或者说完整的TDL,即延时线),测试结果也比较满足,解决了超大BIN尺寸以及大量0尺寸BIN的问题,但是还是存在一些之前系列器件还未遇到的问题,这些问题将在本文中进行详细描述介绍。 在五代Cyclone器件内部系统时钟受限的情况下,意味着大量逻辑资源将被浪费在于实现较大长度的TDL上面。是否可以找到方法可以对此前TDL的长度进行优化呢?本文还将探讨这个问题。TDC前段BIN颗粒堵塞问题分析 将延时链在逻辑中实现后
    coyoo 2024-12-10 13:28 101浏览
  • 近日,搭载紫光展锐W517芯片平台的INMO GO2由影目科技正式推出。作为全球首款专为商务场景设计的智能翻译眼镜,INMO GO2 以“快、准、稳”三大核心优势,突破传统翻译产品局限,为全球商务人士带来高效、自然、稳定的跨语言交流体验。 INMO GO2内置的W517芯片,是紫光展锐4G旗舰级智能穿戴平台,采用四核处理器,具有高性能、低功耗的优势,内置超微高集成技术,采用先进工艺,计算能力相比同档位竞品提升4倍,强大的性能提供更加多样化的应用场景。【视频见P盘链接】 依托“
    紫光展锐 2024-12-11 11:50 47浏览
  • 天问Block和Mixly是两个不同的编程工具,分别在单片机开发和教育编程领域有各自的应用。以下是对它们的详细比较: 基本定义 天问Block:天问Block是一个基于区块链技术的数字身份验证和数据交换平台。它的目标是为用户提供一个安全、去中心化、可信任的数字身份验证和数据交换解决方案。 Mixly:Mixly是一款由北京师范大学教育学部创客教育实验室开发的图形化编程软件,旨在为初学者提供一个易于学习和使用的Arduino编程环境。 主要功能 天问Block:支持STC全系列8位单片机,32位
    丙丁先生 2024-12-11 13:15 49浏览
  • 习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-10 16:13 105浏览
  • 一、SAE J1939协议概述SAE J1939协议是由美国汽车工程师协会(SAE,Society of Automotive Engineers)定义的一种用于重型车辆和工业设备中的通信协议,主要应用于车辆和设备之间的实时数据交换。J1939基于CAN(Controller Area Network)总线技术,使用29bit的扩展标识符和扩展数据帧,CAN通信速率为250Kbps,用于车载电子控制单元(ECU)之间的通信和控制。小北同学在之前也对J1939协议做过扫盲科普【科普系列】SAE J
    北汇信息 2024-12-11 15:45 77浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦