异构芯片,探析未来算力出路

智能计算芯世界 2024-01-30 07:34

本文来自“芯片未来可期:数据中心、国产化浪潮和先进封装(精华)”,英伟达宣布 GH200 Grace Hopper 超级芯片投产,生成式 AI 引擎 NVIDIA DGX GH200 现已投入量产

GH200 使用 Nvidia 的 NVLink-C2C 互连技术,将 Nvidia 基于 ARM 的 Grace CPU和 Hopper GPU 架构融合到一个芯片中。NVIDIA DGX GH200 将 256 个 NVIDIA Grace Hopper超级芯片完全连接到单个 GPU 中,支持万亿参数 AI 大模型训练,能够处理大规模推荐系统、生成式人工智能和图形分析,并为巨型人工智能模型提供线性可扩展性。

下载链接:
智能时代的计算架构发展趋势
半导体封装行业深度:先进封装引领未来
中国芯未来梦:2023半导体洞察报告
2023年边缘计算网关技术词条报告
《半导体行业系列报告合集》
1、半导体行业系列报告(一):道阻且长,行则将至 2、半导体行业系列报告(二)碳化硅:衬底产能持续扩充,渗透加速国产化 3、半导体行业系列报告(三)先进封装:先进封装大有可为,上下游产业链将受益
芯片未来可期:数据中心、国产化浪潮和先进封装(精华)
智算时代的容器技术演进与实践
半导体存储行业深度研究(2023)
2023 LLM技术报告:知名大模型应用
中国智能汽车车载计算芯片产业报告
中国车规级芯片产业白皮书
中国芯未来梦:2023半导体洞察报告
2023年边缘计算网关技术词条报告
《半导体行业系列报告合集》
1、半导体行业系列报告(一):道阻且长,行则将至 2、半导体行业系列报告(二)碳化硅:衬底产能持续扩充,渗透加速国产化 3、半导体行业系列报告(三)先进封装:先进封装大有可为,上下游产业链将受益
智能汽车芯片专题研究
CPU生态、价值与机遇研究(2021)
信创研究专题框架
异构芯片研究框架合集
中国数据处理器行业概览(2021)
DPU在数据中心和边缘云上的应用
英伟达DPU集数据中心于芯片
行业研究:国产6大CPU全对比
龙芯LoongArch指令集全集
RISC-V芯片产业指令集架构研究
服务器研究框架合集
异构芯片研究框架合集
芯片技术设计和应用汇总
CPU和GPU研究框架合集


GH200 速度和功耗指标都有显著提升。这款新的芯片总带宽达每秒 900GB,比当今最先进的加速计算系统中采用的标准 PCIe Gen5 通道高出 7 倍。Nvidia 表示,Superchip 的功耗也降低了 5倍。

AMD 推出数据中心 APU Instinct MI300。AMD 推出数据中心APU(加速处理器)Instinct MI300,其旨在帮助数据中心处理人工智能相关数据流量,并在这一快速增长的市场上挑战英伟达的垄断地位。Instinct MI300 系列将包括一个 GPU(图形处理器)MI300X,可以加速 ChatGPT 等聊天机器人所使用的生成式 AI 技术的处理

先进算力国产替代在行业变革中有望迎来机遇。半导体国产化势在必行,而算力芯片又是重中之重。AI 算力、低功耗等对服务器算力芯片提出新的要求,市场格局近几个季度变化较多,英伟达GH200 有望加速全球 AI 服务器算力芯片市场变革,中国芯片企业在面临挑战的同时,也有望迎来发展机遇。

1、不同算力芯片的特点与区别

计算芯片包括 CPU、GPU、FPGA、ASIC 等,都用作计算分析。其中,CPU 是性能最综合的计算芯片,AI 算法的执行也运用 GPU、FPGA、ASIC 等芯片

CPU 是综合计算芯片,擅长逻辑控制和串行运算。计算机的运算器和控制器一起组成了 CPU,CPU 是整台计算机的大脑,也是一个有多种功能的优秀领导者。它的优点在于调度、管理、协调能力强,计算能力则位于其次。CPU 有大量的缓存和复杂的逻辑控制单元,非常擅长逻辑控制、串行的运算,但因计算单元占 30%左右,不擅长复杂算法运算和处理并行重复的操作。

GPU相比CPU计算单元大大增加,擅长大量并行计算。而作为通用芯片的 GPU 相当于一个接受CPU 调度的“拥有大量计算能力”的员工,计算单元相比 CPU 大大增加。GPU 最初承担图像计算任务,能够进行并行计算,因此 GPU 架构本身比较适合深度学习算法,通过对 GPU 的优化,进一步满足深度学习大量计算需求。其主要缺点在于功耗较高。

GPU 按照接入类型可以分为独立 GPU 和集成 GPU。独立 GPU 即独立显卡,需要插在主板的相应接口上,具备单独的显存,不占用系统内存,能够提供更好的显示效果和运行性能。全球知名供应商主要包括 AMD 和 NVIDIA 两家。集成 GPU 即集成显卡,是将图形核心以单独芯片的方式集成在主板上,并且动态共享部分系统内存作为显存使用,能够提供简单的图形处理能力,以及较为流畅的编码应用。全球知名供应商主要包括英特尔和 AMD 两家。

GPU 按照应用场景不同可分为 PC GPU、服务器 GPU 和移动 GPU。

1)集成 GPU 一般运用于PC 以轻办公、文字编纂为主;独立 GPU 则一般运用于 PC 以制作高清图片、编辑视频、渲染游戏等。

2)服务器 GPU 主要以独立 GPU 为主。服务器 GPU 主要应用于服务器,可做专业可视化、计算加速、深度学习等应用。

3)移动 GPU 以集成 GPU 为主。随着移动端向着轻薄化不断发展,终端内部净空间随着多种功能模组的增加呈快速下降趋势。此外,就目前的移动端视频和图片的处理要求而言,集成 GPU 的性能尚可满足移动端的需要。

GPU技术篇
  • GPU分析:全球竞争格局与未来发展
  • 2023年GPU显卡技术词条报告
  • 英伟达GPU龙头稳固,国内逐步追赶(详解)
  • GPU/CPU领域散热工艺的发展与路径演绎
  • 探析ARM第五代GPU架构
  • 新型GPU云桌面发展白皮书
  • 十大国产GPU产品及规格概述
  • GPU平台生态:英伟达CUDA和AMD ROCm对比分析
  • GPU竞争壁垒:微架构和平台生态
  • GPU微架构、性能指标、场景、生态链及竞争格局(2023)
  • 大模型训练,绕不开GPU和英伟达
  • Nvidia/AMD竞争:GPU架构创新和新兴领域前瞻探索
  • 走进芯时代:AI算力GPU行业深度报告
  • 独立GPU市场,AMD份额大跌?
  • CPU渲染和GPU渲染优劣分析
  • NVIDIA Hopper GPU:芯片三围、架构、成本和性能分析
  • 国内GPU厂商及细分行业前景(2023)
  • ChatGPT对GPU算力的需求测算与分析
  • AMD RDNA2 GPU架构详解
  • GPU研究框架(2023)

FPGA 又称半定制化芯片,具有足够的计算能力、较低的试错成本和足够的灵活性。FPGA 的计算速度快是源于它本质上是无指令、无需共享内存的体系结构,“无指令”即使用硬件描述语言编程,直接编译为晶体管电路的组合,所以 FPGA 实际上直接用晶体管电路实现用户的算法,没有通过指令系统的翻译;“无需共享内存”是指对于保存状态的需求,FPGA 中的寄存器和片上内存(BRAM)是属于各自的控制逻辑的,无需不必要的仲裁和缓存。

因此,FPGA 运算速度足够快,优于GPU。同时,相比量产成本高昂的 ASIC 芯片,因为 FPGA 是一种半定制的硬件,通过编程可定义其中的单元配置和链接架构进行计算,因此在灵活性上优于 ASIC,具备较低试错成本。

ASIC 是全定制芯片,性能强但是前期开发久、成本高。是根据产品的需求进行特定设计和制造的集成电路,能够在特定功能上进行强化,具有更高的处理速度和更低的能耗。缺点是成本高,且由于定制化,可复制性一般,因此只有用量足够大时才能够分摊前期投入,降低成本。

2、CPU 广泛应用于服务器、工作站、个人计算机等

CPU 可以应用在服务器、工作站、个人计算机(台式机、笔记本电脑)、移动终端和嵌入式设备等不同设备上,根据应用领域的不同,其架构、功能、性能、可靠性、能效比等技术指标也存在一定差异

服务器处理器需长时间运行,数据处理能力最强、设计工艺最复杂、可靠性最高。服务器具有高速的数据处理能力、强大的 I/O 数据吞吐能力、良好的可扩展性,并需要长时间可靠运行,其CPU 芯片在性能、可靠性、可扩展性和可维护性等方面要求较为苛刻。因此,服务器处理器是数据处理能力最强、设计工艺最复杂、可靠性最高的处理器。服务器的应用领域包括实时分析、5G应用、人工智能、机器学习、金融、大数据和云计算等领域。

工作站主要为单用户提供比个人计算机更强大的性能。工作站是一种高端微型计算机,主要为单用户提供比个人计算机更强大的性能,尤其是在数据并行处理能力和图形处理能力等方面。工作站的典型应用领域包括科学和工程计算、软件开发、计算机辅助设计等。

个人计算机主要满足个人需求,核心数量较少。个人计算机包括台式机和笔记本电脑两大类,主要用于满足个人的工作、学习、娱乐需求,以及企业员工的办公需求。个人计算机处理器核心数量较少,具有较少 I/O。

移动终端具有低功耗、轻量化等特点,关注对多媒体功能的增强。移动终端包括手机、笔记本、平板电脑、POS 机等。随着集成电路技术的进步和移动网络向宽带化发展,移动终端正从简单通话工具逐步转变为综合信息处理平台。移动终端处理器具有低功耗、轻量化等特点,关注对多媒体功能的增强,具有较少 I/O。

嵌入式设备对功耗、稳定性、可扩展能力要求高。嵌入式设备需要具有高稳定性和低功耗,其处理器对环境(如温度、湿度、电磁场、振动等)的适应能力强,体积小,且集成度高,适用于工业控制、移动便携设备、物联网终端等场合。其中,大多数物联网设备需要额外的 CPU 处理能力来支持可升级的额外功能。因此,针对特定的物联网应用程序的 CPU 不仅必须支持安全特性,而且必须同时具有可扩展的性能,实现更高的时钟频率。物联网应用处理器芯片具有面向高集成度、高抗干扰能力和低功耗的发展趋势。

3、GPU 等 AI 芯片广泛应用于高性能运算、深度学习等场景

AI 芯片主要指面向人工智能应用的芯片。大致包含三类:

1)通用、半定制化芯片:经过软硬件优化可以高效支持 AI 应用的通用芯片,如 GPU,FPGA;

2)专门为特定的 AI 产品或者服务而设计的芯片:侧重加速机器学习(尤其是神经网络、深度学习),如 ASIC;

3)神经形态计算芯片:不采用经典的冯·诺依曼架构,而是基于神经形态架构设计,类似人脑,具备较高的集成度和能效比,以 IBM Truenorth 为代表。

国产算力芯片市占率低,具备广阔拓展空间。算力芯片目前国产厂商份额极低。CPU 目前从市场占有率来说,Intel 依靠其强大的 X86 生态体系,在通用 CPU 市场占据领先地位,市场份额常年保持在 80%左右,AMD 近期追赶势头明显,其他厂商整体市场份额不超过 1%。

2022 年,数据中心领域 Intel 市场占有率为 71%,较 21年下降 10pcts,AMD 在 22 年市占率快速提升 8pcts 至 20%,亚马逊、Ampere 等新兴玩家份额快速提升,给总计份额不足 5%的国产厂商发展带来了借鉴意义。在独立显卡市场上,NVIDIA、AMD 和英特尔 2022 年 Q4 全球 GPU 市场占有率分别为82%、9%和 9%。

多数参数我国 CPU 具备比肩能力,IPC 性能是最主要差距。目前通过公开信息可以看出,主频、核心数、内存类型等指标我国 CPU 厂商差异不大,具备一定的比肩能力,但落实到具体性能决定指标 IPC,仅 Intel 和 AMD 会公布 IPC“相比上一代提升了多少”,其他国产 CPU 从 IPC 性能来看大致落后于 Intel、AMD 几年水平

国产厂商的机遇一:数据中心带来新需求。根据工信部信息通信发展司数据,2017年我国数据中心市场总机架数量 166 万架,2022 年预测达到 670 万架,2017-2022E 复合增速达 32.2%。目前东数西算工程将通过构建数据中心、云计算、大数据一体化的新型算力网络体系,于 2022 年 2 月,在京津冀、长三角、粤港澳大湾区等 8 地启动建设国家算力枢纽节点,规划了 10 个国家数据中心集群。各地数据中心都将集聚大量服务器,如韶关数据中心预计到 2025 年将建成 50 万架标准机架、500 万台服务器规模,投资超 500 亿元(不含服务器及软件)。

国产厂商的机遇二:国产化浪潮。政府及国有企事业单位为国产 CPU 主阵地。据测算,今年 PC 芯片市场规模在 162-330 亿元之间,2022 年服务器芯片市场规模则已达 130 亿美元。在企业级市场中,也不仅是国有企业,能源、交通、金融、电信、教育等重要领域或规模较大的民营企业也存在设备国产化需求。消费级市场对产业生态的要求最高,对性价比较为敏感,迭代周期短,是国产 CPU 长期需突破的目标市场。

国产厂商的机遇三:通过封测技术弯道超车。后摩尔时代的到来,一方面,CPU 制程进入后摩尔定律时期升级速度趋缓,国产 CPU 性能与国际主流水平逐步缩小,存在赶超的可能;另一方面,先进封装技术成为兵家竞争新赛道,在封装方面,我国封测厂商长电科技和通富微电在全球前五中占据两席,通富与 AMD 紧密合作,先进封装技术正成为集成电路产业发展的新引擎,我国 CPU 企业有望通过封测技术弯道超车,弥补先进制程能力不足的缺陷。目前国产 CPU 已经可以通过先进封装技术实现性能提升与应用场景拓展。

下载链接:
龙芯LoongArch指令集全集
RISC-V芯片产业指令集架构研究
服务器研究框架合集
异构芯片研究框架合集
芯片技术设计和应用汇总
CPU和GPU研究框架合集
基于RISC-V调试协议的片上调试系统设计与实现
一款用于Flash型FPGA的阶梯式配置方法
量子计算模拟平台发展综述
面向AIoT芯片的OCR模型压缩方案研究
面向自主可控的微系统关键技术研究及展望
基于RISC-V调试协议的片上调试系统设计与实现
星云计算系统及其任务协同调度方法研究
DDR存储器单粒子翻转试验及加固设计研究进展
基于FPGA的脉冲神经网络模型设计与实现
基于深度学习的行为识别方法综述
DSP体系结构发展综述


本号资料全部上传至知识星球,更多内容请登录智能计算芯知识(知识星球)星球下载全部资料。




免责申明:本号聚焦相关技术分享,内容观点不代表本号立场,可追溯内容均注明来源,发布文章若存在版权等问题,请留言联系删除,谢谢。



温馨提示:

请搜索“AI_Architect”或“扫码”关注公众号实时掌握深度技术分享,点击“阅读原文”获取更多原创技术干货。


智能计算芯世界 聚焦人工智能、芯片设计、异构计算、高性能计算等领域专业知识分享.
评论
  • 在智能家居领域中,Wi-Fi、蓝牙、Zigbee、Thread与Z-Wave等无线通信协议是构建短距物联局域网的关键手段,它们常在实际应用中交叉运用,以满足智能家居生态系统多样化的功能需求。然而,这些协议之间并未遵循统一的互通标准,缺乏直接的互操作性,在进行组网时需要引入额外的网关作为“翻译桥梁”,极大地增加了系统的复杂性。 同时,Apple HomeKit、SamSung SmartThings、Amazon Alexa、Google Home等主流智能家居平台为了提升市占率与消费者
    华普微HOPERF 2025-01-06 17:23 141浏览
  • 大模型的赋能是指利用大型机器学习模型(如深度学习模型)来增强或改进各种应用和服务。这种技术在许多领域都显示出了巨大的潜力,包括但不限于以下几个方面: 1. 企业服务:大模型可以用于构建智能客服系统、知识库问答系统等,提升企业的服务质量和运营效率。 2. 教育服务:在教育领域,大模型被应用于个性化学习、智能辅导、作业批改等,帮助教师减轻工作负担,提高教学质量。 3. 工业智能化:大模型有助于解决工业领域的复杂性和不确定性问题,尽管在认知能力方面尚未完全具备专家级的复杂决策能力。 4. 消费
    丙丁先生 2025-01-07 09:25 80浏览
  • 根据环洋市场咨询(Global Info Research)项目团队最新调研,预计2030年全球无人机锂电池产值达到2457百万美元,2024-2030年期间年复合增长率CAGR为9.6%。 无人机锂电池是无人机动力系统中存储并释放能量的部分。无人机使用的动力电池,大多数是锂聚合物电池,相较其他电池,锂聚合物电池具有较高的能量密度,较长寿命,同时也具有良好的放电特性和安全性。 全球无人机锂电池核心厂商有宁德新能源科技、欣旺达、鹏辉能源、深圳格瑞普和EaglePicher等,前五大厂商占有全球
    GIRtina 2025-01-07 11:02 68浏览
  • 每日可见的315MHz和433MHz遥控模块,你能分清楚吗?众所周知,一套遥控设备主要由发射部分和接收部分组成,发射器可以将控制者的控制按键经过编码,调制到射频信号上面,然后经天线发射出无线信号。而接收器是将天线接收到的无线信号进行解码,从而得到与控制按键相对应的信号,然后再去控制相应的设备工作。当前,常见的遥控设备主要分为红外遥控与无线电遥控两大类,其主要区别为所采用的载波频率及其应用场景不一致。红外遥控设备所采用的射频信号频率一般为38kHz,通常应用在电视、投影仪等设备中;而无线电遥控设备
    华普微HOPERF 2025-01-06 15:29 125浏览
  • 根据Global Info Research项目团队最新调研,预计2030年全球封闭式电机产值达到1425百万美元,2024-2030年期间年复合增长率CAGR为3.4%。 封闭式电机是一种电动机,其外壳设计为密闭结构,通常用于要求较高的防护等级的应用场合。封闭式电机可以有效防止外部灰尘、水分和其他污染物进入内部,从而保护电机的内部组件,延长其使用寿命。 环洋市场咨询机构出版的调研分析报告【全球封闭式电机行业总体规模、主要厂商及IPO上市调研报告,2025-2031】研究全球封闭式电机总体规
    GIRtina 2025-01-06 11:10 104浏览
  • 这篇内容主要讨论三个基本问题,硅电容是什么,为什么要使用硅电容,如何正确使用硅电容?1.  硅电容是什么首先我们需要了解电容是什么?物理学上电容的概念指的是给定电位差下自由电荷的储藏量,记为C,单位是F,指的是容纳电荷的能力,C=εS/d=ε0εrS/4πkd(真空)=Q/U。百度百科上电容器的概念指的是两个相互靠近的导体,中间夹一层不导电的绝缘介质。通过观察电容本身的定义公式中可以看到,在各个变量中比较能够改变的就是εr,S和d,也就是介质的介电常数,金属板有效相对面积以及距离。当前
    知白 2025-01-06 12:04 170浏览
  • PLC组态方式主要有三种,每种都有其独特的特点和适用场景。下面来简单说说: 1. 硬件组态   定义:硬件组态指的是选择适合的PLC型号、I/O模块、通信模块等硬件组件,并按照实际需求进行连接和配置。    灵活性:这种方式允许用户根据项目需求自由搭配硬件组件,具有较高的灵活性。    成本:可能需要额外的硬件购买成本,适用于对系统性能和扩展性有较高要求的场合。 2. 软件组态   定义:软件组态主要是通过PLC
    丙丁先生 2025-01-06 09:23 85浏览
  • By Toradex 秦海1). 简介嵌入式平台设备基于Yocto Linux 在开发后期量产前期,为了安全以及提高启动速度等考虑,希望将 ARM 处理器平台的 Debug Console 输出关闭,本文就基于 NXP i.MX8MP ARM 处理器平台来演示相关流程。 本文所示例的平台来自于 Toradex Verdin i.MX8MP 嵌入式平台。  2. 准备a). Verdin i.MX8MP ARM核心版配合Dahlia载板并
    hai.qin_651820742 2025-01-07 14:52 44浏览
  •     为控制片内设备并且查询其工作状态,MCU内部总是有一组特殊功能寄存器(SFR,Special Function Register)。    使用Eclipse环境调试MCU程序时,可以利用 Peripheral Registers Viewer来查看SFR。这个小工具是怎样知道某个型号的MCU有怎样的寄存器定义呢?它使用一种描述性的文本文件——SVD文件。这个文件存储在下面红色字体的路径下。    例:南京沁恒  &n
    电子知识打边炉 2025-01-04 20:04 100浏览
  • 彼得·德鲁克被誉为“现代管理学之父”,他的管理思想影响了无数企业和管理者。然而,关于他的书籍分类,一种流行的说法令人感到困惑:德鲁克一生写了39本书,其中15本是关于管理的,而其中“专门写工商企业或为企业管理者写的”只有两本——《为成果而管理》和《创新与企业家精神》。这样的表述广为流传,但深入探讨后却发现并不完全准确。让我们一起重新审视这一说法,解析其中的矛盾与根源,进而重新认识德鲁克的管理思想及其著作的真正价值。从《创新与企业家精神》看德鲁克的视角《创新与企业家精神》通常被认为是一本专为企业管
    优思学院 2025-01-06 12:03 116浏览
  • 村田是目前全球量产硅电容的领先企业,其在2016年收购了法国IPDiA头部硅电容器公司,并于2023年6月宣布投资约100亿日元将硅电容产能提升两倍。以下内容主要来自村田官网信息整理,村田高密度硅电容器采用半导体MOS工艺开发,并使用3D结构来大幅增加电极表面,因此在给定的占位面积内增加了静电容量。村田的硅技术以嵌入非结晶基板的单片结构为基础(单层MIM和多层MIM—MIM是指金属 / 绝缘体/ 金属) 村田硅电容采用先进3D拓扑结构在100um内,使开发的有效静电容量面积相当于80个
    知白 2025-01-07 15:02 75浏览
  • 本文介绍Linux系统更换开机logo方法教程,通用RK3566、RK3568、RK3588、RK3576等开发板,触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。制作图片开机logo图片制作注意事项(1)图片必须为bmp格式;(2)图片大小不能大于4MB;(3)BMP位深最大是32,建议设置为8;(4)图片名称为logo.bmp和logo_kernel.bmp;开机
    Industio_触觉智能 2025-01-06 10:43 87浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦