HBM内存:为何成了韩国人的游戏

智能计算芯世界 2023-07-08 07:30
AI时代下,为满足海量数据存储以及日益增长的繁重计算要求,半导体存储器领域也迎来新的变革,HBM技术从幕后走向台前。

HBM技术之下,DRAM芯片从2D转变为3D,可以在很小的物理空间里实现高容量、高带宽、低延时与低功耗,因而HBM被业界视为新一代内存解决方案。

HBM目前成为了韩国人的游戏

自2014年首款硅通孔HBM产品问世至今,HBM技术已经发展至第四代,分别是:


HBM(第一代)、HBM2(第二代)、HBM2E(第三代)、HBM3(第四代)。


HBM芯片容量从1GB升级至24GB,带宽从128GB/s提升至819GB/s,数据传输速率也从1Gbps提高至6.4Gbps。


目前,能够稳定量产HBM的厂家,只有韩国的三星和SK海力士。


伴随AI的快速繁荣,存储巨头们围绕HBM的竞争也迅速展开,但主角只有韩国企业。


2010年,三星就紧随SK海力士开始了HBM内存的研发。


并在2016年抢先SK海力士成功量产HBM2,将每个HBM堆栈容量提升至8GB。


此后又率先量产第三代HBM的青春版HBM3E。


2021年10月,一直紧咬三星的SK海力士又成功量产HBM3,重新夺回主动权。


2022年,全球50%的HBM出货来自SK海力士,40%来自三星,美光占10%。


至此,HBM彻底成为了韩国人的游戏。


虽然HBM目前的市场规模还不到整个存储芯片市场的1/10,也不乏其他技术竞争,但决定其能否普及的成本问题。


这恰恰却是三星和SK海力士最擅长解决的:依靠大规模生产能力快速降低成本,拉高其他公司参与竞争需要的投资门槛。


三星和SK海力士鏖战做大市场

总的来说,HBM的竞争还是在SK 海力士、三星以及美光之间展开。


从技术上先来看,SK海力士是目前唯一实现HBM3量产的厂商,并向英伟达大量供货,配置在英伟达高性能GPU H100之中,持续巩固其市场领先地位。


全球排名第一的服务器CPU公司英特尔在全新的第四代至强可扩展处理器当中也推出了配备SK海力士HBM的产品。


A100和H100的显存模块并没有采用常用的DDR/GDDR内存,而是HBM内存。


SK海力士提供了两种容量产品,一个是12层硅通孔技术垂直堆叠的24GB(196Gb);


另一个则是8层堆叠的16GB(128Gb),均提供819 GB/s的带宽。


此外,HBM3内存还内置了片上纠错技术,提高了产品的可靠性。



SK海力士在今年6月收到了英伟达对HBM3E样品的请求,并正在准备发货。


HBM3E是当前可用的最高规格DRAM HBM3的下一代,被誉为是第五代半导体产品。


SK海力士目前正致力于开发该产品,目标是在明年上半年实现量产。


目前该公司正在为今年下半年准备8Gbps HBM3E产品样品,并计划在明年上半年实现量产。


近日,该公司在全球首次实现垂直堆叠12个单品DRAM芯片,成功开发出最高容量24GB的HBM3 DRAM。


该产品容量较上一代HBM3 DRAM提升50%。SK海力士已向客户提供样品,正接受客户公司的性能验证。



三星在去年技术发布会上发布的内存技术发展路线图中,显示HBM3技术已经量产,其单芯片接口宽度可达1024bit,接口传输速率可达6.4Gbps。


据业内消息人士周一透露,三星最近向客户交付了具有16 GB内存容量且能耗最低的 HBM3 产品样品。


目前,16GB是现有HBM3产品的最大内存容量,数据处理速度为每秒6.4GB,为业界最快。


它还提供了12层24GB HBM3样品,这是第四代HBM芯片,也是业界最薄的同类芯片。


三星对HBM的布局从HBM2开始,目前,三星已经向客户提供了HBM2和HBM2E产品。



目前,三星正在准备批量生产年传输速度可达6.4Gbps的HBM3(16GB和12GB)产品,并计划于下半年推出较HBM3容量更高性能更强的下一代HBM3P产品。


此前,三星电子一直致力于开发高性能计算(HPC)芯片,HBM芯片比重相对不大,但近日三星对HBM市场的关注度提升,HBM市场规模或迎来大幅增长。


三星电子HBM3正式向北美GPU企业供货,HBM3在三星电子整体DRAM销售额中所占比重或将从今年的6%扩大至明年的18%。


2024年预计实现接口速度高达7.2Gbps的HBM3P,预计2025年在新一代面向AI的GPU中见到HBM3P的应用。


美光科技走得较慢,于2020年7月宣布大规模量产HBM2E,HBM3也仍作为其产品线在持续研发之中。



尾:

专家预测,HBM等AI专用DRAM的开发,将给半导体行业带来巨大变革。


存储半导体公司忙于开发超微制造工艺的时代已经过去,高效处理数据甚至具备处理数据能力的AI半导体技术的发展将变得如此重要,它将决定芯片制造商的未来。


部分资料参考:芯世相:《别的内存都在降价,为啥HBM涨了5倍?》,全球半导体观察:《HBM:SK海力士、三星、美光三分天下》,电子工程专辑:《ChatGPT带火HBM,存储芯片“柳岸花明”?》,硅基研习社:《内存的新战争:韩国人还能赢多久?》

下载链接:

硬件RAID与软件RAID:哪一种最适合?

AI产业人士看大模型发展趋势(2023)

深度报告:从Rambus看内存接口芯片机会

电子行业报告:顺复苏之势,乘AI之风(2023)

2023年AI开发平台词条报告
鸿蒙生态应用开发白皮书
2023年中国人工智能行业概览
《AIGC行业深度报告系列合集》
《70+篇半导体行业“研究框架”合集》
287份重磅ChatGPT专业报告
《人工智能AI大模型技术合集》
《56份GPU技术及白皮书汇总》
《FPGA五问五答系列合集》
《机器人行业报告合集(2023)》
1、机器人行业报告:人形机器人产业分析,寻找供应链隐形冠军 2、AI驱动虚拟人产业升级,应用场景进一步扩展 3、AI赋能人形机器人产业提升,把握产业链受益机会 4、扣紧产业链安全,机器人滚动功能部件国产化势在必行

算力铸就大模型:超算、智算及数据中心行业报告(2023)

《2023年高性能计算研讨合集(上)》

《2023年高性能计算研讨合集(下)》

《AI基础知识深度专题详解合集》

2021 HPC市场份额Update剖析(附报告)
HPDA/AI市场表现Update浅析(附报告)
HPC市场份额剖析和全球超算计划(附报告)

Hyperion Research:SC22 HPC Market Update(2022.11)

Hyperion Research:ISC22 Market Update(2022.5)

Intersect360全球HPC-AI市场报告(2022—2026)

Intersect360 AMD CPU和GPU调研白皮书

ARM CPU处理器资料汇总(1)
ARM CPU处理器资料汇总(2)
ARM系列处理器应用技术完全手册
CPU和GPU研究框架合集
虚拟人应用与实践报告(2022)
2022中国商用服务机器人行业简析
CAD行业简析报告(2022)
半导体先进封装市场简析(2022)
《计算机系统结构合集》
1、计算机系统结构:概述 2、计算机系统结构:基本概念 3、计算机系统结构:指令系统 4、计算机系统结构:存储系统 5、计算机系统结构:IO系统 6、计算机系统结构:标量处理机 7、计算机系统结构:向量处理机

“九州”算力光网目标架构白皮书


本号资料全部上传至知识星球,更多内容请登录智能计算芯知识(知识星球)星球下载全部资料。




免责申明:本号聚焦相关技术分享,内容观点不代表本号立场,可追溯内容均注明来源,发布文章若存在版权等问题,请留言联系删除,谢谢。



温馨提示:

请搜索“AI_Architect”或“扫码”关注公众号实时掌握深度技术分享,点击“阅读原文”获取更多原创技术干货。



智能计算芯世界 聚焦人工智能、芯片设计、异构计算、高性能计算等领域专业知识分享.
评论 (0)
  • 文/郭楚妤编辑/cc孙聪颖‍开年的跨境电商行业像是贸易战疾风暴雨下的漩涡中心。不管是关税政策的频繁调整,还是国际贸易规则的大幅变动,都让企业体会到不可承受之重,后者的命运被特朗普政府攥在手心。2 月 1 日,美国政府宣布以芬太尼等问题为由,对所有中国输美商品加征 10% 关税。紧接着,美国 “最低限度” 关税豁免政策也出现反复。从取消该豁免到恢复豁免,中间仅间隔一周的时间。两项政策的调整,直接冲击了依赖直邮模式的跨境电商行业,行业面临成本飙升与模式转型的双重压力。特朗普低估关税豁免政策的冲击力在
    华尔街科技眼 2025-02-26 17:45 120浏览
  • 触觉智能分享,瑞芯微RK安卓Android主板GPIO按键配置方法,方便大家更好利用空闲IO!由触觉智能Purple Pi OH鸿蒙开发板演示,搭载了瑞芯微RK3566四核处理器,树莓派卡片电脑设计,支持安卓Android、开源鸿蒙OpenHarmony、Linux多系统,适合嵌入式开发入门学习。设备树修改空闲IO选择由下图可得当前IO是主板上一个没有用到的IO,对应的GPIO为:GPIO4_A4。设备树配置在Purple Pi OH官方代码中,设备树:ido-pi-oh3566-core.dt
    Industio_触觉智能 2025-02-26 18:24 56浏览
  • RGB灯光无法同步?细致的动态光效设定反而成为产品客诉来源!随着科技的进步和消费者需求变化,电脑接口设备单一功能性已无法满足市场需求,因此在产品上增加「动态光效」的形式便应运而生,藉此吸引消费者目光。这种RGB灯光效果,不仅能增强电脑周边产品的视觉吸引力,还能为用户提供个性化的体验,展现独特自我风格。如今,笔记本电脑、键盘、鼠标、鼠标垫、耳机、显示器等多种电脑接口设备多数已配备动态光效。这些设备的灯光效果会随着音乐节奏、游戏情节或使用者的设置而变化。想象一个画面,当一名游戏玩家,按下电源开关,整
    百佳泰测试实验室 2025-02-27 14:15 107浏览
  • 2025年2月26日,广州】全球领先的AIoT服务商机智云正式发布“Gokit5 AI智能体开发板”,该产品作为行业首个全栈式AIoT开发中枢,深度融合火山引擎云原生架构、豆包多模态大模型、扣子智能体平台和机智云Aiot开发平台,首次实现智能体开发全流程工业化生产模式。通过「扣子+机智云」双引擎协同架构与API开放生态,开发者仅需半天即可完成智能体开发、测试、发布到硬件应用的全流程,标志着智能体开发进入分钟级响应时代。一、开发框架零代码部署,构建高效开发生态Gokit5 AI智能体开发板采用 “
    机智云物联网 2025-02-26 19:01 111浏览
  • 国内首款电力级全域操作系统,由南方电网联合开放原子开源基金会重磅发布。基于开源鸿蒙OpenHarmony深度定制,构建起覆盖发、输、变、配、用,全环节的智能神经中枢。通过统一架构打破设备孤岛,实现百万级电力终端毫秒级响应,让每个电力设备都拥有自主思考能力,共同构建数字孪生体。作为鸿蒙生态核心硬件方案商,深圳触觉智能基于瑞芯微RK3568/全志T527,推出了专为电鸿OS及配套生态的核心板、工控主板等硬件解决方案,已完成电鸿系统适配!RK3568核心板:RK3568工控主板:T527核心板:T52
    Industio_触觉智能 2025-02-26 18:14 114浏览
  • Matter 协议,原名 CHIP(Connected Home over IP),是由苹果、谷歌、亚马逊和三星等科技巨头联合ZigBee联盟(现连接标准联盟CSA)共同推出的一套基于IP协议的智能家居连接标准,旨在打破智能家居设备之间的 “语言障碍”,实现真正的互联互通。然而,目标与现实之间总有落差,前期阶段的Matter 协议由于设备支持类型有限、设备生态协同滞后以及设备通信协议割裂等原因,并未能彻底消除智能家居中的“设备孤岛”现象,但随着2025年的到来,这些现象都将得到完美的解决。近期,
    华普微HOPERF 2025-02-27 10:32 111浏览
  • 文/郭楚妤编辑/cc孙聪颖‍开年的跨境电商行业像是贸易战疾风暴雨下的漩涡中心。不管是关税政策的频繁调整,还是国际贸易规则的大幅变动,都让企业体会到不可承受之重,后者的命运被特朗普政府攥在手心。2 月 1 日,美国政府宣布以芬太尼等问题为由,对所有中国输美商品加征 10% 关税。紧接着,美国 “最低限度” 关税豁免政策也出现反复。从取消该豁免到恢复豁免,中间仅间隔一周的时间。两项政策的调整,直接冲击了依赖直邮模式的跨境电商行业,行业面临成本飙升与模式转型的双重压力。特朗普低估关税豁免政策的冲击力在
    华尔街科技眼 2025-02-26 17:37 105浏览
  • 更多生命体征指标风靡的背后都只有一个原因:更多人将健康排在人生第一顺位!“AGEs,也就是晚期糖基化终末产物,英文名Advanced Glycation End-products,是存在于我们体内的一种代谢产物” 艾迈斯欧司朗亚太区健康监测高级市场经理王亚琴说道,“相信业内的朋友都会有关注,最近该指标的热度很高,它可以用来评估人的生活方式是否健康。”据悉,AGEs是可穿戴健康监测领域的一个“萌新”指标,近来备受关注。如果站在学术角度来理解它,那么AGEs是在非酶促条件下,蛋白质、氨基酸
    艾迈斯欧司朗 2025-02-27 14:50 228浏览
  • 本文介绍瑞芯微RK3588主板/开发板Linux系统(Ubuntu20.04/22.04),安装中文环境和中文输入法。触觉智能EVB3588开发板演示,搭载了瑞芯微RK3588芯片,八核处理器,6T高算力NPU;音视频接口、通信接口等各类接口一应俱全,可帮助企业提高产品开发效率,缩短上市时间,降低成本和设计风险。配置中文环境配置前需更新安装列表,否则安装中文时容易遇到报错,命令如下:sudo apt-get update报错示例:1、先点击settings2、点击Manage Installed
    Industio_触觉智能 2025-02-26 18:30 72浏览
  • 应用趋势与客户需求,AI PC的未来展望随着人工智能(AI)技术的日益成熟,AI PC(人工智能个人电脑)逐渐成为消费者和企业工作中的重要工具。这类产品集成了最新的AI处理器,如NPU、CPU和GPU,并具备许多智能化功能,为用户带来更高效且直观的操作体验。AI PC的目标是提升工作和日常生活的效率,通过深度学习与自然语言处理等技术,实现更流畅的多任务处理、实时翻译、语音助手、图像生成等功能,满足现代用户对生产力和娱乐的双重需求。随着各行各业对数字转型需求的增长,AI PC也开始在各个领域中显示
    百佳泰测试实验室 2025-02-27 14:08 135浏览
  • 构建巨量的驾驶场景时,测试ADAS和AD系统面临着巨大挑战,如传统的实验设计(Design of Experiments, DoE)方法难以有效覆盖识别驾驶边缘场景案例,但这些边缘案例恰恰是进一步提升自动驾驶系统性能的关键。一、传统解决方案:静态DoE标准的DoE方案旨在系统性地探索场景的参数空间,从而确保能够实现完全的测试覆盖范围。但在边缘案例,比如暴露在潜在安全风险的场景或是ADAS系统性能极限场景时,DoE方案通常会失效,让我们看一些常见的DoE方案:1、网格搜索法(Grid)实现原理:将
    康谋 2025-02-27 10:00 129浏览
  • 请移步 gitee 仓库 https://gitee.com/Newcapec_cn/LiteOS-M_V5.0.2-Release_STM32F103_CubeMX/blob/main/Docs/%E5%9F%BA%E4%BA%8ESTM32F103RCT6%E7%A7%BB%E6%A4%8DLiteOS-M-V5.0.2-Release.md基于STM32F103RCT6移植LiteOS-M-V5.0.2-Release下载源码kernel_liteos_m: OpenHarmon
    逮到一只程序猿 2025-02-27 08:56 161浏览
  • 本文介绍Linux系统主板/开发板(适用Debian10/11、lubuntu系统),安装中文环境和中文输入法。触觉智能EVB3588开发板演示,搭载了瑞芯微RK3588芯片,八核处理器,6T高算力NPU;音视频接口、通信接口等各类接口一应俱全,可帮助企业提高产品开发效率,缩短上市时间,降低成本和设计风险。配置中文环境命令如下:sudo apt-get install locales #安装locales软件包 sudo dpkg-reconfigure locales #配置 locales
    Industio_触觉智能 2025-02-26 18:43 106浏览
我要评论
0
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦