AI时代下，为满足海量数据存储以及日益增长的繁重计算要求，半导体存储器领域也迎来新的变革，HBM技术从幕后走向台前。HBM技术之下，DRAM芯片从2D转变为3D，可以在很小的物理空间里实现高容量、高带宽、低延时与低功耗，因而HBM被业界视为新一代内存解决方案。自2014年首款硅通孔HBM产品问世至今，HBM技术已经发展至第四代，分别是：HBM（第一代）、HBM2（第二代）、HBM2E（第三代）、HBM3（第四代）。HBM芯片容量从1GB升级至24GB，带宽从128GB/s提升至819GB/s，数据传输速率也从1Gbps提高至6.4Gbps。目前，能够稳定量产HBM的厂家，只有韩国的三星和SK海力士。伴随AI的快速繁荣，存储巨头们围绕HBM的竞争也迅速展开，但主角只有韩国企业。2010年，三星就紧随SK海力士开始了HBM内存的研发。并在2016年抢先SK海力士成功量产HBM2，将每个HBM堆栈容量提升至8GB。2021年10月，一直紧咬三星的SK海力士又成功量产HBM3，重新夺回主动权。2022年，全球50%的HBM出货来自SK海力士，40%来自三星，美光占10%。虽然HBM目前的市场规模还不到整个存储芯片市场的1/10，也不乏其他技术竞争，但决定其能否普及的成本问题。这恰恰却是三星和SK海力士最擅长解决的:依靠大规模生产能力快速降低成本，拉高其他公司参与竞争需要的投资门槛。总的来说，HBM的竞争还是在SK 海力士、三星以及美光之间展开。从技术上先来看，SK海力士是目前唯一实现HBM3量产的厂商，并向英伟达大量供货，配置在英伟达高性能GPU H100之中，持续巩固其市场领先地位。全球排名第一的服务器CPU公司英特尔在全新的第四代至强可扩展处理器当中也推出了配备SK海力士HBM的产品。A100和H100的显存模块并没有采用常用的DDR/GDDR内存，而是HBM内存。SK海力士提供了两种容量产品，一个是12层硅通孔技术垂直堆叠的24GB（196Gb）；另一个则是8层堆叠的16GB（128Gb），均提供819 GB/s的带宽。此外，HBM3内存还内置了片上纠错技术，提高了产品的可靠性。SK海力士在今年6月收到了英伟达对HBM3E样品的请求，并正在准备发货。HBM3E是当前可用的最高规格DRAM HBM3的下一代，被誉为是第五代半导体产品。SK海力士目前正致力于开发该产品，目标是在明年上半年实现量产。目前该公司正在为今年下半年准备8Gbps HBM3E产品样品，并计划在明年上半年实现量产。近日，该公司在全球首次实现垂直堆叠12个单品DRAM芯片，成功开发出最高容量24GB的HBM3 DRAM。该产品容量较上一代HBM3 DRAM提升50%。SK海力士已向客户提供样品，正接受客户公司的性能验证。三星在去年技术发布会上发布的内存技术发展路线图中，显示HBM3技术已经量产，其单芯片接口宽度可达1024bit，接口传输速率可达6.4Gbps。据业内消息人士周一透露，三星最近向客户交付了具有16 GB内存容量且能耗最低的 HBM3 产品样品。目前，16GB是现有HBM3产品的最大内存容量，数据处理速度为每秒6.4GB，为业界最快。它还提供了12层24GB HBM3样品，这是第四代HBM芯片，也是业界最薄的同类芯片。三星对HBM的布局从HBM2开始，目前，三星已经向客户提供了HBM2和HBM2E产品。目前，三星正在准备批量生产年传输速度可达6.4Gbps的HBM3（16GB和12GB）产品，并计划于下半年推出较HBM3容量更高性能更强的下一代HBM3P产品。此前，三星电子一直致力于开发高性能计算（HPC）芯片，HBM芯片比重相对不大，但近日三星对HBM市场的关注度提升，HBM市场规模或迎来大幅增长。三星电子HBM3正式向北美GPU企业供货，HBM3在三星电子整体DRAM销售额中所占比重或将从今年的6%扩大至明年的18%。2024年预计实现接口速度高达7.2Gbps的HBM3P，预计2025年在新一代面向AI的GPU中见到HBM3P的应用。美光科技走得较慢，于2020年7月宣布大规模量产HBM2E，HBM3也仍作为其产品线在持续研发之中。专家预测，HBM等AI专用DRAM的开发，将给半导体行业带来巨大变革。存储半导体公司忙于开发超微制造工艺的时代已经过去，高效处理数据甚至具备处理数据能力的AI半导体技术的发展将变得如此重要，它将决定芯片制造商的未来。部分资料参考：芯世相：《别的内存都在降价，为啥HBM涨了5倍？》，全球半导体观察：《HBM：SK海力士、三星、美光三分天下》，电子工程专辑：《ChatGPT带火HBM，存储芯片“柳岸花明”？》，硅基研习社：《内存的新战争：韩国人还能赢多久？》下载链接：
硬件RAID与软件RAID：哪一种最适合？
AI产业人士看大模型发展趋势（2023）
深度报告：从Rambus看内存接口芯片机会
电子行业报告：顺复苏之势，乘AI之风（2023）
1、机器人行业报告：人形机器人产业分析，寻找供应链隐形冠军
2、AI驱动虚拟人产业升级，应用场景进一步扩展
3、AI赋能人形机器人产业提升，把握产业链受益机会
4、扣紧产业链安全，机器人滚动功能部件国产化势在必行算力铸就大模型：超算、智算及数据中心行业报告（2023）
《2023年高性能计算研讨合集（上）》
《2023年高性能计算研讨合集（下）》
《AI基础知识深度专题详解合集》
2021 HPC市场份额Update剖析（附报告）Hyperion Research：SC22 HPC Market Update(2022.11)
Hyperion Research：ISC22 Market Update（2022.5）
Intersect360全球HPC-AI市场报告（2022—2026）
Intersect360 AMD CPU和GPU调研白皮书
1、计算机系统结构：概述
2、计算机系统结构：基本概念
3、计算机系统结构：指令系统
4、计算机系统结构：存储系统
5、计算机系统结构：IO系统
6、计算机系统结构：标量处理机
7、计算机系统结构：向量处理机“九州”算力光网目标架构白皮书
本号资料全部上传至知识星球，更多内容请登录智能计算芯知识（知识星球）星球下载全部资料。
免责申明：本号聚焦相关技术分享，内容观点不代表本号立场，可追溯内容均注明来源，发布文章若存在版权等问题，请留言联系删除，谢谢。
温馨提示：
请搜索“AI_Architect”或“扫码”关注公众号实时掌握深度技术分享，点击“阅读原文”获取更多原创技术干货。
