英伟达超级芯片所用的美光SOCAMM内存,有什么技术优势?

原创 汽车电子设计 2025-03-27 07:32
芝能智芯出品

美光 HBM3E 和 SOCAMM 产品已量产并出货,为 NVIDIA 的最新 AI 芯片提供高性能存储支持。


HBM3E 12H 36GB 和 HBM3E 8H 24GB 分别面向 NVIDIA 的 HGX B300 和 HGX B200 平台, SOCAMM 作为一款创新的模组化 LPDDR5X 解决方案,将助力 NVIDIA Grace Blackwell Ultra 超级芯片。美光存储技术在 AI 服务器内存市场还是有自己的立足之本的。




Part 1

美光SOCAMM内存

和NVIDIA Grace GB300服务器


SOCAMM内存为NVIDIA Grace CPU提供模块化、高性能的内存支持。这一新型内存外形尺寸采用LPDDR5X技术,以其高带宽、低功耗和低延迟的特性。


与传统固定在印刷电路板(PCB)上的内存配置不同,SOCAMM内存采用模块化设计,类似于M.2 SSD,通过螺钉固定在主板上。这种设计使得内存模块可以轻松更换或升级,而无需更换整个PCB组件。


服务器制造商因此能够在生产后期根据客户需求灵活调整内存容量和带宽,提高了生产效率和适应性,在NVIDIA GTC 2025展出的GB300主板上,SOCAMM模块安装在Grace CPU两侧,清晰展示了其易于安装和扩展的特点。



在NVIDIA Grace GB300服务器中,SOCAMM内存与Grace CPU紧密配合,提升了系统的性能。


GB300主板的展示表明,SOCAMM模块通过模块化布局优化了内存带宽,为服务器提供了更大的扩展空间。之前的Grace Hopper(GH200)服务器内存配置较为固定,难以满足多样化的需求。



而SOCAMM的引入解决了这一问题,为GB300带来了更高的灵活性和计算能力。这种内存设计不仅限于大型服务器平台,还被应用于工作站主板,展现了其广泛的适用性。


SOCAMM内存提供了一种高效的解决方案。


◎ LPDDR5X技术的高带宽和低功耗特性,使其能够应对日益复杂的计算任务。


◎ 模块化设计的灵活性意味着未来可以轻松升级内存容量,适应不断变化的市场需求。


◎ 美光与NVIDIA的合作将进一步推动这一技术的发展,可能将其应用扩展至更多计算平台。




Part 2

美光 HBM3E 和 SOCAMM 

的技术优势 


● HBM3E:高带宽低功耗,AI 计算突破瓶颈


◎ 美光推出的 HBM3E 12H 36GB 相较于 HBM3E 8H 24GB 具备 50% 的容量提升,同时功耗降低 20%,使得 AI 计算能够在更高能效下运行。


◎ HBM 采用堆叠式架构,通过 TSV(硅通孔)技术实现高密度封装,从而提供更高的存储带宽,同时降低功耗。


◎ 在 AI 训练中,HBM3E 能够加速数据加载和计算过程,减少存储访问延迟,提高 GPU 计算效率。


◎ 美光的 HBM3E 12H 36GB 在相同封装尺寸下,实现了更高的存储容量,优化了服务器集群的计算能力,提升了 AI 计算的能效比。


● SOCAMM:AI 服务器的存储架构



SOCAMM(Solderable CAMM)是美光与 NVIDIA 共同开发的一款模组化 LPDDR5X 内存,专为 NVIDIA Grace Blackwell Ultra 平台优化。


其主要优势包括:


◎ 更高带宽:SOCAMM 在相同容量下比 RDIMM 高出 2.5 倍的带宽,能够更快访问庞大的 AI 训练数据,提高推理任务的数据吞吐能力。


◎ 更小尺寸:SOCAMM 仅为 14x90mm,占用空间仅为标准 RDIMM 的三分之一,使得服务器可以更加紧凑、散热更高效。


◎ 更低功耗:SOCAMM 功耗仅为 DDR5 RDIMM 的三分之一,优化 AI 服务器的能耗比。


◎ 更高容量:采用 16 层堆叠 LPDDR5X,每个模组容量达 128GB,突破 LPDDR5X 内存的容量限制。


SOCAMM 采用模块化设计,类似于 M.2 SSD,可以轻松更换和升级,无需整体更换 PCB。这种设计显著提高了服务器的可维护性,同时也有助于未来的液冷散热优化。


对 AI 服务器而言带来了更大的灵活性,使厂商可以根据不同 AI 任务需求进行动态配置,降低长期运营成本。



小结


美光的HBM3E和SOCAMM产品,还是有很大的突破,在高性能存储领域还是有江湖地位的。


HBM3E凭借高带宽和低功耗特性,显著提升了AI计算效率;SOCAMM则通过模块化设计和LPDDR5X技术,带来了更高的灵活性和更低的维护成本。这NVIDIA的GB300平台的计算设备将更加高效、灵活。


汽车电子设计 本公众号是博主和汽车电子的行业的工程师们一起交流、探讨、思考的小结,以作为技术交流和沟通的桥梁
评论 (0)
  •  集成电路封装测试是确保芯片性能与可靠性的核心环节,主要包括‌晶圆级测试(CP测试)‌和‌封装后测试(FT测试)‌两大阶段,流程如下:一、晶圆级测试(CP测试)1.‌测试目的‌:在晶圆切割前筛选出功能缺陷或性能不达标的晶粒(Die),避免后续封装环节的资源浪费,显著降低制造成本。2.‌核心设备与操作‌l ‌探针台(Prober)‌:通过高精度移动平台将探针与晶粒的Pad jing准接触,实现电气连接。l ‌ATE测试机‌:提供测试电源、信号输入及功能向量,接收晶粒反
    锦正茂科技 2025-04-27 13:37 185浏览
  • 探针台作为半导体制造与测试的核心设备,通过精密定位与多环境适配能力,支撑芯片研发、生产及验证全流程。以下是其关键应用领域与技术特性:一、核心功能支撑1.‌电性能测试与分析‌l 在晶圆切割前,探针台直接接触芯片电极,测量阈值电压、漏电流、跨导等200余项参数,用于评估良品率及优化工艺设计。l 支持单晶体管I-V曲线测量,定位栅极氧化层厚度偏差(精度达0.2nm),为器件性能分析提供数据基础。2.‌纳米级定位与测量‌l 定位精度达±0.1μm,满足5nm及以下制程芯片的
    锦正茂科技 2025-04-27 13:09 151浏览
  •     今天,纯电动汽车大跃进牵引着对汽车电气低压的需求,新需求是48V。车要更轻,料要堆满。车身电子系统(电子座舱)从分布改成集中(域控),电气上就是要把“比12V系统更多的能量,送到比12V系统数量更少的ECU去”,所以,电源必须提高电压,缩小线径。另一方面,用比传统12V,24V更高的电压,有利于让电感类元件(螺线管,电机)用更细的铜线,缩小体积去替代传统机械,扩大整车电气化的边界。在电缆、认证行业60V标准之下,48V是一个合理的电压。有关汽车电气低压,另见协议标准第
    电子知识打边炉 2025-04-27 16:24 202浏览
  • 在电子电路设计和调试中,晶振为电路提供稳定的时钟信号。我们可能会遇到晶振有电压,但不起振,从而导致整个电路无法正常工作的情况。今天凯擎小妹聊一下可能的原因和解决方案。1. 误区解析在硬件调试中,许多工程师在测量晶振时发现两端都有电压,例如1.6V,但没有明显的压差,第一反应可能是怀疑短路。晶振电路本质上是一个交流振荡电路。当晶振未起振时,两端会静止在一个中间电位,通常接近电源电压的一半。万用表测得的是稳定的直流电压,因此没有压差。这种情况一般是:晶振没起振,并不是短路。2. 如何判断真
    koan-xtal 2025-04-28 05:09 115浏览
  • 贞光科技代理品牌紫光国芯的车规级LPDDR4内存正成为智能驾驶舱的核心选择。在汽车电子国产化浪潮中,其产品以宽温域稳定工作能力、优异电磁兼容性和超长使用寿命赢得市场认可。紫光国芯不仅确保供应链安全可控,还提供专业本地技术支持。面向未来,紫光国芯正研发LPDDR5车规级产品,将以更高带宽、更低功耗支持汽车智能化发展。随着智能网联汽车的迅猛发展,智能驾驶舱作为人机交互的核心载体,对处理器和存储器的性能与可靠性提出了更高要求。在汽车电子国产化浪潮中,贞光科技代理品牌紫光国芯的车规级LPDDR4内存凭借
    贞光科技 2025-04-28 16:52 75浏览
  • 在CAN总线分析软件领域,当CANoe不再是唯一选择时,虹科PCAN-Explorer 6软件成为了一个有竞争力的解决方案。在现代工业控制和汽车领域,CAN总线分析软件的重要性不言而喻。随着技术的进步和市场需求的多样化,单一的解决方案已无法满足所有用户的需求。正是在这样的背景下,虹科PCAN-Explorer 6软件以其独特的模块化设计和灵活的功能扩展,为CAN总线分析领域带来了新的选择和可能性。本文将深入探讨虹科PCAN-Explorer 6软件如何以其创新的模块化插件策略,提供定制化的功能选
    虹科汽车智能互联 2025-04-28 16:00 73浏览
  • 一、智能家居的痛点与创新机遇随着城市化进程加速,现代家庭正面临两大核心挑战:情感陪伴缺失:超60%的双职工家庭存在“亲子陪伴真空期”,儿童独自居家场景增加;操作复杂度攀升:智能设备功能迭代导致用户学习成本陡增,超40%用户因操作困难放弃高阶功能。而WTR096-16S录音语音芯片方案,通过“语音交互+智能录音”双核驱动,不仅解决设备易用性问题,更构建起家庭成员间的全天候情感纽带。二、WTR096-16S方案的核心技术突破1. 高保真语音交互系统动态情绪语音库:支持8种语气模板(温柔提醒/紧急告警
    广州唯创电子 2025-04-28 09:24 121浏览
  • 2025年全球人形机器人产业迎来爆发式增长,政策与资本双重推力下,谷歌旗下波士顿动力、比亚迪等跨国企业与本土龙头争相入局,产业基金与风险投资持续加码。仅2025年上半年,中国机器人领域就完成42笔战略融资,累计金额突破45亿元,沪深两市机器人指数年内涨幅达68%,印证了资本市场对智能终端革命的强烈预期。值得关注的是,国家发展改革委联合工信部发布《人形机器人创新发展行动计划》,明确将仿生感知系统、AI决策中枢等十大核心技术纳入"十四五"国家重大专项,并设立500亿元产业引导基金。技术突破方面,本土
    电子资讯报 2025-04-27 17:08 236浏览
  • 探针台作为高精度测试设备,在光电行业的关键器件研发、性能测试及量产质量控制中发挥核心作用,主要涵盖以下应用场景与技术特性:一、光电元件性能测试1.‌光电器件基础参数测量‌l 用于LED、光电探测器、激光器等元件的电流-电压(I-V)特性、光功率、响应速度等参数测试,支撑光通信、显示技术的器件选型与性能优化。l 支持高频信号测试(如40GHz以上射频参数),满足高速光调制器、光子集成电路(PIC)的带宽与信号完整性验证需求。2.‌光响应特性分析‌l 通过电光转换效率测
    锦正茂科技 2025-04-27 13:19 115浏览
  • 速卖通,作为阿里巴巴集团旗下的跨境电商平台,于2010年横空出世,彼时正值全球电商市场蓬勃发展,互联网的普及让跨境购物的需求日益增长,速卖通顺势而为,迅速吸引了全球目光。它以“让天下没有难做的生意”为使命,致力于打破国界限制,搭建起中国商家与全球消费者之间的桥梁。在其发展的黄金时期,速卖通取得的成绩令人瞩目。在欧洲市场,速卖通一度成为第一大电商平台。根据第三方机构《欧洲跨境商务》的评选,速卖通凭借出色的服务和消费者口碑,在“欧洲十大跨境电商平台”中脱颖而出,力压来自美国的亚马逊和eBay等电商巨
    用户1742991715177 2025-04-26 20:23 194浏览
  •   北京华盛恒辉电磁环境适应性测试系统是针对复杂电磁环境进行仿真、测试与评估的关键设备,以下从系统功能、技术架构、应用场景、核心优势、发展趋势五个维度展开全面解析:   应用案例   目前,已有多个电磁环境适应性测试系统在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润电磁环境适应性测试系统。这些成功案例为电磁环境适应性测试系统的推广和应用提供了有力支持。   一、系统功能   复杂电磁环境构建   全生命周期测试能力   实时监测与反馈   二、技术架构   模块化设
    华盛恒辉l58ll334744 2025-04-26 17:21 197浏览
  •  探针台的维护直接影响其测试精度与使用寿命,需结合日常清洁、环境控制、定期校准等多维度操作,具体方法如下:一、日常清洁与保养1.‌表面清洁‌l 使用无尘布或软布擦拭探针台表面,避免残留清洁剂或硬物划伤精密部件。l 探针头清洁需用非腐蚀性溶剂(如异丙醇)擦拭,检查是否弯曲或损坏。2.‌光部件维护‌l 镜头、观察窗等光学部件用镜头纸蘸取wu水jiu精从中心向外轻擦,操作时远离火源并保持通风。3.‌内部防尘‌l 使用后及时吹扫灰尘,防止污染物进入机械滑
    锦正茂科技 2025-04-28 11:45 59浏览
  • 4月22日下午,备受瞩目的飞凌嵌入式「2025嵌入式及边缘AI技术论坛」在深圳深铁皇冠假日酒店盛大举行,此次活动邀请到了200余位嵌入式技术领域的技术专家、企业代表和工程师用户,共享嵌入式及边缘AI技术的盛宴!1、精彩纷呈的展区产品及方案展区是本场活动的第一场重头戏,从硬件产品到软件系统,从企业级应用到高校教学应用,都吸引了现场来宾的驻足观看和交流讨论。全产品矩阵展区展示了飞凌嵌入式丰富的产品线,从嵌入式板卡到工控机,从进口芯片平台到全国产平台,无不体现出飞凌嵌入式在嵌入式主控设备研发设计方面的
    飞凌嵌入式 2025-04-28 14:43 85浏览
  • 晶振在使用过程中可能会受到污染,导致性能下降。可是污染物是怎么进入晶振内部的?如何检测晶振内部污染物?我可不可以使用超声波清洗?今天KOAN凯擎小妹将逐一解答。1. 污染物来源a. 制造过程:生产环境不洁净或封装密封不严,可能导致灰尘和杂质进入晶振。b. 使用环境:高湿度、温度变化、化学物质和机械应力可能导致污染物渗入。c. 储存不当:不良的储存环境和不合适的包装材料可能引发化学物质迁移。建议储存湿度维持相对湿度在30%至75%的范围内,有助于避免湿度对晶振的不利影响。避免雨淋或阳光直射。d.
    koan-xtal 2025-04-28 06:11 96浏览
我要评论
0
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦