在AI大模型的时代,行业中的一个关键趋势是更大的NAND裸片密度,这有助于推动更大容量的SSD,使系统构建者能够设计更多的服务器,以便拥有更大的容量或将更多的GPU或CPU放入服务器中。鉴于此,特别是随着人工智能的发展,GPU直接存储的能力变得愈发重要。 

根据美光公布的FY2024Q3财季业绩,该季公司营收68.11亿美元,同比增长81.5%;净利润7.02亿美元,较上季度4.76亿美元增长47%。美光方面认为,人工智能(AI)的蓬勃发展带动了市场对HBM产品的需求,数据中心SSD收入也创下历史新高,证明了美光在DRAM和NAND闪存领域产品组合的实力。

日前,美光再次面向数据中心推出首款PCIe 5.0产品9550 SSD,集成了自有的控制器、G8 NAND、DRAM和固件,存储容量从3.2TB到30.72TB,并支持U.2、E1.S和E3.S外形规格,旨在为数据中心运营商带来业界领先的性能、能效和安全性。 

美光9550 SSD

“从性能角度看,它展现了出色的‘四角性能’,即顺序读取、顺序写入、随机读取和随机写入四项,均表现出色。“美光存储事业部产品管理总监Bill Bollengier指出,在AI大模型的时代,行业中的一个关键趋势是更大的NAND裸片密度,这有助于推动更大容量的SSD,使系统构建者能够设计更多的服务器,以便拥有更大的容量或将更多的GPU或CPU放入服务器中。鉴于此,特别是随着人工智能的发展,GPU直接存储的能力变得愈发重要。 

性能数据方面,得益于控制器、NAND以及专为制造高性能SSD而开发的美光架构固件,美光9550 SSD拥有14.0 GB/s的顺序读取速率和10.0GB/s的顺序写入速率,与业界同类SSD相比,其性能提升高达67%。此外,其随机读取速率达到3,300 KIOPS,比竞品提升高达35%;随机写入速率达到400 KIOPS,比竞品提升高达33%。

考虑到当前AI工作负载需要高性能、高能效存储解决方案,例如,大型语言模型(LLM)需要高顺序读取速率,而图形神经网络(GNN)则需要高随机读取性能,9550 SSD也更加注重在关键AI工作负载中的表现。

官方资料显示,9550工作负载完成时间可缩短高达33%,在配备大加速器内存(BaM)的GNN训练中,特征聚合可提速高达60%。此外,9550 SSD还为NVIDIA Magnum IO™ GPUDirect® Storage提供了高达34%的更高吞吐量。

另一个关键点是效率,即每瓦性能。Bill Bollengier认为,在这个全球都关注气候和可持续性的世界里,这一点非常重要,特别是数据中心本身就会使用大量能源。因此,在提升效率上,美光投入了大量时间,他选取了4个典型应用场景的数据来佐证这一点:

  • 使用BaM进行GNN训练:SSD平均功耗降低高达43%,整体系统能耗减少高达29%;
  • NVIDIA Magnum IO GPUDirect Storage:每传输1TB数据,SSD能耗降低高达81%;
  • MLPerf:SSD能耗降低高达35%,系统能耗降低高达13%;
  • 使用Microsoft DeepSpeed对Llama LLM训练进行微调:SSD能耗降低高达 21%;

9550 SSD搭载美光自主研发的垂直集成架构,支持NVMe 2.0和OCP 2.0,并具备OCP 2.5遥测功能,可实现先进的性能和健康监测,从而简化数据中心的大规模部署和管理。

Bill Bollengier认为OCP对客户而言帮助很大,因为它标准化了许多驱动器的功能,从而可以帮助客户在测试和鉴定SSD时实现更高的可预测性,包括遥测、延迟监测、日志记录、热节流算法,以及序列号的格式化方式等。这样,凭借OCP固件,客户不仅能够做出预测,还能够更快地通过鉴定,因为他们在获得驱动器之前就已经了解产品的行为表现。

而之所以要通过完全垂直整合的美光设计来提供一个适用于多代的通用架构,Bill Bollengier解释说,一是因为数据中心规模庞大,而且SSD的合格认证既昂贵又耗时,用户对产品在不同代际之间保持大量共通性这一点十分看重;其次,在数据安全方面,支持所有最新的行业标准和站点证书等功能非常重要,需要确保任何固件的更新都来自美光。

9550 SSD在设计上注重端到端的安全性,具备自加密硬盘(SED)功能,符合安全协议和数据模型标准(SPDM 1.2),同时提供稳定的数据加密功能以及其他关键安全特性。针对需要更高安全标准的客户,还提供符合FIPS 140-3 Level 2和TAA标准的选项。

同期发布的还包括采用第九代(G9)TLC NAND技术的 SSD 产品,美光也因此成为业界首家实现这一里程碑的厂商之一。

美光G9 TLC NAND

根据美光存储事业部NAND产品生命周期管理及应用工程总监Daniel Loughmiller的介绍,G9 NAND技术具备高达3.6GB/s的数据传输速率,比当前SSD中的NAND技术要快50%。同时,与市场上现有的同类NAND解决方案相比,美光G9 NAND的每颗芯片写入带宽和读取带宽分别高出99%和88%。尺寸方面,与前一代NAND产品相同,美光G9 NAND采用11.5mm x 13.5mm的紧凑封装,比同类产品节省28%的空间。

美光2650 NVMe SSD就集成了G9 TLC NAND技术,其连续读取速率高达7000 MB/s,已经可以与PCIe 4.0性能媲美。与同类竞品相比,2650 NVMe SSD连续读取性能提升高达70%,连续写入性能提升高达103%,随机读取性能提升高达156%,随机写入性能提升高达85%。 

尽管G9 NAND达到了276层,比G8 NAND多出约40层,但Daniel Loughmiller强调称,“层数并非决定性因素,目前各大厂商都在研究多项前沿技术,NAND的层数肯定会继续增加。客户真正关心的指标,其实是能耗、密度、以及如何达到预期的性能,这些都比单纯的层数更为重要。“

总体而言,今后NAND Flash将主要朝着扩展容量和降低成本两个方向发展,而市场对闪存容量的追求,可细分为纵向扩容、逻辑扩容、横向扩容:

纵向扩容,体现在存储原厂发力更高堆叠的产品,比如向更多层数的NAND演进;从SLC、MLC、TLC、QLC到PLC的演进是逻辑扩容,每个单元存储的数据越来越大,以便SSD可保存更多的数据;而横向扩容是指在每一层增加更多的存储容量,以达到更大单位比特的容量,这也是探讨未来新技术、新制程时候要关注的方向。

责编:Lefeng.shao
本文为EET电子工程专辑原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
阅读全文,请先
您可能感兴趣
今天我又把同事的七彩虹战斧GeForce RTX 4060 8GB GDDR6显卡给拆了。发现它虽然用料不怎么样,但性能却非常地好。
三星电子的晶圆代工业务亏损重要原因之一是错失HBM风口和尖端制程良率问题。作为全球最大的存储芯片制造商,三星电子巅峰时期曾独占全球45%以上的内存市场。然而,近两年来,三星电子在先进制程芯片及AI芯片领域的进展缓慢。
随着AI相关需求的增加,HBM4预计将在AI服务器、数据中心、汽车驾驶等高性能计算领域得到广泛应用。在强劲的AI技术需求下,英伟达希望通过HBM4来确保其产品能够支持这些快速增长的高带宽需求。
今天我们来拆解一款顶配游戏显卡——撼与科技Intel Arc A770 TITAN OC 16GB。这款显卡在2022年英特尔重回独立显卡市场后,迅速成为众多数码爱好者的焦点。
A某现年50多岁,居住在安徽省合肥市,被逮捕前在一家中国芯片公司工作,与妻子和两个女儿共同生活。去年12月,合肥市国家安全局的调查人员将A某从家中带走,并在当地酒店隔离调查了5个多月……
随着AI和HPC芯片需求的不断增加,半导体产业在不断挑战性能极限的同时,也面对着传统封装技术的限制。为了延续摩尔定律,先进封装成为满足这些新兴应用需求的核心策略。
为了更直观地了解FinFET到GAAFET架构世代的差异,本文利用高倍率的电子显微镜影像进行深入的探讨与分析,观察其于结构微观层面上的特征...
汽车技术领域正处于关键的转折点,其未来依托于动态且适应性强的系统,并可通过软件不断提升驾驶体验。
连接标准联盟很高兴宣布 Matter 1.4 现已正式发布,可供设备制造商和生态平台开发应用。这次更新是Matter生态系统迈出的重要一步。Matter 1.4带来了一系列增强功能......
根植雄厚研发实力及物联网领域的深耕实践,汇顶科技面向新兴车载互联应用全力进击。旗下首款高可靠性、高性能车规级低功耗蓝牙SoC——GR5405,已成功通过AEC-Q100 Grade 2认证。
国芯网[原:中国半导体论坛] 振兴国产半导体产业!   不拘中国、放眼世界!关注世界半导体论坛↓↓↓11月12日消息,据路透社看到的草案,日本政府计划提出一个耗资 10 万亿日元的计划,在“数年”时间
台积电7nm停供中国大陆!集微网报道称,从多个消息源获悉,台积电已经向目前所有中国大陆AI芯片客户发送正式电子邮件,宣布自下周(11月11日)起,将暂停向中国大陆AI/GPU客户供应所有7纳米(nm)
新原型的耐用性增强意味着它可以重复拉伸超过10000次。美通社消息,全球领先的显示技术创新者LG Display宣布,推出了全球首款可拉伸显示器,其伸长率可达50%,是业内最高的伸长率。可拉伸显示器被
由前苹果和英特尔等资深人士共同创立的硅谷人工智能芯片初创公司Tenstorrent,近日宣布与日本政府达成一项重要协议。根据协议,Tenstorrent将在未来五年内,于其美国办公室为日本培训多达20
今天,万众瞩目的德国慕尼黑电子展开始了。这次慕展很有可能会是史上规模最大的一次慕展!三星、博通、TI、ST、ADI、Infineon、NXP、ON、高通、Skyworks、TDK等众多芯片大厂,艾睿、
大联大控股宣布,其旗下诠鼎推出基于高通(Qualcomm)IPQ5322、QCN6422、QCN6432和QCA8386芯片的Wi-Fi 7家庭网关方案。   &nb
11月12日,百度创始人李彦宏在百度世界2024大会上表示,智能体是AI应用最主流的形态,即将迎来爆发点,这里是李彦宏演讲完整视频。●付费专栏文章小白自媒体赚钱,年入十万不是梦:专栏介绍 丨小白自媒体
ABOUT US研鼎公司总部位于上海浦东张江高科技园区,在深圳、北京和韩国设立研发和运营。是影像测试设备与解决方案领军企业,致力于视觉测试设备和分析软件产品的研发,可为客户提供优质的影像实验室Turn
近日,市场中有关“美国商务部要求台积电暂停对中国大陆AI芯片企业供货7nm及以下芯片代工服务”的消息不断蔓延。台积电于11月8日表示:作为一家守法的公司,一向致力于遵循所有可适用的法令与法规,包括可适
艾迈斯欧司朗今日宣布,推出新一代高性能LED——OSCONIQ® C 3030。这款尖端LED系列专为严苛的户外及体育场照明环境而设计,兼具出色的发光强度与卓越的散热效能。其支持高达