根据美光公布的FY2024Q3财季业绩,该季公司营收68.11亿美元,同比增长81.5%;净利润7.02亿美元,较上季度4.76亿美元增长47%。美光方面认为,人工智能(AI)的蓬勃发展带动了市场对HBM产品的需求,数据中心SSD收入也创下历史新高,证明了美光在DRAM和NAND闪存领域产品组合的实力。
日前,美光再次面向数据中心推出首款PCIe 5.0产品9550 SSD,集成了自有的控制器、G8 NAND、DRAM和固件,存储容量从3.2TB到30.72TB,并支持U.2、E1.S和E3.S外形规格,旨在为数据中心运营商带来业界领先的性能、能效和安全性。
美光9550 SSD
“从性能角度看,它展现了出色的‘四角性能’,即顺序读取、顺序写入、随机读取和随机写入四项,均表现出色。“美光存储事业部产品管理总监Bill Bollengier指出,在AI大模型的时代,行业中的一个关键趋势是更大的NAND裸片密度,这有助于推动更大容量的SSD,使系统构建者能够设计更多的服务器,以便拥有更大的容量或将更多的GPU或CPU放入服务器中。鉴于此,特别是随着人工智能的发展,GPU直接存储的能力变得愈发重要。
性能数据方面,得益于控制器、NAND以及专为制造高性能SSD而开发的美光架构固件,美光9550 SSD拥有14.0 GB/s的顺序读取速率和10.0GB/s的顺序写入速率,与业界同类SSD相比,其性能提升高达67%。此外,其随机读取速率达到3,300 KIOPS,比竞品提升高达35%;随机写入速率达到400 KIOPS,比竞品提升高达33%。
考虑到当前AI工作负载需要高性能、高能效存储解决方案,例如,大型语言模型(LLM)需要高顺序读取速率,而图形神经网络(GNN)则需要高随机读取性能,9550 SSD也更加注重在关键AI工作负载中的表现。
官方资料显示,9550工作负载完成时间可缩短高达33%,在配备大加速器内存(BaM)的GNN训练中,特征聚合可提速高达60%。此外,9550 SSD还为NVIDIA Magnum IO™ GPUDirect® Storage提供了高达34%的更高吞吐量。
另一个关键点是效率,即每瓦性能。Bill Bollengier认为,在这个全球都关注气候和可持续性的世界里,这一点非常重要,特别是数据中心本身就会使用大量能源。因此,在提升效率上,美光投入了大量时间,他选取了4个典型应用场景的数据来佐证这一点:
- 使用BaM进行GNN训练:SSD平均功耗降低高达43%,整体系统能耗减少高达29%;
- NVIDIA Magnum IO GPUDirect Storage:每传输1TB数据,SSD能耗降低高达81%;
- MLPerf:SSD能耗降低高达35%,系统能耗降低高达13%;
- 使用Microsoft DeepSpeed对Llama LLM训练进行微调:SSD能耗降低高达 21%;
9550 SSD搭载美光自主研发的垂直集成架构,支持NVMe 2.0和OCP 2.0,并具备OCP 2.5遥测功能,可实现先进的性能和健康监测,从而简化数据中心的大规模部署和管理。
Bill Bollengier认为OCP对客户而言帮助很大,因为它标准化了许多驱动器的功能,从而可以帮助客户在测试和鉴定SSD时实现更高的可预测性,包括遥测、延迟监测、日志记录、热节流算法,以及序列号的格式化方式等。这样,凭借OCP固件,客户不仅能够做出预测,还能够更快地通过鉴定,因为他们在获得驱动器之前就已经了解产品的行为表现。
而之所以要通过完全垂直整合的美光设计来提供一个适用于多代的通用架构,Bill Bollengier解释说,一是因为数据中心规模庞大,而且SSD的合格认证既昂贵又耗时,用户对产品在不同代际之间保持大量共通性这一点十分看重;其次,在数据安全方面,支持所有最新的行业标准和站点证书等功能非常重要,需要确保任何固件的更新都来自美光。
9550 SSD在设计上注重端到端的安全性,具备自加密硬盘(SED)功能,符合安全协议和数据模型标准(SPDM 1.2),同时提供稳定的数据加密功能以及其他关键安全特性。针对需要更高安全标准的客户,还提供符合FIPS 140-3 Level 2和TAA标准的选项。
同期发布的还包括采用第九代(G9)TLC NAND技术的 SSD 产品,美光也因此成为业界首家实现这一里程碑的厂商之一。
美光G9 TLC NAND
根据美光存储事业部NAND产品生命周期管理及应用工程总监Daniel Loughmiller的介绍,G9 NAND技术具备高达3.6GB/s的数据传输速率,比当前SSD中的NAND技术要快50%。同时,与市场上现有的同类NAND解决方案相比,美光G9 NAND的每颗芯片写入带宽和读取带宽分别高出99%和88%。尺寸方面,与前一代NAND产品相同,美光G9 NAND采用11.5mm x 13.5mm的紧凑封装,比同类产品节省28%的空间。
美光2650 NVMe SSD就集成了G9 TLC NAND技术,其连续读取速率高达7000 MB/s,已经可以与PCIe 4.0性能媲美。与同类竞品相比,2650 NVMe SSD连续读取性能提升高达70%,连续写入性能提升高达103%,随机读取性能提升高达156%,随机写入性能提升高达85%。
尽管G9 NAND达到了276层,比G8 NAND多出约40层,但Daniel Loughmiller强调称,“层数并非决定性因素,目前各大厂商都在研究多项前沿技术,NAND的层数肯定会继续增加。客户真正关心的指标,其实是能耗、密度、以及如何达到预期的性能,这些都比单纯的层数更为重要。“
总体而言,今后NAND Flash将主要朝着扩展容量和降低成本两个方向发展,而市场对闪存容量的追求,可细分为纵向扩容、逻辑扩容、横向扩容:
纵向扩容,体现在存储原厂发力更高堆叠的产品,比如向更多层数的NAND演进;从SLC、MLC、TLC、QLC到PLC的演进是逻辑扩容,每个单元存储的数据越来越大,以便SSD可保存更多的数据;而横向扩容是指在每一层增加更多的存储容量,以达到更大单位比特的容量,这也是探讨未来新技术、新制程时候要关注的方向。