当前存储市场呈现冰火两重天的现象。终端市场需求疲软,以高带宽存储芯片HBM为代表则带动存储厂商实现盆满钵满的营收业绩。SK海力士第三季度的营收和利润均创下历史新高,其中HBM的销售额同比增长了330%,环比增长超过70%。AI的风何时吹向终端市场?慧荣科技CAS业务群资深副总段喜亭表示,要沉住气,风是从头往下面吹的。
慧荣科技CAS业务群资深副总段喜亭
AI的风是怎么吹的?
段喜亭提到,AI的发展趋势是从数据中心开始,逐步扩展至边缘设备,包括手机、汽车、IoT设备及工厂自动化系统。
AI运算的核心在于数据处理,其数据流从用户日常活动产生的海量数据开始,这些数据通过互联网被收集并存储。随着大数据时代的到来,大量可用数据促进了大型语言模型(LLM)等AI技术的兴起。然而,这也带来了数据瓶颈问题,促使了GPU、NPU等专用硬件的发展以加速数据处理。在AI生态系统中,存储扮演着至关重要的角色,因为它们是支撑整个数据流动的基础,确保数据能够高效地被访问、处理和分析。理解AI中的数据流动对于优化存储解决方案变得至关重要。
尽管闪存存储技术在AI兴起前已相当成熟,但随着AI的持续发展,数据量和模型复杂度不断增加,存储再次成为关键瓶颈。当前,大型语言模型(LLM)正推动着数据处理效率的提升,同时也带来了更大的存储需求。
云端存储的容量需求急剧增加,而边缘计算的增长速度甚至超过了云端。特别是在AI服务器领域,数据存储容量的需求正以2到4倍的速度快速增长。
在AI的数据流路径中,从数据获取开始,通过手机、汽车等设备收集的大量非结构化数据(如语音、文字、图像)首先需要被存储于具备高写入吞吐量和高队列深度的数据湖中。随后,为了使这些数据适用于大模型训练,必须进行数据准备,使之结构化,这一过程要求存储系统支持高读/写吞吐量、顺序写入及处理多重数据流的能力。进入GPU服务器阶段后,模型训练对SSD的需求显著增加至64TB甚至128TB,以应对约2%的失败率导致的重新加载需求;同时,该阶段需要低延迟、高吞吐量的支持。完成训练后的推理阶段,则强调低延迟、小规模IO以及混合工作负载能力。
此外,随着技术的发展,AI正从单模态向多模态转变,能够综合处理文本、图像、声音等多种信息类型,这不仅增加了对多样化数据集的需求,也进一步提高了对高性能存储解决方案的要求。
段喜亭进一步指出,在整个AI生态系统中,存储始终扮演着至关重要的角色。
存储在AI时代需要具备哪四种能力?
AI在边缘端(edge)的应用面临能源、空间和成本的限制,这些挑战促使了几个关键趋势的发展:一是采用轻量化的模型以适应有限资源;二是构建与云端协作的边缘计算框架,将复杂任务分配给云端处理,从而优化性能并降低成本;三是扩展多模态应用场景,实现影像、文字、声音等多种信息类型的综合处理;四是通过检索增强生成(RAG)技术,使通用型AI能够快速聚焦特定领域,成为该领域的专家,从而提升个性化服务的质量。这些趋势共同推动着AI技术更加高效地融入日常生活,并解决边缘设备上的实际问题。
在AI时代,存储技术需要具备四大关键能力以应对未来的挑战,段喜亭提到,首先是高容量,随着每人每天产生的数据量从2024年的10GB增长到2034年的100GB,全球数据总量将超过200ZB,采用如QLC NAND等技术来实现高容量同时保持合理的成本结构变得尤为重要;其次是数据安全,特别是在边缘端的AI应用中,确保隐私保护、预防措施及数据完整性是重中之重;第三是数据效率,通过低延迟、及时的数据存取以及优化资源分配,保证AI大模型能够高效运行;最后是功耗效率,在边缘设备上尤其重要,因为这些设备通常依赖电池供电,因此降低功耗不仅有助于节省成本,还能延长设备寿命。这四方面的能力共同构成了未来存储解决方案的核心竞争力。
面对AI时代存储需求的四大关键,慧荣科技是如何应对?据介绍,慧荣科技通过QLC NAND提供高容量存储解决方案,并利用第8代主控技术中的NAND Xtend® ECC算法,实现高效的错误纠正和低功耗;利用FDP(Flexible Data Placement)技术提升数据效率,确保大语言模型(LLM)能够快速存取所需数据;优化ASIC设计和采用EUV工艺,提高Performance/watt指标,实现在边缘设备上的高性能与低功耗平衡;最后,在数据安全方面,引入防篡改硬件、先进的加密标准以及智能防护技术,确保数据的安全性和完整性。
慧荣科技如何布局AI生态?
在AI存储生态系统中,慧荣科技通过广泛的合作伙伴关系进行战略布局,不仅提供主控SoC和解决方案,还与CPU和GPU厂商如英伟达、AMD、英特尔及中国厂商合作,深入了解其数据流和需求。同时,慧荣科技与系统集成商、全球闪存厂商以及模组厂合作,将产品应用于IoT设备、AI PC、AI智能手机、全球汽车制造商和数据中心等多个领域。慧荣科技产品布局广泛,涵盖数据中心、企业级存储、AI笔记本和智能手机的SSD主控芯片,以及智能汽车存储产品和SSD主控,旨在成为一站式AI存储解决方案提供商。
慧荣科技的数据中心产品MonTitan™ SM8366是一款专为AI工作负载设计的PCIe Gen5主控,相比前一代产品性能提升20%,提供高效能和高容量,特别适用于AI数据中心。MonTitan™已经与所有主要的大语言模型完成对侧验证,确保其在实际应用中的卓越表现,并提供完整的解决方案。
在AI智能手机方面,慧荣科技的UFS 4.1 SM2756主控,相比前一代产品功耗更低、性能更优、寿命延长两倍,并提升了1.5倍的电池续航能力。在AI笔记本方面,SM2508 PCIe Gen5主控的数据效率是前一代的三倍,功耗低于7W,性能提升70%,并将在12月进入量产。对于AI智能汽车,慧荣科技拥有完整的汽车解决方案的产品组合,推出了首创的PCIe Gen4 SSD主控芯片,功耗降低30%,支持最多8个虚拟功能和8个数据流同时处理,满足未来汽车作为移动AI服务器的需求。
段喜亭表示,“存储一直在AI生态链中非常重要、数据效率和功耗是关键,最重要的是混合云是未来的趋势,而未来,掌握在各位的手上。”