根据估计,全球人工智能市场规模在2018~2025间的年复合成长率高达55.6%,庞大语言模型及影像处理带来海量资料的挑战,让存储在产业的重要性与日俱增,具有运算功能的新一代存储开发成为产业风潮。
为了加速AI终端应用落地,很多存储厂商都分别提出AI技术及发展布局。运算及存储整合的下一代存储开发,近年来成为存储产业的重点布局,各家大厂均相继新一波产业竞赛。
因为将AI技术导入终端装置呈现高度蓬勃发展,为了提升AI模型在语言及影像资料处理效率,存储带宽也必须跟进升级。
针对AI应用的不同需求,华邦电重点布局两大方案,将运算与存储整合于系统芯片的异质整合将锁定于强调运算的高带宽应用。至于针对轻智能、设计简单的低功耗产品则开发一系列HyperRAM产品,目前已陆续导入各类IoT应用。由于低脚数、低功耗、易于应用设计作为HyperRAM系列的最主要三个特性,HYPERRAM是采用串列讯号,但透过提升存储内部频率与I/O数量,更加适合穿戴式产品等要求低功耗的终端应用,且接脚数比传统设计大幅简化,相较于传统约需要40~50个接脚,HyperRAM可降低至仅约20个,华邦电表示,小容量32Mb~256Mb产品将可望于2022年导入穿戴装置的终端应用,预计最快品牌客户将于下半年推出新品上市。
除此之外,全球最大的DRAM制造商三星公司开始推出存储计算一体化(PIM)技术。其第一款PIM产品于2021年2月推出,该产品将人工智能计算核心集成到了它的Aquabolt-XL高带宽内存(HBM)中。HBM是一种围绕在一些顶级人工智能加速器芯片周围的专用DRAM。时任三星内存业务部门高级副总裁的IEEE会士金南成(Nam Sung Kim)表示,这种新内存旨在作为普通HBM芯片的“简单替代品”。
三星的两大竞争对手SK海力士和美光科技都在向其他类型的存储计算一体化迈进。
总部位于韩国利川的第二大DRAM供应商SK海力士正在从多个角度探索PIM,其存储解决方案产品开发副总裁兼主管朴一(Il Park)说。朴一还表示,目前该公司正在DRAM标准芯片中试验PIM,而不是可能更易于客户采用的HBM。对SK海力士来说,HBM PIM更可能是中长期目标。目前,客户在尝试将HBM DRAM放置在物理上更靠近处理器的位置时,已经要处理很多问题了。
将存储进行异质整合的近存储运算(Near Memory Computing;NMC)与PIM形成两大派别,虽然在业界各有拥护者,但多家存储大厂多半采取同步进行的双重布局,其中,近存储运算的异质整合设计虽然具有较多I/O数量,但存储与逻辑芯片进行叠加的设计较为成熟,并可达到节省连接线及降低功耗的效益。
PIM技术仍处于初期研究阶段,至于异质整合则与多家潜在客户进行合作及讨论相关规格,包含云端AI运算、服务器运算、AI独角兽等相关客户,并希望在DRAM芯片进行灌孔设计,类似于让讯号可以透过灌孔进行对外传输,未来希望将导入于边缘服务器等相关应用。
不同于过去AIoT主要集中于工控客户,边缘AI将全面开发全球软件及新应用客户,边缘AI将是未来5~10年的重要成长动能。
边缘AI落地需要整合要多方串连,因此必须透过集团力量去符合客户需求,举例在AI智能城市的智能电杆,其监控环境功能需搭配参考判断,也需要高度整合模组进行针对空气感测、远端监控和标案部分,并加入频外远端管理等功能,透过结合软硬整合、远端管理及数据安全等三大关键要素,将可望助力全球客户加速达成AI最佳化目标。