“当前,AI工作负载正在急剧增长,但具体增长到什么程度还无法预测。毕竟就像两年前,我们可能还没有预想到AI技术会有今天这样的一些用例。但我们认为,未来需要支持更多处理能力,并需要关注对新型数据类型的支持。”Arm终端事业部产品管理副总裁James McNiven在Arm Tech Symposia 2024上感叹AI技术给整个产业界带来的新变化、新机遇。
Arm终端事业部产品管理副总裁James McNiven
不像往年那样会专注于特定应用市场,今年的Arm年度技术大会重点关注AI技术如何为各个应用市场带来全面变革。James McNiven认为,“我们正身处AI时代。AI的发展将对各个行业提出越来越多样化的需求。我们每一个人都将在其中扮演重要角色。”
为了应对AI技术带来的新机遇和挑战,Arm最近推出了“Arm终端计算子系统(CSS)”,以及新的Kleidi软件,同时加大了与生态伙伴的合作,努力实现2025年全球超过1,000亿台具备AI能力的Arm设备的发展目标。在这个AI时代的关键时期,Arm正站在变革的前沿,与全球合作伙伴共同塑造行业的未来。
AI时代的机遇与挑战
“AI极有潜力成为当代人类最为重要的技术。” James McNiven非常看重AI技术在未来产品应用中的应用前景。他表示,“我们都曾使用AI来解锁手机、观看炫酷的影片特效,或从照片中移除背景中的人物。但对许多人而言,ChatGPT的出现才让AI真正爆发。”
James McNiven特别例举了AI技术在医疗领域的颠覆性应用。今年10月,2024年诺贝尔化学奖授予美国生物化学家David Baker,以及谷歌DeepMind的联合创始人兼首席执行官Demis Hassabis、总监John Jumper,以表彰他们在蛋白质结构方面做出的重大突破。
DeepMind的AlphaFold系列工具通过人工智能技术成功预测了几乎所有已知蛋白质的三维结构,并且显著提高了预测的准确率。这些成果不仅在基础科学研究中具有重要意义,更在药物开发、疾病治疗等领域展现出巨大的潜力。
James McNiven表示,AI技术能将临床试验的时间缩短高达50%,意味着急需药物的患者能更快速地获得救治,更重要的是,其所能影响到的生命数量可能是难以计数的。
当然,AI技术的应用不仅限于科学领域。James McNiven认为,AI的潜力是变革性的。它不仅仅是在简化人类的生活,除了药物研究,也在改变我们与世界交互的方式。AI让我们的生活更简单、更安全,同时为更美好的未来奠定了基础。
根据相关分析机构的预测数据,到2026年底,中国的道路上预计将有超过100万辆搭载L3级别ADAS(高级驾驶辅助系统)的汽车。在智能终端领域,预计到今年底,中国将有1.7亿台以上支持AI的智能手机,55%的PC将支持AI功能。在数据中心领域,AI数据中心将增长5倍。
在此背景下,AI技术将比历史上任何计算节点都需要更高的算力、更大的内存需求。James McNiven表示,这些大算力和内存需求对芯片工艺节点和封装技术都带来了新的挑战。比如,在2.5D和3D芯片封装技术上,我们需要在更小尺寸空间内集成更多的功能和组件,导致了对更紧密集成技术的需求增加。同时,随着工艺节点和封装技术的迭代创新,制造过程变得更加复杂,制造过程耗时更长。此外,先进的半导体制造工艺节点的成本也越来越高。
对此,James McNiven认为,“为了从昂贵的先进制程技术中获得最大价值,我们需要确保芯片在性能和能效上达到最优。解决这些艰难的问题将是业界必须面对的挑战。”
AI计算平台的驱动者
在当前AI技术革新中,巨量的计算需求正部署在一个极度受限的功耗环境中。而在能源效率上,正是Arm的强项。
James McNiven表示,过去的三十多年里,Arm一直凭借对行业的洞察和与生态伙伴的合作,持续推动技术的创新。正如曾经助力智能手机的崛起,Arm也将成为人工智能 (AI) 计算平台的驱动者。不过,他也指出,AI的需求非常庞大,促使我们重新思考如何打造这些计算要素。
“我们正面临全新的需求,无论是算力、性能、能效,还是上市时间的需求都在不断提升。我们需要重新思考一切。” James McNiven认为,构建计算的方式必须随之演变。芯片不再是一个由离散模块或组件以模块化方式构建的简单集合。这种方法无法充分释放性能或能效。我们需要从整体解决方案的角度进行设计,需要更深度的集成,更多的功能需要协作共存,以实现更低的延迟、更高的带宽,以及更高的能效。
对此,Arm提出了超越硬件的设计方法,即从系统层面思考问题,将硬件、软件和生态无缝集成的全面解决方案,使其具备卓越的可扩展性、性能和能效,并且能够加速产品上市。
James McNiven表示,要实现以上解决方案,我们通常需要异构计算,以实现对系统多种计算要素的优化协作。为了管理不同应用程序中的工作负载,需要一种能够高效率编写软件的方式,让开发者能够针对该硬件进行开发。因此,Arm推出了计算子系统 (CSS),同时依托强大的软件生态系统,以及更快的上市时间,为业界提供优化的解决方案。
据悉,针对消费性电子市场的Arm终端CSS采用最新的Armv9.2 CPU、Arm Immortalis GPU、基于3纳米工艺生产就绪的CPU和GPU物理实现,以及最新的CoreLink系统互连和系统内存管理单元(SMMU),是迄今速度最快的Arm计算平台,提升了30%以上的计算和图形性能,以应对要求苛刻的实际用例中的安卓工作负载,同时也提高了59%的AI推理速度,适用于更广泛的AI/机器学习(ML)和计算视觉工作负载。
同时,最新推出的搭配Arm终端CSS的KleidiAl通过Neon、SVE2和SME2等一系列Arm的加速技术,能显著提高计算应用的性能,让软件开发者无缝获得Arm CPU上的最佳性能。
而James McNiven也特别强调了软件的重要性。“硬件若无软件支持就毫无意义。许多人都见识过一些令人惊艳的硬件,但由于软件表现不佳,甚至根本没有软件支持而未能发挥其潜力。”他表示,软件始终是Arm计算平台不可或缺的一部分。未来技术将变得更加复杂,并且需要大量的支持。软件的开发成本高且耗时,因此投资策略也必须不断进化。在许多情况下,我们需要以软件为中心的思维来思考硬件设计。
30多年来,Arm一直聚焦于整体的技术栈,从底层硬件到整个技术栈中的软件和应用程序。目前已有2,000万名开发者在Arm平台上开发软件,也造就了Arm全球最大的计算平台。
此外,随着边缘AI成为热点,Arm也布局了诸多面向边缘AI的产品,从Cortex-M到Cortex-A,涵盖了不同的性能水平和功耗需求。Arm预计,到2025年将会有1,000亿台基于Arm架构的设备可具备人工智能功能,包括由Cortex-A、Cortex-M驱动的设备。
生态系统的力量
毫无疑问,在当前AI技术爆发式增长的大背景下,产业生态合作的重要性毋庸置疑。而Arm推出了全面设计 (Arm Total Design, ATD) 生态项目,能够让生态系统合作伙伴能够专注于各自擅长的领域,进而更快、更具成本效益地开发出更好、更强大的产品。
James McNiven表示,随着芯片制造变得更加复杂和芯片封装技术要求不断提高,产业链企业的参与和支持非常重要,尤其是在AI领域,如何进行协作以及如何整合不同领域的专业知识以构建面向未来的出色平台十分关键。目前,很多平台以Arm Neoverse计算子系统 (CSS) 为核心,充分发挥企业擅长的能力,打造了更广泛、更高级的解决方案。
Arm非常看好芯粒(Chiplet)技术的应用与发展。在芯粒架构上,目前Arm已经与约50位行业领导企业合作,通过芯粒系统架构 Chiplet System Architecture (CSA) 框架共同开发标准,推动Chiplet整合与应用。James McNiven表示,“Chiplet是一种非常有前景的技术,可以根据需求灵活组合,选择不同的工艺节点,就像搭建乐高一样搭建物理芯片的IP模块。在数据中心领域,我们已经见证了一些公司基于Arm架构来开发设计芯粒产品,在汽车行业也看到了同样的趋势。”
在chiplet技术上,James McNiven也强调了生态合作的重要性,“因为AI的发展需要定制化的芯片,只能通过行业内外的共同努力来实现。Arm坚信我们与合作伙伴携手将使未来充满无限可能。”
当然,Arm也在受益于生态合作。最近,Arm与vivo成立联合实验室,将进一步加深彼此合作。对此,James McNiven表示,“多年来,Arm在基准测试等方面表现出色,而OEM厂商对他们客户和终端用户需求的理解则更加深入。因此,通过vivo带来对真实用户场景的深入洞察,将能够帮助我们持续改进产品和解决方案,最终为vivo的手机用户带来更优异的移动体验。”
在生态合作上,Arm正在与开源社区合作,特别是在中国市场,与龙蜥社区、欧拉社区、OpenCloud OS等合作,共同构建AI框架、软件库和技术。James McNiven介绍,KleidiAI技术正在帮助全球领先的AI框架在Arm平台上实现性能优化。比如,Arm与腾讯合作,通过 KleidiAI 集成提升混元大模型端侧 AI 性能,为腾讯众多应用场景提供卓越的 AI 体验。
Arm也看好AI PC的巨大机遇。目前Windows on Arm平台已成功运行很多原生应用程序,并配备了丰富的开发工具。值得注意的是,越来越多的创新应用正在不断涌现,如爱奇艺、哔哩哔哩和搜狗等原生支持 Windows on Arm的应用,可以充分利用AI PC的全部AI功能。
对于专门针对Arm架构的Windows 11系统的软件兼容和生态的问题,Arm与微软也携手取得了很多进展。比如,通过微软提供的仿真环境,Arm可以为应用程序的开发者提供更多指引和建议。James McNiven指出,根据微软的统计,其PC用户投入在笔记本电脑上的时间,大约90%是在使用原生应用上,这表明Windows on Arm原生应用的用户体验得到显著的提升。他进一步表示:“随着更多基于Arm架构的设备硬件持续的推出,我相信我们生态系统的规模会得到进一步扩大,未来可期。”