热点丨Arm为生成式AI架构,推计算子系统,目标1000亿台

AI芯天下 2024-12-02 20:31

·聚焦:人工智能、芯片等行业

欢迎各位客官关注、转发






前言
CPU作为智能终端的运算和控制核心,其性能直接决定了终端设备的响应速度、处理能力、能效、用户体验以及安全性,是衡量终端性能的关键指标。

随着生成式AI的兴起,大模型的小型化以及推理任务向终端设备的迁移,CPU始终保持着终端硬件的核心地位,能够高效地执行本地AI推理任务,为众多设备提供强大的计算支持。


作者 | 方文三
图片来源 |  网 络 


未来Arm计算平台的核心优势


从技术层面来看,AI相较于历史上任何技术革新,对计算能力、内存容量以及能效比提出了更高的要求。


它需要在功耗极低的环境中部署大量计算能力,而这正是Arm技术的专长所在。


历史上,每一次计算技术的变革与转型,都需求具备卓越性能、能效比和扩展性的计算解决方案,以加速产品的上市和普及。


这正是面向未来的Arm计算平台的核心优势。


迄今为止,基于Arm架构的芯片,其合作伙伴的出货量已超过3000亿颗。


可以预见,在未来十年中,Arm计算平台将持续为AI进行优化,而这些功能的实现将依赖于软硬件能力的结合。


同时,结合Arm针对基础设施、汽车、终端等多个市场推出的计算子系统、全面的设计方案以及强大的生态系统优势,Arm已经成功转型为一个面向未来的、应用广泛且至关重要的计算平台技术供应商。


在一年一度的Arm Tech Symposia年度技术大会上,Arm终端事业部产品管理副总裁James McNiven宣布:[预计到2025年底,全球将有超过1000亿台Arm设备具备AI能力。]



SVE2与SEM架构的扩展是未来重要方向


2011年发布的Armv7-A架构中,Neon技术被引入,这是一种高级单指令多数据(SIMD)指令集的实现方式。


随后,在2016年推出的Armv8-A架构中,引入了SVE技术;


到了2021年,Armv9-A架构进一步引入了SVE2技术,两者均提供了可变长度的寄存器支持。


同样在2021年,Armv9-A架构中引入了SME和SME2技术。


SME技术带来了两个核心的新架构特性:Streaming SVE模式和ZA存储。


这些新特性使得SME和SME2能够更加高效地处理矩阵运算和基于向量的工作负载。


在Armv9 CPU中,SVE2对于提升视频解码及图像处理的效率具有显著影响。


SME架构建立于SVE2基础之上,引入了高效处理矩阵运算的能力,作为一项增强矩阵操作的架构扩展。


Arm的SME技术显著提升了Arm CPU在处理当前AI和机器学习应用方面的能力,加速了诸多依赖矩阵运算的应用程序,例如增强现实、虚拟现实和图像处理。


自2015年采用Armv8(NEON)架构的Cortex-A73 CPU问世以来,Arm公司便已将其在AI领域的研究与开发成果转化为具体产品。


Arm公司致力于实现1000亿台设备具备AI能力的目标,其产品线覆盖了从Armv8(NEON)到Armv9(SVE2/SME)的全系列。


早在十多年前,Arm就已经将AI功能融入其架构之中,Armv8架构首次引入了64位技术,显著提升了计算能力。


然而,真正开启AI时代的,是新一代的Armv9架构。


经过多年持续的投资与演进,该架构加入了大量以AI为核心的功能,使其更适应未来的发展,而这一进程仍在继续。



全力构建Arm计算子系统(CSS)


随着AI应用的迅速普及,技术复杂性相应提升,计算需求亦呈指数级增长。


为了有效应对这一发展趋势,并为边缘侧AI提供坚实的基础平台,Arm终端计算子系统应运而生。


Arm终端计算子系统为顶级系统级芯片(SoC)提供了核心计算组件,包括最新的Armv9.2 CPU、Arm Immortalis GPU、基于三纳米工艺的CPU和GPU物理实现,以及最新的CoreLink系统互连和系统内存管理单元(SMMU)。


为了适应新的计算发展需求,采用全面的系统级设计思维,为服务器、客户端、汽车等不同应用市场提供相应的解决方案,服务于整个生态系统。


CSS特别强调硬件与软件的协同优化,尤其是扩展了底层技术,以满足不断演进的AI计算需求。


截至今年10月,自ATD推出一年以来,生态企业已迅速增至30家,产品设计也在加速推进,特别是基于Neoverse N系列或V系列计算子系统(CSS)的产品,以及采用chiplet芯粒设计的方案。


Arm公司正致力于构建AI框架、软件库以及技术——KleidiAI。


该技术确保了全球领先的AI框架能够在Arm平台上高效运行,释放出最优性能。


在基于Arm架构的AWS Graviton处理器上运行Llama 3大型模型时,词元(token)的首次响应时间可提升至原来的2.5倍。


可扩展计算平台是Arm公司满足生成式AI时代需求的技术基础。


对于芯片设计企业而言,他们在关注可扩展性的同时,也同等重视性能和产品上市的速度。


基于Armv9.2架构的Arm Cortex-X925在Geekbench 6.2基准测试中取得了新的突破,实现了每时钟周期指令数(IPC)15%的提升。


Cortex-X925的矢量管线在Integer8 TOPS上实现了50%的提升,这将有助于加速智能手机上AI应用的响应速度。


尽管Arm的设计卓越,为了加快产品上市的进程,仍需依赖整体解决方案的支持。


Kleidi软件库包括面向AI工作负载的KleidiAI和面向计算机视觉工作负载的KleidiCV。


KleidiAI的显著优势在于Arm公司与领先的AI框架直接合作,Kleidi软件库已嵌入至包括MediaPipe、LLAMA.cpp、PyTorch和TensorFlow Lite在内的多个AI框架中,使得开发者无需额外操作,不会增加任何额外负担。



强化AI决心体现在对服务器的持续投入


在云服务器基础设施领域,Arm公司的CPU与英伟达的AI芯片相结合,例如在Grace Blackwell数据中心的应用,为开发大型模型等应用场景提供了支持。


一些主要的服务器制造商,如戴尔、HPE、浪潮等,已经推出了基于Arm芯片的处理器;


同时,包括亚马逊AWS、微软Azure、阿里云、腾讯云以及华为云在内的众多云服务提供商,也已经推出了自主研发的Arm处理器或Arm云主机。


今年早些时候,有传闻指出Arm已设立AI芯片部门,并获得软银集团的投资,计划自主研发AI芯片,目标是在2025年实现芯片的量产。


Arm对AI芯片领域的兴趣是合乎逻辑的,因为它有能力自行研发架构,设计专为AI计算优化的芯片,从而与目前市场上的英伟达GPU形成差异化的竞争态势。



结尾:


Arm的CPU因其在低功耗和高能效方面的显著优势,被广泛应用于各种消费电子产品中。


在当前的安卓平台上,第三方应用中有70%的AI运算是在Arm CPU上进行的。


除了智能手机,基于Arm CPU的个人计算机市场也在迅速扩大。


部分资料参考:硬件世界:《AI浪潮之下Arm CPU凭什么稳如磐石》,雷锋网:《Arm定了个超1000亿台设备运行AI的目标》,脑极体:《将大模型装进PC和手机,需要怎样的底层创[芯]?》


本公众号所刊发稿件及图片来源于网络,仅用于交流使用,如有侵权请联系回复,我们收到信息后会在24小时内处理。




END


推荐阅读:


商务合作请加微信勾搭:
18948782064

请务必注明:

「姓名 + 公司 + 合作需求」


AI芯天下 聚焦人工智能,AI芯片,5G通讯等行业动态
评论
  • 学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&
    youyeye 2024-11-30 14:30 61浏览
  • 在现代科技浪潮中,精准定位技术已成为推动众多关键领域前进的核心力量。虹科PCAN-GPS FD 作为一款多功能可编程传感器模块,专为精确捕捉位置和方向而设计。该模块集成了先进的卫星接收器、磁场传感器、加速计和陀螺仪,能够通过 CAN/CAN FD 总线实时传输采样数据,并具备内部存储卡记录功能。本篇文章带你深入虹科PCAN-GPS FD的技术亮点、多场景应用实例,并展示其如何与PCAN-Explorer6软件结合,实现数据解析与可视化。虹科PCAN-GPS FD虹科PCAN-GPS FD的数据处
    虹科汽车智能互联 2024-11-29 14:35 147浏览
  • 最近几年,新能源汽车愈发受到消费者的青睐,其销量也是一路走高。据中汽协公布的数据显示,2024年10月,新能源汽车产销分别完成146.3万辆和143万辆,同比分别增长48%和49.6%。而结合各家新能源车企所公布的销量数据来看,比亚迪再度夺得了销冠宝座,其10月新能源汽车销量达到了502657辆,同比增长66.53%。众所周知,比亚迪是新能源汽车领域的重要参与者,其一举一动向来为外界所关注。日前,比亚迪汽车旗下品牌方程豹汽车推出了新车方程豹豹8,该款车型一上市就迅速吸引了消费者的目光,成为SUV
    刘旷 2024-12-02 09:32 58浏览
  • 国产光耦合器正以其创新性和多样性引领行业发展。凭借强大的研发能力,国内制造商推出了适应汽车、电信等领域独特需求的专业化光耦合器,为各行业的技术进步提供了重要支持。本文将重点探讨国产光耦合器的技术创新与产品多样性,以及它们在推动产业升级中的重要作用。国产光耦合器创新的作用满足现代需求的创新模式新设计正在满足不断变化的市场需求。例如,高速光耦合器满足了电信和数据处理系统中快速信号传输的需求。同时,栅极驱动光耦合器支持电动汽车(EV)和工业电机驱动器等大功率应用中的精确高效控制。先进材料和设计将碳化硅
    克里雅半导体科技 2024-11-29 16:18 157浏览
  • 国产光耦合器因其在电子系统中的重要作用而受到认可,可提供可靠的电气隔离并保护敏感电路免受高压干扰。然而,随着行业向5G和高频数据传输等高速应用迈进,对其性能和寿命的担忧已成为焦点。本文深入探讨了国产光耦合器在高频环境中面临的挑战,并探索了克服这些限制的创新方法。高频性能:一个持续关注的问题信号传输中的挑战国产光耦合器传统上利用LED和光电晶体管进行信号隔离。虽然这些组件对于标准应用有效,但在高频下面临挑战。随着工作频率的增加,信号延迟和数据保真度降低很常见,限制了它们在电信和高速计算等领域的有效
    腾恩科技-彭工 2024-11-29 16:11 106浏览
  • 在电子技术快速发展的今天,KLV15002光耦固态继电器以高性能和强可靠性完美解决行业需求。该光继电器旨在提供无与伦比的电气隔离和无缝切换,是现代系统的终极选择。无论是在电信、工业自动化还是测试环境中,KLV15002光耦合器固态继电器都完美融合了效率和耐用性,可满足当今苛刻的应用需求。为什么选择KLV15002光耦合器固态继电器?不妥协的电压隔离从本质上讲,KLV15002优先考虑安全性。输入到输出隔离达到3750Vrms(后缀为V的型号为5000Vrms),确保即使在高压情况下,敏感的低功耗
    克里雅半导体科技 2024-11-29 16:15 119浏览
  • 艾迈斯欧司朗全新“样片申请”小程序,逾160种LED、传感器、多芯片组合等产品样片一触即达。轻松3步完成申请,境内免费包邮到家!本期热荐性能显著提升的OSLON® Optimal,GF CSSRML.24ams OSRAM 基于最新芯片技术推出全新LED产品OSLON® Optimal系列,实现了显著的性能升级。该系列提供五种不同颜色的光源选项,包括Hyper Red(660 nm,PDN)、Red(640 nm)、Deep Blue(450 nm,PDN)、Far Red(730 nm)及Ho
    艾迈斯欧司朗 2024-11-29 16:55 152浏览
  • 光耦合器作为关键技术组件,在确保安全性、可靠性和效率方面发挥着不可或缺的作用。无论是混合动力和电动汽车(HEV),还是军事和航空航天系统,它们都以卓越的性能支持高要求的应用环境,成为现代复杂系统中的隐形功臣。在迈向更环保技术和先进系统的过程中,光耦合器的重要性愈加凸显。1.混合动力和电动汽车中的光耦合器电池管理:保护动力源在电动汽车中,电池管理系统(BMS)是最佳充电、放电和性能监控背后的大脑。光耦合器在这里充当守门人,将高压电池组与敏感的低压电路隔离开来。这不仅可以防止潜在的损坏,还可以提高乘
    腾恩科技-彭工 2024-11-29 16:12 117浏览
  • 戴上XR眼镜去“追龙”是种什么体验?2024年11月30日,由上海自然博物馆(上海科技馆分馆)与三湘印象联合出品、三湘印象旗下观印象艺术发展有限公司(下简称“观印象”)承制的《又见恐龙》XR嘉年华在上海自然博物馆重磅开幕。该体验项目将于12月1日正式对公众开放,持续至2025年3月30日。双向奔赴,恐龙IP撞上元宇宙不久前,上海市经济和信息化委员会等部门联合印发了《上海市超高清视听产业发展行动方案》,特别提到“支持博物馆、主题乐园等场所推动超高清视听技术应用,丰富线下文旅消费体验”。作为上海自然
    电子与消费 2024-11-30 22:03 68浏览
  • 《高速PCB设计经验规则应用实践》+PCB绘制学习与验证读书首先看目录,我感兴趣的是这一节;作者在书中列举了一条经典规则,然后进行详细分析,通过公式推导图表列举说明了传统的这一规则是受到电容加工特点影响的,在使用了MLCC陶瓷电容后这一条规则已经不再实用了。图书还列举了高速PCB设计需要的专业工具和仿真软件,当然由于篇幅所限,只是介绍了一点点设计步骤;我最感兴趣的部分还是元件布局的经验规则,在这里列举如下:在这里,演示一下,我根据书本知识进行电机驱动的布局:这也算知行合一吧。对于布局书中有一句:
    wuyu2009 2024-11-30 20:30 84浏览
  • RDDI-DAP错误通常与调试接口相关,特别是在使用CMSIS-DAP协议进行嵌入式系统开发时。以下是一些可能的原因和解决方法: 1. 硬件连接问题:     检查调试器(如ST-Link)与目标板之间的连接是否牢固。     确保所有必要的引脚都已正确连接,没有松动或短路。 2. 电源问题:     确保目标板和调试器都有足够的电源供应。     检查电源电压是否符合目标板的规格要求。 3. 固件问题: &n
    丙丁先生 2024-12-01 17:37 57浏览
  • 光伏逆变器是一种高效的能量转换设备,它能够将光伏太阳能板(PV)产生的不稳定的直流电压转换成与市电频率同步的交流电。这种转换后的电能不仅可以回馈至商用输电网络,还能供独立电网系统使用。光伏逆变器在商业光伏储能电站和家庭独立储能系统等应用领域中得到了广泛的应用。光耦合器,以其高速信号传输、出色的共模抑制比以及单向信号传输和光电隔离的特性,在光伏逆变器中扮演着至关重要的角色。它确保了系统的安全隔离、干扰的有效隔离以及通信信号的精准传输。光耦合器的使用不仅提高了系统的稳定性和安全性,而且由于其低功耗的
    晶台光耦 2024-12-02 10:40 53浏览
  • By Toradex胡珊逢简介嵌入式领域的部分应用对安全、可靠、实时性有切实的需求,在诸多实现该需求的方案中,QNX 是经行业验证的选择。在 QNX SDP 8.0 上 BlackBerry 推出了 QNX Everywhere 项目,个人用户可以出于非商业目的免费使用 QNX 操作系统。得益于 Toradex 和 QNX 的良好合作伙伴关系,用户能够在 Apalis iMX8QM 和 Verdin iMX8MP 模块上轻松测试和评估 QNX 8 系统。下面将基于 Apalis iMX8QM 介
    hai.qin_651820742 2024-11-29 15:29 150浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦