热点丨Arm为生成式AI架构,推计算子系统,目标1000亿台

AI芯天下 2024-12-02 20:31

·聚焦:人工智能、芯片等行业

欢迎各位客官关注、转发






前言
CPU作为智能终端的运算和控制核心,其性能直接决定了终端设备的响应速度、处理能力、能效、用户体验以及安全性,是衡量终端性能的关键指标。

随着生成式AI的兴起,大模型的小型化以及推理任务向终端设备的迁移,CPU始终保持着终端硬件的核心地位,能够高效地执行本地AI推理任务,为众多设备提供强大的计算支持。


作者 | 方文三
图片来源 |  网 络 


未来Arm计算平台的核心优势


从技术层面来看,AI相较于历史上任何技术革新,对计算能力、内存容量以及能效比提出了更高的要求。


它需要在功耗极低的环境中部署大量计算能力,而这正是Arm技术的专长所在。


历史上,每一次计算技术的变革与转型,都需求具备卓越性能、能效比和扩展性的计算解决方案,以加速产品的上市和普及。


这正是面向未来的Arm计算平台的核心优势。


迄今为止,基于Arm架构的芯片,其合作伙伴的出货量已超过3000亿颗。


可以预见,在未来十年中,Arm计算平台将持续为AI进行优化,而这些功能的实现将依赖于软硬件能力的结合。


同时,结合Arm针对基础设施、汽车、终端等多个市场推出的计算子系统、全面的设计方案以及强大的生态系统优势,Arm已经成功转型为一个面向未来的、应用广泛且至关重要的计算平台技术供应商。


在一年一度的Arm Tech Symposia年度技术大会上,Arm终端事业部产品管理副总裁James McNiven宣布:[预计到2025年底,全球将有超过1000亿台Arm设备具备AI能力。]



SVE2与SEM架构的扩展是未来重要方向


2011年发布的Armv7-A架构中,Neon技术被引入,这是一种高级单指令多数据(SIMD)指令集的实现方式。


随后,在2016年推出的Armv8-A架构中,引入了SVE技术;


到了2021年,Armv9-A架构进一步引入了SVE2技术,两者均提供了可变长度的寄存器支持。


同样在2021年,Armv9-A架构中引入了SME和SME2技术。


SME技术带来了两个核心的新架构特性:Streaming SVE模式和ZA存储。


这些新特性使得SME和SME2能够更加高效地处理矩阵运算和基于向量的工作负载。


在Armv9 CPU中,SVE2对于提升视频解码及图像处理的效率具有显著影响。


SME架构建立于SVE2基础之上,引入了高效处理矩阵运算的能力,作为一项增强矩阵操作的架构扩展。


Arm的SME技术显著提升了Arm CPU在处理当前AI和机器学习应用方面的能力,加速了诸多依赖矩阵运算的应用程序,例如增强现实、虚拟现实和图像处理。


自2015年采用Armv8(NEON)架构的Cortex-A73 CPU问世以来,Arm公司便已将其在AI领域的研究与开发成果转化为具体产品。


Arm公司致力于实现1000亿台设备具备AI能力的目标,其产品线覆盖了从Armv8(NEON)到Armv9(SVE2/SME)的全系列。


早在十多年前,Arm就已经将AI功能融入其架构之中,Armv8架构首次引入了64位技术,显著提升了计算能力。


然而,真正开启AI时代的,是新一代的Armv9架构。


经过多年持续的投资与演进,该架构加入了大量以AI为核心的功能,使其更适应未来的发展,而这一进程仍在继续。



全力构建Arm计算子系统(CSS)


随着AI应用的迅速普及,技术复杂性相应提升,计算需求亦呈指数级增长。


为了有效应对这一发展趋势,并为边缘侧AI提供坚实的基础平台,Arm终端计算子系统应运而生。


Arm终端计算子系统为顶级系统级芯片(SoC)提供了核心计算组件,包括最新的Armv9.2 CPU、Arm Immortalis GPU、基于三纳米工艺的CPU和GPU物理实现,以及最新的CoreLink系统互连和系统内存管理单元(SMMU)。


为了适应新的计算发展需求,采用全面的系统级设计思维,为服务器、客户端、汽车等不同应用市场提供相应的解决方案,服务于整个生态系统。


CSS特别强调硬件与软件的协同优化,尤其是扩展了底层技术,以满足不断演进的AI计算需求。


截至今年10月,自ATD推出一年以来,生态企业已迅速增至30家,产品设计也在加速推进,特别是基于Neoverse N系列或V系列计算子系统(CSS)的产品,以及采用chiplet芯粒设计的方案。


Arm公司正致力于构建AI框架、软件库以及技术——KleidiAI。


该技术确保了全球领先的AI框架能够在Arm平台上高效运行,释放出最优性能。


在基于Arm架构的AWS Graviton处理器上运行Llama 3大型模型时,词元(token)的首次响应时间可提升至原来的2.5倍。


可扩展计算平台是Arm公司满足生成式AI时代需求的技术基础。


对于芯片设计企业而言,他们在关注可扩展性的同时,也同等重视性能和产品上市的速度。


基于Armv9.2架构的Arm Cortex-X925在Geekbench 6.2基准测试中取得了新的突破,实现了每时钟周期指令数(IPC)15%的提升。


Cortex-X925的矢量管线在Integer8 TOPS上实现了50%的提升,这将有助于加速智能手机上AI应用的响应速度。


尽管Arm的设计卓越,为了加快产品上市的进程,仍需依赖整体解决方案的支持。


Kleidi软件库包括面向AI工作负载的KleidiAI和面向计算机视觉工作负载的KleidiCV。


KleidiAI的显著优势在于Arm公司与领先的AI框架直接合作,Kleidi软件库已嵌入至包括MediaPipe、LLAMA.cpp、PyTorch和TensorFlow Lite在内的多个AI框架中,使得开发者无需额外操作,不会增加任何额外负担。



强化AI决心体现在对服务器的持续投入


在云服务器基础设施领域,Arm公司的CPU与英伟达的AI芯片相结合,例如在Grace Blackwell数据中心的应用,为开发大型模型等应用场景提供了支持。


一些主要的服务器制造商,如戴尔、HPE、浪潮等,已经推出了基于Arm芯片的处理器;


同时,包括亚马逊AWS、微软Azure、阿里云、腾讯云以及华为云在内的众多云服务提供商,也已经推出了自主研发的Arm处理器或Arm云主机。


今年早些时候,有传闻指出Arm已设立AI芯片部门,并获得软银集团的投资,计划自主研发AI芯片,目标是在2025年实现芯片的量产。


Arm对AI芯片领域的兴趣是合乎逻辑的,因为它有能力自行研发架构,设计专为AI计算优化的芯片,从而与目前市场上的英伟达GPU形成差异化的竞争态势。



结尾:


Arm的CPU因其在低功耗和高能效方面的显著优势,被广泛应用于各种消费电子产品中。


在当前的安卓平台上,第三方应用中有70%的AI运算是在Arm CPU上进行的。


除了智能手机,基于Arm CPU的个人计算机市场也在迅速扩大。


部分资料参考:硬件世界:《AI浪潮之下Arm CPU凭什么稳如磐石》,雷锋网:《Arm定了个超1000亿台设备运行AI的目标》,脑极体:《将大模型装进PC和手机,需要怎样的底层创[芯]?》


本公众号所刊发稿件及图片来源于网络,仅用于交流使用,如有侵权请联系回复,我们收到信息后会在24小时内处理。




END


推荐阅读:


商务合作请加微信勾搭:
18948782064

请务必注明:

「姓名 + 公司 + 合作需求」


AI芯天下 聚焦人工智能,AI芯片,5G通讯等行业动态
评论
  • 本文介绍Linux系统更换开机logo方法教程,通用RK3566、RK3568、RK3588、RK3576等开发板,触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。制作图片开机logo图片制作注意事项(1)图片必须为bmp格式;(2)图片大小不能大于4MB;(3)BMP位深最大是32,建议设置为8;(4)图片名称为logo.bmp和logo_kernel.bmp;开机
    Industio_触觉智能 2025-01-06 10:43 72浏览
  • 在智能家居领域中,Wi-Fi、蓝牙、Zigbee、Thread与Z-Wave等无线通信协议是构建短距物联局域网的关键手段,它们常在实际应用中交叉运用,以满足智能家居生态系统多样化的功能需求。然而,这些协议之间并未遵循统一的互通标准,缺乏直接的互操作性,在进行组网时需要引入额外的网关作为“翻译桥梁”,极大地增加了系统的复杂性。 同时,Apple HomeKit、SamSung SmartThings、Amazon Alexa、Google Home等主流智能家居平台为了提升市占率与消费者
    华普微HOPERF 2025-01-06 17:23 78浏览
  • 根据Global Info Research项目团队最新调研,预计2030年全球封闭式电机产值达到1425百万美元,2024-2030年期间年复合增长率CAGR为3.4%。 封闭式电机是一种电动机,其外壳设计为密闭结构,通常用于要求较高的防护等级的应用场合。封闭式电机可以有效防止外部灰尘、水分和其他污染物进入内部,从而保护电机的内部组件,延长其使用寿命。 环洋市场咨询机构出版的调研分析报告【全球封闭式电机行业总体规模、主要厂商及IPO上市调研报告,2025-2031】研究全球封闭式电机总体规
    GIRtina 2025-01-06 11:10 76浏览
  • 彼得·德鲁克被誉为“现代管理学之父”,他的管理思想影响了无数企业和管理者。然而,关于他的书籍分类,一种流行的说法令人感到困惑:德鲁克一生写了39本书,其中15本是关于管理的,而其中“专门写工商企业或为企业管理者写的”只有两本——《为成果而管理》和《创新与企业家精神》。这样的表述广为流传,但深入探讨后却发现并不完全准确。让我们一起重新审视这一说法,解析其中的矛盾与根源,进而重新认识德鲁克的管理思想及其著作的真正价值。从《创新与企业家精神》看德鲁克的视角《创新与企业家精神》通常被认为是一本专为企业管
    优思学院 2025-01-06 12:03 73浏览
  • 随着市场需求不断的变化,各行各业对CPU的要求越来越高,特别是近几年流行的 AIOT,为了有更好的用户体验,CPU的算力就要求更高了。今天为大家推荐由米尔基于瑞芯微RK3576处理器推出的MYC-LR3576核心板及开发板。关于RK3576处理器国产CPU,是这些年的骄傲,华为手机全国产化,国人一片呼声,再也不用卡脖子了。RK3576处理器,就是一款由国产是厂商瑞芯微,今年第二季推出的全新通用型的高性能SOC芯片,这款CPU到底有多么的高性能,下面看看它的几个特性:8核心6 TOPS超强算力双千
    米尔电子嵌入式 2025-01-03 17:04 42浏览
  • 每日可见的315MHz和433MHz遥控模块,你能分清楚吗?众所周知,一套遥控设备主要由发射部分和接收部分组成,发射器可以将控制者的控制按键经过编码,调制到射频信号上面,然后经天线发射出无线信号。而接收器是将天线接收到的无线信号进行解码,从而得到与控制按键相对应的信号,然后再去控制相应的设备工作。当前,常见的遥控设备主要分为红外遥控与无线电遥控两大类,其主要区别为所采用的载波频率及其应用场景不一致。红外遥控设备所采用的射频信号频率一般为38kHz,通常应用在电视、投影仪等设备中;而无线电遥控设备
    华普微HOPERF 2025-01-06 15:29 73浏览
  •     为控制片内设备并且查询其工作状态,MCU内部总是有一组特殊功能寄存器(SFR,Special Function Register)。    使用Eclipse环境调试MCU程序时,可以利用 Peripheral Registers Viewer来查看SFR。这个小工具是怎样知道某个型号的MCU有怎样的寄存器定义呢?它使用一种描述性的文本文件——SVD文件。这个文件存储在下面红色字体的路径下。    例:南京沁恒  &n
    电子知识打边炉 2025-01-04 20:04 66浏览
  • 这篇内容主要讨论三个基本问题,硅电容是什么,为什么要使用硅电容,如何正确使用硅电容?1.  硅电容是什么首先我们需要了解电容是什么?物理学上电容的概念指的是给定电位差下自由电荷的储藏量,记为C,单位是F,指的是容纳电荷的能力,C=εS/d=ε0εrS/4πkd(真空)=Q/U。百度百科上电容器的概念指的是两个相互靠近的导体,中间夹一层不导电的绝缘介质。通过观察电容本身的定义公式中可以看到,在各个变量中比较能够改变的就是εr,S和d,也就是介质的介电常数,金属板有效相对面积以及距离。当前
    知白 2025-01-06 12:04 110浏览
  • PLC组态方式主要有三种,每种都有其独特的特点和适用场景。下面来简单说说: 1. 硬件组态   定义:硬件组态指的是选择适合的PLC型号、I/O模块、通信模块等硬件组件,并按照实际需求进行连接和配置。    灵活性:这种方式允许用户根据项目需求自由搭配硬件组件,具有较高的灵活性。    成本:可能需要额外的硬件购买成本,适用于对系统性能和扩展性有较高要求的场合。 2. 软件组态   定义:软件组态主要是通过PLC
    丙丁先生 2025-01-06 09:23 66浏览
  • 自动化已成为现代制造业的基石,而驱动隔离器作为关键组件,在提升效率、精度和可靠性方面起到了不可或缺的作用。随着工业技术不断革新,驱动隔离器正助力自动化生产设备适应新兴趋势,并推动行业未来的发展。本文将探讨自动化的核心趋势及驱动隔离器在其中的重要角色。自动化领域的新兴趋势智能工厂的崛起智能工厂已成为自动化生产的新标杆。通过结合物联网(IoT)、人工智能(AI)和机器学习(ML),智能工厂实现了实时监控和动态决策。驱动隔离器在其中至关重要,它确保了传感器、执行器和控制单元之间的信号完整性,同时提供高
    腾恩科技-彭工 2025-01-03 16:28 166浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦