NVIDIA、谷歌、亚马逊、微软，为什么AI厂商都青睐它？

电子工程世界 2025-02-26 08:02 122浏览 0评论 0点赞

汽车用卸负载电阻低价方案 热管理技术新标杆：ST维也纳PFC与FOC控制方案深度解析

▲ 点击上方蓝字关注我们，不错过任何一篇干货文章！

Arm 基础设施业务负责人 Mohamed Awad 在接受 CRN 的深入采访时谈到了这家英国芯片设计师如何成功说服亚马逊网络服务、谷歌云、微软 Azure 和 Nvidia 使用其芯片技术来设计数据中心的定制 CPU 和其他关键组件。他还透露了 Arm 的下一步计划。

去年 12 月，亚马逊（AWS）高管戴夫·布朗 (Dave Brown) 宣布，这家云计算巨头过去两年采购的CPU中，一半以上来自其基于 Arm 的自主芯片 Graviton 芯片，这表明 AWS 已在很大程度上放弃使用英特尔和 AMD 设计的 x86 处理器，转而大范围使用自主研发的芯片。

这一成功离不开 Arm，日前Arm基础设施业务总经理Mohamed Awad接受了CRN的专访，他负责推动这家英国芯片设计公司与AWS、Microsoft Azure、Google Cloud和Nvidia 等公司的业务往来。这些公司越来越多地采用 Arm 的指令集架构、CPU蓝图和其他模块化技术来设计自己的定制芯片。

“这意义重大，老实说，我当时都觉得‘哇哦’。我知道这很重要。我不确定我是否完全理解这些人的投入程度。我们看到，在很多方面，所有的超大规模企业都做出了类似的投入，”Awad 在去年 12 月接受 CRN 采访时表示，当时距离布朗发表声明仅一周。Awad 是博通的资深员工，曾负责 Arm 的基础设施业务长达四年。

虽然英特尔长期以来一直是数据中心和云基础设施服务器 CPU 的主要供应商，但过去十年来，这家半导体巨头的影响力已经被两股主要力量削弱：同样基于X86的AMD，以及Arm和背后的大客户们，包括（AWS、微软 Azure、谷歌云以及英伟达）。

2018 年，AWS 率先在其Graviton 芯片中推出基于 Arm 的服务器 CPU。随后，Nvidia 于 2022 年推出了用于 Grace 和 Grace Hopper 超级芯片的Grace CPU。两年后，Microsoft Azure 和 Google Cloud 分别推出了由其 Cobalt 和 Axion CPU 驱动的云芯片。

Awad表示，Arm 2019年推出了服务器级IP Neoverse，并且推出了一系列适配的软件。另外，Amad还认为，由于人工智能需要大量数据和计算，而且受限于功率、空间和资金，这些公司越来越需要在系统层面进行设计，以便优化每个组件，从而实现最佳效率和性能。这导致他们越来越多地构建自己的组件，无论是 CPU、加速器芯片还是网络芯片，这也是转向Arm的关键。

Nvidia 的新款 Grace Blackwell GB200 NVL72，带有 36 个 Grace Blackwell GB200 超级芯片，每个超级芯片包含一个基于 Arm 的 Grace CPU和两个由 Nvidia 设计的 Blackwell GPU。同时还包括 Nvidia 的BlueField-3 数据处理单元(DPU) 和用于网络目的的 NVLink Switch 芯片。

Awad 表示，AWS、Microsoft Azure 和 Google Cloud 正在采取与 Nvidia 类似的战略。

“他们都在开发自己的加速器；都在构建自己的网络；都在开发自己的 CPU。客户开发这些 CPU，现在他们正在围绕Arm开发芯片并优化软件系统，坦率地说，我认为这对 Arm 来说是一个巨大的推动力，”他说。

Awad还表示，Arm正在帮助其他公司开发自己的芯片，无论是初创公司还是大公司。为此，Arm采用的一个关键方法是继续降低开发定制芯片的成本，包括 Neoverse IP、预集成 Neoverse 计算子系统和 Arm Total Design 等不同的业务方式。

“坦率地说，还有很多其他参与者，很多其他大参与者，我们将继续与他们合作，找到降低采用成本的方法，降低他们内部开发的成本，这将是我们关注的重点。”他说。

是什么推动微软、谷歌、亚马逊、英伟达等公司开发自己的 CPU？

我认为归根结底，这归结于三件事。这三件事都在一个完美的时间汇聚在一起。

首先，这是Arm坚持投资的成果。Arm 和更广泛的生态系统至少在软件生态系统中投资了 15 年。所以这一切都是为了专注于云原生的软件，它利用了过去十多年来真正出现的新客户端——服务器范式。我们一直在稳步追逐这个市场。

第二是如何更广泛地处理。Arm先构建了Neoverse CPU核心，当然，这利用了我们在功耗等方面的优势，然后在此基础上添加了基础设施所需的功能和性能。

除此之外，我们最近还在构建 Neoverse计算子系统，可以让市场上的更多参与者能够更容易地获得硅片设计。如果回顾五年或十年前，当您看到谁在为基础设施、服务器构建 Arm 时，这些都是试图使用自己的微架构构建自己的 CPU 内核的人，然后他们必须将所有其他部分组合在一起。然后，在此基础上，他们将获得巨大的软件提升。因此，软件现在处于良好状态。最重要的是，硅片和这些东西的可访问性已准备就绪，因为我们不仅拥有基础设施级内核，而且还将它们与计算子系统集成在一起，使他们可以非常轻松地采用。

第三点就是如今正处在人工智能的巨大转折点，如果从系统级思维思考，因为需要大量的数据和计算，现实情况是数据中心资源是有限的，资本支出是有限的，因此功耗非常重要。

因此，你所看到的这些超大规模公司，如 Nvidia，正在研究他们的整个解决方案。因此，无论是 Google、Microsoft、AWS 还是 Nvidia，都需要从头开始设计，甚至构建完整的芯片组，包括网络交换、加速器以及其他系统。客户需要的是围绕数据中心构建芯片，而不是围绕芯片构建数据中心，因此Arm提供一揽子优化系统效率和性能，从而让客户专注于他们自身的需求。

尤其是 Nvidia，当你看到他们的旗舰 AI 产品时，你会发现非常有趣，它原来是 Grace Hopper Superchip，现在变成了带有 GB200 NVL72 系统的 Grace Blackwell。

我曾见过有人谈论使用 CPU 来处理 AI 工作负载本身，可能更多的是推理。但您对基于 Arm 的 CPU 在 AI 领域的应用有何看法？

所以有几件事。最明显的答案是围绕加速器的管理。加速器就是加速器，无论是 GPU 还是ASIC。如果没有 CPU 的帮助，它就无法运行，CPU 可以帮助完成一些预处理、检查点以及与加速器芯片相关的所有其他工作，这就是为什么会有 Grace Blackwell 或 Grace Hopper 类型的系统以及它们存在的原因。

从历史上看，一个 x86 节点会配备四个加速器，现在，它们的比例是一比一或一比二，除了管理之外，还负责内存一致性等工作。

最终，推理将渗透到计算的各个方面，这意味着它不会只与云端系统相关联，还将渗透到从墙上的温度传感器到数据中心的所有地方。在每种用例中，您都将拥有独特的应用程序，这些应用可以执行推理。模型大小将决定推理的落脚点，根据不同细粒度选择不同的芯片。

对于非常大的推理应用，可能需要Grace Blackwell类的产品，对于最小的推理负载，CPU就可以执行了。所以Arm提供了SVE，[可扩展矢量扩展]。SVE会和 CPU以及其他小型加速器一起处理，与 SOC 内的每个 CPU 内核紧密耦合，因此，随着时间的推移，将会出现各种不同规模的加速器。

您能否谈谈为什么从成本角度来看设计基于 Arm 的处理器对这些公司具有吸引力？

对于内部产品而言，只要 CPU 或芯片可以提供更好的总拥有成本，他就会有一个稳定的客户。

这其中，成本有两个方面构成。第一个方面是设计芯片的实际成本，Arm的Total Design以及计算子系统可以降低开发成本。另外，除了芯片的物理设计之外，还有重要的软件生态投入。包括Oracle、Microsoft、Google、AWS 等，他们不止采用了 Arm，还在积极投资软件生态系统。尤其是“每瓦每美元的性能表现，Arm最出色。”

您如何看待 Arm 在本地边缘服务器领域的发展？

事实上，早在 Neoverse 推出时，我们就关注边缘的节点供应商，他们也在使用类似云原生的软件堆栈，这也是我们如此紧密合作建立 Arm Total Design 生态系统的原因之一，采用Neoverse计算子系统的客户而言你，因为它实际上正在开始创建实际上可互换的芯片。因此，我们有许多这样的团队正在基于我们的计算构建计算芯片，这些芯片看起来与超大规模设计公司正在构建的芯片非常相似，但现在它们可以直接使用低成本且现成的计算子系统，减轻了所有人的负担。

和x86相比，Arm 是什么时候跨越门槛的，从“一样好”到“更好”？

我确实认为我们开始走上这条轨迹，但我真的很难确定跨越这条轨迹的某个时刻。我儿子周一就要满 18 岁了，我想，他是在什么时候成为男人的？我有点不清楚那一刻究竟是什么时候发生的，好像我们突然就到了那里。从某种程度上来说，这感觉就像是同一件事。它已经酝酿了差不多同样长的时间。这是我们长期以来一直在投资的事情。当我想到它时，我想到几个重要的里程碑。

坦率地说，我认为当 AWS 推出第一个 Graviton 实例时，那是一个关键时刻，因为它使基于 Arm 的计算变得广泛可用，因此人们可以以低风险、低成本非常轻松地在云中尝试它。结果很明显，对吧？排名前 50,000 的客户正在使用它，排名前 1,000 的客户中有 90%，排名前 100 的客户全部都在使用 Arm。

我认为 Neoverse 的推出，让我们放弃了这样的想法：过去你要么采用手机处理器IP，尝试拼凑一个CPU，要么使用架构许可证进行完整的从头设计。我们则是通过承担更多工作，简化客户的开发。并且每一代似乎都比前一代好一点。

· END ·

欢迎将我们设为“星标”，这样才能第一时间收到推送消息。

关注EEWorld旗下订阅号：“机器人开发圈”

回复“DS”领取《DeepSeek:从入门到精通》完整版

扫码添加小助手回复“机器人”

进群和电子工程师们面对面交流经验

登录阅读全文



免责声明：该内容由专栏作者授权发布或作者转载，目的在于传递更多信息，并不代表本网赞同其观点，本站亦不保证或承诺内容真实性等。若内容或图片侵犯您的权益，请及时联系本站删除。侵权投诉联系： nick.zong@aspencore.com！

电子工程世界关注EEWORLD电子工程世界，即时参与讨论电子工程世界最火话题，抢先知晓电子工程业界资讯。

进入专栏

电子工程世界关注EEWORLD电子工程世界，即时参与讨论电子工程世界最火话题，抢先知晓电子工程业界资讯。

文章：5671篇粉丝：94人

关注  私信

NVIDIA、谷歌、亚马逊、微软，为什么AI厂商都青睐它？

最近文章

热门文章

推荐

最新资讯