分析丨亚马逊自研造芯,能否复制Graviton的成功经验?

原创 AI芯天下 2024-12-13 20:30

·聚焦:人工智能、芯片等行业

欢迎各位客官关注、转发






前言

亚马逊目前拥有三款自主研发的芯片,分别是CPU芯片Graviton 4,主要与英特尔的产品竞争;


AI训练芯片Trainium 2,与英伟达的A100/H100等高端AI训练芯片竞争;


以及AI推理芯片Inferentia 2,与英伟达的A10等入门级AI推理芯片竞争。



作者 | 方文三
图片来源 |  网 络 


[雷尼尔计划]:构建规模庞大的算力集群


近日,Anthropic公司联合创始人兼首席计算官汤姆·布朗在亚马逊AWS举办的年度全球大会上,正式对外公布了[雷尼尔计划]。


该计划的核心目标在于,Anthropic计划构建一个规模庞大的算力集群,其中将集成数十万枚亚马逊自主研发的芯片,这一数量将是Anthropic现有算力集群的五倍以上。


若[雷尼尔计划]得以实施,Anthropic将跻身全球最大的人工智能算力集群之一。


Anthropic是一家获得亚马逊投资的AI创业公司,其主要竞争对手为微软支持的AI创业公司OpenAI。


Anthropic推出的Claude系列模型在性能上表现出色,是市场上为数不多能与OpenAI旗下GPT-4模型相媲美的产品。


Anthropic选择使用亚马逊自研芯片的一个关键因素在于亚马逊是其主要投资者,两家公司之间存在深度的合作关系。


亚马逊还期望Anthropic能够采用其自研的Trainium系列AI训练芯片和Inferentia系列AI推理芯片来部署其大型模型。


在这样的合作框架下,Anthropic的大量训练和推理算力需求将直接促进亚马逊AWS的收入增长;


并可能吸引一批对生成式AI技术感兴趣的商业客户,进而推动其他基础云服务产品的交叉销售。



[登月]计划:在自身数据中心部署十万颗自研芯片


近日,彭博社报道,为降低对英伟达芯片的依赖,亚马逊已悄然启动一项名为[登月]的计划。


该计划的核心是在其位于德克萨斯州奥斯汀的工程实验室中,加速开发一款名为Trainium2的新型人工智能芯片。


该芯片的开发目标是在亚马逊自身的数据中心内部署十万颗,旨在提升数据处理的效率并降低人工智能芯片的采购成本。


Trainium2的研发始于亚马逊在2015年收购Annapurna Labs之后,该项目便在秘密中进行。


根据亚马逊提供的数据,Trainium2相较于前一代产品,在训练速度上提升了四倍,能效提升了两倍,内存容量更是达到了之前的三倍。


该芯片能够在EC2 UltraClusters中扩展至十万颗芯片,从而在极短的时间内训练基础模型和大型语言模型。


目前,Trainium2芯片正在接受包括Anthropic、Databricks、Stockmark等人工智能初创公司以及德国电信、日本理光等多家客户的测试。


在今年十月,Databricks与亚马逊网络服务(AWS)签署了一项全面的合作协议,承诺采纳AWS的Trainium芯片。


尽管Databricks的AI工具目前主要依赖于英伟达的硬件平台,但该公司已计划逐步以Trainium芯片取代部分现有硬件。


亚马逊AWS的首席执行官马特·加曼近期宣布,计划在2025年量产新一代AI训练芯片Trainium 3。


该芯片采用3纳米工艺,性能是前代产品Trainium 2的两倍,性价比预计提升40%。


Trainium3芯片是为满足下一代生成式人工智能工作负载的高性能需求而专门设计的,它将帮助客户更快速地构建更大规模的模型,并在模型部署时提供卓越的性能。



云厂商自研AI芯片的意愿愈发强烈


目前,亚马逊的AWS和阿里巴巴的云服务已经实现了CPU的大规模量产,有效减少了计算能力的成本。


即便面临更高的成本,为了摆脱对外部技术的依赖,部分云服务提供商仍然坚持自主研发的策略。


数据中心芯片市场主要由CPU芯片和GPU/AI芯片两大领域构成。在GPU/AI芯片市场中,英伟达公司占据了主导地位,其市场份额超过九成,目前受到的影响相对较小。


然而,这种情况可能不会持久。近年来,云服务提供商为了在大型模型这一关键领域占据优势,大量采购英伟达的AI芯片,导致其资本支出大幅增加。


因此,云服务提供商自行研发AI芯片的意愿愈发强烈。


若云服务提供商能够实现自主研发芯片的大规模生产,其采购与运营成本将得以显著降低。


2024年,亚马逊AWS全球新增的CPU算力中,超过一半将基于Arm架构的Graviton系列芯片,其规模已超越x86架构芯片。


第三方数据表明,2023年推出的M7g系列实例中,基于Amazon Graviton的实例已与英特尔、AMD形成三足鼎立之势,这进一步证实了Graviton芯片在通用计算实例中的广泛认可。


根据云成本管理和优化平台Vantage的调查报告,2024年第一季度,在Amazon EC2 M7系列通用实例的成本支出方面,采用Graviton的M7g系列的市场份额已超过三分之一(34.5%)。


至2024年第二季度,在Amazon RDS、Amazon ElastiCache和Amazon OpenSearch等托管服务中,基于Amazon Graviton的选项已超越英特尔,越来越多的客户倾向于选择基于Graviton的托管服务。


包括苹果公司、全球最大的ERP(企业资源管理)软件企业SAP、AI创业公司Anthropic、知名数据分析企业Datadog、社交平台Pinterest在内的多家知名企业,都是亚马逊AWS三款自研芯片云服务的用户。


苹果公司的搜索产品采用了Graviton 4和Inferentia 2的云服务,其机器学习推理工作负载的效率提升了40%以上。



规模优势是降低成本的最优解


若非亚马云科技所具备的规模优势,Amazon Graviton便难以吸引众多用户,其出货量亦不会如此庞大。


规模优势的缺失将导致Amazon Graviton的成本无法降低,正是云服务的规模与芯片制造的规模共同铸就了Amazon Graviton的成功。


云计算的庞大规模为亚马逊云科技提供了硬件研发的坚实基础,而硬件研发的成果又进一步促进了技术创新。


这些创新成果随着规模的扩大而不断放大效益。


同时,技术创新亦反向推动了云计算服务能力的提升,形成了一个良性循环。


规模效应在其他自研芯片上的作用亦不可忽视。


除了Amazon Graviton之外,亚马逊云科技还自主研发了基于ASIC芯片的Amazon Nitro系统,以及专为机器学习训练设计的Amazon Trainium和用于机器学习推理的Amazon Inferentia芯片,这些芯片同样得益于亚马逊云科技的规模优势。


真正的考验在于大规模部署时,用户的实际反馈将决定新芯片的成功与否。


AWS的一个显著优势在于其芯片能够以更低的能耗运行,这使得其数据中心的运行更为高效,从而有助于降低成本。


若将英伟达的GPU比作强大的通用工具,那么亚马逊则能够针对特定任务和服务优化其芯片。


分析师指出,对于大多数企业而言,选择英伟达还是亚马逊并非紧迫问题。


因为大型企业更关注如何从运行人工智能模型中获取价值,而非如何训练它们。


这样的市场趋势对亚马逊而言是利好消息,因为客户不会注意到云服务背后是由哪家芯片厂商提供支持。


定制硬件可以提供非常具体的并行化功能,这可能比通用型GPU的性能更优。



结尾:任何技术路径所面临的挑战都是巨大的


与英伟达的GPU相比,亚马逊的芯片更专注于特定任务的优化,正如小型轿车与全能旅行车的比较,亚马逊的芯片更为精简和高效。


尽管亚马逊投入巨大,但目前AWS和Annapurna在人工智能基础设施市场中对英伟达的影响仍然有限。


此外,由于初期用量低,可能会导致高昂的成本,再加上研发成本,这无疑对公司在推进自研芯片方面构成了挑战。


在软件领域,挑战更为严峻。目前全球主要的通用并行图形处理单元(GPGPU)大多依赖于英伟达的CUDA生态系统,若不兼容则难以部署。


这使得英伟达在软硬件结合方面具有显著的先发优势。重新构建软件生态系统虽然是一条可行之路,但一旦成功,将带来巨大的商业利益。


然而,分析人士认为,亚马逊目前提供的Neural SDK软件工具尚处于起步阶段,尚无法与英伟达的解决方案相抗衡。


总结而言,亚马逊Trainium2芯片的抱负堪比人类登月,一旦成功,其商业回报将是巨大的。然而,如同登月任务充满风险,Trainium2芯片要成功替代英伟达H100,还有很长的路要走。


部分资料参考:财经杂志:《下一个OpenAI+微软?Anthropic将使用数十万枚亚马逊自研芯片》,Z Finance:《亚马逊迎来对英伟达关键一战,正部署10万颗自研二代芯片》,智能进化论:《自研芯片逾十年,亚马逊云科技Graviton系列芯片全面成熟》,雷锋网:《亚马逊自研3nm Trainium芯片,能否成为英伟达之外的第二选择?》,电子发烧友网:《亚马逊启动[登月]计划,目标部署10万颗自研AI芯片》,快客硬核AI:《亚马逊推出自研AI芯片,挑战Nvidia市场霸主地位》


本公众号所刊发稿件及图片来源于网络,仅用于交流使用,如有侵权请联系回复,我们收到信息后会在24小时内处理。



END


推荐阅读:


商务合作请加微信勾搭:
18948782064

请务必注明:

「姓名 + 公司 + 合作需求」


AI芯天下 聚焦人工智能,AI芯片,5G通讯等行业动态
评论
  • 随着全球向绿色能源转型的加速,对高效、可靠和环保元件的需求从未如此强烈。在这种背景下,国产固态继电器(SSR)在实现太阳能逆变器、风力涡轮机和储能系统等关键技术方面发挥着关键作用。本文探讨了绿色能源系统背景下中国固态继电器行业的前景,并强调了2025年的前景。 1.对绿色能源解决方案日益增长的需求绿色能源系统依靠先进的电源管理技术来最大限度地提高效率并最大限度地减少损失。固态继电器以其耐用性、快速开关速度和抗机械磨损而闻名,正日益成为传统机电继电器的首选。可再生能源(尤其是太阳能和风能
    克里雅半导体科技 2025-01-10 16:18 317浏览
  • 流量传感器是实现对燃气、废气、生活用水、污水、冷却液、石油等各种流体流量精准计量的关键手段。但随着工业自动化、数字化、智能化与低碳化进程的不断加速,采用传统机械式检测方式的流量传感器已不能满足当代流体计量行业对于测量精度、测量范围、使用寿命与维护成本等方面的精细需求。流量传感器的应用场景(部分)超声波流量传感器,是一种利用超声波技术测量流体流量的新型传感器,其主要通过发射超声波信号并接收反射回来的信号,根据超声波在流体中传播的时间、幅度或相位变化等参数,间接计算流体的流量,具有非侵入式测量、高精
    华普微HOPERF 2025-01-13 14:18 437浏览
  • 01. 什么是过程能力分析?过程能力研究利用生产过程中初始一批产品的数据,预测制造过程是否能够稳定地生产符合规格的产品。可以把它想象成一种预测。通过历史数据的分析,推断未来是否可以依赖该工艺持续生产高质量产品。客户可能会要求将过程能力研究作为生产件批准程序 (PPAP) 的一部分。这是为了确保制造过程能够持续稳定地生产合格的产品。02. 基本概念在定义制造过程时,目标是确保生产的零件符合上下规格限 (USL 和 LSL)。过程能力衡量制造过程能多大程度上稳定地生产符合规格的产品。核心概念很简单:
    优思学院 2025-01-12 15:43 468浏览
  • 新年伊始,又到了对去年做总结,对今年做展望的时刻 不知道你在2024年初立的Flag都实现了吗? 2025年对自己又有什么新的期待呢? 2024年注定是不平凡的一年, 一年里我测评了50余块开发板, 写出了很多科普文章, 从一个小小的工作室成长为科工公司。 展望2025年, 中国香河英茂科工, 会继续深耕于,具身机器人、飞行器、物联网等方面的研发, 我觉得,要向未来学习未来, 未来是什么? 是掌握在孩子们生活中的发现,和精历, 把最好的技术带给孩子,
    丙丁先生 2025-01-11 11:35 422浏览
  • 随着数字化的不断推进,LED显示屏行业对4K、8K等超高清画质的需求日益提升。与此同时,Mini及Micro LED技术的日益成熟,推动了间距小于1.2 Pitch的Mini、Micro LED显示屏的快速发展。这类显示屏不仅画质卓越,而且尺寸适中,通常在110至1000英寸之间,非常适合应用于电影院、监控中心、大型会议、以及电影拍摄等多种室内场景。鉴于室内LED显示屏与用户距离较近,因此对于噪音控制、体积小型化、冗余备份能力及电气安全性的要求尤为严格。为满足这一市场需求,开关电源技术推出了专为
    晶台光耦 2025-01-13 10:42 449浏览
  •   在信号处理过程中,由于信号的时域截断会导致频谱扩展泄露现象。那么导致频谱泄露发生的根本原因是什么?又该采取什么样的改善方法。本文以ADC性能指标的测试场景为例,探讨了对ADC的输出结果进行非周期截断所带来的影响及问题总结。 两个点   为了更好的分析或处理信号,实际应用时需要从频域而非时域的角度观察原信号。但物理意义上只能直接获取信号的时域信息,为了得到信号的频域信息需要利用傅里叶变换这个工具计算出原信号的频谱函数。但对于计算机来说实现这种计算需要面对两个问题: 1.
    TIAN301 2025-01-14 14:15 66浏览
  • 说到福特,就要从亨利·福特(Henry Ford)这个人物说起。在发明大王爱迪生的电气工厂担任工程师的福特下班后,总是在自家仓库里努力研究和开发汽车。1896年,福特终于成功制造出一辆三轮车,开启了福特汽车的传奇。最初几年,福特都是独自制造汽车并同时进行销售。 (今天很多人都知道的精益管理中的5S方法,或多或少地受到了福特 CANDO方法的影响。)1903年,福特从牧师、律师、银行家、会计师等十一位股东那里筹集了十万美元,并在自家庭院成立了美国第五百零三家汽车公司——福特汽车公司(Fo
    优思学院 2025-01-10 11:21 49浏览
  • 根据Global Info Research(环洋市场咨询)项目团队最新调研,预计2030年全球无人机电池和电源产值达到2834百万美元,2024-2030年期间年复合增长率CAGR为10.1%。 无人机电池是为无人机提供动力并使其飞行的关键。无人机使用的电池类型因无人机的大小和型号而异。一些常见的无人机电池类型包括锂聚合物(LiPo)电池、锂离子电池和镍氢(NiMH)电池。锂聚合物电池是最常用的无人机电池类型,因为其能量密度高、设计轻巧。这些电池以输出功率大、飞行时间长而著称。不过,它们需要
    GIRtina 2025-01-13 10:49 152浏览
  • 随着通信技术的迅速发展,现代通信设备需要更高效、可靠且紧凑的解决方案来应对日益复杂的系统。中国自主研发和制造的国产接口芯片,正逐渐成为通信设备(从5G基站到工业通信模块)中的重要基石。这些芯片凭借卓越性能、成本效益及灵活性,满足了现代通信基础设施的多样化需求。 1. 接口芯片在通信设备中的关键作用接口芯片作为数据交互的桥梁,是通信设备中不可或缺的核心组件。它们在设备内的各种子系统之间实现无缝数据传输,支持高速数据交换、协议转换和信号调节等功能。无论是5G基站中的数据处理,还是物联网网关
    克里雅半导体科技 2025-01-10 16:20 420浏览
  • 电动汽车(EV)正在改变交通运输,为传统内燃机提供更清洁、更高效的替代方案。这种转变的核心是电力电子和能源管理方面的创新,而光耦合器在其中发挥着关键作用。这些不起眼的组件可实现可靠的通信、增强安全性并优化电动汽车系统的性能,使其成为正在进行的革命中不可或缺的一部分。光耦合器,也称为光隔离器,是一种使用光传输电信号的设备。通过隔离高压和低压电路,光耦合器可确保安全性、减少干扰并保持信号完整性。这些特性对于电动汽车至关重要,因为精确控制和安全性至关重要。 光耦合器在电动汽车中的作用1.电池
    腾恩科技-彭工 2025-01-10 16:14 69浏览
  • Snyk 是一家为开发人员提供安全平台的公司,致力于协助他们构建安全的应用程序,并为安全团队提供应对数字世界挑战的工具。以下为 Snyk 如何通过 CircleCI 实现其“交付”使命的案例分析。一、Snyk 的挑战随着客户对安全工具需求的不断增长,Snyk 的开发团队面临多重挑战:加速交付的需求:Snyk 的核心目标是为开发者提供更快、更可靠的安全解决方案,但他们的现有 CI/CD 工具(TravisCI)运行缓慢,无法满足快速开发和部署的要求。扩展能力不足:随着团队规模和代码库的不断扩大,S
    艾体宝IT 2025-01-10 15:52 158浏览
  • 在不断发展的电子元件领域,继电器——作为切换电路的关键设备,正在经历前所未有的技术变革。固态继电器(SSR)和机械继电器之间的争论由来已久。然而,从未来发展的角度来看,固态继电器正逐渐占据上风。本文将从耐用性、速度和能效三个方面,全面剖析固态继电器为何更具优势,并探讨其在行业中的应用与发展趋势。1. 耐用性:经久耐用的设计机械继电器:机械继电器依靠物理触点完成电路切换。然而,随着时间的推移,这些触点因电弧、氧化和材料老化而逐渐磨损,导致其使用寿命有限。因此,它们更适合低频或对切换耐久性要求不高的
    腾恩科技-彭工 2025-01-10 16:15 89浏览
  • ARMv8-A是ARM公司为满足新需求而重新设计的一个架构,是近20年来ARM架构变动最大的一次。以下是对ARMv8-A的详细介绍: 1. 背景介绍    ARM公司最初并未涉足PC市场,其产品主要针对功耗敏感的移动设备。     随着技术的发展和市场需求的变化,ARM开始扩展到企业设备、服务器等领域,这要求其架构能够支持更大的内存和更复杂的计算任务。 2. 架构特点    ARMv8-A引入了Execution State(执行状
    丙丁先生 2025-01-12 10:30 423浏览
  • PNT、GNSS、GPS均是卫星定位和导航相关领域中的常见缩写词,他们经常会被用到,且在很多情况下会被等同使用或替换使用。我们会把定位导航功能测试叫做PNT性能测试,也会叫做GNSS性能测试。我们会把定位导航终端叫做GNSS模块,也会叫做GPS模块。但是实际上他们之间是有一些重要的区别。伴随着技术发展与越发深入,我们有必要对这三个词汇做以清晰的区分。一、什么是GPS?GPS是Global Positioning System(全球定位系统)的缩写,它是美国建立的全球卫星定位导航系统,是GNSS概
    德思特测试测量 2025-01-13 15:42 445浏览
  • LVGL(Light and Versatile Graphics Library)是一个免费的开源图形库,旨在为各种微控制器(MCU)和微处理器(MPU)创建美观的用户界面(UI)。LVGL可以在占用很少资源的前提下,实现丝滑的动画效果和平滑滚动的高级图形,具有轻量化、跨平台可用性、易于移植、操作友好以及免费使用等诸多优势。近期,飞凌嵌入式为OK3506J-S开发板移植了最新9.2版本的LVGL,支持多种屏幕构件以及鼠标、键盘、触摸等多种输入方式, 能够带来更加友好的操作界面;同时,启动速度也
    飞凌嵌入式 2025-01-10 10:57 39浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦