亚马逊云科技re:Invent现场访谈:定制芯片将是大势所趋

原创 趣味科技v 2022-12-12 13:56

关注云服务市场的读者朋友想必都知道,虽然芯片市场早已有着英特尔、AMD、英伟达、高通、联发科技等诸多强有力的厂商,但是近年来针对某些应用,越来越多的云服务商开始推出自研芯片。

那么问题就来了:究竟是什么样的原因,让这些云服务商走上了定制芯片的道路?与大家熟知的传统芯片相比,这些定制芯片究竟拥有哪些优势?对于芯片市场而言,这种变化又预示着怎样的未来?

作为亚马逊云科技EC2产品管理总监,Chetan Kapoor主要负责人工智能、机器学习、高性能计算、图像处理、游戏开发等业务。在2022亚马逊云科技re:Invent全球大会现场,趣味科技通过对Chetan Kapoor的采访,逐一揭晓了以上问题的答案。

亚马逊云科技的三类计算服务

在计算领域,亚马逊云科技的产品与服务主要有三个大的分类。

1、按需索取:以Amazon EC2为代表。Amazon EC2的核心能力,就是将重要资源分离开来并按需交给客户。客户无需在本地进行硬件堆砌,只需使用一个API或者在亚马逊云科技的控制台发出计算资源请求后,即可向客户提供所需的服务。

2、无服务器:以Amazon Lambda系列为代表。该系列产品是一种无服务器计算组件,客户无需管理计算资源,只需提供相关代码并允许亚马逊云科技执行代码,亚马逊云科技就会围绕该代码提供一系列的相关应用,客户只需做好应用即可。

3、容器计算:容器化计算的所有应用都是基于容器,亚马逊云科技提供了一系列可以帮助客户开发容器化应用的服务;Amazon Fargate则让客户只需要创建容器,给出指令“这是我的容器,运行它”即可。

亚马逊云科技的自研芯片之旅

Chetan Kapoor透露,之前亚马逊云科技在很长时间里都是用英特尔、英伟达、AMD等合作伙伴的芯片,譬如Amazon EC2就是基于英特尔提供的芯片开发的,在机器学习领域采用了英伟达的GPU效果也非常不错。然而后续亚马逊云科技也不断收到客户的积极反馈,希望能够有更加细化的产品服务可供选择,帮助客户围绕某些应用降本增效,提升性能,以及更好地匹配应用需求。

“十年前亚马逊云科技开始做自研芯片,刚开始是Amazon Nitro虚拟化芯片,后面又开始打造Amazon Graviton CPU芯片。过去的四到五年里,我们的重点都是持续构建芯片来加速人工智能和机器学习应用的开发。”Chetan Kapoor介绍道,亚马逊云科技的自研芯片之旅是从开发Amazon Nitro芯片开始,它是帮助用户卸载虚拟化工作负载的专用芯片。通常硬件虚拟化的主要方式是让虚拟化软件在同一台服务器上运行,支持客户的工作负载。假设客户的服务器是48核心,那么大概需要预留10%-15%的算力来运行虚拟化软件。而Amazon Nitro是有自己独立CPU的芯片,具备单独完成虚拟化的能力,服务器就不需要承担虚拟化软件的资源开销,可以给客户交付更高性能的实例(云主机)。从此,亚马逊云科技就走上了定制芯片之路,也开始开发通用处理器,其中第一个版本就是4年前推出的Amazon Graviton。

除此之外,人工智能与机器学习也是客户向亚马逊云科技反馈较多的领域,尤其是当前深度学习模型的应用普及非常迅速,每年都会有十几倍的增长,训练这些深度学习模型需要消耗大量算力和成本,让许多企业不堪重负。为了帮助客户降低成本,亚马逊云科技开始进行自研深度学习推理芯片的开发,发布的第一款芯片就是2019年推出的Amazon Inferentia。随后亚马逊云科技又再接再厉推出了Amazon Trainium,主要针对机器学习训练工作负载。

在亚马逊云科技2022 re:Invent全球大会上,亚马逊云科技高级副总裁Peter DeSantis重磅发布了Nitro v5,其晶体管数量是前一代产品的2倍,提供了更多的计算性能,同时带来了50%的DRAM内存性能提升,2倍的PCle 带宽提升,每秒数据包速率(PPS) 提高60%,延迟改善30%,每瓦性能提高40%。亚马逊云科技CEO Adam Selipsky也在会上发布了下一代Amazon Inferentia2(简称Inf2),与Inf1实例相比可提供高3倍的计算性能、高4倍的吞吐量和低10倍的延迟。

定制芯片性能高成本低的奥秘

为什么与商用芯片相比,定制芯片既可以做到非常高的性能,又能够做到非常低的成本?

Chetan Kapoor揭晓了其中的奥秘:“因为专用芯片把运算能力都给到了客户,极大地提升了效率。以刚才介绍的Amazon Nitro为例,Nitro的特殊之处在于独立性,整个虚拟化是在独立的芯片和服务器运行,因此可以让客户得到服务器100%的算力资源,这也意味着客户得到的计算性能更高、成本更低。”

在Amazon Nitro芯片研发取得成功之后,亚马逊云科技就开始着手研发自己的处理器,希望能够帮助客户降低成本,提升效率。事实也证明,Amazon Graviton2的同规格实例性价比提升高达40%。而在人工智能与机器学习领域,亚马逊云科技也专门研发了针对机器学习推理的芯片,可以带来更好的性能、更低的成本以及更强的机器学习推理能力。与Amazon Graviton带来的收益类似,客户可以看到亚马逊云科技提供的机器学习芯片无论是用于模型训练还是日常生产,性价比都要比其他同类产品高出40%-50%。

在2022亚马逊云科技re:Invent全球大会上,亚马逊云科技高级副总裁Peter DeSantis还发布了Amazon Graviton3E 芯片以及高性能计算实例HPC7g、C7gn,与现有的Graviton系列产品相比,新的Amazon Graviton3E芯片无论是性能还是精度都有着更高的提升,其中对依赖矢量计算指令的工作负载其性能提高了35%。

定制芯片将会成为未来主流

从2006年3月14日亚马逊云科技发布第一个云存储服务Amazon Simple Storage Service(简称S3)至今,云计算已经走过了16年的发展历程。然而在Chetan Kapoor看来,其实一切还只是刚刚开始:“如今许多传统行业,包括金融和医疗等很多都还处于上云的初级阶段,很多企业还在用自建的数据中心,因此云计算在未来还有着非常广阔的发展前景。”

而对于定制芯片的未来,亚马逊全球副总裁兼CTO Werner Vogels博士有着这样的预测:“2023年定制芯片的使用将迅速增加。因此,随着工作负载将利用硬件优化来最大限度地提高性能,同时降低能耗和成本,创新的步伐将会进一步加快。”

Werner Vogels博士指出,在消费技术行业,定制芯片和定制硬件因为在性能上的显著提升而获得了迅速发展,但是商业应用程序和系统的情况却并非如此。然而随着定制芯片的普及和采用,这种情况将在未来几年迅速发生改变。亚马逊云科技近年来之所以在芯片设计上投入大量资金,正是因为亚马逊云科技知道客户的工作负载在定制芯片上运行,会具有更好的性能以及更高的成本效益。

“以机器学习工作负载为例,未来几年越来越多的工程师将会看到将工作负载转移到专为模型训练(Amazon Trainium)和推理(Amazon Inferentia)设计的芯片所带来的好处。通过使用基于Trainium的实例实现约50%的训练成本节省,或者使用基于Inferentia2的实例实现50%的每瓦特性能提升,工程师和企业都会注意到,我们将开始工作负载的大规模迁移。而在性能提升以及成本节约上的巨大优势,也将带来更多的实验、创新以及应用,并最终为其他特定工作负载提供更多的定制芯片,从而形成一个良性循环。”Werner Vogels博士表示。


趣味科技v 资深媒体人彭承文和他的小伙伴们耕耘打理的科技自媒体,传播趣味文章,八卦前卫科技,年度十大媒体人,十佳科技自媒体,美通社媒体传播专家,2018平昌冬奥会火炬手.
评论 (0)
  • 晨穹电子一家专业从事研发、生产、销售各类传感器为一体的高新科技企业。1 人赞同了该文章在工业4.0、智能家居、新能源汽车等场景中,传感器作为数据采集的核心器件,其抗电磁干扰(EMC)能力直接影响系统可靠性。尤其在5G通信、高功率电机、无线充电等复杂电磁环境下,传感器的信号失真问题愈发突出。本文结合MEMS传感器、物联网(IoT)设备、边缘计算等热度技术,解析提升传感器抗干扰能力的6大策略。 一、电磁干扰对传感器的威胁; 1、电磁干扰(EMI)会导致传感器出现 。2、信号跳变(
    传感器晨穹 2025-03-18 09:28 79浏览
  • 新兴的个人健康监测技术为何在医疗场景和日常生活中越来越受到青睐?为了准确回答这个关键问题,我们首先需要理解三个全球性趋势:如今,几乎人手一部智能手机,这等于随身携带了一台高性能计算机、一个全天候运行的智能医疗传感器中心,还有一块显示屏。发达工业国家的人口正在迅速老龄化,而老年群体的疾病发病率较高。与此同时,年轻人也比过去更加关注如何延长健康寿命。这些人群以及服务他们的医务人员可以利用新技术来优化生活方式,合理调控运动、饮食、睡眠和压力等关键因素,帮助他们作出更健康的生活选择。如摩尔定律所预言,半
    艾迈斯欧司朗 2025-03-17 21:50 73浏览
  • 文/Leon编辑/cc孙聪颖‍蛇年春晚最有意思的节目,一定非机器人跳舞莫属。就算是遥控或预编程,机器人能够做出如此复杂的动作,在五年前都是不敢想象的事情,其制造商宇树科技也因此火爆全网。就在春节过后不到一个月,会骑自行车的人形机器人诞生了。这背后,是近年来“具身智能”概念的迅猛发展。“我们造了一个跟人一样灵动的机器人!”3月11日,智元机器人联合创始人兼首席技术官彭志辉在微博上说道。在视频中,灵犀X2会骑自行车、能跳《科目三》,还可以与人促膝长谈,甚至拿起葡萄“穿针引线”。在全球人形机器人领域,
    华尔街科技眼 2025-03-17 12:38 112浏览
  • 失效模式与影响分析(FMEA)失效模式与影响分析(FMEA)是一种系统方法,用于识别和分析系统或过程中的潜在失效,广泛应用于工程和制造领域,以提高产品可靠性和安全性。最新标准由 2019 年发布的 AIAG-VDA FMEA 手册(第一版) 定义,该手册结合了美国和欧洲汽车行业的最佳实践,并引入了 七步法,确保分析全面且结构化。图:优思学院六西格玛新版 FMEA 失效分析的七个步骤1. 规划与准备确定 FMEA 研究的 范围、边界和目标。组建跨职能团队(设
    优思学院 2025-03-17 14:43 114浏览
  • 在招聘合适的人才时,清晰度至关重要。想要找到合适的人选,并确保他们在岗位上取得成功,第一步就是明确职位的关键绩效指标(KPI)和预期成果。但光有这些还不够,如何判断候选人是否具备必要的特质?这时,KSA模型就派上用场了。它是一个简单但强大的方法,能帮助你聚焦于真正影响岗位表现的关键要素。今天,我想和你聊聊这个模型,帮你更轻松地为合适的候选人设定合适的KPI。了解KSA模型KSA代表知识(Knowledge)、技能(Skills)和态度(Attitude),是评估候选人是否适合岗位的三个关键维度。
    优思学院 2025-03-18 15:03 52浏览
  • 一、引言:语音芯片的智能化浪潮在万物互联的智能化时代,语音交互技术已成为人机交互的重要纽带。从智能家电的提示音到儿童玩具的趣味互动,从工业设备的语音告警到公共服务设施的自动播报,语音播放芯片IC作为核心硬件支撑,正在重塑各行各业的用户体验。在众多解决方案中,WTN6、WT588、WT2003H、WTV四大系列产品,凭借差异化的技术特性构建了完整的语音芯片产品矩阵。本文将深度解析这四大主流芯片的技术特点与应用场景,为开发者提供选型参考。二、主流语音芯片技术特性全解析2.1 WTN6系列:高性价比的
    广州唯创电子 2025-03-17 09:04 146浏览
  • 在工业4.0与智能制造深度融合的今天,设备实时性、稳定性和成本效益成为企业核心竞争力的关键。触觉智能将基于RK3506平台,分享工业应用方案,本期为大家带来DSMC串行接口在数控行业的应用。DSMC技术解析底层架构突破双倍数据速率:通过上升沿与下降沿双重触发机制,实现单周期内2倍数据吞吐量,较传统SPI接口效率提升300%。多通道并行:支持8线/16线位宽可配置模式,满足多轴协同场景下的同步通信需求。性能实测标杆超低延迟:FPGA互联场景下,写延时小于75ns,读延时小于260ns,相比PCIe
    Industio_触觉智能 2025-03-18 11:46 54浏览
  •        在工业视觉检测线上,一台搭载传统图像传感器的机器人因高温导致图像噪点激增,误将合格零件判定为瑕疵品,每小时损失超10万元;在深夜的安防监控画面中,模糊的噪点让犯罪分子身影难以识别,导致案件侦破延迟—— 噪声,已成为图像传感器行业的“无声杀手”。据Yole统计,全球约35%的工业检测误差源于传感器噪声干扰,而安防场景下60%的有效信息因低照度噪点丢失。传统方案试图通过单一优化像素或电路来降噪,却陷入“按下葫芦浮起瓢”的困境。  &nb
    中科领创 2025-03-18 10:24 49浏览
  • 近期,据全球物联网市场调研机构IoT Analytics公布数据显示,2025年全球物联网设备连接数预计将突破200亿,同比增长约14%,物联网技术正以稳定上升态势向工业自动化、智慧城市、智慧农业与智慧家居等领域纵深推进。在多样化的应用场景和复杂环境需求的驱动下,物联网无线通信技术的运行功耗、传输距离和频段兼容性正受到前所未有的关注。为增加物联网通信模块的配置灵活度,消除物联网设备的“连接焦虑”,华普微重磅推出了一款自主研发的超低功耗、可兼容Sub-GHz与2.4GHz 双频段的高性能LoRa
    华普微HOPERF 2025-03-18 15:43 52浏览
  • 在制药行业中,生产工艺的精准控制与产品质量安全密切相关。随着制药工业4.0的发展,传感器作为生产流程的"感知器官",在确保合规性、提升效率、降低风险方面发挥着不可替代的作用。本文将以晨穹电子科技(以下简称"晨穹")的压力、温度、流量及液位传感器为例,解析制药厂关键工艺流程中的传感器应用场景及技术要求。一、制药核心工艺流程中的传感器需求1. 原料处理与配液系统液位监测:储罐内原料液位实时监控需使用卫生型液位计。晨穹磁翻板液位计采用316L不锈钢材质,具备CIP/SIP(在线清洗/灭菌)耐受性,符合
    传感器晨穹 2025-03-18 15:51 52浏览
  • 随着汽车行业逐步迈向电气化和电池动力,位置传感器以及其他长期在车辆中被忽视但却至关重要的小型元器件正逐渐成为关注的焦点。某些电子元器件常常吸引大量关注,例如如今用于训练AI模型的强大GPU几乎每天都出现在新闻中。而其他元器件则默默地执行着重要但鲜为人知的功能。艾迈斯欧司朗一些历史悠久的产品线便隶属于后者,其中包括磁性和电感式位置传感器、电容式传感器和电池监控芯片。工业泵和风扇等产品的制造商利用位置传感器实现电动机高效平稳运行。在车辆的方向盘中安装电容传感器可以保障安全,它可以用于在辅助驾驶模式下
    艾迈斯欧司朗 2025-03-17 22:22 70浏览
  • 一、问题现象:语音播放异常的典型表现在使用WT588F(E)系列语音芯片的开发过程中,工程师常会遇到以下两类典型异常现象:播放不全:语音仅播放前段内容后突然中断,或特定段落无法触发播放断续:音频输出存在明显卡顿、爆音或波形畸变某智能门锁项目实测数据显示,在首批样机中有2%的设备出现语音提示突然中断的情况,经排查发现电源电压在播放瞬间跌落至2.0V(低于芯片工作阈值)。这类问题的根源往往隐藏于硬件设计与系统协同的细节之中。二、核心机理:电压稳定性对语音芯片的影响2.1 电源系统的动态响应特性WT5
    广州唯创电子 2025-03-17 09:18 127浏览
我要评论
0
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦