热点丨ASIC和GPU共存,AI芯片市场开启多元化

AI芯天下 2024-12-23 20:31

·聚焦:人工智能、芯片等行业

欢迎各位客官关注、转发






前言
随着人工智能技术的迅猛发展,全球对计算能力的需求急剧上升,这促使人工智能芯片市场持续升温。

然而,随着大型人工智能模型的发展进入新阶段,人工智能芯片市场的竞争格局正在经历微妙的变化。

有观点认为ASIC正迅速崛起,对GPU在人工智能计算领域的主导地位构成威胁。


作者 | 方文三
图片来源 |  网 络 


芯片关注度随着AI模型规模的扩大而发生改变


人工智能计算分为训练和推理两个方面。


训练任务需要更强大的计算能力,因此在人工智能训练方面,厂商们主要使用GPU。


而推理任务对计算能力的要求相对较低,且不需要高度并行处理,因此GPU在这一领域的优势并不明显。


许多企业开始采用成本更低、能耗更少的FPGA或ASIC进行计算。


这种情况一直持续至今,人工智能芯片中GPU的市场份额能够达到70%以上。


数据作为人工智能发展的[化石燃料]是有限的,目前用于人工智能预训练的数据已经达到极限。


此外,随着模型规模的扩大,其边际效益逐渐递减,而计算能力的成本依然高昂,这些因素促使人们开始深思人工智能训练阶段的未来发展。


与此同时,人工智能大模型的下一阶段——逻辑推理,正逐渐成为新的研究热点。


目前,由于对英伟达长期依赖的不满,市场迫切希望实现计算能力的多元化。


此外,随着人工智能模型从[训练热]转向[推理热],推理类人工智能计算需求的增加为ASIC提供了机遇。


因此,支持ASIC产业链的发展,提升ASIC芯片在人工智能领域的市场份额,已成为业界的普遍共识。这也解释了博通和Marvell股价的显著上涨。



ASIC需求激增的两个主要原因


①人工智能大模型正经历从训练到推理的转变。以谷歌与博通合作开发的TPU为例,其架构专为机器学习和深度学习设计,重点在于推理过程,而非训练或渲染等其他环节。


巴克莱的研究报告指出,目前人工智能推理计算的需求正在迅速增长,预计将占据通用人工智能总计算需求的70%以上,甚至可能超过训练计算需求,达到后者的4.5倍。


②下游企业希望减少对英伟达的依赖也是原因之一。


对于定制芯片有需求的通常是大型企业,如字节跳动、Meta和谷歌等,他们对英伟达芯片的长期稳定供应持有顾虑。


选择ASIC,下游企业能够增强对产品的控制力,从而提升采购的议价能力。


③优化内部工作负载。云服务提供商通过开发定制化的芯片,能够更高效地满足其内部AI推理和训练的需求。



AI时代下ASIC的潜力将被放大


摩根士丹利于15日发布了题为《AI ASIC 2.0:潜在赢家》的研究报告,报告中指出,由于ASIC在针对性优化和成本效益方面的优势,预计它们将逐渐从英伟达的GPU手中夺取更多市场份额。


摩根士丹利预测,AI ASIC的市场规模将从2024年的120亿美元增长至2027年的300亿美元,年均复合增长率达到34%。


在这一背景下,尽管英伟达在大型语言模型训练方面的优势使其有望继续保持市场主导地位,但博通、世芯电子(Alchip)以及Socionext等公司亦被看好。


同时,Cadence、台积电及其供应链伙伴(如ASE、KYEC等)预计将从ASIC设计与制造的迅猛增长中受益。


ASIC和GPU均为半导体芯片,它们因适用于人工智能计算而被统称为[AI芯片]。


在半导体行业,芯片通常被划分为数字芯片和模拟芯片两大类。数字芯片占据了大约70%的市场份额,是市场规模较大的一部分。



数字芯片还可细分为逻辑芯片、存储芯片和微控制单元(MCU)。CPU、GPU、FPGA和ASIC均属于逻辑芯片的范畴。


ASIC是一种为特定应用设计的集成电路。其官方定义为:根据特定用户需求或特定电子系统需求,专门设计和制造的集成电路。


诸如谷歌的TPU、比特币矿机、英特尔的Gaudi 2 ASIC芯片、IBM的AIU以及AWS的Trainium等,均属于ASIC芯片。


ASIC作为定制芯片,其计算能力和效率是根据特定任务的算法严格匹配的。


芯片的核心数量、逻辑计算单元与控制单元的比例,以及缓存等,整个芯片架构都是精确定制的。


因此,ASIC能够实现极致的小体积和低功耗。这类芯片在可靠性、保密性、计算能力和能效方面,通常优于通用芯片(如GPU)。


例如,在相同的预算条件下,AWS的Trainium 2能够比英伟达的H100 GPU更快地完成推理任务,并且性价比提高了30-40%。


预计明年推出的Trainium 3,其计算性能将提升两倍,能效提高40%。


除了Meta、微软、亚马逊等科技巨头陆续发布ASIC新产品外,众多其他公司和初创企业也在ASIC领域不断推出创新产品,为人工智能大模型的训练和推理提供了强大的计算支持。



ASIC与GPU的竞争与合作关系


摩根士丹利进一步指出,ASIC的兴起并不预示着GPU的衰落。实际上,这两种技术预计将长期并存,为不同的应用场景提供最适宜的解决方案。


ASIC的兴起并不预示着GPU的衰落。相反,这两种技术将长期并存,为不同的需求场景提供最适宜的解决方案。


从这些科技巨头的积极举措中可以明显看出,ASIC在人工智能芯片领域的地位日益重要,逐渐成为各大企业竞争的核心领域。


训练大规模语言模型(如GPT-4、Llama 3等)需要强大的计算芯片支持,这推动了GPU和ASIC市场的增长。


尽管ASIC和GPU在某些方面存在竞争关系,但它们更多地是在互补和共存的状态下发展。


在人工智能算力需求不断增长的背景下,ASIC和GPU各自的优势将得到更好的发挥。


ASIC能够高效处理特定任务,而GPU则能提供灵活性和通用性,以适应快速变化的算法和应用需求。


在可预见的未来,由于其成熟度和大规模生产,GPU将继续作为主流技术存在,而ASIC的兴起尚需时日。


展望未来,GPU与ASIC预计将在不同应用场景中共存,计算能力的多元化发展已成为普遍认同的趋势。


然而,技术发展的方向可能会受到量子计算等新兴技术领域的影响。


例如,谷歌发布的最新量子芯片[Willow]拥有105个量子位,能在五分钟内完成传统超级计算机需要超过宇宙年龄才能解决的计算问题,这表明量子计算在计算能力方面具有传统芯片无法比拟的潜力。



结尾:


尽管英伟达GPU目前仍是多数云服务提供商的首选,但随着ASIC设计的不断成熟,这些云巨头未来几年可能通过自研ASIC在采购谈判中获得更大的议价能力。


在未来,随着人工智能技术的发展和市场需求的变化,ASIC和GPU将继续并存并发展,各自在不同的应用场景中发挥其独特优势,共同推动人工智能生态的繁荣。


部分资料参考:鲜枣课堂:《ASIC会不会取代GPU?》,技术饭:《揭秘AI芯片:从GPU到ASIC的多元化发展》,锦缎:《2025算力主线:ASIC VS GPU》,芝能科技:《人工智能ASIC赛道:谁才是最终赢家?》,维科网电子:《AI新军股价狂飙400%,上演[三英战吕布]戏码》,余汉波:《推理崛起,ASIC能否挑战GPU霸主地位?》,风口投资学:《ASIC芯片爆了》


本公众号所刊发稿件及图片来源于网络,仅用于交流使用,如有侵权请联系回复,我们收到信息后会在24小时内处理。



END


推荐阅读:


商务合作请加微信勾搭:
18948782064

请务必注明:

「姓名 + 公司 + 合作需求」


AI芯天下 聚焦人工智能,AI芯片,5G通讯等行业动态
评论
  • 汽车驾驶员监控系统又称DMS,是一种集中在车辆中的技术,用于实时跟踪和评估驾驶员状态及驾驶行为。随着汽车产业智能化转型,整合AI技术的DMS逐渐成为主流,AI模型通过大量数据进行持续训练,使得驾驶监控更加高效和精准。 驾驶员监测系统主要通过传感器、摄像头收集驾驶员的面部图像,定位头部姿势、人脸特征及行为特征,并通过各种异常驾驶行为检测模型运算来识别驾驶员的当前状态。如果出现任何异常驾驶行为(如疲劳,分心,抽烟,接打电话,无安全带等),将发出声音及视觉警报。此外,驾驶员的行为数据会被记录
    启扬ARM嵌入式 2024-12-20 09:14 108浏览
  • 光耦固态继电器(SSR)作为现代电子控制系统中不可或缺的关键组件,正逐步取代传统机械继电器。通过利用光耦合技术,SSR不仅能够提供更高的可靠性,还能适应更加复杂和严苛的应用环境。在本文中,我们将深入探讨光耦固态继电器的工作原理、优势、挑战以及未来发展趋势。光耦固态继电器:如何工作并打破传统继电器的局限?光耦固态继电器通过光电隔离技术,实现输入信号与负载之间的电气隔离。其工作原理包括三个关键步骤:光激活:LED接收输入电流并发出与其成比例的光信号。光传输:光电传感器(如光电二极管或光电晶体管)接收
    腾恩科技-彭工 2024-12-20 16:30 105浏览
  • 国产数字隔离器已成为现代电子产品中的关键部件,以增强的性能和可靠性取代了传统的光耦合器。这些隔离器广泛应用于医疗设备、汽车电子、工业自动化和其他需要强大信号隔离的领域。准确测试这些设备是确保其质量和性能的基本步骤。如何测试数字隔离器测试数字隔离器需要精度和正确的工具集来评估其在各种条件下的功能和性能。以下设备对于这项任务至关重要:示波器:用于可视化信号波形并测量时序特性,如传播延迟、上升时间和下降时间。允许验证输入输出信号的完整性。频谱分析仪:测量电磁干扰(EMI)和其他频域特性。有助于识别信号
    克里雅半导体科技 2024-12-20 16:35 111浏览
  • ALINX 正式发布 AMD Virtex UltraScale+ 系列 FPGA PCIe 3.0 综合开发平台 AXVU13P!这款搭载 AMD 16nm 工艺 XCVU13P 芯片的高性能开发验证平台,凭借卓越的计算能力和灵活的扩展性,专为应对复杂应用场景和高带宽需求而设计,助力技术开发者加速产品创新与部署。随着 5G、人工智能和高性能计算等领域的迅猛发展,各行业对计算能力、灵活性和高速数据传输的需求持续攀升。FPGA 凭借其高度可编程性和实时并行处理能力,已成为解决行业痛点的关
    ALINX 2024-12-20 17:44 132浏览
  • //```c #include "..\..\comm\AI8051U.h"  // 包含头文件,定义了硬件寄存器和常量 #include "stdio.h"              // 标准输入输出库 #include "intrins.h"         &n
    丙丁先生 2024-12-20 10:18 98浏览
  • 汽车行业的变革正愈演愈烈,由交通工具到“第三生活空间”。业内逐渐凝聚共识:汽车的下半场在于智能化。而智能化的核心在于集成先进的传感器,以实现高等级的智能驾驶乃至自动驾驶,以及更个性、舒适、交互体验更优的智能座舱。毕马威中国《聚焦电动化下半场 智能座舱白皮书》数据指出,2026年中国智能座舱市场规模将达到2127亿元,5年复合增长率超过17%。2022年到2026年,智能座舱渗透率将从59%上升至82%。近日,在SENSOR CHINA与琻捷电子联合举办的“汽车传感系列交流会-智能传感专场”上,艾
    艾迈斯欧司朗 2024-12-20 19:45 187浏览
  • 光耦合器,也称为光隔离器,是用于电气隔离和信号传输的多功能组件。其应用之一是测量电路中的电压。本文介绍了如何利用光耦合器进行电压测量,阐明了其操作和实际用途。使用光耦合器进行电压测量的工作原理使用光耦合器进行电压测量依赖于其在通过光传输信号的同时隔离输入和输出电路的能力。该过程包括:连接到电压源光耦合器连接在电压源上。输入电压施加到光耦合器的LED,LED发出的光与施加的电压成比例。光电二极管响应LED发出的光由输出侧的光电二极管或光电晶体管检测。随着LED亮度的变化,光电二极管的电阻相应减小,
    腾恩科技-彭工 2024-12-20 16:31 141浏览
  • 百佳泰特为您整理2024年12月各大Logo的最新规格信息。——————————USB▶ 百佳泰获授权进行 USB Active Cable 认证。▶ 所有符合 USB PD 3.2 标准的产品都有资格获得USB-IF 认证——————————Bluetooth®▶ Remote UPF Testing针对所有低功耗音频(LE Audio)和网格(Mesh)规范的远程互操作性测试已开放,蓝牙会员可使用该测试,这是随时测试产品的又一绝佳途径。——————————PCI Express▶ 2025年
    百佳泰测试实验室 2024-12-20 10:33 147浏览
  •                                                窗        外       年底将近,空气变得格外寒冷,估计这会儿北方已经是千里
    广州铁金刚 2024-12-23 11:49 90浏览
  •         在上文中,我们介绍了IEEE 802.3cz[1]协议提出背景,旨在定义一套光纤以太网在车载领域的应用标准,并介绍了XMII以及PCS子层的相关机制,在本篇中,将围绕IEEE 802.3cz-MultiGBASE-AU物理层的两个可选功能进行介绍。EEE功能        节能以太网(Energy-Efficient Ethernet)是用于在网络空闲时降低设备功耗的功能,在802.3cz的定义中,链
    经纬恒润 2024-12-19 18:47 97浏览
  • 耳机虽看似一个简单的设备,但不仅只是听音乐功能,它已经成为日常生活和专业领域中不可或缺的一部分。从个人娱乐到专业录音,再到公共和私人通讯,耳机的使用无处不在。使用高质量的耳机不仅可以提供优良的声音体验,还能在长时间使用中保护使用者听力健康。耳机产品的质量,除了验证产品是否符合法规标准,也能透过全面性的测试和认证过程,确保耳机在各方面:从音质到耐用性,再到用户舒适度,都能达到或超越行业标准。这不仅保护了消费者的投资,也提升了该公司在整个行业的产品质量和信誉!客户面临到的各种困难一家耳机制造商想要透
    百佳泰测试实验室 2024-12-20 10:37 233浏览
  • 随着工业自动化和智能化的发展,电机控制系统正向更高精度、更快响应和更高稳定性的方向发展。高速光耦作为一种电气隔离与信号传输的核心器件,在现代电机控制中扮演着至关重要的角色。本文将详细介绍高速光耦在电机控制中的应用优势及其在实际工控系统中的重要性。高速光耦的基本原理及优势高速光耦是一种光电耦合器件,通过光信号传递电信号,实现输入输出端的电气隔离。这种隔离可以有效保护电路免受高压、电流浪涌等干扰。相比传统的光耦,高速光耦具备更快的响应速度,通常可以达到几百纳秒到几微秒级别的传输延迟。电气隔离:高速光
    晶台光耦 2024-12-20 10:18 184浏览
  •         不卖关子先说感受,真本书真是相见恨晚啊。字面意思,见到太晚了,我刚毕业或者刚做电子行业就应该接触到这本书的。我自己跌跌撞撞那么多年走了多少弯路,掉过多少坑,都是血泪史啊,要是提前能看到这本书很多弯路很多坑都是可以避免的,可惜这本书是今年出的,羡慕现在的年轻人能有这么丰富完善的资料可以学习,想当年我纯靠百度和论坛搜索、求助啊,连个正经师傅都没有,从软件安装到一步一布操作纯靠自己瞎摸索,然后就是搜索各种教程视频,说出来都是泪啊。  &
    DrouSherry 2024-12-19 20:00 142浏览
  • Supernode与艾迈斯欧司朗携手,通过Belago红外LED实现精准扫地机器人避障;得益于Belago出色的红外补光功能,使扫地机器人能够大大提升其识别物体的能力,实现精准避障;Belago点阵照明器采用迷你封装,兼容标准无铅回流工艺,适用于各种3D传感平台,包括移动设备、物联网设备和机器人。全球领先的光学解决方案供应商艾迈斯欧司朗(瑞士证券交易所股票代码:AMS)近日宣布,与国内领先的多行业三维视觉方案提供商超节点创新科技(Supernode)双方联合推出采用艾迈斯欧司朗先进Belago红
    艾迈斯欧司朗 2024-12-20 18:55 138浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦