热点丨ASIC和GPU共存,AI芯片市场开启多元化

AI芯天下 2024-12-23 20:31

·聚焦:人工智能、芯片等行业

欢迎各位客官关注、转发






前言
随着人工智能技术的迅猛发展,全球对计算能力的需求急剧上升,这促使人工智能芯片市场持续升温。

然而,随着大型人工智能模型的发展进入新阶段,人工智能芯片市场的竞争格局正在经历微妙的变化。

有观点认为ASIC正迅速崛起,对GPU在人工智能计算领域的主导地位构成威胁。


作者 | 方文三
图片来源 |  网 络 


芯片关注度随着AI模型规模的扩大而发生改变


人工智能计算分为训练和推理两个方面。


训练任务需要更强大的计算能力,因此在人工智能训练方面,厂商们主要使用GPU。


而推理任务对计算能力的要求相对较低,且不需要高度并行处理,因此GPU在这一领域的优势并不明显。


许多企业开始采用成本更低、能耗更少的FPGA或ASIC进行计算。


这种情况一直持续至今,人工智能芯片中GPU的市场份额能够达到70%以上。


数据作为人工智能发展的[化石燃料]是有限的,目前用于人工智能预训练的数据已经达到极限。


此外,随着模型规模的扩大,其边际效益逐渐递减,而计算能力的成本依然高昂,这些因素促使人们开始深思人工智能训练阶段的未来发展。


与此同时,人工智能大模型的下一阶段——逻辑推理,正逐渐成为新的研究热点。


目前,由于对英伟达长期依赖的不满,市场迫切希望实现计算能力的多元化。


此外,随着人工智能模型从[训练热]转向[推理热],推理类人工智能计算需求的增加为ASIC提供了机遇。


因此,支持ASIC产业链的发展,提升ASIC芯片在人工智能领域的市场份额,已成为业界的普遍共识。这也解释了博通和Marvell股价的显著上涨。



ASIC需求激增的两个主要原因


①人工智能大模型正经历从训练到推理的转变。以谷歌与博通合作开发的TPU为例,其架构专为机器学习和深度学习设计,重点在于推理过程,而非训练或渲染等其他环节。


巴克莱的研究报告指出,目前人工智能推理计算的需求正在迅速增长,预计将占据通用人工智能总计算需求的70%以上,甚至可能超过训练计算需求,达到后者的4.5倍。


②下游企业希望减少对英伟达的依赖也是原因之一。


对于定制芯片有需求的通常是大型企业,如字节跳动、Meta和谷歌等,他们对英伟达芯片的长期稳定供应持有顾虑。


选择ASIC,下游企业能够增强对产品的控制力,从而提升采购的议价能力。


③优化内部工作负载。云服务提供商通过开发定制化的芯片,能够更高效地满足其内部AI推理和训练的需求。



AI时代下ASIC的潜力将被放大


摩根士丹利于15日发布了题为《AI ASIC 2.0:潜在赢家》的研究报告,报告中指出,由于ASIC在针对性优化和成本效益方面的优势,预计它们将逐渐从英伟达的GPU手中夺取更多市场份额。


摩根士丹利预测,AI ASIC的市场规模将从2024年的120亿美元增长至2027年的300亿美元,年均复合增长率达到34%。


在这一背景下,尽管英伟达在大型语言模型训练方面的优势使其有望继续保持市场主导地位,但博通、世芯电子(Alchip)以及Socionext等公司亦被看好。


同时,Cadence、台积电及其供应链伙伴(如ASE、KYEC等)预计将从ASIC设计与制造的迅猛增长中受益。


ASIC和GPU均为半导体芯片,它们因适用于人工智能计算而被统称为[AI芯片]。


在半导体行业,芯片通常被划分为数字芯片和模拟芯片两大类。数字芯片占据了大约70%的市场份额,是市场规模较大的一部分。



数字芯片还可细分为逻辑芯片、存储芯片和微控制单元(MCU)。CPU、GPU、FPGA和ASIC均属于逻辑芯片的范畴。


ASIC是一种为特定应用设计的集成电路。其官方定义为:根据特定用户需求或特定电子系统需求,专门设计和制造的集成电路。


诸如谷歌的TPU、比特币矿机、英特尔的Gaudi 2 ASIC芯片、IBM的AIU以及AWS的Trainium等,均属于ASIC芯片。


ASIC作为定制芯片,其计算能力和效率是根据特定任务的算法严格匹配的。


芯片的核心数量、逻辑计算单元与控制单元的比例,以及缓存等,整个芯片架构都是精确定制的。


因此,ASIC能够实现极致的小体积和低功耗。这类芯片在可靠性、保密性、计算能力和能效方面,通常优于通用芯片(如GPU)。


例如,在相同的预算条件下,AWS的Trainium 2能够比英伟达的H100 GPU更快地完成推理任务,并且性价比提高了30-40%。


预计明年推出的Trainium 3,其计算性能将提升两倍,能效提高40%。


除了Meta、微软、亚马逊等科技巨头陆续发布ASIC新产品外,众多其他公司和初创企业也在ASIC领域不断推出创新产品,为人工智能大模型的训练和推理提供了强大的计算支持。



ASIC与GPU的竞争与合作关系


摩根士丹利进一步指出,ASIC的兴起并不预示着GPU的衰落。实际上,这两种技术预计将长期并存,为不同的应用场景提供最适宜的解决方案。


ASIC的兴起并不预示着GPU的衰落。相反,这两种技术将长期并存,为不同的需求场景提供最适宜的解决方案。


从这些科技巨头的积极举措中可以明显看出,ASIC在人工智能芯片领域的地位日益重要,逐渐成为各大企业竞争的核心领域。


训练大规模语言模型(如GPT-4、Llama 3等)需要强大的计算芯片支持,这推动了GPU和ASIC市场的增长。


尽管ASIC和GPU在某些方面存在竞争关系,但它们更多地是在互补和共存的状态下发展。


在人工智能算力需求不断增长的背景下,ASIC和GPU各自的优势将得到更好的发挥。


ASIC能够高效处理特定任务,而GPU则能提供灵活性和通用性,以适应快速变化的算法和应用需求。


在可预见的未来,由于其成熟度和大规模生产,GPU将继续作为主流技术存在,而ASIC的兴起尚需时日。


展望未来,GPU与ASIC预计将在不同应用场景中共存,计算能力的多元化发展已成为普遍认同的趋势。


然而,技术发展的方向可能会受到量子计算等新兴技术领域的影响。


例如,谷歌发布的最新量子芯片[Willow]拥有105个量子位,能在五分钟内完成传统超级计算机需要超过宇宙年龄才能解决的计算问题,这表明量子计算在计算能力方面具有传统芯片无法比拟的潜力。



结尾:


尽管英伟达GPU目前仍是多数云服务提供商的首选,但随着ASIC设计的不断成熟,这些云巨头未来几年可能通过自研ASIC在采购谈判中获得更大的议价能力。


在未来,随着人工智能技术的发展和市场需求的变化,ASIC和GPU将继续并存并发展,各自在不同的应用场景中发挥其独特优势,共同推动人工智能生态的繁荣。


部分资料参考:鲜枣课堂:《ASIC会不会取代GPU?》,技术饭:《揭秘AI芯片:从GPU到ASIC的多元化发展》,锦缎:《2025算力主线:ASIC VS GPU》,芝能科技:《人工智能ASIC赛道:谁才是最终赢家?》,维科网电子:《AI新军股价狂飙400%,上演[三英战吕布]戏码》,余汉波:《推理崛起,ASIC能否挑战GPU霸主地位?》,风口投资学:《ASIC芯片爆了》


本公众号所刊发稿件及图片来源于网络,仅用于交流使用,如有侵权请联系回复,我们收到信息后会在24小时内处理。



END


推荐阅读:


商务合作请加微信勾搭:
18948782064

请务必注明:

「姓名 + 公司 + 合作需求」


AI芯天下 聚焦人工智能,AI芯片,5G通讯等行业动态
评论
  • 数字隔离芯片是一种实现电气隔离功能的集成电路,在工业自动化、汽车电子、光伏储能与电力通信等领域的电气系统中发挥着至关重要的作用。其不仅可令高、低压系统之间相互独立,提高低压系统的抗干扰能力,同时还可确保高、低压系统之间的安全交互,使系统稳定工作,并避免操作者遭受来自高压系统的电击伤害。典型数字隔离芯片的简化原理图值得一提的是,数字隔离芯片历经多年发展,其应用范围已十分广泛,凡涉及到在高、低压系统之间进行信号传输的场景中基本都需要应用到此种芯片。那么,电气工程师在进行电路设计时到底该如何评估选择一
    华普微HOPERF 2025-01-20 16:50 127浏览
  • Ubuntu20.04默认情况下为root账号自动登录,本文介绍如何取消root账号自动登录,改为通过输入账号密码登录,使用触觉智能EVB3568鸿蒙开发板演示,搭载瑞芯微RK3568,四核A55处理器,主频2.0Ghz,1T算力NPU;支持OpenHarmony5.0及Linux、Android等操作系统,接口丰富,开发评估快人一步!添加新账号1、使用adduser命令来添加新用户,用户名以industio为例,系统会提示设置密码以及其他信息,您可以根据需要填写或跳过,命令如下:root@id
    Industio_触觉智能 2025-01-17 14:14 150浏览
  • 2024年是很平淡的一年,能保住饭碗就是万幸了,公司业绩不好,跳槽又不敢跳,还有一个原因就是老板对我们这些员工还是很好的,碍于人情也不能在公司困难时去雪上加霜。在工作其间遇到的大问题没有,小问题还是有不少,这里就举一两个来说一下。第一个就是,先看下下面的这个封装,你能猜出它的引脚间距是多少吗?这种排线座比较常规的是0.6mm间距(即排线是0.3mm间距)的,而这个规格也是我们用得最多的,所以我们按惯性思维来看的话,就会认为这个座子就是0.6mm间距的,这样往往就不会去细看规格书了,所以这次的运气
    wuliangu 2025-01-21 00:15 353浏览
  • 现在为止,我们已经完成了Purple Pi OH主板的串口调试和部分配件的连接,接下来,让我们趁热打铁,完成剩余配件的连接!注:配件连接前请断开主板所有供电,避免敏感电路损坏!1.1 耳机接口主板有一路OTMP 标准四节耳机座J6,具备进行音频输出及录音功能,接入耳机后声音将优先从耳机输出,如下图所示:1.21.2 相机接口MIPI CSI 接口如上图所示,支持OV5648 和OV8858 摄像头模组。接入摄像头模组后,使用系统相机软件打开相机拍照和录像,如下图所示:1.3 以太网接口主板有一路
    Industio_触觉智能 2025-01-20 11:04 199浏览
  •  万万没想到!科幻电影中的人形机器人,正在一步步走进我们人类的日常生活中来了。1月17日,乐聚将第100台全尺寸人形机器人交付北汽越野车,再次吹响了人形机器人疯狂进厂打工的号角。无独有尔,银河通用机器人作为一家成立不到两年时间的创业公司,在短短一年多时间内推出革命性的第一代产品Galbot G1,这是一款轮式、双臂、身体可折叠的人形机器人,得到了美团战投、经纬创投、IDG资本等众多投资方的认可。作为一家成立仅仅只有两年多时间的企业,智元机器人也把机器人从梦想带进了现实。2024年8月1
    刘旷 2025-01-21 11:15 708浏览
  • 临近春节,各方社交及应酬也变得多起来了,甚至一月份就排满了各式约见。有的是关系好的专业朋友的周末“恳谈会”,基本是关于2025年经济预判的话题,以及如何稳定工作等话题;但更多的预约是来自几个客户老板及副总裁们的见面,他们为今年的经济预判与企业发展焦虑而来。在聊天过程中,我发现今年的聊天有个很有意思的“点”,挺多人尤其关心我到底是怎么成长成现在的多领域风格的,还能掌握一些经济趋势的分析能力,到底学过哪些专业、在企业管过哪些具体事情?单单就这个一个月内,我就重复了数次“为什么”,再辅以我上次写的:《
    牛言喵语 2025-01-22 17:10 195浏览
  •     IPC-2581是基于ODB++标准、结合PCB行业特点而指定的PCB加工文件规范。    IPC-2581旨在替代CAM350格式,成为PCB加工行业的新的工业规范。    有一些免费软件,可以查看(不可修改)IPC-2581数据文件。这些软件典型用途是工艺校核。    1. Vu2581        出品:Downstream     
    电子知识打边炉 2025-01-22 11:12 143浏览
  • 高速先生成员--黄刚这不马上就要过年了嘛,高速先生就不打算给大家上难度了,整一篇简单但很实用的文章给大伙瞧瞧好了。相信这个标题一出来,尤其对于PCB设计工程师来说,心就立马凉了半截。他们辛辛苦苦进行PCB的过孔设计,高速先生居然说设计多大的过孔他们不关心!另外估计这时候就跳出很多“挑刺”的粉丝了哈,因为翻看很多以往的文章,高速先生都表达了过孔孔径对高速性能的影响是很大的哦!咋滴,今天居然说孔径不关心了?别,别急哈,听高速先生在这篇文章中娓娓道来。首先还是要对各位设计工程师的设计表示肯定,毕竟像我
    一博科技 2025-01-21 16:17 165浏览
  • 嘿,咱来聊聊RISC-V MCU技术哈。 这RISC-V MCU技术呢,简单来说就是基于一个叫RISC-V的指令集架构做出的微控制器技术。RISC-V这个啊,2010年的时候,是加州大学伯克利分校的研究团队弄出来的,目的就是想搞个新的、开放的指令集架构,能跟上现代计算的需要。到了2015年,专门成立了个RISC-V基金会,让这个架构更标准,也更好地推广开了。这几年啊,这个RISC-V的生态系统发展得可快了,好多公司和机构都加入了RISC-V International,还推出了不少RISC-V
    丙丁先生 2025-01-21 12:10 709浏览
  • 飞凌嵌入式基于瑞芯微RK3562系列处理器打造的FET3562J-C全国产核心板,是一款专为工业自动化及消费类电子设备设计的产品,凭借其强大的功能和灵活性,自上市以来得到了各行业客户的广泛关注。本文将详细介绍如何启动并测试RK3562J处理器的MCU,通过实际操作步骤,帮助各位工程师朋友更好地了解这款芯片。1、RK3562J处理器概述RK3562J处理器采用了4*Cortex-A53@1.8GHz+Cortex-M0@200MHz架构。其中,4个Cortex-A53核心作为主要核心,负责处理复杂
    飞凌嵌入式 2025-01-24 11:21 69浏览
  • 故障现象 一辆2007款日产天籁车,搭载VQ23发动机(气缸编号如图1所示,点火顺序为1-2-3-4-5-6),累计行驶里程约为21万km。车主反映,该车起步加速时偶尔抖动,且行驶中加速无力。 图1 VQ23发动机的气缸编号 故障诊断接车后试车,发动机怠速运转平稳,但只要换挡起步,稍微踩下一点加速踏板,就能感觉到车身明显抖动。用故障检测仪检测,发动机控制模块(ECM)无故障代码存储,且无失火数据流。用虹科Pico汽车示波器测量气缸1点火信号(COP点火信号)和曲轴位置传感器信
    虹科Pico汽车示波器 2025-01-23 10:46 90浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦