如今,AI工作负载仅仅意味着运行深度学习,这是目前的市场需求所在。但市场需求是多变的。尽管大多数AI训练都在数据中心(包括超大规模云端)和工作站上进行,但AI推理却随处可见:在云端、在工作站、在边缘……尤其是边缘端。

目前的AI芯片市场,几乎全都在谈论深度学习。深度学习(DL)是机器学习之中,能让AI应用在现实世界中实现价值的最佳范例,而这其中又以加速(accelerating)深度学习最受关注,因为加速是训练与推理过程所必需的。

AI芯片市场的参与者目前呈爆炸式增长:在最近的一份研究报告中,我们统计出全球约80家初创公司坐拥投资者的105亿美元,与大约34家成熟的参与者竞争。显然,这种状况是不会长久的,但我们需要对市场进行剖析,以更好地理解为什么会形成目前这种状况、它会如何变化,以及这一切意味着什么。

将时光倒流至2010年左右,当时英伟达(Nvidia)在其图形处理单元上推出了高端通用计算(GPGPU,现在简称为GPU)。它引发了深度学习的兴起,将大型神经网络的训练时间从几个月或几周减少到几天几小时,甚至更少。英伟达自此成功转型为AI计算公司,并开发出了数十亿美元的新业务。

这也刺激了其他芯片公司和芯片架构师开始思考——如何从一张白纸开始,构建一个专门用于运行AI工作负载的架构,还要比针对多种工作负载设计的GPU更好?

如今,AI工作负载仅仅意味着运行深度学习,这是目前的市场需求所在。

但市场需求是多变的。尽管大多数AI训练都在数据中心(包括超大规模云端)和工作站上进行,但AI推理却随处可见:在云端、在工作站、在边缘……尤其是边缘端。

图1:AI硬件加速器的细分市场应用(图自:Kiasco Research)

人工智能芯片市场如何细分

无论一个初创企业决定加入哪个细分市场,竞争都将非常激烈。我发现将这个市场映射为一个三角形非常有用,请参看图1。三角形的每个顶点都有自己的一组标准来代表独特的市场需求。

三角形的顶点是数据中心、云端和HPC环境对AI芯片的需求。Cerebras公司很好地抓住了这一市场,它制造了世界上最大的芯片,晶圆级引擎(Wafer Scale Engine,WSE)。这个细分市场需要最高的计算能力,而功耗和成本则是次要的。初创企业面临的挑战是他们要与超大规模企业和老牌企业竞争,比如英伟达就在稳步发布其不断改进的架构,其最新版本(Ampere)已于2020年5月发布。

三角形的下端主要涉及推理,企业可以在保持准确性的同时,构建较低精度的芯片。其对产品的需求和三角形顶点有所不同,主要包括芯片大小、低延迟、低功耗和低单位成本。特别是小边缘市场,这是所有初创企业最活跃的市场,像英伟达这样的大牌公司不太会参与这个市场的竞争,英伟达也曾表示它不打算涉足大宗商品推理市场。但是,处于这个角落的玩家不仅要与竞争对手竞争,而且还要与潜在客户斗智斗勇,因为客户可能会决定自己创建一家公司或购买一家初创公司。

人工智能芯片的下一步发展

AI芯片领域中有太多的竞争者,看看图1中三角形的每个顶点就知道,最好的全方位设计才会胜出。除了我们已提到的各种因素,还需要添加成熟的软件开发堆栈、针对市场的愿景以及将深度学习应用嵌入产品中的更大潜力,这样才能使市场合理化。

不过,这个市场中已经有牺牲者了,最近的是Wave Computing于2020年4月宣布破产。

竞争导致市场上出现更快、更高性能的AI芯片,AI研究人员将从中受益来实现他们奇思妙想。我也更期待出现新的算法取代深度学习当前的霸主地位——AI研究的长期愿景是创建像人类一样的人造大脑,很显然深度学习是死胡同。新算法不可避免地会出现(有些已经出现,但不是本文涵盖的内容),而这些下一代算法可能需要不同类型的加速器。

深度学习在实际案例中的应用广度,使这些芯片拥有数十亿美元的市场,随着5G的推出,还将不断增长。这个市场需要AI硬件加速器。AI芯片市场将趋于合理化,然后整个游戏将随着下一代AI算法的崛起而发生改变,不过,没人清楚这个改变什么时候会发生。

(参考原文:What the AI Chip Market is All About)

责编:Amy Guan

本文为《电子工程专辑》2020年10月刊杂志文章,版权所有,禁止转载。点击申请免费杂志订阅  

阅读全文,请先
您可能感兴趣
新款开发板售价仅为249美元,而上一代40 TOPS开发板售价为499美元,价格仅为上一代的一半。这使得Jetson Orin Nano Super成为“世界上最经济实惠的生成式AI计算机”,特别适合商业AI开发者、爱好者和学生使用。
近年来,AWS还积极投资于人工智能(AI)、机器学习(ML)、大数据分析和边缘计算等前沿技术,以保持其在这些领域的竞争优势。
这一新规则可能会引起美国在世界各地的合作伙伴和盟友的重大担忧,以及一些国家的不满,担心美国会充当单方面仲裁者,决定谁可以获得对AI至关重要的先进芯片。
谷歌认为,这种独家协议可能会限制市场竞争,导致其他公司无法自由地使用OpenAI的技术,从而增加了用户面临额外成本的风险,比如数据迁移和员工培训等。
有鉴于电动汽车、自动驾驶和人工智能业务等未来增长潜力,以及在马斯克在当选总统特朗普政府中的“特殊地位”,多家分析机构认为,马斯克的财富未来还将进一步增长。
据悉,此次交易是通过马斯克亲自与英伟达CEO黄仁勋进行沟通促成的。这批GB200 AI芯片将被用于强化其旗舰级超级计算集群——Colossus(巨人)。Colossus作为xAI的技术基石,将借此机会实现计算能力的飞跃。
目前,智能终端NFC功能的使用频率越来越高,面对新场景新需求,ITMA多家成员单位一起联合推动iTAP(智能无感接近式协议)标准化项目,预计25年上半年发布1.0标准,通过功能测试、兼容性测试,确保新技术产业应用。
中科院微电子所集成电路制造技术重点实验室刘明院士团队提出了一种基于记忆交叉阵列的符号知识表示解决方案,首次实验演示并验证了忆阻神经-模糊硬件系统在无监督、有监督和迁移学习任务中的应用……
C&K Switches EITS系列直角照明轻触开关提供表面贴装 PIP 端子和标准通孔配置,为电信、数据中心和专业音频/视频设备等广泛应用提供创新的多功能解决方案。
投身国产浪潮向上而行,英韧科技再获“中国芯”认可
点击蓝字 关注我们安森美(onsemi)在2024年先后推出两款超强功率半导体模块新贵,IGBT模块系列——SPM31 IPM,QDual 3。值得注意的是,背后都提到采用了最新的FS7技术,主要性能
今日,长飞先进武汉基地建设再次迎来新进展——项目首批设备搬入仪式于光谷科学岛成功举办,长飞先进总裁陈重国及公司主要领导、嘉宾共同出席见证。对于半导体行业而言,厂房建设一般主要分为四个阶段:设备选型、设
对于华为来说,今年的重磅机型都已经发完了,而明年的机型已经在研发中,Pura 80就是期待很高的一款。有博主爆料称,华为Pura 80将会用上了豪威OV50K传感器,同时电池容量达到5600毫安时。至
“ 洞悉AI,未来触手可及。”整理 | 美股研究社在这个快速变化的时代,人工智能技术正以前所未有的速度发展,带来了广泛的机会。《AI日报》致力于挖掘和分析最新的AI概念股公司和市场趋势,为您提供深度的
万物互联的时代浪潮中,以OLED为代表的新型显示技术,已成为人机交互、智能联结的重要端口。维信诺作为中国OLED赛道的先行者和引领者,凭借自主创新,实现了我国OLED技术的自立自强,成为中国新型显示产
扫描关注一起学嵌入式,一起学习,一起成长在嵌入式开发软件中查找和消除潜在的错误是一项艰巨的任务。通常需要英勇的努力和昂贵的工具才能从观察到的崩溃,死机或其他计划外的运行时行为追溯到根本原因。在最坏的情
近期,高科视像、新视通、江苏善行智能科技等企业持续扩充COB产能。插播:加入LED显示行业群,请加VX:hangjia188■ 高科视像:MLED新型显示面板生产项目(二期)招标12月18日,山西高科
在科技浪潮翻涌的硅谷,马克·扎克伯格不仅是“脸书”帝国的掌舵人,更是以其谦逊低调的形象,在公众心中树立了独特的领袖风范。然而,在镁光灯难以触及的私人领域,扎克伯格与39岁华裔妻子普莉希拉·陈的爱情故事
 “ AWS 的收入增长应该会继续加速。 ”作者 | RichardSaintvilus编译 | 华尔街大事件亚马逊公司( NASDAQ:AMZN ) 在当前水平上还有 38% 的上涨空间。这主要得益
今天上午,联发科宣布新一代天玑芯片即将震撼登场,新品会在12月23日15点正式发布。据悉,这场发布会联发科将推出全新的天玑8400处理器,这颗芯片基于台积电4nm制程打造,采用Arm Cortex A