数据分析：AI芯片市场究竟有多大？

人工智能(AI)加速器芯片商机被大肆炒作，但这个市场究竟有多大？已经有哪些公司在销售这类芯片？市场研究机构ABI Research最近发布了两份报告，详细描绘了今日的AI芯片市场状态，为此EE Times访问了报告作者，ABI首席分析师Lian Jye Su，请他分享目前在这个商机潜力十足的市场上，有哪些较活跃的公司与技术。

云端AI市场

ABI的第一份报告聚焦于快速成长的云端AI推理与训练服务应用，预期该市场在2024年将从2019年的42亿美元成长至100亿美元。Nvidia与英特尔(Intel)是此一领域目前的领导厂商，但它们的地位正受到包括中国新创公司寒武纪(Cambricon Technologies)、英国新创公司Graphcore、以色列新创公司Habana Labs以及高通(Qualcomm)等后起之秀的挑战。

Su表示，Nvidia显然仍会是该市场的龙头，主要是因为该公司具备成熟的开发者生态系统以及先行者优势。此外他指出：“随着AI模型、数据库以及工具组持续演变更新，Nvidia扮演优良的后备选项，因为其方案具备通用AI芯片的功能。当然，这些优势会因为市场逐渐成熟而减退，但Nvidia的地位在可见的未来仍然稳固。”

Lian Jye Su(Source: ABI Research)

根据ABI的分析，今日的云端AI芯片市场分成三块：一是由AWS、微软(Microsoft)、Google、阿里巴巴、百度与腾讯等云端运算服务供应商主导的公有云市场，二是企业数据中心、即私有云市场；第三块则是ABI称为“混合云”(hybrid cloud)的市场，也就是结合公有与私有云的方案(如VMware、Rackspace、NetApp、HPE、Dell等公司的产品)。

此外ABI的报告还定义了另一个新兴领域──电信云(Telco clouds)，指的是电信业者为其核心网络与IT、边缘运算工作所布署的云端基础建设。Su认为，这个新领域会为AI芯片供货商带来很大的商机：“我们已经看到如华为(Huawei)等网络基础建设方案供货商，还有较小程度像是诺基亚(Nokia)等公司，推出为电信网络功能优化的ASIC；这是一个很大的市场，Nvidia近来也非常努力想要进入。”

2017~2024年AI芯片年度销售额。（来源：ABI Research）

而Su虽然没看到有任何其他厂商能在短时间内撼动Nvida在云端AI训练芯片市场的主导地位，但推理芯片领域则是人人有机会，目前并没有一家公司独霸的情况。这有部份原因来自于推理工作在不同垂直应用上会有所不同的本质；他认为，该领域的ASIC会从2020年起呈现强劲成长。

目前AI推理往边缘装置移动的趋势，意味着包括智能手机、自驾车以及机器人等装置，对于云端的依赖程度将会降低，但Su强调，这并不代表某些云端服务供货商所认为的、AI推理工作量大于训练工作量的情况会改变。

“有一些AI永远不会移到边缘，例如聊天机器人(chatbots)还有对话AI (conversational AI)、诈骗监测(fraud monitoring)与网络安全系统等等；”他表示：“这类系统会牵涉从规则式(rule-based)到深度学习类型的AI系统，这实际上是增加了推理工作量，而且增加的幅度远远可抵销那些转移至边缘的推理工作量。”

还有Google；Google的张量处理器(TPU)可以同时处理云端训练与推理任务，被认为是分别由Intel与Nvidia领衔的CPU与GPU技术的强劲对手。ABI的报告指出，Google在TPU上的成功为其他云端服务业者(CSP)建立了一个自己开发AI加速器ASIC的优良模板；包括华为、AWS与百度等也都已经这么做。

那么如果云端服务业者都开始自己设计芯片，在该领域还有其他芯片业者能生存的空间吗？对此Su表示：“没错，随着CSP开始自己设计芯片，对于一些新进公司来说这个市场会变得非常具挑战性；我们预测，到2024年该市场约会有15~18%是由CSP自己填满，因此云端AI商机会有更多是来自于数据中心私有云领域。”

Su表示，金融、医疗机构还有研发与学术领域也会需要执行AI，而且他们会考虑采用为AI工作负载优化的芯片，这为包括寒武纪、Graphcore、Habana Labs以及Wave Computing等新进业者提供了一些优势。他也认为，其他将因此受惠的厂商还包括IP供货商如ARM、Cadence与芯原(VeriSilicon)等，他们将会需要支持比以往更多的芯片开发业者。

边缘AI市场

ABI的另一份报告则是聚焦边缘AI市场，指出边缘AI推理芯片市场在2018年的规模为19亿美元；而边缘训练市场在同一年度的规模只有140万美元。Su解释，会在边缘执行AI训练的装置包括网关(用以储存历史数据或是扮演设备中枢角色)，还有企业内部布署(on-premise)服务器(在私有云中，但是位于AI数据产生的地方)。

为on-premise服务器的训练任务所设计之芯片，包括Nvidia的DGX，还有华为服务器与网关所配备的Ascend 910芯片；包括寒武纪、Graphcore与Habana Labs等公司，也有专门锁定on-premise数据中心的系统级芯片。Su表示：“边缘AI训练市场还很小，因为AI训练任务还是偏向在云端执行。”

2017~2024年的AI推理与训练芯片市场营收。（来源：ABI Research）

在2019年至2024年之间，整体边缘AI市场规模估计可达到31%的复合年平均成长率(CAGR)，边缘AI推理将占其中大宗；Su指出，边缘推理会有三大主要应用──包括智能手机/可穿戴装置、汽车以及智能家庭/白色家电，及三大利基市场。

第一个利基市场是通常需要异质运算架构的机器人，因为这类机器人仰赖各种型态的神经网络，如利用同步定位与地图构建(simultaneous location and mapping，SLAM)来导航，或是做为人机接口的对话AI、用来侦测物体的机器视觉等；Su表示，所有这些应用都是在不同程度上采用CPU、GPU与ASIC，而Nvidia、英特尔与高通在这个领域中激烈竞争。

“第二个利基市场是智慧工业应用，包括智能制造、智能建筑与石油天然气领域；”他指出：“我们看到FPGA供货商在这个领域的表现优异，因为需要采用新技术的是旧有设备，而FPGA架构能提供灵活性与适应性。”

最后一个利基应用是在“非常边缘”的地方，也就是将超低功耗AI芯片嵌入传感器与其他广域网上的小型终端节点。有鉴于此应用的聚焦于超低功耗，这个领域的竞争厂商包括FPGA供货商、RISC-V架构芯片以及其他ASIC供货商。

那么到目前为止，有那些芯片业者已经取得AI推理应用的设计案？Su的回答是：“因为智能手机的出货量庞大，因此智能手机用AI ASIC的供货商，是整体边缘AI芯片市场实际上的大赢家，包括苹果(Apple)、海思(HiSilicon)、高通、三星(Samsung)，以及较低程度上也包括联发科技(MediaTek)；但如果我们只提新创，我认为以色列的Hailo，还有中国的地平线(Horizon Robotics)、瑞芯微(Rockchip)，看来已经取得一些终端装置制造商的青睐。”

Su也表示，在商业实现与布署边缘AI芯片方面，软件扮演关键角色；相较于Nvidia是持续升级其编译程序工具与建构开发者社群，英特尔与赛灵思(Xilinx)等业者采取的作法则与拥有软件AI加速解决方案的新创公司合作，或是收购他们。

他也建议，“芯片业者应该要考虑为开发者社群提供工具组与链接库，还有开发者教育课程、举办竞赛、论坛或研讨会等，这些能吸引开发工程师与芯片业者合作并开发相关应用程序；但这对于新创公司来说并不容易。”

除了提供适当的软件以及为开发者社群提供支持，ABI的报告还指出，AI芯片业者想要成功，得拥有获得其他技术价值链支持、优良的产品开发蓝图，他们也会需要为不同的使用案例创造芯片产量规模，同时要维持具竞争力的价格点。

编译：Judith Cheng 责编：Yvonne Geng

(参考原文： AI Chip Market to More than Double in 5 Years，by Sally Ward-Foxton)