AI推理处理器已死？

当今人工智能(AI)芯片的市场现实究竟是什么？近年来，这个市场一直被过度炒作，让许多人开始对此感到怀疑。从英伟达(Nvidia)抢攻数据中心市场，加上围绕着对于全自动驾驶车辆的大肆宣传，使得这个新市场似乎可以单手解决半导体产业的所有问题，甚至是目前最具挑战性的“摩尔定律”(Moore’s Law)。

在最近的新闻发布会上，Ceva市场情报、投资人和公共关系副总裁Richard Kingston指出，Nvidia的股价变化就是反映业界处于炒作周期(hype cycle)的理想指标。Nvidia是AI芯片市场的领导供应商之一，大约自2019年初开始历经明显的价格下跌。Kingston认为，这表示我们已经脱离炒作阶段，前进到市场开始更准确反映现实的阶段。

Nvidia在2017-2019年间的股价明显变化，Ceva认为这显示AI正进展到一个新的转折点。（来源：CEVA）

Kingston说：“如今我们来到2019年，AI可以做什么以及将在哪里发挥作用的现实变得更能够加以落实了。”特别是在汽车领域的进展更明显。

他说：“业界从两年前开始导入第4级(Level 4)或第5级(Level 5)自动驾驶平台。现在，我想当今从事自家内部设计的大多数自动驾驶芯片供应商与制造商已经了解到在进入Level 4/Level 5之前，可以先在Level 2/Level 3平台上捞一大笔钱。”

Level 2对应于能够控制驾驶各方面的车辆，包括转向、加速和煞车，例如特斯拉(Tesla)的自动驾驶功能。Level 3的车辆无需驾驶人密切注意即可自动驾驶，但在遇到紧急状况，必须由驾驶人接管。

实现这些自动驾驶等级的技术近来获得了大量的创投(VC)资金挹注。Kingston认为这可能是因为它们展现了一个更实际的目标。

他说：“VC观察到可以从那里赚到多少钱，以及可以做多少生意。同时，Level 4和Level 5自动驾驶也被推得越来越远。”

这对AI芯片意味着什么？

如果这种市场炒作真的结束了，对于AI处理器市场又意味着什么？

Kingston说：“这听起来有些戏剧化，但作为独立单元的AI推理处理器实际上已经死了。可执行各种AI应用类型的(边缘)设备中不再需要独立的AI引擎了。”

Richard Kingston

针对在边缘设备的推理任务，Kingston认为，尽管许多人认为AI处理器市场将引领独立型AI协同处理器的前进方向，但最终，这些协同处理器仍必须与其他芯片共存。因此，整合是不可避免的。

他以图像处理应用为例指出，在AI与更传统的计算机视觉工作负载之间存在着许多跨界重迭之处。

他说：“当您想要节省组件成本时，还采用两种独立架构来处理本质上是同一种工作负载的想法并没什么意义。我们越来越觉得，采用独立的AI引擎及其工具组和编译程序的想法也没什么用处。针对客户追求的终端市场打造具有AI功能的专用引擎才更有意义。”

这种想法催生了一款AI处理器核心——NeuPro-S，它可用于汽车和消费领域中基于视觉的应用。

根据Kingston表示，大多数的AI应用都将从异质运算中受益，这也是独立型处理器无以为继的部分原因。

Kingston说：“许多半导体公司并不打算采取通用AI处理器的发展路线，相对地，他们正为AI的特定功能开发模块或引擎。”

例如，Ceva从汽车产业得到的经验是：为了处理特定的工作负载，半导体公司通常投资开发自家AI引擎。然而，这些引擎并不是以相应的成熟工具链打造的完整处理器产品，因而无法以那样的规格直接交付给客户。

Ceva的AI处理器核心IP——NeuPro-S，可用于加速AI视觉工作负载。（来源：CEVA）

Kingston说：“这些AI客制引擎是当今许多公司的一部份，它在食物链中的位置比我们经常面对的更高得多，但它们需要可协助其投入生产的合作伙伴(如Ceva)。”这也正是Ceva CDNN-Invite编译程序背后的部分原因，该编译程序让业者可以在NeuPro-S旁添加自家客制AI引擎，以制造基于异质运算的AI芯片。

无论Kingston对于AI芯片市场的解读如何，或者“AI推理芯片已死”说法是否过度夸大，事实上，当今有数十家公司——从新创公司到知名巨擘，都在设计和生产这一类AI推理协同处理器。尽管整合确实是某些终端市场的方向，但并不适用于所有市场。而且不要忘了，虽然视觉应用在当今AI领域占据主导地位，但就其大小和发展方向而言，未来的工作负载可能看起来大不相同。因此，独立型AI推理协同处理器预计还将存在很长一段时间。

编译：Susan Hong  责编：LuffyLiu

参考原文：'The AI Inference Processor is Dead'，by Sally Ward-Foxton