从“服务器农场”到“智能家庭助理”，论人工智能IP为何如此重要

人工智能IP在芯片中的应用范围正在逐渐扩大。

回顾过去十年，AI为我们的日常生活带来了诸多便利，包括帮助实现安全可靠的自动化交通系统、个性化的家庭服务和沉浸式的娱乐体验。这些具象的场景能够实现都依赖于底层的芯片技术。

现在越来越多的智能应用需要依赖深度学习神经网络，而对深度学习和机器学习的大量需求则需要计算密集型方法学和强大的芯片设计作为支持。底层芯片技术必须能够运行高级别算法，并实时探查物体识别、语音、超分辨率成像、面部识别等应用。

最近在神经网络处理和深度学习算法方面的创新推动了AI SoC在处理、存储和连接方面的新硬件需求，并催生了新一轮半导体市场投资。随着企业纷纷进行数字化转型与元宇宙布局，为有效降低集成风险并加快上市时间，市场对经验证的专用人工智能IP的需求将继续增长。

AI 应用三要素：感知、决策与响应

20世纪50年代中期，“AI”一词首次被视为一门学科。2015年，随着处理器技术和 AI算法的进步，AI在某些方面已经能够匹敌甚至超越人类，AI领域的投资也因此出现爆炸式增长，这些投资正在将AI从大型机过渡到嵌入式应用。

一般而言，AI分为“弱 AI”（或称狭义AI，即解决特定任务的能力）或“强AI”（或称通用AI，即机器在面对陌生任务时找到解决方案的能力）。现有AI系统主要基于弱AI的概念，强AI系统预计将在未来几年投入使用。

感知、决策和响应是大多数AI应用的三个基本构成要素。比如智能音响会感知你的声音，处理云端和本地处理器之间的请求，并用实时音频数据作出响应。而从更广义层面讲，我们可以将AI定义为识别环境并最大限度地实现目标的能力。

过去几年AI持续高速发展，机器学习算法已实现更高水平的识别准确性，甚至赶超了人类。NASA曾使用神经网络技术来分析望远镜获得的数据以发现新行星，这一过程大大加快了工程团队分析数据的速度，NASA也通过该项技术成功发现了第八颗行星。

虽然AI市场仍处于萌芽阶段，但很多非传统半导体公司已开始大举投入，以期在AI市场分一杯羹。谷歌、脸书、亚马逊和阿里巴巴等系统公司正在开发自己的专用集成电路（ASIC）定制芯片，以支持其AI软件需求和商业模式，这样的发展在10年前是完全难以想象的。

AI 应用增长的细分市场

AI逐渐从学术界转向嵌入式应用中，这一转变得益于工艺技术、微处理器和AI算法的进步。在包括汽车、移动设备、数字家庭、数据中心和物联网（IoT）在内的所有市场中，芯片的功能也逐渐多元化，比如支持人脸识别功能、用于改进人机界面的自然语言理解、情境感知等。

从上图可以看出，云AI加速器（最左侧）的性能最高。云AI加速器的芯片开发者们运用复杂的AI算法和训练方法，通过限制推理的训练时间和能量损耗降低最终成本，将性能最大化以解决大型问题。硬件创新帮助开发者节省了多年开发时间，且能够更快地发现关键解决方案，如疫苗和药物创新。

然而并不是所有的问题都能在云端解决，而且许多AI加速器的架构正在被修改以支持边缘计算和端侧AI，我们预计这些领域将是硬件的最大增长点。如今端侧AI应用范围已十分广泛，可用于高级驾驶辅助系统（ADAS）、数字电视、语音和语言识别、AR/VR耳机等各类应用程序。在这一细分市场，移动设备将继续推动创新，尤其是在最新的工艺节点方面。

去年，移动处理器的AI处理能力已从每秒1万亿次操作（TOPS）提高了4倍以上，远超过20TOPS，其未来性能和每瓦性能仍有无限改善空间。

AI SoC的核心DNA构成

每个AI细分市场都有着不同的目标和挑战。随着时间的推移，在芯片中添加AI功能突显了用于AI芯片的基本芯片架构弱点。对融入了深度学习功能的芯片架构进行修改不仅会对高度定制化的解决方案产生影响，也会对通用型AI芯片设计造成影响。

这意味着选择和集成IP决定了AI芯片的基础效率，构成了AI芯片的核心“DNA”。比如说，引入自定义处理器或处理器阵列可以加速AI应用中所需的大规模矩阵乘法运算。