人工智能和机器学习(Machine Learning, ML)改变物联网,这并不是 5年甚至 10 年后的事情,而是已经开始了。它们不是未来的工具,而是现在推动创新和变革的动力。
人工智能和 “边缘人工智能”(即在终端上执行人工智能和 ML,而不是将数据上传到云端)无疑会在物联网中发挥重要作用。
当我们谈论物联网中的人工智能时,我想明确指出,在可预见的未来,我们真正谈论的是 ML 和精简版 TinyML 变体。
ML 采用基于模型的方法,从捕获的数据中不断尝试和学习。学习部分(“训练”)在云计算等计算能力充足的地方进行;在很多情况下,即时预测部分(“推理”)非常轻量,可以在小型嵌入式设备上运行。
收集的数据越来越多,我们可以不断重新进行训练并且更新预测部分,使其更加准确。因此,任何连接的传感器的监测功能都会不断改进。
物联网设备的计算能力越来越强,人工智能的运行还需要尽可能靠近传感器,直到边缘。但这些设备基本上仍将由电池供电。与接入主电网的设备相比,这些边缘设备的资源更加紧张。
我们主要讨论三种物联网人工智能:监督学习、强化学习和无监督学习。三类主要用例就是 Arm 提出的 “三V”:振动(vibration),即是异常检测和运动分类;语音(voice),即是使用音频识别作为传感器;和视觉(vision),即是使用图像识别来发挥传感器的功能。
这三者的唯一区别,在于 ML 模型的自主学习能力的强度:从很少(有监督)直到自主学习(无监督),关键是要给定合适的模型。目前,ML 可以在物联网平台设备(如 Nordic 最新的nRF54 系列)的边缘上本地运行。通过使用 ML 加速器,用户可以在资源有限的设备上优化 ML,从而实现可与更强大设备相媲美的性能,并远远超越传统 MCU。一旦训练好基本模型(在台式 PC 上通常需要一天时间),使用人工智能优化算法就可以大大加快推理速度。
Nordic 的 nRF54 系列就是以这种方式在受限的边缘设备上运行优化的 ML。在人工智能和 ML 边缘计算应用中,它的性能相比市场领先的微处理器高出大约 25%,功耗则相比能耗最低的微处理器降低 20%。
这意味着Nordic公司已将边缘计算、人工智能和 ML 的优势带给了广泛的客户和应用。
边缘计算、人工智能和 ML 可为客户带来五大优势。首先是低延迟,如果用户需要实时或接近实时的响应能力,就必须在本地进行计算和决策。这也能让人工智能和 ML 更快地做出决策。
其次是高带宽,边缘计算减少了对持续网络或云连接的依赖,这种连接会产生巨大的数据开销和数据成本。
第三个好处是隐私,将敏感数据或个人数据传输到云端会引发隐私问题。本地边缘处理和存储意味着可以更好地控制数据的保密性。这将有助于最大限度地减低安全漏洞的可能性。
在边缘运行的第四个好处是低成本。基于云的人工智能成本要高得多,因为将大量数据传输到云端和从云端接收数据都需要费用,然后还要支付所有云计算功能的费用。相比之下,在边缘进行处理则无需支付此类经常性运营费用。
第五个,或许也是最重要的优势,就是高能效。世界上根本没有足够的资源让所有处理都在云端运行。更智能的边缘设备可以最大限度地降低功耗,使其更加环保,有利于应对气候变化。
Nordic拥有全球首屈一指的超低功耗连接技术,在高能效边缘 AI 计算方面,没有任何 SoC 能像 Nordic nRF54 系列一样表现出色。Nordic收购Atlazo,从而获得了人工智能和 ML 加速方面的最新技术进展成果,这将会进一步扩展Nordic在边缘人工智能和 ML 领域的领先地位。
我认为这一发展标志着 Nordic 的关键转型,在物联网领域,我们远远超出了无线连接或蓝牙公司的范畴,还是物联网人工智能的无缝集成平台提供商。