利用边缘设备的有限计算能力实现ML

物联网为设计带来的一个好处是，小型本地化设备能够访问几近无限的网络计算能力。Amazon Echo就是个典型的例子：低成本的本地设备可以通过Internet连接提供强大的语音识别AI功能和庞大的应用库。现在，人工智能更逐步进入本地设备，通过为小型设备部署有效的机器学习（ML）方式，可以最大程度地帮助降低带宽和延迟。

在一个AI帮助气体传感器升级为“电子鼻”的实例中，生成传感器算法的机器学习发生在设计周期，而本地设备仅运行算法。然而，这只是将AI带入边缘的第一步，它还有更多可能。

为了发挥其全部潜能，边缘人工智能将需要具备自适应能力。这意味着边缘设备将必须在本地实现机器学习（ML）。确切地说，就是如何利用边缘设备的有限计算能力来实现ML这一功能，这是当前大量研究与开发的主题方向。tinyML基金会的目标就是为本地机器学习提供一种信息和思想交流的形式。

边缘机器学习将带来更智能的物联网设备，这些设备能够自行学习任务而无需开发人员过多的开发努力

tinyML基金会于2019年举办的首个业界活动 -- tinyML峰会引起了极大的关注，有90多家公司参与。这次活动揭示了三个基本趋势：

• 具有微型ML功能的硬件目前正变得“足够好”，适用于许多商业应用，而且新的更好的架构陆续出现。

• 算法、网络和模型的规模已经显著缩小，很多已降至100 kByte或更低。

• 技术进步和生态系统发展显示出增长的势头。

这些趋势表明，机器学习不仅仅是即将出现在边缘，在某些情况下，它已经出现在边缘。

因为新冠疫情，tinyML基金会取消了2020年的活动。但2021年，该基金会创办了一个免费的在线活动。活动最近刚刚结束，但注册用户可以访问相关文档。另外，该基金会还组织了一系列名为tinyML Talks的讲座，感兴趣的可以在YouTube和其它平台上观看。

这种趋势明显受到业界的关注。现在该组织的赞助商覆盖范围已十分广泛，从主要的硬件厂商（例如Arm、赛普拉斯半导体和三星），到专注于低功耗AI应用的软件初创公司。目前，很多应用专注于视觉或音频（语音识别）系统，但智能传感器逐步发展为一种颇具前景的应用。

这种趋势对物联网开发人员来说也是个好兆头。使用常规编程技术，以合理成本开发小尺寸、低功耗的设备来执行复杂的任务可能是开发人员的噩梦。不过，将设备性能依赖于需要联网的AI来处理连接，也有其自身缺点。家庭网络已经被流媒体和通信需求阻塞；添加大量占用网络的智能设备可能会使普通家庭连接过载。还有网络通信的延迟、当网络中断时设备可能完全无法运行，这些都是问题。

将人工智能移动到边缘——至少对于基本功能而言——解决了大多数问题。借助边缘设备机器学习的能力，开发人员可以精心设计系统去自我学习如何满足客户需求，而无需开发人员事先详尽地分析用例。边缘设备具备AI能力可以减少对网络带宽的需求，消除网络延迟问题，并确保在没有网络时也能够运行。而对微型ML技术的扩展将有助于加速AI继续向物联网设备推进。

（参考原文：Tiny machine learning brings AI to IoT devices）

责编：Amy Guan

本文为《电子工程专辑》2021年6月刊杂志文章，版权所有，禁止转载。点击申请免费杂志订阅