物联网为设计带来的一个好处是,小型本地化设备能够访问几近无限的网络计算能力。Amazon Echo就是个典型的例子:低成本的本地设备可以通过Internet连接提供强大的语音识别AI功能和庞大的应用库。现在,人工智能更逐步进入本地设备,通过为小型设备部署有效的机器学习(ML)方式,可以最大程度地帮助降低带宽和延迟。
在一个AI帮助气体传感器升级为“电子鼻”的实例中,生成传感器算法的机器学习发生在设计周期,而本地设备仅运行算法。然而,这只是将AI带入边缘的第一步,它还有更多可能。
为了发挥其全部潜能,边缘人工智能将需要具备自适应能力。这意味着边缘设备将必须在本地实现机器学习(ML)。确切地说,就是如何利用边缘设备的有限计算能力来实现ML这一功能,这是当前大量研究与开发的主题方向。tinyML基金会的目标就是为本地机器学习提供一种信息和思想交流的形式。
边缘机器学习将带来更智能的物联网设备,这些设备能够自行学习任务而无需开发人员过多的开发努力
tinyML基金会于2019年举办的首个业界活动 -- tinyML峰会引起了极大的关注,有90多家公司参与。这次活动揭示了三个基本趋势:
• 具有微型ML功能的硬件目前正变得“足够好”,适用于许多商业应用,而且新的更好的架构陆续出现。
• 算法、网络和模型的规模已经显著缩小,很多已降至100 kByte或更低。
• 技术进步和生态系统发展显示出增长的势头。
这些趋势表明,机器学习不仅仅是即将出现在边缘,在某些情况下,它已经出现在边缘。
因为新冠疫情,tinyML基金会取消了2020年的活动。但2021年,该基金会创办了一个免费的在线活动。活动最近刚刚结束,但注册用户可以访问相关文档。另外,该基金会还组织了一系列名为tinyML Talks的讲座,感兴趣的可以在YouTube和其它平台上观看。
这种趋势明显受到业界的关注。现在该组织的赞助商覆盖范围已十分广泛,从主要的硬件厂商(例如Arm、赛普拉斯半导体和三星),到专注于低功耗AI应用的软件初创公司。目前,很多应用专注于视觉或音频(语音识别)系统,但智能传感器逐步发展为一种颇具前景的应用。
这种趋势对物联网开发人员来说也是个好兆头。使用常规编程技术,以合理成本开发小尺寸、低功耗的设备来执行复杂的任务可能是开发人员的噩梦。不过,将设备性能依赖于需要联网的AI来处理连接,也有其自身缺点。家庭网络已经被流媒体和通信需求阻塞;添加大量占用网络的智能设备可能会使普通家庭连接过载。还有网络通信的延迟、当网络中断时设备可能完全无法运行,这些都是问题。
将人工智能移动到边缘——至少对于基本功能而言——解决了大多数问题。借助边缘设备机器学习的能力,开发人员可以精心设计系统去自我学习如何满足客户需求,而无需开发人员事先详尽地分析用例。边缘设备具备AI能力可以减少对网络带宽的需求,消除网络延迟问题,并确保在没有网络时也能够运行。而对微型ML技术的扩展将有助于加速AI继续向物联网设备推进。
(参考原文:Tiny machine learning brings AI to IoT devices)
责编:Amy Guan
本文为《电子工程专辑》2021年6月刊杂志文章,版权所有,禁止转载。点击申请免费杂志订阅