来自宾夕法尼亚州匹兹堡的新创企业Aspinity声称,世界上第一个模拟的机器学习芯片已经问世,它对源自西弗吉尼亚大学研究的一种始终在线的技术进行了商业化。AML100处理原生模拟数据并对数据进行分析,同时消耗接近零的功率进行推理和检测事件。
图1:AML100具有连接传感器、系统唤醒触发器和其他外部组件的模拟和数字接口。图片资料来源:Aspinity
该芯片能够判断数据的相关性,在需要时才运行数字内核。这里值得注意的是,当前的系统在分析已经数字化的数据时会浪费能耗。因为超过80%的数字化数据通常是无关的。“我们认为,在边缘数字领域,得到数字化和处理的数据中有80%是不必要的,大部分都是浪费的,”Aspinity公司的联合创始人兼首席执行官TomDoyle表示,“实际上浪费的是处理这些无用数据所需的能量。”
Aspinity的新芯片AML100能够在数据数字化之前以模拟方式完成机器学习和其他计算,使机器学习更接近数据源。AML100通过执行机器学习算法来判断某个声音是玻璃破碎的声音还是其他声音。
正如Doyle所指出的那样,为了只是判断不是玻璃破碎的声音,如今的设计工程师必须先将所有自然的模拟声音百分之百数字化,然后在数字域中查看并分析声音信息,“那是巨大的功耗浪费。”
对于在线常开设备而言,为了检测玻璃破裂等事件,目前的系统需要监控房间里的所有声音,处理100%的数据。它们等待一个事件,比如打破窗户,这是非常罕见的,但当它发生时,却不能错过它。“对于始终在线的设计而言,这是一个关键的过程”,Doyle指出。
他补充说,在监视声音的数字架构中,人们会以全部带宽盲目地处理所有数据,但有可能运行多年,却没有任何事件发生。在处理声学数据时,模数转换器(ADC)以16位分辨率不间断运行,ADC和数字处理器的工作电流从3mA到5mA不等。根据Doyle的说法,这还是非常理想的情况。
Aspinity将AML100芯片插入上述系统中,运行某种特定模型,在上例中运行玻璃破裂检测的模型,同时关闭ADC和数字处理器。因此,它们可以进入睡眠模式而不消耗能量。这就是AML100能够将始终在线的电流消耗保持在100µA以下的原因,从而促进系统级功耗有了惊人的改进。
“我们正在将机器学习从数字领域转移到模拟领域,因此我们可以通过局部推理来做出决定,”Doyle表示,“这将有助于在系统级将不间断工作的功耗节省95%。”他还指出,虽然数字内核可以提高元件级的功耗性能,但忽视了增加隐藏的ADC功耗和其他浪费系统功耗的地方。
模拟机器学习芯片工作原理
AML100模拟机器学习芯片中,包含一系列通过软件编程的可配置模拟模块(CAB)。换句话说,每个CAB的功能和参数,都可以通过软件进行配置。它使AML100能够为手头的应用创建信号链,并对信号链和信号链中的组件进行参数化。
它是通过将信息放入内核来完成的。做到这一点的关键是公司专有的模拟非易失性存储器,它可以在每个CAB中存储神经网络权重和滤波器带宽等参数。“这就是我们如何通过构建信号链来进行信号处理,以及如何在每个电路中嵌入非易失性存储器,”Doyle表示。
他还补充道,首先对其中一个模块进行参数化,对其中滤波器这样的电路加以偏置来设置中心频率。其次,使用非易失性存储器处理模拟神经网络的权值。第三,我们利用它来处理芯片之间的一些变化。“最终,我们能够使用可配置的模拟内核构建信号链,它可以执行必要的功能,如玻璃破裂检测。”
图2:AML100允许对用于不同应用的硬件进行编程,因此效率可以与数字化处理一样高。
AML100最多支持四个不同的模拟传感器,并且像传感器集中器一样,它可以接收来自多个麦克风或加速度计的输入。“由于我们拥有所有必要的接口,因此很容易集成进模拟传感器系统中,”Doyle指出。同样他还补充道,模拟机器学习芯片很容易集成进当前的数字架构中。
该芯片在做实时检测工作时消耗不到20µA电流,因此能够将模拟数据减少100倍。AML100采用7mmx7mm、48引脚的QFN封装,并附送支持语音检测的评估套件—EVK1和EVK2,支持语音检测,包括播放前管理、玻璃破碎、T3/T4警报音检测和其他声学应用。
支持音频设计中的新层
Doyle向Planet Analog透露,Aspinity公司借助AML100的推出,长期专注于提供最低的一直在线功耗,因此可以为电池供电应用提供许多新产品。“在支持语音的应用中,功耗和数据需并行考虑,”他表示,“如果只处理有用的信息,就可以节省大量功率,同时将电池寿命延长20多倍。”
图3:语音优先设计中的新模拟层将促进更多电池供电产品的开发。
在收集信息的传感器数量不断增长且连网设备数量也不断增加的时代里,Aspinity通过其模拟机器学习芯片,在支持语音的设计域增加了一个新层。它在执行音频数据推理时消耗的功率非常少;只有判断有相关的数据时,才启动后面的数字部分并与云端进行通信。
能够处理原始模拟数据的首款模拟机器学习芯片AML100,旨在解决以音频为中心的边缘设计领域中低效率的问题。看到模拟芯片的推理能力,能够在数字主导的设计领域中找到一席之地,着实让人倍感兴趣。希望该芯片和其他类似芯片,能够借助自身特点,促进更多电池供电的语音优先产品实现商业化。
(参考原文:Audio chip moves machine learning from digital to analog )
本文为《电子工程专辑》2022年5月刊杂志文章,版权所有,禁止转载。点击申请免费杂志订