随着人工智能的普及流行,对计算资源的需求变得越来越迫切。传统的机器学习越来越难以满足日益复杂的需求。本文作者认为,模拟计算提供了一种创新的和更具成本效益的解决方案。该方案具有更高功效,未来可适用于解锁新的AI应用,甚至可以应用于小型边缘设备。

随着人工智能应用在越来越多的行业中变得越来越流行,对更多计算资源、更多模型存储容量以及更低功耗的需求变得越来越重要。目前用于人工智能应用的数字处理器难以满足这些极具挑战性的要求,尤其是对于在边缘运行的大型机器学习模型。模拟计算提供了一种创新的解决方案,能够帮助人们以更低的功耗和更小的外形尺寸获得更高的性能,同时极具成本效益。

与数字计算相比,模拟计算的速度和功效值长期以来就一直很有前景。从历史上看,开发模拟系统存在许多障碍,包括模拟处理器的尺寸和成本。最近的方法表明,一种称为内存内模拟计算(CIM)的组合方法可以消除这些障碍,该方法将模拟计算与闪存等非易失性存储器(NVM)配对使用。

Tim Vehling(来源:Mythic)

与依赖消耗过多功率的高吞吐量DRAM的数字计算系统不同,模拟CIM系统可以利用令人难以置信的高密度闪存进行数据存储和计算。这样就消除了在数字计算系统中访问和维持DRAM中的数据所带来的高功耗。使用模拟CIM方法后的处理器能以快速和低功耗的方式操作和组合整个存储库中的小电流,从而在非易失性存储单元内完成算术运算。

因此,虽然数字处理系统在不断增加的深度学习工作负载和更高的功耗方面遇到困难,但模拟CIM系统可以执行实时处理,即使是多个大型、复杂的深度神经网络,其功耗也只是数字处理系统的一小部分。

通过在闪存阵列内执行大规模并行向量矩阵乘法和加法运算,可以获得显著的功耗优势。微小的电流通过存储神经网络权重的闪存阵列加以引导,矩阵乘法结果通过一系列模数转换器得以累积。通过利用模拟计算进行推理操作,可以消除DRAM访问和数字计算的功耗开销,从而实现人工智能推理处理总功耗的大幅下降。

还有许多二级系统级效应可以大幅降低功耗;例如,当使用模拟计算将功耗降低多达10倍时,因为不再需要主动冷却,热管理系统将得到极大的简化。

成本、延优势

模拟计算系统还具有成本优势,因为带嵌入式非易失性存储器的处理器可以用成熟的半导体工艺节点制造。与所有产能都被少数公司占用的前沿节点相比,这些工艺节点通常成本更低,供应链的可用性更广。此外,模拟CIM方法可以使用单个闪存晶体管来同时存储神经网络权重和执行乘法与累加操作。这样用单颗芯片就能完成非常密集的神经网络权重存储和高性能人工智能处理,不再需要增加外部DRAM及相关组件的成本。

模拟CIM系统的另一个好处是它们的速度可以非常快,因为它们不受数据通过处理器中的数字逻辑门和内存传播以及读写外部DRAM的延迟的影响。可以在芯片上执行大规模并行矩阵运算,所需时间仅为数字处理系统的一小部分。这种速度使得模拟CIM系统成为计算密集型人工智能工作负载的理想选择,例如用于对象检测、分类、姿势估计、分割和深度估计的视频分析应用。

工业领域对更快的处理速度有着巨大的需求,其中运行计算机视觉应用的机器人主要用于提高生产力和安全性。无人机是模拟CIM系统驱动新型功能的另一个市场。传统意义上,为无人机配备高清摄像头、从而实现为需要在本地运行复杂的人工智能网络以便向控制站提供即时和相关信息的计算机视觉应用一直具有挑战性。使用模拟计算的处理器可以在本地处理这些工作负载,同时还非常节能,从而使无人机能够进行更长时间的飞行。

在这些功能的加持下,我们将看到越来越多的无人机用于农业监测、检查电力线等重要基础设施和检查火灾损失。

安全摄像机和监控解决方案也是模拟CIM处理器的理想应用。在旧系统中,摄像头捕捉人和物体的图像,并将视频流发送到中央视频处理系统——无论它是在设备端还是在云端——进行视觉分析;这正是隐私和数据安全问题突出的地方。更好的选择是让摄像头使用经过训练的人工智能算法来检测特定序列——事故、犯罪或其他事件,并且只发送分析的元数据,或者只发送潜在安全事件的素材用于分析。不管是交通监控、事故检测还是其他关键安全应用,视频安全系统能够在边缘处理大多数数据都有助于减轻隐私问题,同时仍然保护公共安全。

总而言之,模拟计算是人工智能处理可以采用的理想方法,因为它功耗更低,尺寸更小,同时延迟也更短。模拟计算技术的高功效可以帮助产品设计人员在未来几年解锁新的人工智能应用,甚至应用于小型边缘设备中。

(参考原文:Analog Compute is Key to The Next Era of AI Innovation )

本文为《电子工程专辑》2021年3月刊杂志文章,版权所有,禁止转载。点击申请免费杂志订

责编:Amy.wu
本文为EET电子工程专辑原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
阅读全文,请先
您可能感兴趣
ADI 首席执行官兼总裁 Vincent Roche 在财报电话会议上表示,根据过去 18 个月渠道库存水位下降、预订量逐步回升等信号,公司已度过半导体行业周期的最低谷,市场形势正转向对其有利,ADI 正处于持续复苏的有利位置。
无创血糖检测的难点在于无创葡萄糖传感器的研发,通过无创葡萄糖传感器来进行非侵入式的人体血糖检测。目前来说,按检测方式划分,无创葡萄糖传感器主要有光学传感器和电化学传感器两种……
即使在最佳设计中,噪声和干扰也会悄然降低信噪比、掩盖所需信号并影响测量精度和可重复性。示波器和数字化仪等数字化仪器集成了多种功能,用于表征、测量和减少噪声对测量的影响。
本文介绍了一些生成常见且有用的噪声类型的好方法,包括白色、粉色和褐色(可选)。核心组件是一个经过编程的MCU,用于生成原始白噪声,以及一个改进的滤波器,用于将白噪声转换为粉色噪声。
面对当下气候变化引发的自然灾害、资源枯竭、人口增长与少子高龄化等社会突出问题,罗姆不但适时提出“Electronics for the Future”愿景,还在2020年制定了新的企业经营愿景,专注于功率电子和模拟技术,助力客户实现产品“节能”和“小型化”,以解决社会课题,并实现自身可持续发展。
此次收购符合南芯科技的长期战略规划,通过整合昇生微在嵌入式芯片设计上的技术专长和研发团队,南芯科技将强化其在硬件、IP、算法及软件等方面的技术优势……
TEL宣布自2025年3月1日起,现任TEL中国区地区总部——东电电子(上海)有限公司高级执行副总经理赤池昌二正式升任为集团副总裁,同时兼任东电电子(上海)有限公司总裁和东电光电半导体设备(昆山)有限公司总裁。
预计在2025年,以下七大关键趋势将塑造物联网的格局。
领域新成果领域新成果4月必逛电子展!AI、人形机器人、低空飞行、汽车、新能源、半导体六大热门新赛道,来NEPCON China 2025一展全看,速登记!
本次股东大会将采取线上和线下相结合的混合形式召开,股东们可选择现场出席或线上参会。
点击上方蓝字谈思实验室获取更多汽车网络安全资讯3 月 5 日,据中国经济网报道,近日有传言毛京波即将卸任莲花中国总裁,调整至海外市场。莲花汽车内部人士证实了此事:“毛总(毛京波)已经有几天没有出现在办
插播:历时数月深度调研,9大系统性章节、超百组核心数据,行家说储能联合天合光能参编,发布工商业储能产业首份调研级报告,为行业提供从战略决策到产品方向、项目资源的全维参考!点击下方“阅读原文”订阅又一地
今日光电     有人说,20世纪是电的世纪,21世纪是光的世纪;知光解电,再小的个体都可以被赋能。追光逐电,光引未来...欢迎来到今日光电!----追光逐电 光引未来----图1 采用自上而下方法实
今日光电     有人说,20世纪是电的世纪,21世纪是光的世纪;知光解电,再小的个体都可以被赋能。追光逐电,光引未来...欢迎来到今日光电!----追光逐电 光引未来----编者荐语特征提取是计算机
点击上方蓝字谈思实验室获取更多汽车网络安全资讯01摘要近年来,电子控制单元(ECU)不再局限于简单的便利功能,而是将多种功能整合为一体。因此,ECU 拥有比以往更多的功能和外部接口,各种网络安全问题也
‍‍近几年,随着Mini/Micro LED技术的高速发展,LED产业呈现几大发展趋势,如LED显示间距持续缩小、LED芯片持续微缩化、产品、工艺制造环节更为集成,以及RGB 封装与COB 降本需求迫
今日光电     有人说,20世纪是电的世纪,21世纪是光的世纪;知光解电,再小的个体都可以被赋能。追光逐电,光引未来...欢迎来到今日光电!----追光逐电 光引未来----来源: 逍遥设计自动化申
据报道,小米集团总裁卢伟冰在西班牙巴塞隆纳的全球发表会上表示,小米汽车计划于2027年进军海外市场。小米的立足之本在于深耕本土市场,作为一家中国车企,唯有在国内市场站稳脚跟,方能谈及海外扩张。因此,小
                                                                                                
 点击上方蓝字➞右上「· · ·」设为星标➞更新不错过★2025 年 3 月 12 日至 14 日  连续 3 晚 19:00 - 20:30德州仪器电力全开 为您带来 “高效 DC-DC 转换器的设