随着人工智能的普及流行,对计算资源的需求变得越来越迫切。传统的机器学习越来越难以满足日益复杂的需求。本文作者认为,模拟计算提供了一种创新的和更具成本效益的解决方案。该方案具有更高功效,未来可适用于解锁新的AI应用,甚至可以应用于小型边缘设备。

随着人工智能应用在越来越多的行业中变得越来越流行,对更多计算资源、更多模型存储容量以及更低功耗的需求变得越来越重要。目前用于人工智能应用的数字处理器难以满足这些极具挑战性的要求,尤其是对于在边缘运行的大型机器学习模型。模拟计算提供了一种创新的解决方案,能够帮助人们以更低的功耗和更小的外形尺寸获得更高的性能,同时极具成本效益。

与数字计算相比,模拟计算的速度和功效值长期以来就一直很有前景。从历史上看,开发模拟系统存在许多障碍,包括模拟处理器的尺寸和成本。最近的方法表明,一种称为内存内模拟计算(CIM)的组合方法可以消除这些障碍,该方法将模拟计算与闪存等非易失性存储器(NVM)配对使用。

Tim Vehling(来源:Mythic)

与依赖消耗过多功率的高吞吐量DRAM的数字计算系统不同,模拟CIM系统可以利用令人难以置信的高密度闪存进行数据存储和计算。这样就消除了在数字计算系统中访问和维持DRAM中的数据所带来的高功耗。使用模拟CIM方法后的处理器能以快速和低功耗的方式操作和组合整个存储库中的小电流,从而在非易失性存储单元内完成算术运算。

因此,虽然数字处理系统在不断增加的深度学习工作负载和更高的功耗方面遇到困难,但模拟CIM系统可以执行实时处理,即使是多个大型、复杂的深度神经网络,其功耗也只是数字处理系统的一小部分。

通过在闪存阵列内执行大规模并行向量矩阵乘法和加法运算,可以获得显著的功耗优势。微小的电流通过存储神经网络权重的闪存阵列加以引导,矩阵乘法结果通过一系列模数转换器得以累积。通过利用模拟计算进行推理操作,可以消除DRAM访问和数字计算的功耗开销,从而实现人工智能推理处理总功耗的大幅下降。

还有许多二级系统级效应可以大幅降低功耗;例如,当使用模拟计算将功耗降低多达10倍时,因为不再需要主动冷却,热管理系统将得到极大的简化。

成本、延优势

模拟计算系统还具有成本优势,因为带嵌入式非易失性存储器的处理器可以用成熟的半导体工艺节点制造。与所有产能都被少数公司占用的前沿节点相比,这些工艺节点通常成本更低,供应链的可用性更广。此外,模拟CIM方法可以使用单个闪存晶体管来同时存储神经网络权重和执行乘法与累加操作。这样用单颗芯片就能完成非常密集的神经网络权重存储和高性能人工智能处理,不再需要增加外部DRAM及相关组件的成本。

模拟CIM系统的另一个好处是它们的速度可以非常快,因为它们不受数据通过处理器中的数字逻辑门和内存传播以及读写外部DRAM的延迟的影响。可以在芯片上执行大规模并行矩阵运算,所需时间仅为数字处理系统的一小部分。这种速度使得模拟CIM系统成为计算密集型人工智能工作负载的理想选择,例如用于对象检测、分类、姿势估计、分割和深度估计的视频分析应用。

工业领域对更快的处理速度有着巨大的需求,其中运行计算机视觉应用的机器人主要用于提高生产力和安全性。无人机是模拟CIM系统驱动新型功能的另一个市场。传统意义上,为无人机配备高清摄像头、从而实现为需要在本地运行复杂的人工智能网络以便向控制站提供即时和相关信息的计算机视觉应用一直具有挑战性。使用模拟计算的处理器可以在本地处理这些工作负载,同时还非常节能,从而使无人机能够进行更长时间的飞行。

在这些功能的加持下,我们将看到越来越多的无人机用于农业监测、检查电力线等重要基础设施和检查火灾损失。

安全摄像机和监控解决方案也是模拟CIM处理器的理想应用。在旧系统中,摄像头捕捉人和物体的图像,并将视频流发送到中央视频处理系统——无论它是在设备端还是在云端——进行视觉分析;这正是隐私和数据安全问题突出的地方。更好的选择是让摄像头使用经过训练的人工智能算法来检测特定序列——事故、犯罪或其他事件,并且只发送分析的元数据,或者只发送潜在安全事件的素材用于分析。不管是交通监控、事故检测还是其他关键安全应用,视频安全系统能够在边缘处理大多数数据都有助于减轻隐私问题,同时仍然保护公共安全。

总而言之,模拟计算是人工智能处理可以采用的理想方法,因为它功耗更低,尺寸更小,同时延迟也更短。模拟计算技术的高功效可以帮助产品设计人员在未来几年解锁新的人工智能应用,甚至应用于小型边缘设备中。

(参考原文:Analog Compute is Key to The Next Era of AI Innovation )

本文为《电子工程专辑》2021年3月刊杂志文章,版权所有,禁止转载。点击申请免费杂志订

责编:Amy.wu
本文为EET电子工程专辑原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
阅读全文,请先
您可能感兴趣
晶华微发布重要公告,宣布公司拟使用自有资金2亿元收购芯邦科技持有的深圳芯邦智芯微电子有限公司100%的股权……
短期全球芯片市场数据的上调反映了 2024 年第 2 季度和第 3 季度业绩的改善,尤其是在计算领域,受AI 芯片支持的需求推动。
近期,国内射频芯片上市公司慧智微电子被曝出大规模裁员的消息,其中研发人员裁员比例高达40%,赔偿方案为N+1。此次裁员行动迅速且果断,涉及上海和广州分公司……
汇顶科技在芯片领域再下一城,计划通过发行股份及支付现金的方式收购云英谷科技股份有限公司(以下简称“云英谷”)的控制权,并拟发行股份募集配套资金。此举标志着汇顶科技在显示芯片领域的进一步布局,同时也是云英谷在资本市场的重要一步。
目前受到脑机接口技术和伦理、安全等因素的制约,无论是各国科研院所还是企业,研究重点都侧重非侵入式脑机接口。但是作为脑机行业的风向标,马斯克的Neuralink公司选择的却是植入式方案,哪种路线更具发展潜力?在具体应用上现状如何?又需要什么样的芯片来帮助脑机技术突破目前瓶颈?
传统的康复机器人,尤其是外骨骼康复机器人,虽然在某些方面表现出良好的康复效果,但也存在诸多问题。这些设备通常体积庞大、价格昂贵、操作复杂,难以在家庭和社区广泛推广。因此,迫切需要一种便捷、柔软舒适的康复机器人……
• 目前,iPhone在翻新市场中是最热门的商品,并将长期主导着翻新机的平均销售价格。 • 全球翻新机市场持续向高端化发展,其平均销售价格(ASP)现已超过新手机。 • 新兴市场是增长的最大驱动力,消费者对高端旗舰产品有着迫切需求。 • 由于市场固化和供应链的一些问题限制推高中国、东南亚和非洲等大市场的价格。 • 2024年,这些翻新机平均销售价格将首次超过新手机。
从全球厂商竞争来看,三季度凭借多个新品发布,石头科技市场份额提升至16.4%,连续两季度排名全球第一……
2025年1月9日,美国 拉斯维加斯丨全球瞩目的国际消费电子产品展(CES 2025)盛大开幕,来自世界各地的科技巨头与创新企业齐聚一堂共同展示最新的科技成果。中国高性能微控制器产品及嵌入式解决方案提供商上海先楫半导体科技有限公司(先楫半导体,HPMicro)闪耀登场,发布了专注于机器人运动与控制的高性能MCU产品——HPM6E8Y系列,为火热的机器人市场注入新的活力。
最新Wi-Fi HaLow片上系统(SoC)为物联网的性能、效率、安全性与多功能性设立新标准,配套USB网关,可轻松实现Wi-Fi HaLow在新建及现有Wi-Fi基础设施中的快速稳健集成
来源:《中国半导体大硅片年度报告2024》2016 年至 2023 年间,全球半导体硅片(不含 SOI)销售额从 72.09 亿美元上升至121.29 亿美元,年均复合增长率达 7.72%。2016
1月8日消息,奥康国际发布公告称,终止发行股份购买资产,公司股票将于1月8日开市起复牌。至此,奥康国际谋划的跨界收购芯片公司事项告一段落。奥康国际在公告中介绍,公司于2024年12月24日披露了《关于
1月7日,据韩媒 sisajournal-e 消息,三星计划 2025 年下半年推出三折叠手机,采用 G 形双内折设计,完全展开后尺寸为 12.4 英寸。据称,有别于华为的 S 形折叠屏方式(In&O
CES 2025,黑芝麻智能携旗下华山系列、武当系列芯片参展,并带来与产业链伙伴的合作新进展。1月8日,黑芝麻智能与汽车嵌入式互联软件产品和解决方案供应商Elektrobit联合发布了基于武当系列C1
手机充电器ic U6773S助推充电便利好享受面对手机存储空间不足的问题,我们可以从多个方面入手,清理缓存、卸载不必要的应用、移动文件至外部存储、使用云存储服务等等。面对手机充电器充电速度慢、效率低的
亚化咨询重磅推出《中国半导体材料、晶圆厂、封测项目及设备中标、进口数据全家桶》。本数据库月度更新,以EXCEL表格的形式每月发送到客户指定邮箱。中国大陆半导体大硅片项目表(月度更新)中国大陆再生晶圆项
  在千级电子净化车间中设置通风系统时,需要综合考虑多个因素,包括洁净度要求、换气次数、气流组织、空气处理、温湿度控制以及节能与环保等。以下是合洁科技电子洁净工程公司的一些具体的设
戴尔科技AI PC产品组合助力终端用户释放创造力并提高工作效率。 戴尔科技统一旗下产品组合品牌命名,旨在帮助用户更轻松、快速地找到相匹配的PC、配件及服务。 搭载英
这届CES,几乎成了半个车展。尤其是今年多个中国电动车品牌参展,凭借各种华丽的车载科技大放异彩,直接让美国记者看傻了。在体验完极氪001 FR之后,美国知名电动车媒体InsideEVs记者Patric
据彭博社报道,软银集团及其控股子公司 Arm 正在探讨收购 Ampere Computing 的可能。 Ampere Computing 是甲骨文支持的半导体设计公司,致力于塑造云计算的未来,并推出了