随着人工智能的普及流行,对计算资源的需求变得越来越迫切。传统的机器学习越来越难以满足日益复杂的需求。本文作者认为,模拟计算提供了一种创新的和更具成本效益的解决方案。该方案具有更高功效,未来可适用于解锁新的AI应用,甚至可以应用于小型边缘设备。

随着人工智能应用在越来越多的行业中变得越来越流行,对更多计算资源、更多模型存储容量以及更低功耗的需求变得越来越重要。目前用于人工智能应用的数字处理器难以满足这些极具挑战性的要求,尤其是对于在边缘运行的大型机器学习模型。模拟计算提供了一种创新的解决方案,能够帮助人们以更低的功耗和更小的外形尺寸获得更高的性能,同时极具成本效益。

与数字计算相比,模拟计算的速度和功效值长期以来就一直很有前景。从历史上看,开发模拟系统存在许多障碍,包括模拟处理器的尺寸和成本。最近的方法表明,一种称为内存内模拟计算(CIM)的组合方法可以消除这些障碍,该方法将模拟计算与闪存等非易失性存储器(NVM)配对使用。

Tim Vehling(来源:Mythic)

与依赖消耗过多功率的高吞吐量DRAM的数字计算系统不同,模拟CIM系统可以利用令人难以置信的高密度闪存进行数据存储和计算。这样就消除了在数字计算系统中访问和维持DRAM中的数据所带来的高功耗。使用模拟CIM方法后的处理器能以快速和低功耗的方式操作和组合整个存储库中的小电流,从而在非易失性存储单元内完成算术运算。

因此,虽然数字处理系统在不断增加的深度学习工作负载和更高的功耗方面遇到困难,但模拟CIM系统可以执行实时处理,即使是多个大型、复杂的深度神经网络,其功耗也只是数字处理系统的一小部分。

通过在闪存阵列内执行大规模并行向量矩阵乘法和加法运算,可以获得显著的功耗优势。微小的电流通过存储神经网络权重的闪存阵列加以引导,矩阵乘法结果通过一系列模数转换器得以累积。通过利用模拟计算进行推理操作,可以消除DRAM访问和数字计算的功耗开销,从而实现人工智能推理处理总功耗的大幅下降。

还有许多二级系统级效应可以大幅降低功耗;例如,当使用模拟计算将功耗降低多达10倍时,因为不再需要主动冷却,热管理系统将得到极大的简化。

成本、延优势

模拟计算系统还具有成本优势,因为带嵌入式非易失性存储器的处理器可以用成熟的半导体工艺节点制造。与所有产能都被少数公司占用的前沿节点相比,这些工艺节点通常成本更低,供应链的可用性更广。此外,模拟CIM方法可以使用单个闪存晶体管来同时存储神经网络权重和执行乘法与累加操作。这样用单颗芯片就能完成非常密集的神经网络权重存储和高性能人工智能处理,不再需要增加外部DRAM及相关组件的成本。

模拟CIM系统的另一个好处是它们的速度可以非常快,因为它们不受数据通过处理器中的数字逻辑门和内存传播以及读写外部DRAM的延迟的影响。可以在芯片上执行大规模并行矩阵运算,所需时间仅为数字处理系统的一小部分。这种速度使得模拟CIM系统成为计算密集型人工智能工作负载的理想选择,例如用于对象检测、分类、姿势估计、分割和深度估计的视频分析应用。

工业领域对更快的处理速度有着巨大的需求,其中运行计算机视觉应用的机器人主要用于提高生产力和安全性。无人机是模拟CIM系统驱动新型功能的另一个市场。传统意义上,为无人机配备高清摄像头、从而实现为需要在本地运行复杂的人工智能网络以便向控制站提供即时和相关信息的计算机视觉应用一直具有挑战性。使用模拟计算的处理器可以在本地处理这些工作负载,同时还非常节能,从而使无人机能够进行更长时间的飞行。

在这些功能的加持下,我们将看到越来越多的无人机用于农业监测、检查电力线等重要基础设施和检查火灾损失。

安全摄像机和监控解决方案也是模拟CIM处理器的理想应用。在旧系统中,摄像头捕捉人和物体的图像,并将视频流发送到中央视频处理系统——无论它是在设备端还是在云端——进行视觉分析;这正是隐私和数据安全问题突出的地方。更好的选择是让摄像头使用经过训练的人工智能算法来检测特定序列——事故、犯罪或其他事件,并且只发送分析的元数据,或者只发送潜在安全事件的素材用于分析。不管是交通监控、事故检测还是其他关键安全应用,视频安全系统能够在边缘处理大多数数据都有助于减轻隐私问题,同时仍然保护公共安全。

总而言之,模拟计算是人工智能处理可以采用的理想方法,因为它功耗更低,尺寸更小,同时延迟也更短。模拟计算技术的高功效可以帮助产品设计人员在未来几年解锁新的人工智能应用,甚至应用于小型边缘设备中。

(参考原文:Analog Compute is Key to The Next Era of AI Innovation )

本文为《电子工程专辑》2021年3月刊杂志文章,版权所有,禁止转载。点击申请免费杂志订

责编:Amy.wu
本文为EET电子工程专辑原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
阅读全文,请先
您可能感兴趣
按照芯联集成的说法,这次并购的主要目的是增强芯联集成对芯联越州的控制力,并利用上市公司的技术、客户和资金优势,重点支持碳化硅、高压模拟IC等新兴业务的发展。
一项技术要想产生广泛的影响,它不仅要解决短期的挑战,还应该超越现有技术的进步,为未来的创新打开大门。这就是我们对泛林集团(Lam Research)今年早些时候推出的全球首个用于半导体量产的脉冲激光沉积(PLD)技术的描述。
这笔"芯片法案"补贴资金将专门用于支持德州仪器的三座300mm晶圆厂的建设。包括位于德克萨斯州谢尔曼的SM晶圆厂的两期工程(该工厂最终将包括四期工程)和位于犹他州Lehi晶圆厂一个阶段工程。
这场筹划了一年多的收购案,原计划通过现金方式收购昆腾微67.60%的股份,整体估值不超过15亿元人民币,最终因外部市场环境变化等原因导致交易各方未能达成最终共识,无法签署正式收购协议。
移动通信中常用的射频滤波器可分为声表面波(SAW )滤波器 和体声波(BAW )滤波器。星曜半导体专注的TF-SAW是一种什么滤波器?与其他类型的滤波器相比,TF-SAW滤波器的特点是什么?
收购完成后,诺基亚和英飞朗将通过整合双方的技术和市场资源来提高其在光网络领域的地位,尤其是在北美市场。而诺基亚将利用英飞朗的技术优势来提升其在光网络领域的竞争力,并进一步巩固其在全球市场的地位。预计,此次收购将使诺基亚光网络业务的规模增加75%。
• 得益于西欧、关键亚洲市场和拉丁美洲市场的增长,以及中国品牌的持续领先,全球折叠屏手机出货量在2024年第二季度同比增长了48%。 • 荣耀凭借其在西欧特别强劲的表现,成为最大的贡献者,成为该地区排名第一的品牌。 • 摩托罗拉的Razr 40系列在北美和拉丁美洲表现良好,为其手机厂商的出货量贡献了三位数的同比增长。 • 我们预计,头部中国手机品牌厂商的不断增加将至少在短期内抑制三星Z6系列在第三季度的发布。
AI技术的发展极大地推动了对先进封装技术的需求,在高密度,高速度,高带宽这“三高”方面提出了严苛的要求。
奕斯伟计算2024首届开发者伙伴大会以“绿色、开放、融合”为主题,从技术创新、产品应用、生态建设等方面,向开发者、行业伙伴等相关方发出开放合作倡议,加速RISC-V在各行各业的深度融合和应用落地,共同推动RISC-V新一代数字基础设施生态创新和产业发展。
2024年 Canalys 中国云计算渠道领导力矩阵冠军厂商分别是:阿里云、华为云和亚马逊云科技(AWS)
点击蓝字 关注我们德州仪器全球团队坚持克服挑战,为电源模块开发新的 MagPack™ 封装技术,这是一项将帮助推动电源设计未来的突破性技术。  ■ ■ ■作为一名经验丰富的马拉松运动员,Kenji K
文|沪上阿YI路特斯如今处在一个什么样的地位?吉利控股集团高级副总裁、路特斯集团首席执行官冯擎峰一直有着清晰的认知:“这个品牌的挑战依然非常大。首先,整个中国市场豪华汽车整体数据下滑了30%~40%,
天眼查信息显示,天津三星电子有限公司经营状态9月6日由存续变更为注销,注销原因是经营期限届满。该公司成立于1993年4月,法定代表人为YUN JONGCHUL(尹钟撤),注册资本约1.93亿美元,
据市场调查机构Allied Market Research的《单晶硅晶圆市场》报告指出,2022年单晶硅晶圆市场价值为109亿美元,预计到2032年将达到201亿美元,2023年~2032年的复合年均
近日,又一国产SiC企业宣布实现了主驱突破,并将出口海外。据“行家说三代半”的追踪统计,自2022年起,国内主驱级SiC器件/模块开始在多款车型中得到应用,尤其是2024年,本土供应商的市场份额显著上
疫情后的劳动力囤积和强有力的员工保护规则掩盖了德国高薪制造业工作市场令人担忧的变化。根据联邦劳工办公室的数据,欧元区最大经济体德国的失业率在2019年春季曾达到历史最低点4.9%,现已上升至6%。虽然
今日碎碎念由于所租的共享办公空间政策的调整,上周我和我队友又搬到开放共享空间了。所以,也就有了新同桌。从我的观察来看,新同桌们应该基于AI应用的创业型公司。之所以想起来叨叨这个,是因为两位新同桌正在工
8月28-30日,PCIM Asia 2024展在深圳举行。“行家说”进行了为期2天的探馆,合计报道了200+碳化硅相关参展企业(.点这里.)。其中,“行家说”还重点采访了骄成超声等十余家企业,深入了
9月6日,“智进AI•网易数智创新企业大会”在秦皇岛正式举行,300+企业高管及代表、数字化技术专家齐聚一堂,探讨当AI从技术探索迈入实际应用,如何成为推动组织无限进化的新引擎。爱分析创始人兼CEO金