物理世界对智能的需求正在推动边缘设备进行更复杂的计算。这些设备以前只是传感器和云之间的简单管道,现在则支持复杂的人工智能(AI)和机器学习(ML)、数字信号处理、数据分析、射频(RF)数据处理以及许多其他用例。
在这些设备中植入智能技术会增加这些设备的能源需求,而这些设备在广泛而深入的部署中已经处于能源匮乏的状态。对能源效率的迫切需求要求我们从根本上重新思考用于构建这些设备的计算硬件。
在大多数边缘计算设备的核心部分,你会发现过去的计算硬件——CPU和FPGA——效率低下且缺乏灵活性。许多设备依赖于传统的“冯·诺依曼”处理器,由于架构效率低下,导致不必要的数据移动和指令控制开销,浪费了高达90-99%的能源(见图)。
传统的“冯·诺依曼”CPU虽然具有良好的可编程性,但效率实在太低。FPGA通常是第一个在边缘取代CPU的器件,它提供了一种摆脱CPU部分开销的途径,在某些情况下,还可以提高性能和效率。然而,对应用开发人员来说,FPGA是一个具有挑战性的目标,它需要数字设计团队的专业技能和更长的上市时间。此外,FPGA最初是为电路仿真而设计的,在非必要功能方面过于专业化,但在可编程性和效率方面却配置不足。FPGA缺乏成熟的软件开发生态系统,也没有为边缘部署提供明确的前进方向。
另一方面,一些设备正在向GPU甚至更专业的加速器迁移,而这些加速器往往有望使应用程序更快、更高效。这两者都需要使用新的语言和应用程序接口(API),一旦应用程序不符合这种模式,其效益就会开始下降。
高度专业化的加速器也是一种有风险的选择,会给开发人员留下这样的问题:“我今天关心的程序明天还会是我关心的程序吗?”如果不是,设计人员必须完全放弃加速器,并围绕新硬件完全重新设计应用程序。此外,如果加速器仅支持应用程序底层功能中的一小部分(如卷积神经网络),那么应用程序的其余部分将得不到帮助,效率也会很低。专业化是构建稳健、适应性强的边缘计算应用的基础风险。
通过转向高能效但通用的处理器架构,我们可以在一系列硬件资源中对计算指令进行空间映射,从而避免冯·诺依曼处理器的开销。如果采用空间数据流架构,则可以根据程序数据流将一个操作的结果直接路由到另一个操作的输入,而无需访问任何中间内存。
此外,空间映射还可以最大限度地减少芯片中昂贵的数据移动,因为它消除了指令供应和数据流的开销。这种通用性的关键在于编译器和软件堆栈的共同设计,以支持开发人员使用高效的数据流硬件。这就产生了一种新型通用处理器,可使用传统软件进行编程,避免了过度专业化或复杂语言,同时能效比领先CPU高出几个数量级。
特别是随着边缘计算解决方案与多传感器系统、人工智能和各种计算需求的集成度越来越高,业界需要更多可编程高能效处理器,以缓解智慧城市、农业、能源和天然气、航天和国防以及健康技术和可穿戴设备等五大核心行业的能源紧张问题。
图:智能摄像头应用的端到端能量分解。(来源:Efficient)
智慧城市和公共部门
工业边缘设备可用于优化交通流量,监控桥梁、道路和建筑物等基础设施的健康状况,以及改善智慧城市的公共服务。
然而,能源限制可能会制约这些设备的部署、密度和覆盖范围,尤其是当与定期手动部署、监控和更换电池所需的成本和精力相匹配时。能效更高的传感器将减少更换电池的频率,消除智慧城市对有线电源连接的需求,并可用于持续的基础设施和公共空间监控、交通管理、害虫检测、废物管理、智能照明等。
农业
类似的设备广泛应用于农业领域的精准耕作、作物健康监测、农业车队管理以及管理水和肥料等资源管理。然而,由于需要频繁更换电池或充电,在电力资源极少的地理分布区域部署这些设备也具有挑战性。
通过消除与电池相关的维护需求,农民可以显著扩展他们的传感器网络,以加强对作物和运营的监测和管理。这种转变将提高水肥调配的效率,从而改进收割方法和减少病虫害,最终提高农作物产量和生产效率。
能源和天然气
边缘设备还可用于关键管道或电力系统的实时监控、维护和控制,从而实现预测性维护并减少停机时间。然而,这些设备的能耗限制了它们的部署规模。
在需要持续智能监控的关键基础设施中,电池维护的运营成本使大规模部署变得不可行。通过在这些传感设备中推进高能效计算,即使在风能和太阳能等可再生能源盛行的偏远地区,也能实现广泛的传感器安装。这不仅可以减少维护时间和停机时间,还可以改善公共安全,降低基于路线的维护成本,促进更可持续的运营。
太空和国防
在航天工业中,边缘设备面临着与能源使用限制有关的独特挑战。这些设备在极端温度、辐射和真空条件下的恶劣环境中工作,会影响其性能和效率。此外,太空任务通常依赖于有限的电源,如太阳能电池板或电池,从而限制了这些设备的可用能源。
这种限制至关重要,因为任务可能持续数月至数年,这就要求边缘设备在无法充电或更换电池的情况下高效运行。由于远程管理和更新受到限制,通信约束使得节能策略和优化工作变得更加复杂。考虑到高昂的部署成本,以及在太空中进行维护或维修的有限资源,确保这些设备的可靠性和能效至关重要。超节能处理器将为延长设备寿命、提高可靠性以及在设备上进行更复杂的数据收集、通信和监控等操作提供机会。
健康科技和可穿戴设备
大多数可穿戴设备(如智能手表或智能戒指)都只使用小型电池,以保持设备轻便和紧凑。这从本质上限制了这些设备用于连续处理、数据传输和通信任务的可用能量。为可穿戴设备提供更高能效的处理器,不仅能让用户延长两次充电之间的间隔时间,还能大大提高性能,同时在执行相同甚至更复杂的设备任务时,能耗也比目前市场上的产品低得多。
如今,这些设备将大部分能源用于将数据传回附近的智能手机,将人工智能功能卸载到手机上,并将能源浪费在通信上。然而,新的、能效更高的计算机架构使得在最微小的设备上直接执行复杂的信号处理、分析、机器学习甚至生成式人工智能功能成为可能。
高效的本地计算大大降低了能耗,并能对设备收集的更多数据进行更复杂的处理。智能可穿戴设备将利用能源效率提升所带来的“红利”,加入更多功能。这将增强态势感知能力,提供实时翻译,并解释环境和生物传感数据,从而更好地了解与健康和保健有关的行为和生活方式因素。
随着世界继续转向人工智能专用硬件和处理器,老式或通用性较差的设备正在迅速过时,需要更频繁地更换。这种持续的硬件更换周期造成了巨大的能源和碳排放生产成本,使资源紧张,加剧了环境恶化。
随着越来越多的处理、分析和人工智能部署到最边缘的传感器设备中,计算的能源成本对于这些至关重要的应用用例来说,已成为一个更紧迫、更现实的问题。应对这一挑战不仅对这些设备的效率和寿命至关重要,而且对在快速发展的技术环境中部署这些设备的可持续性也至关重要。
(原文刊登于EE Times美国版,参考链接:Energy is Everything for Edge Computing,由Franklin Zhao编译。)
本文为《电子工程专辑》2025年1月刊杂志文章,版权所有,禁止转载。免费杂志订阅申请点击这里。