用真正的系统级优化迎接边缘计算时代

2020年，Gartner将边缘计算列为十大战略技术趋势之一，并指出作为一种拓扑结构，包括物联网所有技术在内的边缘计算，之所以将信息处理、内容收集和传递放置在离信息源更近的位置，其核心逻辑就是保持流量本地和分布式以减少延迟。根据预测，到2023年，网络边缘的智能设备数量可能是传统IT领域的20倍以上。

第五次计算浪潮

边缘计算为何能呈现这样的高速增长态势？恩智浦(NXP)高级副总裁兼边缘处理事业部总经理Ron Martino认为以下三大驱动因素值得关注：第一，它能够降低总体拥有成本，不需要总是进行云接入，从而降低本地成本。第二，它可以保护数字隐私，提高安全性。第三，它能够减少应用延迟，支持实时应用，增强本地体验质量。

他将边缘处理市场比喻为一个“分布式智能金字塔”——底部是包括工业和物联网在内的应用边缘，包括工厂自动化、基础设施、交通运输、医疗等，物联网边缘包括智能家居、消费及可穿戴领域，这是边缘处理规模最大的、十亿量级的大市场；中部是网络边缘，主要支持5G本地网络及数据集成，是一个千万到亿级的市场；最顶部则是数据中心，以云服务为主，大约是百万量级。对NXP来说，牢牢抓住金字塔底部和腰部这两块规模最大的市场，是公司发展的核心战略。

EDGEVerse边缘处理平台，及其包含的eIQ机器学习软件开发环境、Immersiv3D音频体验套件和EDGEScale设备管理平台是恩智浦在可扩展边缘计算方面做出的努力，这一系列软件平台和架构的出现，为用户提供了完整的“一站式服务”，能够帮助他们实现从云到端的安全设备管理，更有效的机器学习运算能力。按照Ron Martino的说法，EDGEVerse产品能够满足中国提出的数字化网络建设七大重点领域中的六个，分别是：人工智能、工业互联网、城际交通、5G网络、数据中心和新能源汽车。

机器学习的“入侵”

但其实，仅靠边缘计算市场的自我演进，市场呈现爆发式增长的态势可能还不会到来的如此之快，人工智能/机器学习对边缘计算市场的“入侵”，才是最大的“加速器”。

几年前，人们普遍认为机器学习、深度学习只能通过由网关、边缘服务器或数据中心执行的边缘训练和推理，在高端硬件上完成。但如今，处理器不必提供每秒数万亿次操作(TOPS)，也能执行机器学习，只要使用带有嵌入式机器学习加速器的微控制器，就能在边缘设备上进行机器学习。

例如在生产数据的源头(麦克风、摄像头和监控其他环境条件的传感器)中引入智能计算，只需极低的成本和极低的功耗，这些设备就能出色地完成机器学习，仅在绝对必要时才连接到云。

目前，机器学习在边缘计算中的应用已经比较普遍，有55%的开发人员表示他们当前或未来工作需要机器学习，早期的采纳者已经开始探索更有意义的用例，未来则会被越来越多的开发者接受，也将使得机器学习的开发鸿沟得以消弭。

在NXP方面看来，要想在嵌入式开发中引入机器学习，当务之急是让更多的开发者用起来。NXP最新的一个举措是与Au-zone的DeepView技术建立战略合作伙伴关系，合作开发机器学习工具包，并使用Arm Ethos-U65 microNPU实现机器学习加速。通过合作，加强NXP对eIQ机器学习开发环境的支持，帮助用户部署优化机器学习的模式，并且在全球范围内优化机器学习能力，直到MCU的层级。

边缘智能的落地

不过，机器学习在嵌入式端具体如何实现？毕竟设备资源受限，对功耗、带宽、存储、模型尺寸等都有完全不同的要求。

NXP边缘处理事业部副总裁兼IoT业务线总经理于修杰表示，目前尚处于机器学习发展的早期，会有很多迭代和战略微调，机器学习和人工智能应用在选择处理器方面不可能做到一刀切，取决于市场对于应用的需求和对功耗、成本的容忍度，每种技术都能找到自己适用和擅长的领域，因此未来还有很大的继续创新的空间。

此外，微处理器中应用处理器和神经网络加速器的发展速度十分迅猛，更完善的解决方案也层出不穷，总体趋势是将更多以人工智能为中心的功能(例如神经网络处理)与应用处理器一起整合到微处理器中，同时避免功耗或尺寸显著增加。

• 物联网边缘

个人设备、智能家居、智能家电以及新兴消费类和零售是NXP在物联网业务上聚焦的四大领域。在智能家居应用中，未来的智能家电可以判断出自己的保养时间、准确地辨别出与之互动的人，还可以帮助用户更好地烹饪、洗衣服……与此同时，智能家电的安全性也在大幅度提升。以洗衣机为例，它就集合了包括MCU、MPU、NFC、Wi-Fi等在内的多种技术，参考平台则能够让用户更好更快的设计出创新产品。

• 工业边缘

据恩智浦边缘处理事业部高级总监兼工业业务线总经理Jeff Steinheider介绍，在工业领域，恩智浦的重点应用市场主要瞄准工厂与流程自动化、建筑与能源、医疗保健以及交通运输。

他尤其提到了工业通讯领域最热门的技术—时间敏感型网络(Time Sensitive Network ,TSN)，并指出TSN最关键的目的在于“同一”网络的数据传输，即周期性的控制通信需求和非周期的数据在同一个网络中传输，这是TSN的核心诉求。与此同时，恩智浦还将机器学习、机器视觉、运动控制、HMI以及电机控制在TSN网络上互相交互，并且可以在同一个网络上实现IoT和IT的流量。

• 网络边缘

5G是解放边缘计算能力的一把钥匙，尤其是想要满足从云端到边缘的多应用需求时，5G能够提供高带宽、低延迟和很强的覆盖能力。

“当前在5G开发上面临的一大主要挑战便是如何构建融合不同架构、频谱和演进标准的网络基础设施。”恩智浦产品管理高级总监Nikolay Guenov对记者说，新推出的Layerscape Access产品是恩智浦专为“5G网络边缘”应用而设计的具有集成可编程矢量引擎的创新型软件定义基带处理器; 它可提供灵活的Sub-6GHz或毫米波5G无线选项，并降低了功耗、复杂性、BOM成本。

而对数据中心来说，效率是最关键的指标，需要考虑如何在服务器上实现高数据密度来支持应用软件，需要关注网络接口、网络处理、加密处理以及网络基础架构，并满足最近五六年的虚拟化需求，而客户的应用软件同样重要。恩智浦提供的多核处理器，能够将网络方面的功能融入Smart NIC加速卡上，使服务器上的处理器能满足应用软件的高密度要求。”

目前，恩智浦的边缘计算平台已从毫安级单一DMIPS的小型控制器，扩展到了瓦特级数十万DMIPS的复杂处理器。由于产品组合的多样化，所以从成本和功耗角度来看，如何将这些产品投放到竞争激烈的市场中，是包括NXP在内的厂商遇到的共同挑战。

因此，Ron Martino在NXP Connects 2020上与MCU/MPU工程部执行副总裁Kevork Kechichian进行边缘计算架构趋势炉边谈话时表示，由于不能用堆叠晶体管来解决问题且需要注重利润和成本，于是NXP现在将一些低端产品视作大型终端系统的基础子系统，并进行了非常广泛的优化。在此基础上，每个产品会各自添加不同的子系统，考虑到这种层次结构也包含软件，所以需要投入巨大努力。

边缘计算的下一步？

不过，机器学习已经出现了约20年了，一旦发布一款芯片，人们就会尝试在处理引擎上运行各类计算，CPU、GPU、DSP、多种硬件加速器……不胜枚举，随着高集成度的出现，在产品中使用这些计算密集型神经网络也成为可能。软件层面也是同样的现象，需要从机器学习的角度对协议栈、软件和应用层进行全方位的评估和优化。但从消费者的角度来看，他们主要关心用户体验，这就使得当前对机器学习的用例优化非常重要，通过硬件IP与软件相结合，真正解决终端应用需求。

“尽管任何芯片厂商都可以集成并拼接不同的IP，而且大多数IP经过独立验证，质量相当不错。但将它们投入使用后，挑战就出现了，所以是否能真正优化终端应用性能，并拥有一支经验丰富的团队以明智的方式完成这项工作，才是成功的关键。”Ron Martino说，从用户体验来看，NXP正在行业中构建一个能够通过开放标准和通用设备自我构建，并与浮于硬件之上的软件和应用层交互的平台，从而提高效率并加以利用。随着嵌入式计算的日趋广泛，对这些平台的裁剪及优化有可能将成为NXP的另一大优势。

以NXP近期在无线连接方面的收购为例，Wi-Fi、BLE、Zigbee、Thread这些都是开发智能家居和工业应用的关键部分，当把这些优质IP与硬件产品进行集成时，会发现大量的产品路线和不同的流程成为了挑战之一，而非技术，所以边缘处理事业部开始研究如何最大限度地减少不同技术版本的数量，以便将所有驱动程序、固件和开发环境集成到一个安装包中方便客户轻松高效地优化其系统。

“边缘计算有着广泛的可能性，无论是性能还是能力，因此可扩展的解决方案具有更大的价值，它能够充分挖掘边缘计算的能力，这也需要非常广泛的器件组合，在满足软件方面要求的同时又能够兼顾平台的效率”，Ron Martino强调，“安全也越来越重要，随着接入点的增多，产生了非常多的关键数据，安全性和不断集成的功能已经成为极为重要的因素，也成为嵌入式计算不断演进的关键因素。”

至于嵌入式计算会如何演进？他表示，这些年来嵌入式计算的关键指标从频率、单线程性能一直到具有很多计算模块的异构计算，能耗效率和成本效益在不断提升，机器学习功能也会不断进化。在开发嵌入式计算产品方面不仅要结合各种计算模块实现互联，也需要进行软件的优化赋能和硬件的用例优化。机器学习和传统的CPU工作负载有不同，比如内存的接入可能会成为一个潜在的瓶颈，另外还需要优化它的尺寸，将其作为计算部件的一部分，实现与CPU功能及其他功能的协同，这是涉及系统级优化的复杂过程，需要熟练的制造流程作用于软件和硬件应用，以便真正优化性能并降低功耗。