芝能智芯出品
随着人工智能技术的扩展,边缘人工智能(AI)已经成为推动工业自动化、智能家居设备和物联网(IoT)系统发展的关键力量。
Arm推出了一系列创新技术,要加速边缘AI的部署,并满足不断增长的性能需求和系统复杂性。Arm公司最新的第三代NPU——Arm Ethos-U85和物联网参考设计平台Corstone-320是很重要的抓手。
Arm Ethos-U85 NPU
性能与能效的双重飞跃
Arm Ethos-U85是Arm推出的第三代边缘AI加速器,是目前性能最高、能效最高的Ethos系列NPU。相较于之前的产品,Ethos-U85性能提升了4倍,能效提高了20%,MAC单元数量从128个扩展到2048个,达到每秒4万亿次操作(TOPS)。
这一巨大的性能提升使得Ethos-U85能够满足对工厂自动化、商业应用或智能家居相机等高性能边缘AI应用日益增长的需求。
Ethos-U85支持Transformer网络以及卷积神经网络(CNN),可以广泛应用于视觉和生成式AI任务,如视频理解、图像修复和对象检测。作为Arm Ethos系列的一部分,Ethos-U85提供了与之前产品相同的一致工具链,支持TensorFlow Lite和PyTorch等AI框架,使合作伙伴能够利用现有的开发投资来实现无缝的开发体验。
● Ethos-U85的主要特点
◎ 性能与能效:Ethos-U85在保持高能效的同时,提供了更高的性能,使其适用于对性能要求更高的应用场景。
◎ 网络支持:支持Transformer架构网络和CNN,为各种AI推理任务提供强大的计算能力。
◎ 配置灵活性:支持从128至2048个MAC/周期的配置,适应不同的性能需求。
◎ 硬件特性:硬件原生支持稀疏性,提高了吞吐量,同时支持权重压缩和元素运算符链接,进一步提升效率。
物联网参考设计平台
Corstone-320
除了Ethos-U85之外,Arm还推出了全新的物联网参考设计平台Corstone-320。该平台将Arm最高性能的Cortex-M85 CPU、Mali-C55图像信号处理器和Ethos-U85 NPU结合在一起,为语音、音频和视觉等边缘AI应用提供了所需的性能支持。
Corstone-320提供了全面的软件、工具和支持,包括Arm虚拟硬件,可以在芯片可用之前开始软件开发,加快产品上市速度。该平台将在智能扬声器、智能相机等边缘AI设备中发挥作用,并帮助用户轻松实现实时图像分类、对象识别等任务。
● Corstone-320的主要优势:
◎ 综合性能:结合了CPU、ISP和NPU,为边缘AI应用提供全面的性能支持。
◎ 软件和工具:提供完整的软件和工具支持,包括Arm虚拟硬件,使得开发可以在硬件到位之前开始。
◎ 应用广泛:适用于实时图像分类、对象识别和智能扬声器上的语音助手等多种应用场景。
随着Ethos-U85 NPU和Corstone-320物联网参考设计平台的推出,Arm公司正在推动边缘AI技术的发展,为智能家居、工业自动化和物联网等领域带来更高性能的计算能力。
这些产品不仅提供了强大的硬件支持,还通过软件工具和广泛的生态系统支持,简化了开发过程,加速了边缘AI应用的部署。
小结
Arm Ethos-U85 NPU和Corstone-320物联网参考设计平台的推出,是Arm针对边缘AI技术需求的努力。为边缘AI应用提供所需的计算能力和开发便利性,将推动人工智能技术在各个领域的深入发展。