面向边缘设备的低功耗AI解决方案——让AI无处不在

2023年人工智能驱动的应用在各行各业的普及，引发了人工智能的一波发展浪潮，其范围涵盖数据中心、边缘基础设施和终端设备。这一趋势也将为今后的半导体行业带来巨大的收入机会。

据Gartner公司预测，2023年人工智能芯片将为半导体行业带来534亿美元的收入，与2022年相比大幅增长21%。这家市场分析公司还预计2024年的收入将继续保持两位数增长，达到671亿美元。预计到2027年，这一发展轨迹将继续飙升，达到令人印象深刻的1194亿美元。

尽管有这些积极的预测，人工智能半导体领域仍面临持续的挑战，特别是在性能和功效方面。因此需要进一步努力加强和完善设计，使基于人工智能的工作负载能够低功耗执行。

在此基础上，每个人都希望自己的人工智能应用、尤其是终端设备的人工智能应用，能包含用户推理功能，奇景光电(Himax)智能传感业务副总裁Mark Chen表示。

“Himax是台湾一家无晶圆厂集成电路设计公司，专注于显示驱动器、图像传感器和人工智能处理器等解决方案。Himax也是全球汽车显示屏市场的领导者，占据了40%的市场份额。”Chen表示。

“许多人认为，机器学习需要大量输入数据和功率密集型计算，来训练复杂的图像识别模型。然而在如今的物联网时代，一切都逐渐向最边缘转移。”Chen指出，“半导体公司可以采取哪些策略将人工智能带入各个领域，尤其是消费品领域？Himax的选择是通过创造超低功耗和更具成本效益的解决方案。”

“这就是为什么要继续扩展我们的人工智能路线图，并在上一代芯片WE1成功的基础上推出WiseEye2。”Chen透露，“WiseEye2是一款超低功耗人工智能处理器，专为机器上的计算机视觉任务而设计。它拥有60mW的面部网格处理能力、专用的microNPU内核、先进的电源管理能力、充足的片上内存以及与开放软件平台的兼容性。”

WiseEye2适用于需要即时响应和快速决策的应用，如工业质量检测、预测性维护和自动驾驶等。它还适用于注重能效和体积小巧的应用，例如可穿戴设备。此外，它的开放式软件平台，可助力开发人员以更少的投入进行创新并生成新的应用。

“与第一代产品相比，WiseEye2有三项重大改进。”Chen解释道，“首先是功率架构。为了迎合各种应用，我们实现了多层功率管理机制和多核架构。这使得推理速度比第一代提高了32倍，效率也提高了15到50倍。”

就使用案例而言，WiseEye1可用于人员检测、人脸检测或物体检测。WiseEye2的设计则更进一步，在人工智能方面进行了强化，不仅能检测到人的存在，还能辨别其行动或活动。

“通过检测面部特征，可以判断摄像头前面的人的活动参与程度甚至情绪。此外，还可以进行更精确的对象分析，而且功耗更低。”Chen表示，“WiseEye2是低功耗人工智能计算领域的重大突破。”

“WiseEye2的其他关键特性还包括嵌入式行业领先的安全性和隐私性，其中应用了PUF(物理不可克隆功能)技术。”Chen透露，“这意味着每块芯片都有自己独一无二的ID，利用它来创建加密密钥，保护芯片中嵌入的软件和机器学习功能。为了保护隐私，WiseEye2将图像作为人工智能模型的输入，但只将元数据结果作为输出。这能有效地防止系统获取用户的图像数据，从而大大提高了用户隐私性。”

最后重要的一点是，WiseEye2拥有对开发人员友好的工具链和强大的生态系统支持。WiseEye2采用Arm CPU和NPU框架设计，可以利用该工具链帮助客户适应市场上所有可用的开源人工智能模型。

“例如，门铃或门锁的电池寿命至少需要6个月。我们的解决方案必须支持24小时放哨模式，不分昼夜、一周七天持续监控门外是否有人靠近。在这种情况下，客户希望解决方案能够运行六个月而无需充电。”Chen解释道。

“另一个场景为水表应用。利用图像传感器和人工智能处理器，可以从传统水表(无论是数字式还是指针式)中提取数据，并仅将所需数据(即元数据)通过无线方式传输到云端作后续分析。在这种情况下，在每小时读取一次数据的条件下，大多数客户希望电池寿命可达八年。”Chen指出，“在电池供电的应用中，能源的可持续性已成为一项基本要求，这也是Himax WiseEye背后的设计理念，即在保持强大计算机视觉功能的同时，需要优先考虑超低功耗。”

综合解决方案

包括原始设备制造商(OEM)和原始设计制造商(ODM)在内的众多客户，都表示希望将人工智能融入他们的产品中以提升用户体验。然而，他们大多数缺乏必要的专业知识。

“Himax还提供交钥匙解决方案，其中包括超低功耗人工智能处理器、始终在线的图像传感器以及配备预训练机器学习模型的综合软件栈。”Chen解释道，“WiseEye解决方案，在边缘设备上部署计算机视觉和机器学习人工智能功能时，大大降低了与系统开发相关的高门槛。这种降低包括减少甚至消除软件、硬件与摄像头的设计开发工作，以及采购和模块制造方面的工作。此外，我们还将继续推出通用型人工智能视觉功能，进一步提升产品价值，扩大产品覆盖范围。”

屡获殊荣的人工智能产品

Himax的WiseEye2在最近举行的亚洲电子工程颁奖大会(EE Awards Asia)上荣获2023年最佳人工智能产品奖。

虽然生成式人工智能以及与人工智能相关的产品是当前的热门话题，然而，强大处理器或云端连接的高功耗所提出的挑战也随之而来，并引发成本上升、功耗增加、部署受限制以及云计算中的隐私问题。

“从这个角度来看，WiseEye人工智能解决方案能起到关键作用，特别适用于资源受限、电池供电的终端人工智能应用，因为它具有本地推理微小机器学习(tinyML)视觉人工智能功能，功耗超低，外形小巧，内置工业级安全和加密引擎。从而使得该产品得到《电子工程专辑》亚洲区评委和工程师们的认可。”Chen指出，“同时，EE Times也为我们提供了一个展示tinyML的平台，展现了tinyML在终端人工智能领域的重要意义，让更多设计师和工程师了解到Himax业界领先的超低功耗人工智能解决方案，可以帮助他们降低开发门槛，实现多种应用，从而取得更佳的用户体验。”

2024年消费电子展产品展示

刚刚举办的2024年消费电子展(CES 2024)上，Himax重点展示了过去一年的最新产品开发和人工智能创新成果。

“一个是利用WiseEye2实现的AR/VR边缘跟踪解决方案，采用了我们的内部或第三方算法。”Chen说道，“还演示了已经与客户合作生产的一款门锁。这次演示的独特之处在于，Himax的视觉人工智能和超低功耗，使门锁能够实现全天候实时监控和连续快照。所有这些都是在SoC处于关机状态下实现的，从而大大降低了整体功耗和成本。”

另外，也展示了汽车应用，如触摸解决方案、业界首创的用于柱到柱、大尺寸汽车显示屏的LTDI。“这将很好的展示如何丰富智能驾驶舱的用户体验。”Chen说道。

把握未来

全球仍存在许多不确定因素。不过，从技术角度来看，人工智能无疑仍将是2024年及以后的主旋律，众多供应商和领先的云服务提供商，都在紧抓重点，开发针对这一领域的解决方案和服务就是明证。

奇景光电智能传感业务部门副总裁Mark Chen

“如今，寻求易于普及的低功耗、高性价比人工智能解决方案的客户在明显增多。公司将一如既往地致力于提高人工智能能力，扩大产品范围，提升人机界面品质，努力增强用户体验，将人工智能进一步无缝融入人们的日常生活”。

（原文刊登于EE Times美国版，参考链接：Himax: Enabling AI Everywhere，由Franklin Zhao编译。）

本文为《电子工程专辑》2024年4月刊杂志文章，版权所有，禁止转载。免费杂志订阅申请点击这里。