端侧/边缘AI盛宴正在成局——GPU成为关键推手

回顾刚刚过去的2024年，人工智能(AI)技术在移动设备、个人电脑、汽车智驾、数字家电、智联医疗和工业应用等领域飞速发展，成为多个领域中创新与发展的核心驱动力，并为几乎所有领域的发展提供着强大的支撑。作为全球最大的电子与半导体产品市场之一，中国企业也在积极引入AI相关技术，在过去两年里特别是在“功能(Feature)+AI”的端侧应用中取得了显著成就。展望2025年，中国半导体行业有望在端边侧AI技术创新、应用拓展以及产品升级等多方面取得突破性进展。

作为全球领先的图形处理和AI计算硅知识产权(IP)提供商，Imagination Technologies在过去两年中见证了中国半导体行业对AI技术需求的增长。这种需求不仅推动了Imagination在中国IP业务上的持续发展，还促进了与众多客户的深度合作，基于Imagination的GPU技术和生态系统，共同定义和开发了即将广泛应用的边缘智能(edge AI)和端侧应用。这些新需求吸引了新的客户和生态伙伴，各方共同努力将创新和创意转化为切实可行的工程解决方案。

2025年的热点——边缘和端侧AI技术及应用

到2025年，计算需求正从智能计算基础设施向终端设备扩展，端侧和边缘AI的趋势愈发明显。这种趋势主要受两方面因素的驱动：一是端侧或边缘AI与具体应用或业务紧密结合，因其能大幅提升产品功能或用户体验；二是端侧或边缘设备的AI功能需要实时性和完好性，减少对带宽的依赖，使得训练好的模型可以在越来越多的端侧设备上运行。

例如，在重视稳定性、安全性和可靠性的工业领域，边缘智能带来的更高自主性、临近环节协同、高效资源利用、预测性维护和快速流程及品种控制等能力，正在成为企业提升盈利能力的重要手段。制造商需借助边缘AI模型实现转型，这正是Imagination公司的专业技能所在。Imagination的解决方案非常适合那些需要实时响应或者因安全限制无法将数据传输到云端的应用场景。

最新的AI模型正在智能工业应用中发挥重要作用。例如，视觉Transformer被用于实时异常检测；脉冲神经网络(SNN)用于管理物联网传感器流中常见的事件驱动数据；图神经网络(GNN)则用于理解组件之间的相互依赖性，这对预测性维护至关重要。这些模型都能在边缘设备上高效运行，而非依赖云端计算，从而保障数据安全并支持实时决策。此外，通过Imagination的GPU加速，这些模型的性能得到进一步提升。

端侧/边缘AI所需的先进GPU

在过去几年以大模型为核心的AI浪潮中，通用计算GPU因其并行计算能力和可编程性而大放异彩。然而，边缘硬件不仅要处理单一模型的推理任务，还需应对设备上的所有并行加速任务、用户交互任务以及设备管理任务。因此，边缘AI设计需要一种全局视角，其中AI用例必须与其他功能共存，更重要的是，它们还必须共享热预算和进行热管理，这是随着性能提升和晶体管密度增加而出现的新瓶颈。在未来的边缘AI应用中，每瓦特运算能力(TOPS/W)将比峰值运算能力(TOPS)更重要。

另一个非常重要并在大模型应用中得到验证的规律是，AI模型和算法领域唯一不变的就是快速变化和迭代，硬件设计者需要通过提升加速器的能效和可编程性，确保其设备能够应对未来的需求。此外，端侧/边缘设备和应用的多样性也是一个关键因素。硬件设计不仅要适配当前流行的模型和某一类特定应用，还要支持下一代模型和快速变化的应用需求。这需要软硬件结合，构建可适应未来发展的软件栈，以避免针对某种特定模型或应用开发的加速器的局限性，这对于新品推出速度更快的中国系统厂商及其主芯片供应商尤为重要。

GPU作为计算任务的优秀加速器，已经在云端AI工作负载中表现出卓越的性能、可扩展性和可编程性。鉴于这些优势，Imagination正在增强其基于GPU架构的AI能力。该架构已在过去30年间为边缘设备提供了高能效的图形和计算支持，同时还能够与RISC-V CPU和各种AI加速器完美搭配，形成满足用户需求的解决方案。通过基于开放标准的计算软件栈，Imagination正在帮助开发者释放这些能力，从而推动边缘AI的进一步发展。

汽车行业或是2025年半导体市场的主要驱动力

在2025年，汽车智驾、物联网以及加速计算将成为推动半导体市场增长的主要动力。从动力系统到信息娱乐系统，智能芯片已成为汽车性能差异化的关键，这迫使行业中的车厂、一级和二级供应商必须花费更多精力去关注和实施汽车的电子电气架构。这也带来了供应链的变化，一些专注于新能源车或自动驾驶汽车的新车厂商出现了，这些新玩家高度关注汽车的电子架构，甚至经常自行设计汽车控制器。

但是智能化也给汽车带来了不断上升的计算成本，这将是汽车行业在2025年及以后亟待解决的一个问题。为此，许多智驾芯片厂商正在将多项功能整合到更少但更强大的控制器中。这一趋势带来了两大技术挑战：首先，一个控制多个域的控制器需要一个强大的硬件虚拟化解决方案，用于工作负载优先级管理和避免任务干扰，例如Imagination的HyperLane技术；其次，功能安全(FuSa)，即在及时且安全的方式下检测并处理故障的能力至关重要，任何处理安全关键任务的硬件，例如车道检测、驾驶员监控、制动等，都需要符合ISO 26262汽车功能安全标准(ASIL)的认证。

这些变化和挑战都给像Imagination这样的创新IP供应商带来了新的机遇。在供应链方面，Imagination不仅继续与瑞萨电子、德州仪器等伙伴长期合作，还助力新兴车厂、一级供应商和芯片研发团队将其创新和创意转化为现实，其中也包括来自中国的非常优秀的创新团队。在技术挑战方面，除了在行业中久负盛名的HyperLane硬件虚拟化技术，Imagination在2024年推出的DXS GPU IP不仅提供了智驾芯片所需的高算力，而且还打造了突破性分布式功能安全(DSM)解决方案，帮助智驾芯片设计公司避免了传统FuSa实现方法的性能减半(两次运行)或者芯片面积加倍(锁步操作)。

图：Imagination DXS提供高达9TFLOPS的性能。

因此，2025年智驾芯片企业都将争取实现能够满足最新AI模型复杂性能、能效、可编程性与可靠性需求的新型处理器技术。由于出色的性能和灵活的可编程性，GPU已成为AI工作负载的首选平台。通过全面的软硬件协同优化，Imagination DXS成为迄今为止计算能力最强的处理器，可为最新的驾驶辅助系统提供强大的支持，处理包括计算机视觉和激光雷达点云处理在内的多种功能。

Imagination也是为座舱和信息娱乐系统提供先进GPU的IP供应商。Imagination的GPU一直为车载屏幕用户界面提供支持。凭借对汽车市场需求的深刻理解，Imagination的GPU如今也被用于ADAS单元中的计算加速。最近发布的Imagination DXS GPU IP已获得授权并集成到客户的解决方案中，同时Imagination正在持续完善计算软件栈，以在其硬件上实现高性能AI计算。

更深入的创新将贯穿2025年

新兴技术(如RISC-V)的崛起，以及中国在半导体供应链方面的投资，鼓励了许多新玩家的出现。Imagination提供多样化的GPU IP核，从可穿戴设备一直扩展到桌面和云计算，帮助这些企业实现成功。Imagination是全面支持RISC-V设计的GPU IP供应商之一，其产品已被广泛应用于多款芯片中，例如阿里巴巴平头哥的TH1520和奕斯伟的EIC77系列。随着RISC-V的流行度提升以及更复杂的应用处理器的出现，预计将有更多的Imagination GPU IP被集成到支持RISC-V的SoC中。

2025年将是AI技术推动下充满激动人心创新的一年。从高端到中端的计算设备、汽车、移动设备和消费电子产品都在加入AI能力，这有助于打破传统CPU计算架构在许多领域内的垄断和掣肘，推动诸如RISC-V+GPU等更加灵活高效的硬件普及，甚至更加紧密的集成。中国不仅是巨大的消费市场，也是全球电子产品供应链上最重要的环节之一，其市场潜力能够支撑和孵化出采用新架构参与竞争的芯片设计企业，而Imagination也已为这个市场准备好了相应的解决方案。

本文为《电子工程专辑》2025年1月刊杂志文章，版权所有，禁止转载。免费杂志订阅申请点击这里。