为何端侧AI对个人电脑与手机影响巨大？

原创 Omdia 2024-03-01 15:54

【TI资料】专为高压系统设计的新型MCU 如何提升高压系统的实时性能?

设备端直接集成 AI 功能具有其独特的必要性和优势，可以从以下几点进行分析：

· 成本效益：将AI运算能力直接集成到终端装置中，可以显著降低对云端计算资源的依赖，从而减少每次运算的成本。这对于软件服务商来说是一大优势，能够在不增加额外成本的情况下，提供更加高效且经济的服务。这种成本效益对于用户来说也同样吸引人，尤其是在对于低成本或免费服务有高需求的市场中。

· 安全性：对于涉及敏感企业运营数据或个人隐私的应用，将数据保留在装置端而不是传输到云端，可以显著提高安全性。这种方法减少了数据外泄的风险，即使是在提供高级资讯安全保证的情况下，直接在装置上处理敏感信息始终是更安全的选择。

· 低延迟：对于需要高度即时性的应用场景，比如视讯会议和游戏，任何形式的延迟都可能对用户体验造成负面影响。端侧AI的集成可以帮助减少因数据传输而引起的延迟，从而提供更加流畅和即时的用户体验。

除此之外，随着大语言模型在效能和能耗优化方面的进展，装置制造商现在有了更多的机会在硬件性能相似的情况下，通过配置专有的模型来实现产品差异化。中国的手机制造商已经在这方面取得了先行经验，并且预计这一趋势将逐步扩展到个人电脑领域。

为了满足这些需求，处理器中集成神经处理单元(NPU)成为一项关键技术，目前Canalys预计到 2027 年，兼容 AI 能力的个人电脑和智能手机(AI-capable PC and smartphones)的出货量占比将分别达到 60% 和 45%，预示了集成 AI 技术在提升用户体验和生产力方面的巨大潜力。