在 2024 火山引擎 FORCE 原动力大会开发者论坛的硬件终端专场,英特尔携手扣子 Coze 推出行业首个的端云协同智能体开发平台:Coze-AIPC,为智能体技术应用发展带来全新突破。
英特尔中国软件技术部研发总监翟磊表示:“我们看到了智能体行业端云协同的大趋势,同时端侧硬件平台以及软件技术也都具备。而要加速这一趋势的落地,引领行业跃进,关键在于赋能开发者——他们是联结平台、服务与消费者的关键。英特尔这一想法与扣子不谋而合,希望通过此次合作,更好地支持开发者,为用户创建更多更好的端云协同智能体,为全球用户带来前所未有的智能体验。”
此次扣子联合英特尔共同发布的“Coze-AIPC” 是一个增强版的扣子智能体开发平台。它引入了一款运行于英特尔平台PC端的扣子App,深度整合英特尔 AI PC 强大端侧能力与扣子云平台优势。通过扣子创新的 “端插件” 机制,英特尔 AI PC 的 PC 操控、本地知识库、本地推理、本地生成等能力被无缝嵌入扣子大模型与工作流。开发者借助Coze-AIPC平台“端插件商店”中预制的PC端侧能力集,能迅速开发出适配英特尔AI PC的智能体应用,同时平台还将支持开发者创建更多个性化端插件不断拓展端侧能力边界。
自从22年底OpenAI发布ChatGPT点燃行业热情之后,在过去的两年的时间里,大模型和生成式AI技术飞速发展,将AI的基础能力推上了一个新的台阶。当下除了进一步演进和迭代生成式AI的基础能力外,行业的焦点也开始扩展到探索如何将这新一代的AI技术通过有价值的应用落地。智能体应用无疑是当下关注度最高的一个领域,甚至有行业头部企业认为“智能体是AI应用最主流的形态,即将迎来爆发点”。其实智能体并不是这两年才有的新概念,但在大模型技术的加持下,如今智能体变得更聪明,更像人,它已经具备成为 AI时代下内容,信息和服务新载体的能力。
在众多类型的智能体中,工具类智能体无疑是当下最热门的赛道,它的出现旨在帮助人类极大地提高生产,学习,娱乐的效率或者体验。既然是提高生产力,那么跟生产工具端侧的有效结合就成为比较关键的一环。这里的端侧主要包括了移动手机,PC,以及各类用户侧辅助设备。而英特尔公司,需要解决智能体如何和PC端侧进行有效地结合的问题。
英特尔公司一直是PC行业的技术领导者。2023年,英特尔为适应AI时代进步,再次引领PC行业变革,定义并发布了第一代AI PC。AI PC搭载英特尔全新一代酷睿 Ultra处理器,拥有CPU,GPU和NPU三种异构计算单元,从高吞吐量计算到低功耗运行,从快速响应需求到为电池续航优化的负载卸载,全方位满足 AI 工作负载需求。无论是处理复杂的深度学习任务,还是维持低延迟的交互体验,英特尔 AI PC 都表现卓越,成为智能体在 PC 端的理想载体。
除了不断提升PC的AI基础算力,英特尔公司也持续大力布局端侧AI软件生态。目前英特尔AI PC已经拥有完善的AI工具链支持,除了英特尔平台专属并高度优化的工具 OpenVINO,还和微软以及开源AI生态一起合作,针对英特尔AI PC 进行适配和优化。基于这些灵活的工具链,英特尔构建出丰富的应用场景,帮助智能体将其能力轻松扩展到PC端侧。在英特尔新一代AI PC上,运行7B大语言模型仅有0.9秒首字时延,同时达到22token每秒的吐字速度;同时2.8B的多模态大模型,基于图片的理解问答也能实现“毫秒级”的首字时延。如果智能体按需将这些AI计算放在端侧,不仅可以降低成本,还可以排除和云端通信的网络干扰,达到更低的时延。
扣子 Coze 则以灵活的工作流设计和无限拓展的能力集独树一帜。其平台能依据不同场景迅速构建智能体应用框架,高效整合各类 AI 技术与工具,为开发者提供丰富多样的功能模块,大幅降低开发门槛与成本,加速开发进程。
双方合作在应用场景构建上成果斐然。个人生活助手实现影视体育实时视频智能问答、关键画面精准识别、多模态情绪氛围感知;智能工作助手达成文档智能处理与专业写作、本地隐私数据库表单智能填写。这些应用背后,是英特尔实时 AI 隐私计算与扣子 Agent 开发者平台深度融合的支撑,在保障隐私前提下优化交互体验、提升效率,重塑 AI 助手标准。
随着Coze-AIPC端云协同智能体开发平台的发布,英特尔与扣子Coze为开发者提供了强大的工具,以创造更加智能、高效且个性化的应用体验。未来,期待更多基于这一平台的智能体应用涌现,共同推动AI技术在端侧的广泛应用,探索智能体的无限潜能。