在最近的2024英特尔网络与边缘计算行业大会上,Sachin Katti(英特尔公司高级副总裁兼网络与边缘事业部总经理)将企业AI的发展切分成三个阶段,首先是“AI辅助时代”,比如现在生成文档、图片之类的服务;
下一步会进入到“AI助手时代”(AI Agent),AI能够自动执行完整工作流,“接管特定领域的工作负载”,比如在零售商店结账;
再下一步要进入的是“全功能AI时代”,由大量AI助手一起组成团队。这样的AI能够取代企业整个部门的工作,如财务部门、HR部门。Sachin甚至认为,未来会有一些独角兽企业出现——企业内仅有1名雇员,“因为AI能够接管企业的大部分工作”。
“这样的转变已经开始,全球许多企业已经开始进行尝试,预计未来1-2年内就会看到更多AI助手(AI Agent)的出现。”
AI在行业、企业中的扩展和深入之快,的确在我们的意料之外。郭威(英特尔公司市场营销集团副总裁、英特尔中国网络与边缘及渠道数据中心事业部总经理)说去年下半年,大模型AI落地大多还停留在讲故事的阶段。“今年是真的看到行业的落地,而且能够解决行业痛点。”
陈伟(英特尔公司副总裁兼网络与边缘事业部中国区总经理)也提到,今年的情况和去年“完全不一样”,“一半以上的客户都在探索基于边缘大模型的落地解决方案,也有了非常多的实际案例。”
借着这次大会,我们尝试谈谈企业及行业边缘AI的发展进度,以及Intel边缘AI的生态布局情况。
思路还是那个思路:开放的、系统的
今年4月份Intel Vision活动期间,我们就详细撰文剖析了Intel的企业AI发展战略——当时的全局战略覆盖了从云、到网络/边缘,以及端侧;核心理念自然同样适用于Intel的NEX(网络与边缘计算)业务。Sachin在本届英特尔网络与边缘计算行业大会上,总结Intel的AI技术的3大特点:灵活、简便和企业就绪。这三个特点,也完整反映了Intel的AI策略。
首先,是以开放、可扩展、标准化的方式来构建AI全栈。此前我们就谈到过,这一方面是Intel自PC时代崛起之初就保留的基因,另一方面也是英伟达制霸数据中心AI市场以后Intel的必然选择。有关“开放”和“标准化”的具体实施,本文不做具体展开。
不过Dan Rodriguez(英特尔公司副总裁兼网络与边缘解决方案事业部总经理)在媒体采访环节,给出有关“开放”的本质解读:其一是为客户提供选择权(而非绑定在某竞个封闭生态内),客户在Intel的AI生态内的不同层级,可以选择不同的供应商或合作伙伴;其二,“开放系统,鼓励所有人参与贡献,共同创造支持创新的良性循环”。
而构建起开放生态,需要以某些开放“标准”为基础——比如芯片互联的标准、网络连接的标准,乃至AI模型推理的标准等。建立标准也恰巧是Intel的强项——针对AI生态系统的不同层级、不同技术构建标准,客观上是有利于生态整体健康迈进的,主观上则强调了Intel的参与度和主导权。
其次,是从系统层面着眼。就硬件部分,Intel不仅有CPU、GPU、AI加速器等处理器,此前还宣布了IPU、AI NIC等网络产品计划,而且还准备提供系统层面的参考设计。Sachin在采访中说,系统参考设计会有不同的外形尺寸,“OEM/ODM也都会参与进来”。
与此同时,“我们提供的参考设计不仅限于硬件,还包括软件设计”。除了OpenVINO等库和中间件持续完善,Intel也在做最上层的应用层解决方案——Dan在主题演讲中谈到涵盖视觉分析AI套件、生命科学AI套件、媒体和娱乐AI套件、工业AI套件在内的开发工具。客观上也是体现了Intel企业AI生态系统的完善进度。
似乎在生成式AI时代,系统复杂化和竞争加剧,的确导致芯片厂商不得不自下而上管得这么“宽”。郭威说,以前的传统CV时代(应该是指CNN为主流的时代),“我们对上层应用介入不会太多,客户的应用通过OpenVINO跑在不同的处理器硬件上。”“但在大模型时代,我们必须去了解行业应用,如此客户通过OpenVINO,才能更好地让基于AI模型的应用,跑在Intel的硬件上。”
“这也是Intel NEX产品线会针对不同垂直领域,比如医疗、工业等推出AI套件的原因。”
基于上述两点,再来看Sachin所说“灵活、简便、企业就绪”,应该就很好理解了。“灵活”主要来自Intel端到端AI全栈的开放思路;而“简便”和“企业就绪”则建立在Intel不单交付芯片,而是打造硬件、软件,乃至面向不同垂直行业开发工具、解决方案的基础上。
在面向客户更大程度隐藏软硬件复杂度、提升AI应用开发便利性的前提下,再强化企业关注的安全和管理特性。这其实也是现在AI芯片企业面向市场时比较常见的业务逻辑,关键要看的是谁能把这样的逻辑和理念真正贯彻到位。
AI技术要深入到各行各业
从Intel今年的Q1季报来看,其NEX业务季度营收14亿美元,在整个公司的占比约为11%。财报提到,AI推理对于今年的边缘市场增长而言是相当明确的催化剂。行业普遍认可,AI市场的价值砝码未来数年会持续往推理和边缘侧倾斜。这与企业的数据安全隐私、服务实时性、网络带宽限制、业务与模型个性与定制化需求等因素有关。
很容易想见,Intel作为AI芯片市场的参与者之一,必然会加大NEX业务投入。不管是今年MWC上Intel发布新的Intel Edge Platform边缘平台(似已更名为Tiber Edge Platform?),还是在Intel Vision活动上全面拉开企业AI策略的帷幕。
展区展示基于Meteor Lake、应用于边缘市场的板子还真是不少
这是个基于Arc A370M的MXM Type-A图形模块,来自德晟达电子,强调的主要是媒体编码和视频IO能力
这两年我们参加Intel的NEX业务活动,一个明确感知是Intel在网络与边缘市场的存在感越来越强——尤其中国市场。其应用范围涵盖了零售、制造、金融、通信、教育、交通、医疗健康等方方面面。
这也成为Intel后续在网络和边缘计算市场推进AI技术的基础。陈伟说,Intel本次发布面向不同行业的AI套件“得益于过去十几年和合作伙伴的紧密合作与创新”,尤其是中国国内的合作伙伴。
我们在活动现场也看到了一些具体的展示,这里举例谈其中的两个应用。给我们留下最深刻印象的是科东软件的机械臂,也是现在相当流行的“具身智能”话题体现。
只需要在软件中输入自然语言指令,例如“把画有蝴蝶的粉色图片放到盘子里,旋转75度”——可以是文本输入,也可以是语音输入,AI大模型就能将指令转化为机器可执行的代码,让机械臂执行精准操作。
科东软件工业人工智能研究院院长祝一蒙介绍说,一般机械臂要执行此类操作,将某个零件从位置A转到位置B,“当任务或环境发生变化时,需要工程师给机器人做路径规划和运动规划,确定在哪个点要走的位置、速度、加速度等”;后续工程师还需要进行调校和程序部署。
基于传统开发流程,根据环境和任务复杂度,工程师大约需要半天到两天时间。有了生成式AI,在多模态视觉语言模型和大语言模型的加持下,“机器人可以像人一样处理自然语言、(基于摄像头)看到周围环境、理解任务并执行。”
从硬件基础角度来看,基于Intel酷睿Ultra处理器的方案,通过异构算力,“将算力设备和实时控制设备整合在一起,也不再需要网络传输,降低网络传输不确定性的影响。”这个演示是真正让我们看到AI让机器人部署更简单,及具身智能的广阔发展潜能的。
还有个比较具有代表性的演示来自希沃——教育领域的应用。据说目前希沃的产品已经覆盖超过17万所学校,年活跃用户800万,“约每两位教师就有一位是希沃的用户”。
举例来说,在备课过程中,老师要将PDF文档转为Word格式不需要去找专门的工具,简单进行文件拖拽操作即可;进行视频剪辑时,老师也不需要掌握复杂的视频剪辑技术,AI剪辑工具会将视频中的语音解析为文字,老师进行文字删减就能完成视频剪辑、合成新视频——还有一键去除口头语之类的功能。
而用希沃垂类大模型做“一键备课”,是基于新课标要求快速生成课件;而且会告知老师,课件生成的逻辑和使用方法,因为这是真正推动老师做好教学设计的关键。
与此同时,在授课方面,AI能够通过视觉和语音多媒体采集,“还原课堂、给出分析和反馈”。课堂报告会给出总结与建议。希沃商用计算机事业部副总经理郭潇说,“AI不仅能自动识别课程主题,还能帮助老师总结知识教学点,生成对话式建议。”甚至能根据新课标,生成补充课件。
有个亮眼的特性,是通过3D建模的方式记录老师在课堂中的行动轨迹、学生互动热区,辅助老师了解学生课堂表现。上述这些当前都基于Intel酷睿Ultra处理器及其AI生态进行。
数字人是展区的大热门,比如Intel这次推出的“小英”,是基于酷睿CPU和Arc显卡的3D虚拟数智人,可部署在边缘侧,借助LLM+RAG提供AI能力
更多现场展示的包括工业制造、媒体与娱乐、零售等方面的应用案例不再一一列举。比如此前我们见过多次的,Intel成都工厂借助AI视觉识别和智能模块进行托盘缺陷检测;深信服将生成式AI应用于网络安全,尤其在检测和运营方面——而且其安全大模型已经在国内“接近200家左右的客户”中上线,涵盖不少头部机构与企业客户...
生成式AI的商业化及多垂直市场的上线速度,的确超出了我们的意料。而且这些事普遍是近半年发生的。
工业、通信、零售、医疗等领域的边缘应用展示相当多样化…
中国“新质生产力”的体现
“虽然国外在基础大模型方面发展较快,但中国在大模型的行业落地、应用结合上走得更快。”郭威解释道,“中国市场的显著特点就是应用发展迅速。”所以我们看到更贴近实际应用场景的案例,在国内很常见。
王稚聪(英特尔市场营销集团副总裁兼中国区总经理)在开场演讲时也提到,中国生成式AI市场规模今年会达到33亿美元,2027年预计将达到130亿美元。Sachin援引IDC的数据:中国在生成式AI方面的投资,2022-2027年的CAGR会达到86.2%。
陈伟在演讲中详细列举了Intel面向不同垂直领域的AI“本土创新”,软硬件整合惠及银行、教育、金融,乃至交通领域的交控机、ETC、智能网联等具体应用。他介绍说Intel NEX事业部在中国已经与500+ OEM/ODM,与150+ ISV建立了合作关系,国内超过200万开发者受益,而全球的成功部署案例已经超过9万个。
交通领域的自动取卡机展示
通过资源技术共享、培训测试、提供项目合作机会,以及在全球市场营销方面的支持,实现“生态赋能”和“商业共赢”。这个逻辑体现的也是一种开放。郭威总结本土化策略的三个执行措施,第一提供更多定制化支持与服务;第二与国内AI模型厂商合作;第三,与客户的针对性合作,面向行业提供AI解决方案。
比较具有代表性的案例,是开域集团现场展区的工作人员告诉我们,基于Intel产品与服务及开域AI方案,门店、商场、园区等场景的运营人力可大幅降低80%。这是王稚聪所说“中国经济进入新旧动能转换、寻求高质量发展道路”的具体体现。中国当前全面倡导的新质生产力,在AI技术发展过程中会有越来越明确的凸显。
开域展示的AI Box,凭藉视频大模型和“跨镜轨迹追踪算法,达成基于语义的视频搜索及全空间消费旅程洞察”,面向门店、商场、社区等客户…
王景佳(英特尔中国区市场营销集团网络与边缘技术支持总监)在演讲中提到一个很有意思的观点。他说Intel在和合作伙伴就技术落地等问题做探索时发现,“AI已经从过去行业的亮点功能转变为行业应用的底座,从过去‘行业+AI’,变成了‘AI+行业’。”
这可能是对行业边缘AI现状,及未来AI将改写行业生态的最佳写照了。在AI和生成式AI的高速发展、我们还没来得及反映的这半年,Intel的网络与边缘计算AI生态布局正延伸到更广阔的应用场景内。那么可能Gartner预测2026年全球80%的企业都会使用生成式AI的确会成真。