上周2023英特尔网络与边缘产业高层论坛举办,谈到了他们眼中的边缘和AI。Intel NEX事业部眼中的市场热点是这样的...

Intel现在有几大业务部门,分别是CCG(Client Computing Group)、DCAI(Data Center and AI Group)、NEX(Network and Edge Group),以及其他业务(包括Mobileye和单独核算的IFS——foundry业务)。CCG、DCAI、IFS是电子工程专辑撰文探讨的常客,而NEX——网络与边缘事业部,我们以前没怎么系统性地聊过。

这家公司FY2022年报来看,NEX业务全年营收89亿美元,同比增长11%——占到Intel公司总营收的14%。不过这个业务FY2022营运毛利(operating margin)同比产生了较大幅度的滑坡,Intel在财报中说主要是产品路线、工艺节点加速的高投入,以及较高的库存。

不过从Intel对于这个业务的描述来看,基于Intel的技术,在各行各业部署网络、云、边缘,及对应的软件也都相当重要。NEX事业部的成立时间不长,应该是Pat Gelsinger上任CEO后随组织结构调整诞生:Intel20216月的新闻稿中提到,NEX事业部是将此前Intel的网络平台事业部、IoT事业部、连接(Connectivity)事业部整合到了一起,“贯穿网络到智能边缘,特别用于驱动技术和产品领先地位”。

上周2023英特尔网络与边缘产业高层论坛举办,也让我们更深入地了解到NEX事业部对Intel的价值,以及网络、边缘在Intel眼中是怎样的存在。包括酷睿、至强、灵动(Atom)、Arc、Flex在这个领域内都扮演着怎样的角色,Intel又是如何为该领域打造软件、构建生态的,似乎让我们看到了一个不同的Intel。

 

先看3个“边缘”的例子

论坛展区现场,有三个demo给我们留下了比较深刻的印象。其一是海康机器人及其视觉方案VC3000X:

现场工作人员介绍说,这台设备搭载的处理器是酷睿i7-12700, “替换了此前酷睿i7-9700 + RTX 3060 的方案”,也就是说新方案去掉了独显。“这套系统(PL光伏检测)的耗时统计能够稳定在170ms,之前那套方案在200ms左右。”工作人员说,“后续我们还会做更进一步的优化。”

“也就是用新一代CPU,去替代原来CPU+独立GPU的方案,功耗和成本都更低了,性能表现也更好。”这一点是打破了我们以往的认知的。

其二是开域展示的数字门店解决方案。这是个AI Box,把这个盒子装到门店,配合摄像头就能进行基于机器视觉的门店管理。“通过内置在盒子里的算法,智能识别店里的情况,包括员工有没有穿制服、有没有戴口罩等等。”

“店长在移动端就能收到提醒。”“再比如面包店货架的铺满率,低于一定阈值就会发出提醒;餐厅里的餐桌是否及时清理;门店的客流情况、后厨食品安全等”,“都是基于AI技术跑在这个盒子里实现的”。其中最主要的硬件就是12代酷睿i5处理器,“一般门店6-8路需求,一个盒子就能搞定”。

我们特别问到盒子里是否配有额外的加速器,工作人员表示只有酷睿i5处理器,“因为零售客户对成本非常敏感”。“基于OpenVINO可以做很多算法定制——比如门店不同货架的面包铺满率,基于OpenVINO就能快速部署新的算法。”OpenVINO是Intel开发的一个开源工具套件,尤其能够做深度学习模型的优化,并部署到Intel芯片上做推理。

第三个例子,是Intel展示的OCES(Open Common Edge Server)架构服务器部署的EVI边缘视频基础设施方案。“OCES”本身是Intel针对边缘场景定义的开放通用边缘服务器标准,“整体设计也是成本导向的”。

这台服务器是“来自我们合作伙伴一款符合OCES标准的样机,19英寸机架式服务器,2U高度,<700mm深度”,内部支持2颗至强处理器(应该是Sapphire Rapids),16根DIMM,12个3.5英寸硬盘扩展,“可以满足80%以上的边缘场景需求”。工作人员还特别谈了这台服务器内部设计上的紧凑性考量、各部件的模块化方案,以及不错的扩展能力,包括对于GPU、FPGA、多媒体加速卡等的扩展支持。

以智慧社区软件方案在这台边缘服务器上部署为例,Intel展示了以图搜图特性:比如社区内的车辆失窃,或者小朋友走丢,都可以借助在系统中以图搜图,在监控产生的结构化数据库中查找,通过“特征比对和搜索的优化算法”,“快速找到与图片相似的物体,包括人、车,给出其在社区内出现的时间、地点”。这个过程也是在至强CPU上完成的,“以前要实现这样的功能,用户得配置多张GPU才行。”

其实我们对这三个例子,首先惊叹的是它们都没有用独立GPU、AI芯片之类的加速器,依然表现出了不错的性能,虽然我们不清楚是12代酷睿处理器的异构核心(P-core + E-core)或Golden Cove架构在发挥作用,还是VNNI指令的充分加速,亦或软件层如OpenVINO的优化使然,或者是否有Xe核显参与,总之在诸多边缘AI场景里,CPU发挥的作用都远比我们想象得要大。

 

边缘计算Intel都给了什么?

当然,像这样的例子在现场还有很多,也不一定是完全基于CPU的AI计算。比如说英特尔公司企业副总裁兼网络边缘解决方案事业部总经理Dan Rodriguez就智能制造方向,提到的Intel成都工厂,用酷睿处理器+Arc显卡,再借助OpenVINO检测晶圆表面的缺陷,以此提高良率和产能。AI和边缘始终是关键词。

主论坛几位演讲者都在AI人工智能方面花了比较大的篇幅。英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti的演讲,几乎全部围绕边缘和AI这两大“经济动能”——当然这可能和他本身就身处NEX事业部有关。

其中“2030年边缘市场规模将达到4450亿美金”,届时AI的“全球市场规模也将达到650亿美金”,“AI无处不在”。而“边缘已经是现在AI最大的部署所在,比如智慧教育、视频会议、智能制造、智慧城市、医疗等等”,“边缘开发者中,有86%的人告诉我们,他们要把AI加入到应用中去”。

活动现场的展示的确也在交通、零售、医疗、教育、制造、金融、工作等方面,出现了不少边缘AI相关的技术,基本都是基于Intel的硬件和软件生态所做的开发。Sachin说,“Intel已经在全球范围内的诸多行业领域完成了超过84000次成功部署”——说的应当就是边缘AI。上述3个例子自然也是其中的组成部分。

谈到生态——上面这张图展示了从底层硬件,到软件栈的不同层级——包括框架和靠近应用层,Intel的布局,以及对应的解决方案。Intel称其“广泛产品与解决方案”,Sachin表示不同的行业有着不同的要求,包括能效、空间、环境等,“我们要确保我们提供这样一种产品,最广泛满足这些需求”。

从最底层的Intel酷睿、至强和Atom(灵动)处理器,Arc与Flex系列显卡,Ethernet网络产品,到边缘基础设备与平台软件套件,边缘AI与应用软件套件,乃至应用与解决方案。尤其在应用和解决方案的部分,“我们看到很多客户没有AI方面的专家,但他们希望可以获得AI的帮助,我们要做的是为他们提供定制解决方案。”Sachin谈到,“我们要让AI模块做到本土化、定制化。”

Dan则说要让芯片和基础设施发挥作用,则基于AI的软件很重要,而且要“利用所有这些组成部分专注于面向客户的垂直解决方案”,构建“既有广度又有深度的生态系统”。

△ 大族智控801系列数控系统

有关边缘,这里举在主题演讲的合作伙伴分享环节,我们感觉还颇具代表性的一个例子。工业制造领域,提供激光加工类设备的大族智控——为了解决传统激光设备功能模块分布的挑战与限制(采用嵌入式网卡来做控制系统),Intel和这家公司一起打造ECI边缘控制套件(Intel Edge Controls for Industrial)。

大族智控总经理封雨馨说,大族智控“利用套件提供的高算力处理器硬件平台,从根本上提高数控系统的算力和性能;在此基础上,Intel提供了负载整合的软件工具和系统——通过负载整合,我们将工业控制系统实时任务和非实时任务,在一个处理器上进行深度有机融合”,“实时环境下,我们开发了数控内核任务以及总线通信总栈,以及实时任务控制;非实时环境,通过ECI来做这件事,开发效率提高很多”。

“ECI套件,至少在国内我们应该是最早和Intel合作提出了这样的需求,并且应用了ECI套件的。”封雨馨总结ECI套件的特点,其一是算法、软件都跑在Intel CPU上,提升了性能;其二是用Windows 10系统,且在内部执行实时子系统,满足不同的需求;其三是“纯软核系统拓扑结构”,系统结构实现了精简,成本降低;还有数字化总线通讯,拓扑结构简洁、性能稳定。

这个例子未必能够体现AI技术于边缘的价值,不过我们认为是能够体现Intel在垂直领域,和合作伙伴构建生态的过程和想法的——是面向具体的客户,提供针对性的解决方案。

 

边缘市场的潜在价值和发展依据

“边缘”对应的是“中心”——像Intel这样的市场角色,强调边缘市场的价值,也是其芯片产品走量的必然。毕竟边缘市场如此广阔,千行百业的数字化都能产生和需要“边缘”。

英特尔公司副总裁兼网络与边缘事业部中国区总经理陈伟博士在谈到AI时说,“我们看到大量AI部署在边缘”,“边缘有成本、空间、带宽等方面的限制”,要“真正落地”AI到各行各业需要考虑这些问题。

“大模型非常火,大模型参数数量几十亿、上千亿,这是好的方向”,但到具体的边缘场景,“比如一个交通路口4路、8路摄像头”,“优化压缩”后的模型,“通过酷睿处理器,加上集成显卡或者一个独立显卡,就能支撑需求”。陈伟说,“人工智能的落地高效性非常重要。”

我们开头举的这几个例子,应当都能说明Intel对于边缘AI的这番理解,以及Intel强调边缘的业务逻辑。那么在这样的前提下,Intel的CPU、GPU、AI芯片(如Habana),加上诸如会上多次被反复提及的OpenVINO这类工具,将AI部署到边缘,加速边缘计算,于Intel而言是巨大的市场机会。当然,不一定是AI,只不过AI在边缘的价值变得越来越大;总之边缘+网络,都是Intel准备拿下的市场。

感觉陈伟在会上举的一个合作案例,就体现Intel在“边缘”方面的理解还颇具代表性,也是活动展区在展示的:超级云终端。陈伟说,超级云终端的技术“甚至IP都是中国本土英特尔和合作伙伴共同研发、共同创新的”。Intel的工作人员告诉我们,超级云终端在2020年刚推出时有“2个头部客户,到现在已经发展到26个行业客户”。

“很多学校和医院的方案,运算单元不在本地,运算结果通过网络传到本地。如果终端非常多,中心服务器计算压力很大,并发请求一多,网络的压力也很大。”现场工作人员解释说,“超能云终端是将计算归于本地,充分利用本地硬件的性能。它对网络的依赖没那么大,计算机启动时只需要和网上的服务器做个握手验证,若没有版本更新则从本地启动。”

“而后所有计算都在本地。所有的外设插上USB就能直接使用,不需要对外设驱动做虚拟化层,或者网络层的穿透工作。”“而相比于完全独立的PC,超能云终端还集成了网上管理功能。通过一台服务器控制所有客户端,对客户端做唤醒、重启、关机、操作系统打补丁之类的操作。”工作人员给我们演示了,若某台客户端发生蓝屏,则借助超级云终端对齐进行重启,恢复到最初状态。

比如对教学场景,“上节课,学生做物理实验,改变了原有系统;下节化学课则只需要在服务器端发送重启命令,所有设备的物理课使用痕迹就消失了”;再比如电竞酒店场景,“一些电竞酒店可能有不少分店,游戏玩家在某家店结账以后,下次到另一个分店,基于账号就能把私有数据通过网络同步过来,就和个人电脑的使用体验一样——壁纸、桌面配置、软件甚至在酒店check in的时候就同步了。”

包括联想、升腾等厂商都是Intel这套方案的合作伙伴;另外,现场参与展示的希沃(seewo)也在教育领域,就“教育数字化”针对教学和备课终端引进这套方案——希沃在主题演讲中多次谈到了OpenVINO,AI技术果然是深入到了各行各业。无论如何,超级云终端在体验Intel对于AI终端的发展思路方面,应该还是很具有代表性的。

△希沃展示的教育数字化方案,备课、教学做到了一体化,比如在云电脑上备课,课件可以直接在智能黑板上调取展示;机房解决方案则应用超级云终端,控制学生机房设备

陈伟在谈这些年数据量的增长时表示,各行各业有价值的信息通过数据来呈现,“预计中国未来5年内,数据增长会超过25%以上。2/3~4/5的数据处理不会在数据中心进行。这完全是技术和经济效益、商业规模决定的,说明这个市场非常之大。”Intel NEX业务的发展很大一部分应该就是以此为基础的:数据增长,网络连接与边缘计算需求激增,边缘AI还在催生新的应用场景。

其实“网络”部分,前文一直没怎么谈。这里也举个例子:京信作为5G基础设施构建的一员,也在会上做了分享——5G基础设施市场需求不必多说,京信的5G方案采用Intel至强D、Smart Edge Open以及FlexRAN。这是能够部分体现Intel在网络连接上的参与度的。

英特尔市场营销集团副总裁兼中国区总经理王稚聪在论坛开场致辞中,提到现在的经济形势下“消费降级和消费升级同时存在”,虽然从大环境来看,普罗大众对市场的信心仍然不足,但“升级”热点一样存在:NEV电动汽车市场的高速增长不用提,“刚刚结束的6.18高附加值的游戏计算机同比增长30%”,“上半年工业控制计算机,同比增长30%”。

“行业合作伙伴可能要捕捉中国经济在恢复过程中出现的新动能、新的产业崛起,以及把我们的技术代入到下一个发展阶段。”王稚聪说。会上展示的这些案例,应该都是Intel眼中的动能。

其实2023财年的前两季,Intel NEX业务表现并不好,与市场大环境同步。在市场下行和经济大环境疲软时期,找到未来,并为此做好准备,是现阶段Intel努力的方向;各行各业的边缘与网络应用,是Intel期望在全社会数字化转型过程里,抓住的市场机会;以及接下来行业进入恢复期,NEX事业部营收实现增长的关键。

 

其他demo和产品展示:

△ 板卡展示区包括酷睿平台在嵌入、工业、机器人、AI等场景的应用,11代酷睿Tiger Lake在这些领域的应用看起来还相当广泛;平常不大能见到的至强与Atom平台也能在这里看到——包括Sapphire Rapids,以及不少Tracemont核心的处理器平台,还有传说中的Snow Ridge、Elkhart Lake...

△ 联新的智能药品管理系统,着力于用药安全,包括护士药品准备、药剂师补药等操作的智能化,里面应当也应用了不少传感器;这是边缘智慧医疗应用的典型代表;

△ 德晟达针对教育的智慧教室解决方案,主打的是一台设备控制所有其他终端,包括门窗、空调、黑板、灯——上面这个电子讲台能够支持7屏同时控制,还有NFC碰一下就调用某个特定教师的课间或其他资料,也支持无线充电...

△ 奇安信的网络边界安全设备,“基于通用的硬件平台”,用的Intel处理器为Snow Ridge或Parker Ridge,亮点在CPU的可扩展性和I/O能力上;

△ 智慧银行展示,主要包括一些自助服务设备,做银行业务流程的自主自动化,如自动办卡,以及针对银行VIP客户通过摄像头进行交流,上图是“云网点解决方案”;

△ 用于铁路场景的智能识别便携设备,其中包括有热成像传感器、雷达、摄像头,可在各种天气工况下进行24小时监测,包括识别人、物体,确保行车安全;

△ 冰鲸科技展示的私有云设备——主要面向全球个人创作者、开发者、SOHO独立办公用户;小型服务器作为本地网盘、智能家居控制中心,或者是小团队的本地云;可进行统一的数据管理,嵌入到工作流...右下角这个小设备应该是基于Amber Lake超低压平台,看起来是个相当极客的个人服务器,可扩展两路硬盘;

△ 智慧零售相关应用,主要展示的是POS机、自助收银机;Intel似乎正在搞一个卓越POS认证计划,现场展示了首批通过了卓越POS的设备,来自3个合作伙伴;“未来我们希望更多零售头部客户跟我们合作,让更多POS成为Intel的卓越POS;

责编:Illumi
阅读全文,请先
您可能感兴趣
新款开发板售价仅为249美元,而上一代40 TOPS开发板售价为499美元,价格仅为上一代的一半。这使得Jetson Orin Nano Super成为“世界上最经济实惠的生成式AI计算机”,特别适合商业AI开发者、爱好者和学生使用。
面对AI时代带来的差异化趋势、软件应用及开发时间长、软硬件协同难、高复杂度高成本等挑战,国产EDA仍需不断探索和创新。
近年来,AWS还积极投资于人工智能(AI)、机器学习(ML)、大数据分析和边缘计算等前沿技术,以保持其在这些领域的竞争优势。
通过机器学习技术,EDA工具可以获取更精确的模型来预测设计中存在的问题,如布线拥塞、信号干扰、热效应等,从而为用户提供更准确快速的指导,避免后期返工。
这一新规则可能会引起美国在世界各地的合作伙伴和盟友的重大担忧,以及一些国家的不满,担心美国会充当单方面仲裁者,决定谁可以获得对AI至关重要的先进芯片。
股东诉讼指控英伟达的首席执行官黄仁勋隐藏了公司记录性收入增长主要由其旗舰产品GeForce GPU的挖矿销售驱动,而非游戏销售,导致投资者对公司的盈利来源和风险敞口产生错误认知。
目前,智能终端NFC功能的使用频率越来越高,面对新场景新需求,ITMA多家成员单位一起联合推动iTAP(智能无感接近式协议)标准化项目,预计25年上半年发布1.0标准,通过功能测试、兼容性测试,确保新技术产业应用。
中科院微电子所集成电路制造技术重点实验室刘明院士团队提出了一种基于记忆交叉阵列的符号知识表示解决方案,首次实验演示并验证了忆阻神经-模糊硬件系统在无监督、有监督和迁移学习任务中的应用……
C&K Switches EITS系列直角照明轻触开关提供表面贴装 PIP 端子和标准通孔配置,为电信、数据中心和专业音频/视频设备等广泛应用提供创新的多功能解决方案。
投身国产浪潮向上而行,英韧科技再获“中国芯”认可
来源:苏州工业园区12月17日,江苏路芯半导体技术有限公司掩膜版生产项目迎来重要进展——首批工艺设备机台成功搬入。路芯半导体自2023年成立以来,专注于半导体掩膜版的研发与生产,掌握130nm至28n
万物互联的时代浪潮中,以OLED为代表的新型显示技术,已成为人机交互、智能联结的重要端口。维信诺作为中国OLED赛道的先行者和引领者,凭借自主创新,实现了我国OLED技术的自立自强,成为中国新型显示产
万物互联的时代浪潮中,以OLED为代表的新型显示技术,已成为人机交互、智能联结的重要端口。维信诺作为中国OLED赛道的先行者和引领者,凭借自主创新,实现了我国OLED技术的自立自强,成为中国新型显示产
2024年度PlayStation游戏奖今日公布,《宇宙机器人》获得年度最佳PS5游戏,《使命召唤:黑色行动6》获得年度最佳PS4游戏。在这次评选中,《宇宙机器人》获得多个奖项,包括最佳艺术指导奖、最
“ 洞悉AI,未来触手可及。”整理 | 美股研究社在这个快速变化的时代,人工智能技术正以前所未有的速度发展,带来了广泛的机会。《AI日报》致力于挖掘和分析最新的AI概念股公司和市场趋势,为您提供深度的
阿里资产显示,随着深圳柔宇显示技术有限公司(下称:“柔宇显示”)旗下资产一拍以流拍告终,二拍将于12月24日开拍,起拍价为9.8亿元。拍卖标的包括位于深圳市龙岗区的12套不动产和一批设备类资产,其中不
又一地,新型储能机会来了?■ 印度:2032储能增长12倍,超60GW据印度国家银行SBI报告,印度准备大幅提升能源存储容量,预计到2032财年将增长12 倍,超60GW左右。这也将超过可再生能源本身
扫描关注一起学嵌入式,一起学习,一起成长在嵌入式开发软件中查找和消除潜在的错误是一项艰巨的任务。通常需要英勇的努力和昂贵的工具才能从观察到的崩溃,死机或其他计划外的运行时行为追溯到根本原因。在最坏的情
 “ AWS 的收入增长应该会继续加速。 ”作者 | RichardSaintvilus编译 | 华尔街大事件亚马逊公司( NASDAQ:AMZN ) 在当前水平上还有 38% 的上涨空间。这主要得益
极越汽车闪崩,留下一地鸡毛,苦的是供应商和车主。很多人都在关心,下一个倒下的新能源汽车品牌,会是谁?我们都没有未卜先知的超能力,但可以借助数据管中窥豹。近日,有媒体统计了15家造车新势力的销量、盈亏情