OpenVINO™再升级:英特尔为AI创新插上翅膀

知IN 2024-09-20 22:42


40年前,个人电脑的问世将强大的计算能力压缩至人们的桌面。20年前,智能手机的诞生拉近了人与人之间的距离。今天,AI助手悄无声息地渗透到我们的生活,改变着我们与世界互动的方式。


在上周刚刚落幕的OpenVINO™ DevCon 中国系列工作坊北京站活动上,众多行业先锋和创新者们展现了AI技术在多个领域的实际应用。一个明显的趋势是:无论是行业领军企业还是独立开发者,无一不在全力以赴地“All In AI”。这些创新的解决方案,不仅标志着当前各行业对AI的应用正进入爆发式增长阶段,也预示着AI将与我们的生活更紧密地联系在一起——从职场到家庭,从医疗到娱乐,开启一个充满可能性的未来。


OpenVINO™ 2024.4版上线,支持最新英特尔® 酷睿™ Ultra 处理器(第二代)并显著提升大语言模型推理性能


英特尔OpenVINO™ ,作为一款先进的AI工具套件,为开发者们提供了实现理想的AI部署的平台。英特尔不断优化其性能,特别是提升其在PC和小型设备上运行大语言模型(LLM)的能力。最新发布的OpenVINO 2024.4版本,为开发者带来了诸多关键功能和性能改进,旨在确保大语言模型在所有场景中,无论是边缘计算还是数据中心,都能实现卓越的AI性能。


首先,OpenVINO 2024.4版本的一大亮点是新增了对最新英特尔® 酷睿 Ultra处理器(第二代)的支持:


● 在客户端技术方面,支持全新的Xe2 GPU架构,该架构搭载于最新发布的英特尔® 酷睿 Ultra处理器(第二代)平台,并由英特尔® Xe矩阵扩展(英特尔® XMX)加速技术驱动。Xe2架构在处理计算密集型任务,例如矩阵乘法方面,能够带来显著的性能提升,对于加速大语言模型的部署至关重要。


● 英特尔® 酷睿 Ultra处理器(第二代)还引入了一个更强大的神经处理单元(NPU),其推理吞吐量相较前一代有重大升级。


在模型优化和内存管理方面,OpenVINO 2024.4版本有效降低了AI部署的成本,优化了内存使用,并显著减少了延迟。


● 创建了高度优化的GPU原语,如缩放点积注意力和旋转位置嵌入,有效降低执行复杂AI操作的成本。此外,对内存管理进行了改进,更高效地支持带有压缩权重的模型,使得大语言模型能够在资源受限的环境中,如笔记本电脑和边缘设备上,能够以最小的内存占用运行。


● 在英特尔® 至强® 处理器上运行时,OpenVINO™ 现支持由Open Compute Project规范定义的mxfp4格式,这使在运行大语言模型时,相比于BF16精度,能够减少内存消耗,同时提高处理第二个Token的延迟性能。


在模型支持方面,OpenVINO 2024.4覆盖更多生成式AI。


● 支持GLM-4-9B Chat, MiniCPM-1B, Llama 3 和 3.1, Phi-3-Mini, Phi-3-Medium 以及YOLOX-s模型,并新增了一系列值得关注的Notebook。

● 与Hugging Face合作,更新了Optimum-Intel解决方案,使得在利用Hugging Face API运行模型的同时,能够使用OpenVINO™ 高效地导出和压缩模型,以供OpenVINO GenAI套件API使用。


OpenVINO DevCon尽显社区创新活力,背包里的AI PC定义智能新纪元


今年,OpenVINO™ 发布了多个更新版本,且持续通过与开发者的交流和互动,将行业趋势与OpenVINO™ 的最新技术带给开发者,助力开发者系统进阶。在近日举办的OpenVINO™ DevCon中国系列工作坊北京站中,数百位开发者亲临现场,探讨了“OpenVINO™ 加速PC及小型设备性能”的应用潜力,并展示了他们在语音智能交互、媒体娱乐、医疗分析等领域利用OpenVINO™ 实现的创新成果。


人形机器人展示:将大模型“装进”AI PC,小巧机身浓缩超级智慧




在机器人领域,一个核心挑战在于:如何将复杂的AI大模型部署到资源受限的本地硬件,赋予机器人以智慧的“生命”。这一挑战犹如将一头大象塞进狭小的冰箱,不仅考验技术的高度,更要求在成本和性能之间寻找到最优的解决方案。


OpenVINO 通过模型的量化、压缩和加速,降低了AI大模型在边缘设备上的运行负担,并通过支持多硬件平台,实现了计算资源的高效利用,使在AI PC轻薄笔记本上运行大型模型成为可能。当这些AI大模型与机器人、机械臂等硬件结合,它们就仿佛被赋予了生命,能够听懂人类的复杂指令,机智应对各种挑战,展现着智能机器人的无限潜力。


对话式AI语音助手:聊天只是开胃菜,超级助理才是真身份



对话式AI语音助手已经在我们的日常生活中扮演越来越重要的角色。事实上,随着智能化程度不断加深,这些AI助手正走进医疗、教育、金融等多个领域,为各行各业的带来效率提升。


例如,在医院场景中,患者通常需要在候诊室等待数小时,而医生则被迫在几分钟内完成诊断。如何优化就诊流程,成为了缓解医患矛盾的关键。基于OpenVINO搭建的大语言模型对话式AI助手,能够帮助医院改善这一状况。AI语音助手通过语音识别和大型语言模型,在患者踏入诊室之前就能与患者展开交流,收集其症状信息,并为医生制作详细的病例总结。如此,当患者进入诊室,医生便能够直接进入诊断的核心环节,极大地缩短了就诊时间,提升了患者满意度。


与直播息息相关:AI化身美颜大师,数字人与未来共舞



在视频直播盛行的今天,智能美颜和数字人技术已成为行业的标配。但如何降低相关技术的开发门槛和成本仍是行业持续探索的议题。如今借助英特尔OpenVINO,相芯科技让AI数字人和AR视频特效技术实现了更低成本的部署。


例如,在视频互动中,OpenVINO 极致的优化能力结合相芯在AI美颜方面的多年积累,在AR视频特效方面实现了出色的效果。AI在美颜时不仅能准确识别和修饰面部的细微瑕疵,如雀斑、痘痘,还能巧妙保留用户的个人特色,确保美颜效果既真实自然又富有个性魅力。


依托OpenVINO™ 构建的AI数字人产品,也正被广泛应用于在线教育、远程办公、直播带货、社交娱乐等多个领域。OpenVINO™ 通过优化的开发框架,提高了模型的转换速度和压缩率,不仅降低了资源消耗和成本门槛,还确保了模型在不同硬件平台上高效运行。从教育启迪到娱乐陪伴,从工作辅助到情感交流,数字人应用的深度和影响力不断加深。


当AI 走进日常生活:减负、传承…指尖智慧缔造美好生活


OpenVINO™ 不仅推动着行业AI应用的发展,更为众多独立开发者提供了施展才华和创意的平台。从技术博主到怀揣梦想的学生和创业者,他们利用AI技术,探索如何让科技服务于人,真正改善人类生活的世界。







把授课交给老师,批改作业交给机器


长久以来,学校教师肩负着作业批改的繁重负担。一款基于OpenVINO™ 构建并优化的离线作业批改应用帮助教师缓解了这一难题。只需将题目输入到笔记本电脑,AI大模型便能将学生答案与标准答案自动进行比对,完成作业批改。结合打印机,批改结果便能即时呈现在学生试卷之上。每分钟超过60份试卷的批改速度,批改准确率超过95%,让教师彻底从繁重的体力劳动中解放出来,大大提高了教育工作的效率。


利用OpenVINO,跨过批量剪辑视频之“痛”


在数字营销的战役中,出街速度至关重要。北京海百川有限公司开发的AIGC数字内容生成结合全息硬件展示系统能够轻松处理复杂任务,从视频生成、虚拟互动到与大型AI模型的集成,使得在视觉识别、面部表情和身体动作的捕捉上都能生成引人入胜的数字内容。通过高性能的AI推理引擎,系统能够自动捕捉热点,制作出适应不同语言和文化环境的视频内容,达到批量生产视频的效果,满足市场的多样化需求和对速度的追求。


传统针灸“智慧”传承,AI技术功不可没


针灸作为一种传统的中医疗法,其操作依赖于针灸师手工进行。随着城市化和人口老龄化带来对针灸服务的需求的上升,现有的针灸师队伍难以满足庞大的市场需求。上海墀圣信息科技有限责任公司借助英特尔的OpenVINO™ 开发的谧行针灸系统方案,通过智能化手段,不仅能够快速准确地识别人体穴位,还通过量化针灸手法,实现了治疗操作的标准化,提高了治疗的效率和准确性。此外,庞大的针灸知识数据库,还为针灸咨询、学习与考核提供了支持,加速了针灸知识的普及与传播。


随着OpenVINO 2024.4版本的发布,工程师将可以利用更多的性能加速创新。英特尔将继续与全球开发者一起,探索AI的未知领域,让每一个创意都能成为现实。


©英特尔公司,英特尔、英特尔logo及其它英特尔标识,是英特尔公司或其分支机构的商标。文中涉及的其它名称及品牌属于各自所有者资产。



相关资讯



/转载请注明出处/

知IN 一手、专业、有料! 知IN,英特尔中国自媒体,传递最新鲜的英特尔资讯,呈现最清晰的英特尔战略及业务进展,提供最前沿的洞察与趋势解读。
评论
  • 大模型的赋能是指利用大型机器学习模型(如深度学习模型)来增强或改进各种应用和服务。这种技术在许多领域都显示出了巨大的潜力,包括但不限于以下几个方面: 1. 企业服务:大模型可以用于构建智能客服系统、知识库问答系统等,提升企业的服务质量和运营效率。 2. 教育服务:在教育领域,大模型被应用于个性化学习、智能辅导、作业批改等,帮助教师减轻工作负担,提高教学质量。 3. 工业智能化:大模型有助于解决工业领域的复杂性和不确定性问题,尽管在认知能力方面尚未完全具备专家级的复杂决策能力。 4. 消费
    丙丁先生 2025-01-07 09:25 80浏览
  • 根据Global Info Research项目团队最新调研,预计2030年全球封闭式电机产值达到1425百万美元,2024-2030年期间年复合增长率CAGR为3.4%。 封闭式电机是一种电动机,其外壳设计为密闭结构,通常用于要求较高的防护等级的应用场合。封闭式电机可以有效防止外部灰尘、水分和其他污染物进入内部,从而保护电机的内部组件,延长其使用寿命。 环洋市场咨询机构出版的调研分析报告【全球封闭式电机行业总体规模、主要厂商及IPO上市调研报告,2025-2031】研究全球封闭式电机总体规
    GIRtina 2025-01-06 11:10 104浏览
  • 这篇内容主要讨论三个基本问题,硅电容是什么,为什么要使用硅电容,如何正确使用硅电容?1.  硅电容是什么首先我们需要了解电容是什么?物理学上电容的概念指的是给定电位差下自由电荷的储藏量,记为C,单位是F,指的是容纳电荷的能力,C=εS/d=ε0εrS/4πkd(真空)=Q/U。百度百科上电容器的概念指的是两个相互靠近的导体,中间夹一层不导电的绝缘介质。通过观察电容本身的定义公式中可以看到,在各个变量中比较能够改变的就是εr,S和d,也就是介质的介电常数,金属板有效相对面积以及距离。当前
    知白 2025-01-06 12:04 170浏览
  • 彼得·德鲁克被誉为“现代管理学之父”,他的管理思想影响了无数企业和管理者。然而,关于他的书籍分类,一种流行的说法令人感到困惑:德鲁克一生写了39本书,其中15本是关于管理的,而其中“专门写工商企业或为企业管理者写的”只有两本——《为成果而管理》和《创新与企业家精神》。这样的表述广为流传,但深入探讨后却发现并不完全准确。让我们一起重新审视这一说法,解析其中的矛盾与根源,进而重新认识德鲁克的管理思想及其著作的真正价值。从《创新与企业家精神》看德鲁克的视角《创新与企业家精神》通常被认为是一本专为企业管
    优思学院 2025-01-06 12:03 114浏览
  • 村田是目前全球量产硅电容的领先企业,其在2016年收购了法国IPDiA头部硅电容器公司,并于2023年6月宣布投资约100亿日元将硅电容产能提升两倍。以下内容主要来自村田官网信息整理,村田高密度硅电容器采用半导体MOS工艺开发,并使用3D结构来大幅增加电极表面,因此在给定的占位面积内增加了静电容量。村田的硅技术以嵌入非结晶基板的单片结构为基础(单层MIM和多层MIM—MIM是指金属 / 绝缘体/ 金属) 村田硅电容采用先进3D拓扑结构在100um内,使开发的有效静电容量面积相当于80个
    知白 2025-01-07 15:02 73浏览
  •     为控制片内设备并且查询其工作状态,MCU内部总是有一组特殊功能寄存器(SFR,Special Function Register)。    使用Eclipse环境调试MCU程序时,可以利用 Peripheral Registers Viewer来查看SFR。这个小工具是怎样知道某个型号的MCU有怎样的寄存器定义呢?它使用一种描述性的文本文件——SVD文件。这个文件存储在下面红色字体的路径下。    例:南京沁恒  &n
    电子知识打边炉 2025-01-04 20:04 100浏览
  • By Toradex 秦海1). 简介嵌入式平台设备基于Yocto Linux 在开发后期量产前期,为了安全以及提高启动速度等考虑,希望将 ARM 处理器平台的 Debug Console 输出关闭,本文就基于 NXP i.MX8MP ARM 处理器平台来演示相关流程。 本文所示例的平台来自于 Toradex Verdin i.MX8MP 嵌入式平台。  2. 准备a). Verdin i.MX8MP ARM核心版配合Dahlia载板并
    hai.qin_651820742 2025-01-07 14:52 42浏览
  • PLC组态方式主要有三种,每种都有其独特的特点和适用场景。下面来简单说说: 1. 硬件组态   定义:硬件组态指的是选择适合的PLC型号、I/O模块、通信模块等硬件组件,并按照实际需求进行连接和配置。    灵活性:这种方式允许用户根据项目需求自由搭配硬件组件,具有较高的灵活性。    成本:可能需要额外的硬件购买成本,适用于对系统性能和扩展性有较高要求的场合。 2. 软件组态   定义:软件组态主要是通过PLC
    丙丁先生 2025-01-06 09:23 83浏览
  • 自动化已成为现代制造业的基石,而驱动隔离器作为关键组件,在提升效率、精度和可靠性方面起到了不可或缺的作用。随着工业技术不断革新,驱动隔离器正助力自动化生产设备适应新兴趋势,并推动行业未来的发展。本文将探讨自动化的核心趋势及驱动隔离器在其中的重要角色。自动化领域的新兴趋势智能工厂的崛起智能工厂已成为自动化生产的新标杆。通过结合物联网(IoT)、人工智能(AI)和机器学习(ML),智能工厂实现了实时监控和动态决策。驱动隔离器在其中至关重要,它确保了传感器、执行器和控制单元之间的信号完整性,同时提供高
    腾恩科技-彭工 2025-01-03 16:28 170浏览
  • 根据环洋市场咨询(Global Info Research)项目团队最新调研,预计2030年全球无人机锂电池产值达到2457百万美元,2024-2030年期间年复合增长率CAGR为9.6%。 无人机锂电池是无人机动力系统中存储并释放能量的部分。无人机使用的动力电池,大多数是锂聚合物电池,相较其他电池,锂聚合物电池具有较高的能量密度,较长寿命,同时也具有良好的放电特性和安全性。 全球无人机锂电池核心厂商有宁德新能源科技、欣旺达、鹏辉能源、深圳格瑞普和EaglePicher等,前五大厂商占有全球
    GIRtina 2025-01-07 11:02 66浏览
  • 每日可见的315MHz和433MHz遥控模块,你能分清楚吗?众所周知,一套遥控设备主要由发射部分和接收部分组成,发射器可以将控制者的控制按键经过编码,调制到射频信号上面,然后经天线发射出无线信号。而接收器是将天线接收到的无线信号进行解码,从而得到与控制按键相对应的信号,然后再去控制相应的设备工作。当前,常见的遥控设备主要分为红外遥控与无线电遥控两大类,其主要区别为所采用的载波频率及其应用场景不一致。红外遥控设备所采用的射频信号频率一般为38kHz,通常应用在电视、投影仪等设备中;而无线电遥控设备
    华普微HOPERF 2025-01-06 15:29 125浏览
  • 本文介绍Linux系统更换开机logo方法教程,通用RK3566、RK3568、RK3588、RK3576等开发板,触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。制作图片开机logo图片制作注意事项(1)图片必须为bmp格式;(2)图片大小不能大于4MB;(3)BMP位深最大是32,建议设置为8;(4)图片名称为logo.bmp和logo_kernel.bmp;开机
    Industio_触觉智能 2025-01-06 10:43 87浏览
  • 在智能家居领域中,Wi-Fi、蓝牙、Zigbee、Thread与Z-Wave等无线通信协议是构建短距物联局域网的关键手段,它们常在实际应用中交叉运用,以满足智能家居生态系统多样化的功能需求。然而,这些协议之间并未遵循统一的互通标准,缺乏直接的互操作性,在进行组网时需要引入额外的网关作为“翻译桥梁”,极大地增加了系统的复杂性。 同时,Apple HomeKit、SamSung SmartThings、Amazon Alexa、Google Home等主流智能家居平台为了提升市占率与消费者
    华普微HOPERF 2025-01-06 17:23 141浏览
  • 随着市场需求不断的变化,各行各业对CPU的要求越来越高,特别是近几年流行的 AIOT,为了有更好的用户体验,CPU的算力就要求更高了。今天为大家推荐由米尔基于瑞芯微RK3576处理器推出的MYC-LR3576核心板及开发板。关于RK3576处理器国产CPU,是这些年的骄傲,华为手机全国产化,国人一片呼声,再也不用卡脖子了。RK3576处理器,就是一款由国产是厂商瑞芯微,今年第二季推出的全新通用型的高性能SOC芯片,这款CPU到底有多么的高性能,下面看看它的几个特性:8核心6 TOPS超强算力双千
    米尔电子嵌入式 2025-01-03 17:04 55浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦