端侧AI,风起移动智能计算

原创 脑极体 2024-11-21 20:41



过去一年来,消费电子领域最火爆的关键词,就是端侧AI。


大模型,具有强大的理解、生成能力;终端设备,是人与AI的首选交互入口。二者碰撞之下,让端侧成为大模型落地的最佳途径,甚至没有之一。越来越多的手机、PC、汽车等消费电子终端厂商,将AI技术应用到自己的产品和服务中,而端侧AI的繁荣景象离不开一个核心支撑点——计算平台(芯片)。


端侧算力,从芯而来。所以高性能芯片,是端侧AI持续繁荣的源头力量,也是高通希望借助技术创新、生态合作所推动的方向。



前不久恰逢骁龙峰会举办,我们看到高通公司继续强化终端侧AI产品布局和对国内大模型的支持。不仅宣布了与智谱、腾讯混元等大模型厂商的合作,共同推动端侧 AI 模型部署和落地。此外,还推出了面向AI手机的骁龙 8 至尊版移动平台和面向智能汽车的骁龙至尊版汽车平台。


高通公司总裁兼CEO安蒙表示,AI,尤其是生成式AI,是移动计算领域最大的变革之一;高通关注生成式AI,尤其关注AI如何改变计算体验,边缘侧将如何发展,及其如何带来颠覆性的创新周期,致力于将AI为先的体验带入每一个计算空间。


端侧AI的时代风口,源于高通为代表的移动计算,与AI深深地拥抱。我们不妨就从高通打造AI为先的体验这一方向入手,去寻找端侧AI向前一步的源头力量。



2024年伊始,PC、手机、汽车等消费电子品类都开始积极与大模型相结合,打造全新的AI XX硬件,端侧AI由此进入集中爆发阶段。


可以说,大模型打开了一个消费电子领域的全新风口,而深入风眼中心,我们会看到一支推动端侧AI酝酿并成熟的关键力量——移动计算。


端侧AI之于云侧AI的不可替代性,是大模型在本地进行计算,避免数据上云,解决用户数据和隐私安全的顾虑;实时性更强,游戏、摄影、AIGC等应用在端侧处理的时延更低、反馈更快、体验更好。


进入2024,OpenAI、智谱、腾讯混元等第一梯队的模型厂商都认识到了大模型落地端侧的价值与桎梏,纷纷推出更小规模、更高性能的模型版本。虽然大模型在积极小型化,但受到端侧计算能力、内存空间等限制,模型的减配、压缩也会折损标准通用基础大模型的性能表现。


大模型的端侧部署,十分依赖于端侧计算平台提供强大性能,支撑超大规模的数据运算量,并在性能与功耗之间实现平衡。


让大模型更好地适配端侧,成了移动计算领域的首要任务,高通正在积极地解决中。


在前不久的骁龙峰会上,高通宣布和智谱、腾讯混元合作,共同推动端侧 AI 模型部署和落地。我们能从高通的全新动作中,看到移动计算+大模型的三个变化:



变化一:更丰富的端侧AI能力。骁龙8至尊版的NPU性能比上一代提升了45%,强大的性能可以同时运行多个AI工作负载,这意味着更多基于大模型的AI应用能够在端侧部署。



变化二:更优质的端侧智慧体验。高通为骁龙8至尊版配备目前最高速的LPDDR5x内存,解决了内存顾虑。目前,腾讯混元正通过和高通合作,推动7B和3B的混元大模型在终端部署。


变化三:更健壮的端侧AI生态。AI开发者是端侧AI持续繁荣不可或缺的角色,高通为开发者准备了基于自身硬件的高效开发工具,包括高通AI软件栈(AI Stack)和AI Hub,与腾讯混元和智谱AI达成合作,帮助模型厂商在高通硬件上更好地释放平台算力,支持AI开发者轻松地将AI模型集成到应用程序中。


根据骁龙峰会高通公布的数据,充分利用骁龙8至尊版的强大终端侧AI性能和高通AI软件栈为模型带来的性能优化,智谱GLM-4V端侧视觉大模型能够以超过70 tokens/秒的速度在终端侧高速运行。大模型的端侧性能表现优化,不仅会降低开发者的使用成本,提升开发者的产品效果,也有助于基础通用大模型的商业化。


大模型,是端侧AI这一时代风口的起点;移动计算,则从更多应用、更优体验、更强生态等方面,为大模型在端侧提供动力保障。


高通对大模型的有力支撑,从源头支持端侧AI的产业繁荣,正是推动AI为先体验的体现之一。



大模型要在终端设备上被用户用起来,才能从一种技术趋势,转变为端侧AI的产业繁荣与商业价值。AI大模型入端,硬件性能是基础。


我们采访过一位AI手机品牌的负责人就表示:AI在手机行业刚刚开始,未来的一年,AI体验会超出你的想象,而端侧模型对性能要求很高,所以性能永远不会过剩。


性能从哪里来?答案就是计算平台。针对目前端侧AI集中的两大品类:一个是个人移动终端,比如AI手机、AI PC;另一个是智能网联汽车,智能座舱、辅助驾驶、自动驾驶等AI应用都在加速上车。高通在前不久的骁龙峰会上带来了两大平台的最新技术和产品。


移动平台方面:


骁龙8至尊版芯片,凭借技术方面的性能突破和创新能力,带来了AI手机智能化的重大飞跃。



骁龙8至尊版在终端侧生成式AI、多模态处理和影像处理等方面的突破,可以为AI手机的大量AI用例提供支持。比如AI-ISP技术的革命性突破,与NPU紧密结合,使得高分辨率影像数据的实时处理成为可能,手机厂商可以在摄影功能中引入更多AI应用,如自动场景识别、实时美颜和自动对焦等,这是当下年轻消费群体格外看重的产品力之一。


此外,骁龙平台还积极支持PC领域的AI应用。


在刚刚举办的2024年世界互联网大会上,高通凭借其专为Windows 11 AI+ PC设计的骁龙X Elite平台荣获“世界互联网大会领先科技奖”。骁龙X Elite的核心优势之一是采用了定制化的Oryon CPU,具备极致快速的响应速度,可以为AI PC提供强劲的性能表现。比如荣耀最新推出的AI PC,就在骁龙X Elite的算力支持下,实现了AI纪要、AI双向降噪等AI功能,极大地提升了用户的会议和沟通效率。目前,骁龙X系列已支持58款已发布或正在开发中的PC产品,有力支撑了AI PC这一新品类的成长。


汽车平台方面:


汽车智能化成为大势所趋,其中智能座舱、智能驾驶,成为车企的核心赛点。为智能汽车提供底层源动力,高通分别推出了全新的骁龙座舱至尊版平台和Snapdragon Ride至尊版平台。



其中,骁龙座舱至尊版平台也采用了专为汽车打造的高通自研Oryon CPU,性能大幅提升,可以助力车企实现大模型和AIGC等能力与座舱相结合,打造AI语音助手、AIGC应用、复杂情境感知、自然语言交互等新体验。


Snapdragon Ride至尊版平台也基于高通最先进的NPU及Oryon CPU,将更好的智能驾驶带到汽车上,实现了高精度定位、环境感知、决策规划以及车辆控制等一系列智能驾驶功能。


此外值得一提的是,增强AI手机、AI PC、智能汽车的产品力,更强大的移动计算硬件只是必要条件。除此之外,厂商和开发者还需要一系列开发工作来释放硬件性能、优化端侧AI表现。


目前,手机、PC、汽车等采用的骁龙硬件平台,均已集成高通自研Oryon CPU,加之高通AI软件栈的赋能,有望实现终端侧AI应用在各平台高效开发。


硬件(移动平台、PC平台和汽车平台)与软件(AI Stack、AI Hub)相协同,高通正在拆除端侧AI的性能桎梏,带动手机、汽车等各类消费电子产品加速进化,抓住大模型的技术红利。



总结一下,大模型是这一轮端侧AI浪潮的起点,计算硬件是AI终端这一新概念得以落地的性能源泉。支撑大模型和AI终端的持续发展,高通也在源头为端侧AI繁荣贡献了力量。


之所以要在今天找寻端侧AI发展的源头力量,是因为这与国内消费电子厂商抓紧时代机遇和技术趋势的需求一致,与源头紧密合作、齐头并进,有利于获取向未来生长的动能。


目前来看,高通就是与国内厂商合作紧密的重要AI力量之一。



一方面,高通和骁龙平台是国内安卓手机厂商全球化、高端化的助力。国内头部品牌正在高端市场与苹果展开正面竞争。高通和骁龙与国内厂商的紧密合作,成为国内智能手机品牌在全球的竞争力保障,可以让领先的AI应用、AI手机、AI PC硬件,为全球树立标杆。目前,首批搭载骁龙8至尊版的旗舰手机,如小米、荣耀、iQOO等,已经在性价比、影像能力、游戏性能等方面,建立了鲜明的市场认知度。


此外,新能源汽车增长也有望更进一步。


目前,国内新能源汽车已经在全球市场建立了较强的竞争力,抓住智能化机遇,获得更大的发展,可以进一步夯实优势地位。骁龙汽车平台就相当于基石,支撑基于大模型的智能驾驶、智能座舱上车,让新能源汽车保持竞争优势,在全球市场走得更稳更远。



对于端侧AI来说,大模型就是新一代的操作系统,而用好这一新型操作系统,需要生态、工具、资源的充分支持。通过骁龙的软硬件生态体系,高通可以为端侧AI的发展提供生态助力,帮助更多开发者用好大模型技术,促进AI产品与应用程序的整体繁荣。


总结一下,终端消费电子的市场广阔,智能化升级才刚刚开始。AI将席卷我们熟悉的各个终端品类,站在时代风口,高通和骁龙作为源头动力的身影,也渐渐明晰起来。


高通和骁龙与AI的紧密拥抱,带来的是移动计算与端侧AI的长相厮守。狂奔一年的端侧AI故事,会继续讲述下去。



·
·

·

脑极体 从技术协同到产业革命,从智能密钥到已知尽头
评论
  • 这篇内容主要讨论三个基本问题,硅电容是什么,为什么要使用硅电容,如何正确使用硅电容?1.  硅电容是什么首先我们需要了解电容是什么?物理学上电容的概念指的是给定电位差下自由电荷的储藏量,记为C,单位是F,指的是容纳电荷的能力,C=εS/d=ε0εrS/4πkd(真空)=Q/U。百度百科上电容器的概念指的是两个相互靠近的导体,中间夹一层不导电的绝缘介质。通过观察电容本身的定义公式中可以看到,在各个变量中比较能够改变的就是εr,S和d,也就是介质的介电常数,金属板有效相对面积以及距离。当前
    知白 2025-01-06 12:04 110浏览
  • 自动化已成为现代制造业的基石,而驱动隔离器作为关键组件,在提升效率、精度和可靠性方面起到了不可或缺的作用。随着工业技术不断革新,驱动隔离器正助力自动化生产设备适应新兴趋势,并推动行业未来的发展。本文将探讨自动化的核心趋势及驱动隔离器在其中的重要角色。自动化领域的新兴趋势智能工厂的崛起智能工厂已成为自动化生产的新标杆。通过结合物联网(IoT)、人工智能(AI)和机器学习(ML),智能工厂实现了实时监控和动态决策。驱动隔离器在其中至关重要,它确保了传感器、执行器和控制单元之间的信号完整性,同时提供高
    腾恩科技-彭工 2025-01-03 16:28 166浏览
  • 光耦合器,也称为光隔离器,是一种利用光在两个隔离电路之间传输电信号的组件。在医疗领域,确保患者安全和设备可靠性至关重要。在众多有助于医疗设备安全性和效率的组件中,光耦合器起着至关重要的作用。这些紧凑型设备经常被忽视,但对于隔离高压和防止敏感医疗设备中的电气危害却是必不可少的。本文深入探讨了光耦合器的功能、其在医疗应用中的重要性以及其实际使用示例。什么是光耦合器?它通常由以下部分组成:LED(发光二极管):将电信号转换为光。光电探测器(例如光电晶体管):检测光并将其转换回电信号。这种布置确保输入和
    腾恩科技-彭工 2025-01-03 16:27 171浏览
  • 随着市场需求不断的变化,各行各业对CPU的要求越来越高,特别是近几年流行的 AIOT,为了有更好的用户体验,CPU的算力就要求更高了。今天为大家推荐由米尔基于瑞芯微RK3576处理器推出的MYC-LR3576核心板及开发板。关于RK3576处理器国产CPU,是这些年的骄傲,华为手机全国产化,国人一片呼声,再也不用卡脖子了。RK3576处理器,就是一款由国产是厂商瑞芯微,今年第二季推出的全新通用型的高性能SOC芯片,这款CPU到底有多么的高性能,下面看看它的几个特性:8核心6 TOPS超强算力双千
    米尔电子嵌入式 2025-01-03 17:04 48浏览
  • 在智能家居领域中,Wi-Fi、蓝牙、Zigbee、Thread与Z-Wave等无线通信协议是构建短距物联局域网的关键手段,它们常在实际应用中交叉运用,以满足智能家居生态系统多样化的功能需求。然而,这些协议之间并未遵循统一的互通标准,缺乏直接的互操作性,在进行组网时需要引入额外的网关作为“翻译桥梁”,极大地增加了系统的复杂性。 同时,Apple HomeKit、SamSung SmartThings、Amazon Alexa、Google Home等主流智能家居平台为了提升市占率与消费者
    华普微HOPERF 2025-01-06 17:23 97浏览
  • 彼得·德鲁克被誉为“现代管理学之父”,他的管理思想影响了无数企业和管理者。然而,关于他的书籍分类,一种流行的说法令人感到困惑:德鲁克一生写了39本书,其中15本是关于管理的,而其中“专门写工商企业或为企业管理者写的”只有两本——《为成果而管理》和《创新与企业家精神》。这样的表述广为流传,但深入探讨后却发现并不完全准确。让我们一起重新审视这一说法,解析其中的矛盾与根源,进而重新认识德鲁克的管理思想及其著作的真正价值。从《创新与企业家精神》看德鲁克的视角《创新与企业家精神》通常被认为是一本专为企业管
    优思学院 2025-01-06 12:03 76浏览
  •     为控制片内设备并且查询其工作状态,MCU内部总是有一组特殊功能寄存器(SFR,Special Function Register)。    使用Eclipse环境调试MCU程序时,可以利用 Peripheral Registers Viewer来查看SFR。这个小工具是怎样知道某个型号的MCU有怎样的寄存器定义呢?它使用一种描述性的文本文件——SVD文件。这个文件存储在下面红色字体的路径下。    例:南京沁恒  &n
    电子知识打边炉 2025-01-04 20:04 82浏览
  • 本文介绍Linux系统更换开机logo方法教程,通用RK3566、RK3568、RK3588、RK3576等开发板,触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。制作图片开机logo图片制作注意事项(1)图片必须为bmp格式;(2)图片大小不能大于4MB;(3)BMP位深最大是32,建议设置为8;(4)图片名称为logo.bmp和logo_kernel.bmp;开机
    Industio_触觉智能 2025-01-06 10:43 72浏览
  • PLC组态方式主要有三种,每种都有其独特的特点和适用场景。下面来简单说说: 1. 硬件组态   定义:硬件组态指的是选择适合的PLC型号、I/O模块、通信模块等硬件组件,并按照实际需求进行连接和配置。    灵活性:这种方式允许用户根据项目需求自由搭配硬件组件,具有较高的灵活性。    成本:可能需要额外的硬件购买成本,适用于对系统性能和扩展性有较高要求的场合。 2. 软件组态   定义:软件组态主要是通过PLC
    丙丁先生 2025-01-06 09:23 71浏览
  • 根据Global Info Research项目团队最新调研,预计2030年全球封闭式电机产值达到1425百万美元,2024-2030年期间年复合增长率CAGR为3.4%。 封闭式电机是一种电动机,其外壳设计为密闭结构,通常用于要求较高的防护等级的应用场合。封闭式电机可以有效防止外部灰尘、水分和其他污染物进入内部,从而保护电机的内部组件,延长其使用寿命。 环洋市场咨询机构出版的调研分析报告【全球封闭式电机行业总体规模、主要厂商及IPO上市调研报告,2025-2031】研究全球封闭式电机总体规
    GIRtina 2025-01-06 11:10 89浏览
  • 每日可见的315MHz和433MHz遥控模块,你能分清楚吗?众所周知,一套遥控设备主要由发射部分和接收部分组成,发射器可以将控制者的控制按键经过编码,调制到射频信号上面,然后经天线发射出无线信号。而接收器是将天线接收到的无线信号进行解码,从而得到与控制按键相对应的信号,然后再去控制相应的设备工作。当前,常见的遥控设备主要分为红外遥控与无线电遥控两大类,其主要区别为所采用的载波频率及其应用场景不一致。红外遥控设备所采用的射频信号频率一般为38kHz,通常应用在电视、投影仪等设备中;而无线电遥控设备
    华普微HOPERF 2025-01-06 15:29 93浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦