AI硬件:大模型下一代换机潮如何开展?

智能计算芯世界 2023-11-18 08:20

从PC到手机到下一代硬件,我们认为每一代,操作系统+计算架构+交互方式+信息输入+应用生态的每一层均有革命性变化。我们相信多模态大模型为新一代操作系统变革的强音。

为了支持新一代计算架构,海外大厂在芯片端持续变革。高通混合AI,Intel NPU架构,英伟达显卡中Tensor Core更好应用,AMD GPU变革等等变化的发生均可管中窥豹,Intel NPU基于其内核有望更多分担低延迟低耗能要求的诸多AI应用计算负载,如视频会议,语音降噪。
下载链接:
AI硬件:谁能成为多模态大模型的眼睛,下一代换机潮如何开展?
精华:CPU中央处理器技术
AI产业热潮带动服务器、交换机、光模块及相关芯片行业蓬勃发展
华为鲲鹏生态及产业发展趋势
无服务器架构系列标准解读
无服务器计算测试集
2023年AI基础设施技术词条报告
2023年算力技术词条报告
中国AI基础软件市场研究报告(2023)
面向工业智能化时代的新一代工业控制体系架构白皮书
《2023中国人工智能系列白皮书(3)》
7、2023中国人工智能系列白皮书(AI+Art) 8、2023中国人工智能系列白皮书(人工智能原理)
《2023中国人工智能系列白皮书(2)》
4、2023中国人工智能系列白皮书(心智计算) 5、2023中国人工智能系列白皮书(大模型技术) 6、2023中国人工智能系列白皮书(智慧电网)
《2023中国人工智能系列白皮书(1)》
1、2023中国人工智能系列白皮书(深度学习) 2、2023中国人工智能系列白皮书(风险挑战与治理应对) 3、2023 中国人工智能系列白皮书(智能协同控制与人工智能)

1、英特尔:新一代计算架构,Meteor Lake首次内置NPU用于AI

2023 Intel Innovation上,Intel发布用于AIPC的新一代Meteor Lake处理器,并首次内置NPU用于AI本地推理加速。

Meteor Lake首次集成了NPU(神经处理单元),用于AI本地推理加速,从而使其具备更强大的AI负载处理能力;采用了Intel 4制程节点、最新一代的能效核(Crestmont)和性能核(Redwood Cove)以及低功耗能效核构成的3D高性能混合架构,在能耗比方面实现显著进步。英特尔测试证明采用NPU跑SD的能效将高于只采用GPU。封装技术上,Meteor Lake首次采用基于Foveros封装技术的芯粒技术。

相较于GPU适合高并发、高吞吐需求的AI工作,NPU是低功耗的AI引擎,用于持续性的AI负载(视频会议,需求AI实现眼神矫正、画面超分或语音降噪等工作)。

2、高通:混合AI或成为趋势,抢先进行终端侧AI部署

生成式 AI 模型对计算基础设施需求极高,模型的推理随着用户数量和使用频率的增加而不断上升,云端推理成本剧增,这导致规模化扩展难以持续。混合AI为此提供了解决方案,不仅结合了云端与边缘终端协同处理AI计算负载,还根据场景和需求灵活分配工作,从而优化了用户体验和资源利用。

什么是混合AI?混合AI指终端和云端协同工作,在适当的场景和时间下分配AI计算的工作负载,以提供更好的体验,并高效利用资源。

在一些场景下计算将主要以终端为中心,在必要时向云端分流任务。而在以云为中心的场景下,终端将根据自身能力,在可能的情况下从云端分担一些AI工作负载。

混合AI优势在哪?混合AI架构拥有成本、能耗、性能、隐私、安全和个性化优势。以成本为例,生成式AI的每次搜索查询成本是传统搜索方法的10倍,将一些处理从云端转移到边缘终端可以减轻云基础设施的压力并减少开支,从而助力生成式AI的持续规模化扩展。

节省成本也能促进生成式AI生态系统发展,支持OEM厂商、ISV和应用开发者更经济实惠地打造应用。比如开发者可以基于完全在终端上运行的Stable Diffusion创建应用程序,对于生成的每个图像承担更低的查询成本,或完全没有成本。

凭借赋能数十亿边缘终端的终端侧 AI 领导力,高通助力打造混合 AI 新时代。高通采用可扩展的技术架构以及高度优化的 AI 软件栈,可在不同终端和模型上进行工作。此外,高通AI引擎已赋能广泛的终端品类,包括智能手机、XR、平板电脑、PC、安防摄像头、机器人和汽车等。

3、Meta:发布新一代Quest 3和Ray-Ben Meta,或与AI能力结合

2023 Meta Connect开发者大会上,Meta推出了新一代的Quest 3和智能眼镜,提出MR+AI+智能眼镜的组合或是未来趋势。Quest3和Ray-Ben Meta在配置和性能上相比上一代有了进一步提升,两款产品内都将加入Meta的AI聊天机器人Meta AI。

Quest 3性能全面提升:性能,采用 Snapdragon XR2 Gen 2 ,与Quest相比提供两倍的 GPU 处理能力,实现更快的加载时间和更无缝的使用体验。混合现实能力,2 个 RGB 摄像头,角度像素密度(PPD)达到18,分辨率是 Quest 2 的 10 倍,透传分辨率是 Quest Pro 的 2 倍。提供全彩、高保真的周围环境视图,且能看到虚拟物体出现在物理空间中。音响,集成式立体声扬声器具有3D 空间音频功能,音量、低音范围和最佳 L/R 匹配能力提高了40%。DRAM,8GB,比Quest 2 内存容量增加 33%。

应用生态丰富:已有超过500款应用,提供沉浸式体验,涵盖游戏、健身、娱乐等领域。

4、Google:推出Pixel 8 系列手机,搭载生成式AI赋能新体验

Google 的 Pixel 8 系列手机在纽约「Made by Google」活动中发布,重点强调了在AI 功能的深度整合、最新Android 14 系统的应用以及摄像头技术的升级。

Google Pixel:性能,搭载 Android 14 和专为 Google AI 设计的 Tensor G3 芯片,其机器学习能力相比上一代Tensor增强了超过两倍,使得其 AI 处理性能大幅提升,支持更精确的 Live-HDR。硬件,5000 万像素后置主摄像头、增强的低光性能和前置自动对焦。AI功能,除了提供生成网页摘要、朗读和翻译网页的生成式 AI 功能,Pixel 还通过 Magic Editor 和 Audio Magic Eraser提供照片和音频的高级编辑体验。其他,Pixel 8 Pro 新增了背面温度传感器以测量物体温度。

谷歌发布新的AI助手 Assistant with Bard,它能帮助用户更高效地管理任务,如计划旅行或发送短信,并为 Android 提供更丰富的上下文交互体验,助手将在未来几个月内推出。

5、OpenAI:积极投资AI硬件领域,或合作研发深度布局AI硬件设备

Humane首款人机交互AI硬件将发布,公司曾获Sam Altman连续投资。Humane是一家创新计算公司,宣称将通过创新计算方式来探索更理想的人机交互体验。公司创始人为前苹果设计总监Imran Chaudhri和软件工程总监Bethany Bongiorno。OpenAI CEO SamAltman 在公司此前几轮融资中连续参与。

2023年6月30日,Humane 推出了首个无屏幕的独立AI硬件及其软件平台——Humane Ai Pin。它是一种基于服装的智能可穿戴产品,配备多种传感器,支持语音提示和手势控制。同时能直观地在物体表面投射信息,实现与上下文和环境的互动计算交互。此外,它还具备由高通的Snapdragon平台支持的AI驱动的光学识别和激光投影显示技术,完整功能将于11月9日发布。

Sam Altman与苹果前设计总监讨论AI硬件,OpenAI或将布局AI硬件领域。根据《The Information》报道,苹果公司前设计总监Jony Ive和OpenAI CEO Sam Altman正在讨论打造一款新的AI硬件设备。Ive 曾任苹果首席设计官,曾是iMac、iPhone、iPod等产品的硬件产品设计负责人。

下载链接:

字节:人工智能企业研究报告(2023)

精华:CPU中央处理器技术
AI产业热潮带动服务器、交换机、光模块及相关芯片行业蓬勃发展
华为鲲鹏生态及产业发展趋势
无服务器架构系列标准解读
无服务器计算测试集
2023年AI基础设施技术词条报告
2023年算力技术词条报告
中国AI基础软件市场研究报告(2023)
面向工业智能化时代的新一代工业控制体系架构白皮书
《2023中国人工智能系列白皮书(3)》
7、2023中国人工智能系列白皮书(AI+Art) 8、2023中国人工智能系列白皮书(人工智能原理)
《2023中国人工智能系列白皮书(2)》
4、2023中国人工智能系列白皮书(心智计算) 5、2023中国人工智能系列白皮书(大模型技术) 6、2023中国人工智能系列白皮书(智慧电网)
《2023中国人工智能系列白皮书(1)》
1、2023中国人工智能系列白皮书(深度学习) 2、2023中国人工智能系列白皮书(风险挑战与治理应对) 3、2023 中国人工智能系列白皮书(智能协同控制与人工智能)
《ODCC-2023技术白皮书(液冷技术)》
1、ODCC 2023 单相浸没式冷却系统及其AI-Cooling 2、2023 ODCC冷板式液冷服务器可靠性测试规范 3、ODCC-2023冷板液冷服务器设计白皮书 4、ODCC-2023边缘浸没服务器技术白皮书
《ODCC-2023技术白皮书(计算规范)》
《ODCC-2023技术白皮书(存储)》
《ODCC-2023技术白皮书(服务器)》
《ODCC-2023技术白皮书(网络通信)》
《ODCC-2023技术白皮书(边缘计算)》

《ODCC-2023技术白皮书(数据中心)》

1、ODCC-2023数据中心自适应AI节能白皮书 2、ODCC-2023数据中心高性能网络拥塞检测技术白皮书 3、ODCC-2023数据中心氢能应用白皮书 4、ODCC-2023数据中心制冷系统AI节能技术及其应用白皮书 5、ODCC-2023数据中心低压开关技术白皮书

《2023 ODCC技术研究报告(合集)》
本号资料全部上传至知识星球,更多内容请登录智能计算芯知识(知识星球)星球下载全部资料。



免责申明:本号聚焦相关技术分享,内容观点不代表本号立场,可追溯内容均注明来源,发布文章若存在版权等问题,请留言联系删除,谢谢。


温馨提示:
请搜索“AI_Architect”或“扫码”关注公众号实时掌握深度技术分享,点击“阅读原文”获取更多原创技术干货。

智能计算芯世界 聚焦人工智能、芯片设计、异构计算、高性能计算等领域专业知识分享.
评论
  • 在当前人工智能(AI)与物联网(IoT)的快速发展趋势下,各行各业的数字转型与自动化进程正以惊人的速度持续进行。如今企业在设计与营运技术系统时所面临的挑战不仅是技术本身,更包含硬件设施、第三方软件及配件等复杂的外部因素。然而这些系统往往讲究更精密的设计与高稳定性,哪怕是任何一个小小的问题,都可能对整体业务运作造成严重影响。 POS应用环境与客户需求以本次分享的客户个案为例,该客户是一家全球领先的信息技术服务与数字解决方案提供商,遭遇到一个由他们所开发的POS机(Point of Sal
    百佳泰测试实验室 2025-01-09 17:35 96浏览
  • 在智能网联汽车中,各种通信技术如2G/3G/4G/5G、GNSS(全球导航卫星系统)、V2X(车联网通信)等在行业内被广泛使用。这些技术让汽车能够实现紧急呼叫、在线娱乐、导航等多种功能。EMC测试就是为了确保在复杂电磁环境下,汽车的通信系统仍然可以正常工作,保护驾乘者的安全。参考《QCT-基于LTE-V2X直连通信的车载信息交互系统技术要求及试验方法-1》标准10.5电磁兼容试验方法,下面将会从整车功能层面为大家解读V2X整车电磁兼容试验的过程。测试过程揭秘1. 设备准备为了进行电磁兼容试验,技
    北汇信息 2025-01-09 11:24 97浏览
  • 在过去十年中,自动驾驶和高级驾驶辅助系统(AD/ADAS)软件与硬件的快速发展对多传感器数据采集的设计需求提出了更高的要求。然而,目前仍缺乏能够高质量集成多传感器数据采集的解决方案。康谋ADTF正是应运而生,它提供了一个广受认可和广泛引用的软件框架,包含模块化的标准化应用程序和工具,旨在为ADAS功能的开发提供一站式体验。一、ADTF的关键之处!无论是奥迪、大众、宝马还是梅赛德斯-奔驰:他们都依赖我们不断发展的ADTF来开发智能驾驶辅助解决方案,直至实现自动驾驶的目标。从新功能的最初构思到批量生
    康谋 2025-01-09 10:04 91浏览
  • 根据环洋市场咨询(Global Info Research)项目团队最新调研,预计2030年全球中空长航时无人机产值达到9009百万美元,2024-2030年期间年复合增长率CAGR为8.0%。 环洋市场咨询机构出版了的【全球中空长航时无人机行业总体规模、主要厂商及IPO上市调研报告,2025-2031】研究全球中空长航时无人机总体规模,包括产量、产值、消费量、主要生产地区、主要生产商及市场份额,同时分析中空长航时无人机市场主要驱动因素、阻碍因素、市场机遇、挑战、新产品发布等。报告从中空长航时
    GIRtina 2025-01-09 10:35 92浏览
  • 一个真正的质量工程师(QE)必须将一件产品设计的“意图”与系统的可制造性、可服务性以及资源在现实中实现设计和产品的能力结合起来。所以,可以说,这确实是一种工程学科。我们常开玩笑说,质量工程师是工程领域里的「侦探」、「警察」或「律师」,守护神是"墨菲”,信奉的哲学就是「墨菲定律」。(注:墨菲定律是一种启发性原则,常被表述为:任何可能出错的事情最终都会出错。)做质量工程师的,有时会不受欢迎,也会被忽视,甚至可能遭遇主动或被动的阻碍,而一旦出了问题,责任往往就落在质量工程师的头上。虽然质量工程师并不负
    优思学院 2025-01-09 11:48 110浏览
  • 光伏逆变器是一种高效的能量转换设备,它能够将光伏太阳能板(PV)产生的不稳定的直流电压转换成与市电频率同步的交流电。这种转换后的电能不仅可以回馈至商用输电网络,还能供独立电网系统使用。光伏逆变器在商业光伏储能电站和家庭独立储能系统等应用领域中得到了广泛的应用。光耦合器,以其高速信号传输、出色的共模抑制比以及单向信号传输和光电隔离的特性,在光伏逆变器中扮演着至关重要的角色。它确保了系统的安全隔离、干扰的有效隔离以及通信信号的精准传输。光耦合器的使用不仅提高了系统的稳定性和安全性,而且由于其低功耗的
    晶台光耦 2025-01-09 09:58 79浏览
  •  在全球能源结构加速向清洁、可再生方向转型的今天,风力发电作为一种绿色能源,已成为各国新能源发展的重要组成部分。然而,风力发电系统在复杂的环境中长时间运行,对系统的安全性、稳定性和抗干扰能力提出了极高要求。光耦(光电耦合器)作为一种电气隔离与信号传输器件,凭借其优秀的隔离保护性能和信号传输能力,已成为风力发电系统中不可或缺的关键组件。 风力发电系统对隔离与控制的需求风力发电系统中,包括发电机、变流器、变压器和控制系统等多个部分,通常工作在高压、大功率的环境中。光耦在这里扮演了
    晶台光耦 2025-01-08 16:03 88浏览
  • HDMI 2.2 规格将至,开启视听新境界2025年1月6日,HDMI Forum, Inc. 宣布即将发布HDMI规范2.2版本。新HDMI规范为规模庞大的 HDMI 生态系统带来更多选择,为创建、分发和体验理想的终端用户效果提供更先进的解决方案。新技术为电视、电影和游戏工作室等内容制作商在当前和未来提供更高质量的选择,同时实现多种分发平台。96Gbps的更高带宽和新一代 HDMI 固定比率速率传输(Fixed Rate Link)技术为各种设备应用提供更优质的音频和视频。终端用户显示器能以最
    百佳泰测试实验室 2025-01-09 17:33 106浏览
  • 1月7日-10日,2025年国际消费电子产品展览会(CES 2025)盛大举行,广和通发布Fibocom AI Stack,赋智千行百业端侧应用。Fibocom AI Stack提供集高性能模组、AI工具链、高性能推理引擎、海量模型、支持与服务一体化的端侧AI解决方案,帮助智能设备快速实现AI能力商用。为适应不同端侧场景的应用,AI Stack具备海量端侧AI模型及行业端侧模型,基于不同等级算力的芯片平台或模组,Fibocom AI Stack可将TensorFlow、PyTorch、ONNX、
    物吾悟小通 2025-01-08 18:17 82浏览
  • 故障现象一辆2017款东风风神AX7车,搭载DFMA14T发动机,累计行驶里程约为13.7万km。该车冷起动后怠速运转正常,热机后怠速运转不稳,组合仪表上的发动机转速表指针上下轻微抖动。 故障诊断 用故障检测仪检测,发动机控制单元中无故障代码存储;读取发动机数据流,发现进气歧管绝对压力波动明显,有时能达到69 kPa,明显偏高,推断可能的原因有:进气系统漏气;进气歧管绝对压力传感器信号失真;发动机机械故障。首先从节气门处打烟雾,没有发现进气管周围有漏气的地方;接着拔下进气管上的两个真空
    虹科Pico汽车示波器 2025-01-08 16:51 112浏览
  • 职场是人生的重要战场,既是谋生之地,也是实现个人价值的平台。然而,有些思维方式却会悄无声息地拖住你的后腿,让你原地踏步甚至退步。今天,我们就来聊聊职场中最忌讳的五种思维方式,看看自己有没有中招。1. 固步自封的思维在职场中,最可怕的事情莫过于自满于现状,拒绝学习和改变。世界在不断变化,行业的趋势、技术的革新都在要求我们与时俱进。如果你总觉得自己的方法最优,或者害怕尝试新事物,那就很容易被淘汰。与其等待机会找上门,不如主动出击,保持学习和探索的心态。加入优思学院,可以帮助你快速提升自己,与行业前沿
    优思学院 2025-01-09 15:48 97浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦