算力为什么需要GPU,CPU只能靠边站了

芯片工艺技术 2023-11-09 17:50

随着人工自能,特别是GPT的出现,引起了各种自动化的模型,处理这些信息就需要算力。借着ChatGPT的热度,AI最重要的硬件支持之一,算力硬件也在不自觉中再度上了科技类热搜。

GPU,英文全称是Graphics Processing Unit,即图形处理器,也就是我们所说的显卡。真正用来作为人工智能算力支持的GPU,不是普通的显卡,而是GPGPU。

GPU前面加一个“GP”,就变为General-Purpose Computing on Graphics Processing Units,即通用计算图形处理器。我们去术语化,可以直接说这是一种用于处理非特定需求(通用类型)计算目的的算力单元(芯片)。通常,它们也被简称为通用GPU。

如果朋友们还有记忆的话,肯定记得国内电子货币“挖矿”一度盛行时,带起了显卡的市场价格。这些显卡中有不少,就是目前主流被用于提升算力的通用GPU。

对比GPU和CPU:虽然两者本质都是算力芯片(最早的GPU,也就是显卡概念,也是由通用CPU演化而出),但最后在构架上的区别,导致了GPU在面对AI大数据流算力时,能够做的更好

简单来说,CPU更擅长复杂逻辑的运算,而GPU构架相对简单,但运算核心多,适用于大量逻辑简单但高并发量的高密度计算。(CPU最多也就十几个核心,GPU动辄几百上千个核心)成本方面,虽然FPGA和ASIC芯片也被用于AI领域,但由于它们是针对其中某些需求的半定制和全定制芯片(主要是模拟人脑神经元结构),在通用领域的性价比完全无法和较为成熟的GPU相比。


详细一点可以这样认为,并行计算一般有2种类型:基于任务的并行处理和基于数据的并行处理。前者主要指的是把算力任务拆分成若干个小的但不同的任务,然后再根据算力芯片内的不同核心做不同的计算分,从而形成一条算力流水线。后者主要指的是将数据分解为多个部分,让多个运算单元分别去计算这些小块的数据,形成一个计算网格,最后再把这些网格完成的任务汇总起来。

我们常说的CPU多线程编程偏向于前者,GPU的并行编程模式则偏向于后者。后者对庞大但逻辑简单的算力需求,有明显更强更高效的支持能力。

或者我们也可以这么认为:AI领域的大数据流运算本来就是一个模糊概率问题,并没有多少很精准的计算需求,也就不要那么多的算力“牛人”(CPU),需要的是很多能够干一般活的“工人”(通用GPU)

从发展的时间线来看,通用GPU是一个近年来才产生,并在短期内高热度计算机芯片概念。它的出现,是一个与人工智能相互成就的过程。

最早提出GPU概念的是英伟达(NVIDIA)。早期英伟达提出GPU概念,是为了把电脑显示芯片独立出来,减少影像处理输出过程对CPU的依赖,且可以部分分担CPU的工作。

2012年发生的一件事,让人工智能领域研究者认识到了,GPU在算力支持领域的发掘潜力。

2012年,前谷歌计算机科学家Alex Krizhevsky利用深度学习+GPU的方案,赢得Image Net LSVRC-2010图像识别大赛,并奇迹般地将识别成功率从74%提升到85%。事件发生后,NVIDIA洞察到了这一趋势,耗费巨资对自家的传统GPU做改造。

3年后,NVIDIA提出了基于自家GPU的CUDA深度学习生态系统的算力GPU,将GPU的性能直接提升了65倍。

此外,为了建立自己的通用GPU生态,NVIDIA还开放了基于自己GPU的从后端模型训练到前端推理应用的全套深度学习解决方案让全球范围的内一般开发人员都可以非常容易地使用GPU进行深度学习开发或高性能运算,最后奠定了自己在GPU算力领域的老大地位。

作为目前AI服务器最主流的算力选择,2021年通用GPU服务器销售额占据我国AI加速服务器市场的88.4%,其中80%以上的国内市场被NVIDIA占据。

回到我们开头说的。ChatGPT的正式推出,一方面可以说是“启动了人工智能革命”,另一方面也可以说是“拉开了新一轮的硬件竞赛”。截止最新的市场报,ChatGPT在微软Azure AI云服务器上完成训练,总算力消耗为3640PF-days,已经导入超1万颗英伟达高端GPU。Citi Bank(花旗)等预测ChatGPT能促使NVIDIA 12个月营收增加30亿美金。

另据相关市场机构测算,ChatGPT模型进入线上运营阶段后,每亿活跃用户将带来13.5Eflops的算力需求,需要6.9万台NVIDIADGXA10080G服务器支撑。根据中国信通院数据,2021年全球计算设备算力总规模达到615EFlops,其中超算算力规模为14EFlops。换言之,在每个用户每天收到1500字回答的情况下,以2021年全球超算算力的规模,仅能支撑Chatgpt最多拥有1亿日均上线人数。那么假设未来最后全球有5-6家科技巨头能够在3年内各自拥有一款活跃人数2亿的ChatGPT类应用,则会带来至少162EFlops超算算力需求——是目前的10倍以上。

参考招商证券以商汤AIDC计算的市场估值:每新建1Eflops算力需要投资15亿元,其中ICT硬件投资占比72%。活跃人数每增加1亿人需要新增投资203亿元,其中ICT硬件投资146亿元。依旧是未来5-6家科技巨头有这类产品,3年后ICT硬件投资将新增需求1,755亿元。叠加未来AIGC技术向音频、视频等领域蔓延,算力硬件的市场需求会更大。

只不过,根据一份去年8月底9月初的“GPU产业专家交流要点纪要”显示,虽然我国在该领域的市场前景很大,但是主要生产企业却面临“比较尴尬”的情况。其中最重要的一点是,仅仅是做GPU的公司数量不少,但是整体产品层次不高。看起来有这个市场需求,但是很多订单国内厂商抢不下来。

如果要做高端的产品,去年美国在这块也开始卡我们,直接加大了国内大厂想要在这个领域发力的门槛。比如重要的芯片IP(一般也被成为IP核,指的是芯片中具有独立功能的电路模块的成熟设计)供应商都是美国公司。

设计工具EDA方面,全球3大EDA占据了绝大多数的市场。30年前,我们曾尝试过使用制度性优势做EDA,但最后3巨头把产品免费送给高校,导致国产EDA不仅失去了市场(销售供养研发),更失去了建立生态的机会。到了今天,我们的数字电路设计EDA缺乏全流程工具。即使是去年炒作过的华大九天等公司有模拟电力设计EDA,但仅仅是有流程平台,工艺支持等能力还亟待加强。



芯片工艺技术 半导体学习研发笔记,为了更好的服务开发小组
评论 (0)
  • 你是不是也有在公共场合被偷看手机或笔电的经验呢?科技时代下,不少现代人的各式机密数据都在手机、平板或是笔电等可携式的3C产品上处理,若是经常性地需要在公共场合使用,不管是工作上的机密文件,或是重要的个人信息等,民众都有防窃防盗意识,为了避免他人窥探内容,都会选择使用「防窥保护贴片」,以防止数据外泄。现今市面上「防窥保护贴」、「防窥片」、「屏幕防窥膜」等产品就是这种目的下产物 (以下简称防窥片)!防窥片功能与常见问题解析首先,防窥片最主要的功能就是用来防止他人窥视屏幕上的隐私信息,它是利用百叶窗的
    百佳泰测试实验室 2025-04-30 13:28 72浏览
  • 4月22日下午,备受瞩目的飞凌嵌入式「2025嵌入式及边缘AI技术论坛」在深圳深铁皇冠假日酒店盛大举行,此次活动邀请到了200余位嵌入式技术领域的技术专家、企业代表和工程师用户,共享嵌入式及边缘AI技术的盛宴!1、精彩纷呈的展区产品及方案展区是本场活动的第一场重头戏,从硬件产品到软件系统,从企业级应用到高校教学应用,都吸引了现场来宾的驻足观看和交流讨论。全产品矩阵展区展示了飞凌嵌入式丰富的产品线,从嵌入式板卡到工控机,从进口芯片平台到全国产平台,无不体现出飞凌嵌入式在嵌入式主控设备研发设计方面的
    飞凌嵌入式 2025-04-28 14:43 123浏览
  • 文/Leon编辑/cc孙聪颖‍2023年,厨电行业在相对平稳的市场环境中迎来温和复苏,看似为行业增长积蓄势能。带着对市场向好的预期,2024 年初,老板电器副董事长兼总经理任富佳为企业定下双位数增长目标。然而现实与预期相悖,过去一年,这家老牌厨电企业不仅未能达成业绩目标,曾提出的“三年再造一个老板电器”愿景,也因市场下行压力面临落空风险。作为“企二代”管理者,任富佳在掌舵企业穿越市场周期的过程中,正面临着前所未有的挑战。4月29日,老板电器(002508.SZ)发布了2024年年度报告及2025
    华尔街科技眼 2025-04-30 12:40 69浏览
  • 一、gao效冷却与控温机制‌1、‌冷媒流动设计‌采用低压液氮(或液氦)通过毛细管路导入蒸发器,蒸汽喷射至样品腔实现快速冷却,冷却效率高(室温至80K约20分钟,至4.2K约30分钟)。通过控温仪动态调节蒸发器加热功率,结合温度传感器(如PT100铂电阻或Cernox磁场不敏感传感器),实现±0.01K的高精度温度稳定性。2、‌宽温区覆盖与扩展性‌标准温区为80K-325K,通过降压选件可将下限延伸至65K(液氮模式)或4K(液氦模式)。可选配475K高温模块,满足材料在ji端温度下的性能测试需求
    锦正茂科技 2025-04-30 13:08 71浏览
  • 浪潮之上:智能时代的觉醒    近日参加了一场课题的答辩,这是医疗人工智能揭榜挂帅的国家项目的地区考场,参与者众多,围绕着医疗健康的主题,八仙过海各显神通,百花齐放。   中国大地正在发生着激动人心的场景:深圳前海深港人工智能算力中心高速运转的液冷服务器,武汉马路上自动驾驶出租车穿行的智慧道路,机器人参与北京的马拉松竞赛。从中央到地方,人工智能相关政策和消息如雨后春笋般不断出台,数字中国的建设图景正在智能浪潮中徐徐展开,战略布局如同围棋
    广州铁金刚 2025-04-30 15:24 62浏览
  • 文/郭楚妤编辑/cc孙聪颖‍越来越多的企业开始蚕食动力电池市场,行业“去宁王化”态势逐渐明显。随着这种趋势的加强,打开新的市场对于宁德时代而言至关重要。“我们不希望被定义为电池的制造者,而是希望把自己称作新能源产业的开拓者。”4月21日,在宁德时代举行的“超级科技日”发布会上,宁德时代掌门人曾毓群如是说。随着宁德时代核心新品骁遥双核电池的发布,其搭载的“电电增程”技术也走进业界视野。除此之外,经过近3年试水,宁德时代在换电业务上重资加码。曾毓群认为换电是一个重资产、高投入、长周期的产业,涉及的利
    华尔街科技眼 2025-04-28 21:55 70浏览
  • 网约车,真的“饱和”了?近日,网约车市场的 “饱和” 话题再度引发热议。多地陆续发布网约车风险预警,提醒从业者谨慎入局,这背后究竟隐藏着怎样的市场现状呢?从数据来看,网约车市场的“过剩”现象已愈发明显。以东莞为例,截至2024年12月底,全市网约车数量超过5.77万辆,考取网约车驾驶员证的人数更是超过13.48万人。随着司机数量的不断攀升,订单量却未能同步增长,导致单车日均接单量和营收双双下降。2024年下半年,东莞网约出租车单车日均订单量约10.5单,而单车日均营收也不容乐
    用户1742991715177 2025-04-29 18:28 103浏览
  • 贞光科技代理品牌紫光国芯的车规级LPDDR4内存正成为智能驾驶舱的核心选择。在汽车电子国产化浪潮中,其产品以宽温域稳定工作能力、优异电磁兼容性和超长使用寿命赢得市场认可。紫光国芯不仅确保供应链安全可控,还提供专业本地技术支持。面向未来,紫光国芯正研发LPDDR5车规级产品,将以更高带宽、更低功耗支持汽车智能化发展。随着智能网联汽车的迅猛发展,智能驾驶舱作为人机交互的核心载体,对处理器和存储器的性能与可靠性提出了更高要求。在汽车电子国产化浪潮中,贞光科技代理品牌紫光国芯的车规级LPDDR4内存凭借
    贞光科技 2025-04-28 16:52 160浏览
  • 一、智能家居的痛点与创新机遇随着城市化进程加速,现代家庭正面临两大核心挑战:情感陪伴缺失:超60%的双职工家庭存在“亲子陪伴真空期”,儿童独自居家场景增加;操作复杂度攀升:智能设备功能迭代导致用户学习成本陡增,超40%用户因操作困难放弃高阶功能。而WTR096-16S录音语音芯片方案,通过“语音交互+智能录音”双核驱动,不仅解决设备易用性问题,更构建起家庭成员间的全天候情感纽带。二、WTR096-16S方案的核心技术突破1. 高保真语音交互系统动态情绪语音库:支持8种语气模板(温柔提醒/紧急告警
    广州唯创电子 2025-04-28 09:24 177浏览
  • 晶振在使用过程中可能会受到污染,导致性能下降。可是污染物是怎么进入晶振内部的?如何检测晶振内部污染物?我可不可以使用超声波清洗?今天KOAN凯擎小妹将逐一解答。1. 污染物来源a. 制造过程:生产环境不洁净或封装密封不严,可能导致灰尘和杂质进入晶振。b. 使用环境:高湿度、温度变化、化学物质和机械应力可能导致污染物渗入。c. 储存不当:不良的储存环境和不合适的包装材料可能引发化学物质迁移。建议储存湿度维持相对湿度在30%至75%的范围内,有助于避免湿度对晶振的不利影响。避免雨淋或阳光直射。d.
    koan-xtal 2025-04-28 06:11 117浏览
  • 随着电子元器件的快速发展,导致各种常见的贴片电阻元器件也越来越小,给我们分辨也就变得越来越难,下面就由smt贴片加工厂_安徽英特丽就来告诉大家如何分辨的SMT贴片元器件。先来看看贴片电感和贴片电容的区分:(1)看颜色(黑色)——一般黑色都是贴片电感。贴片电容只有勇于精密设备中的贴片钽电容才是黑色的,其他普通贴片电容基本都不是黑色的。(2)看型号标码——贴片电感以L开头,贴片电容以C开头。从外形是圆形初步判断应为电感,测量两端电阻为零点几欧,则为电感。(3)检测——贴片电感一般阻值小,更没有“充放
    贴片加工小安 2025-04-29 14:59 121浏览
  • 在CAN总线分析软件领域,当CANoe不再是唯一选择时,虹科PCAN-Explorer 6软件成为了一个有竞争力的解决方案。在现代工业控制和汽车领域,CAN总线分析软件的重要性不言而喻。随着技术的进步和市场需求的多样化,单一的解决方案已无法满足所有用户的需求。正是在这样的背景下,虹科PCAN-Explorer 6软件以其独特的模块化设计和灵活的功能扩展,为CAN总线分析领域带来了新的选择和可能性。本文将深入探讨虹科PCAN-Explorer 6软件如何以其创新的模块化插件策略,提供定制化的功能选
    虹科汽车智能互联 2025-04-28 16:00 135浏览
  •  探针台的维护直接影响其测试精度与使用寿命,需结合日常清洁、环境控制、定期校准等多维度操作,具体方法如下:一、日常清洁与保养1.‌表面清洁‌l 使用无尘布或软布擦拭探针台表面,避免残留清洁剂或硬物划伤精密部件。l 探针头清洁需用非腐蚀性溶剂(如异丙醇)擦拭,检查是否弯曲或损坏。2.‌光部件维护‌l 镜头、观察窗等光学部件用镜头纸蘸取wu水jiu精从中心向外轻擦,操作时远离火源并保持通风。3.‌内部防尘‌l 使用后及时吹扫灰尘,防止污染物进入机械滑
    锦正茂科技 2025-04-28 11:45 94浏览
  • 在智能硬件设备趋向微型化的背景下,语音芯片方案厂商针对小体积设备开发了多款超小型语音芯片方案,其中WTV系列和WT2003H系列凭借其QFN封装设计、高性能与高集成度,成为微型设备语音方案的理想选择。以下从封装特性、功能优势及典型应用场景三个方面进行详细介绍。一、超小体积封装:QFN技术的核心优势WTV系列与WT2003H系列均提供QFN封装(如QFN32,尺寸为4×4mm),这种封装形式具有以下特点:体积紧凑:QFN封装通过减少引脚间距和优化内部结构,显著缩小芯片体积,适用于智能门铃、穿戴设备
    广州唯创电子 2025-04-30 09:02 100浏览
我要评论
0
4
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦