NVIDIA放出新核弹!4nm工艺、1.8万核心、700W功耗

原创 硬件世界 2022-03-23 23:57

GTC 2022开发者大会上,NVIDIA放出两倍重磅炸弹,一个是全新CPU,一个是全新GPU。


【Hopper CPU】


黄仁勋终于公布了NVIDIA新一代架构与核心,面向HPC高性能计算、AI人工智能的“Hopper”,核心编号“GH100”。


GH100核心采用的是台积电目前最先进的4nm工艺,而且是定制版,CoWoS 2.5D晶圆级封装,单芯片设计,集成多达800亿个晶体管,号称世界上最先进的芯片。


完整版有8组GPC(图形处理器集群)、72组TPC(纹理处理器集群)、144组SM(流式多处理器单元),而每组SM有128个FP32 CUDA核心,总计18432个。


显存支持六颗HBM3或者HBM2e,控制器是12组512-bit,总计位宽6144-bit。


Tensor张量核心来到第四代,共有576个,另有60MB二级缓存。


扩展互连支持PCIe 5.0、NVLink第四代,后者带宽提升至900GB/s,七倍于PCIe 5.0,相比A100也多了一半。整卡对外总带宽4.9TB/s。


性能方面,FP64/FP32 60TFlops(每秒60万亿次),FP16 2000TFlops(每秒2000万亿次),TF32 1000TFlops(每秒1000万亿次),都三倍于A100,FP8 4000TFlops(每秒4000万亿次),六倍于A100。




当然,大家不要期待H100的游戏性能了,因为NVIDIA这次一刀砍到底,阉割得非常厉害。


从NVIDIA的白皮书中可以确认,H100砍掉了大量GPU相关功能,不论是PCIe 5.0版还是SMX版的H100核心中,只有2组TPC单元才可以支持图形运算,包括矢量、几何及像素渲染。


2组TPC单元也就是4组SM单元,总计512个CUDA核心是可以跑游戏的,相比完整的1.8万核心来说微不足道,性能只相当于完整版H100核心的1/36,也就3%左右,97%的游戏性能没了。


NVIDIA解释说H100是专为AI、HPC及数据分析而生的,并不是为了游戏而设计的。


考虑到H100在AI、HPC等性能上的提升,NVIDIA阉割大量游戏功能以便减少设计难度也是可以理解的,毕竟加速卡也不会用来玩游戏。


针对游戏玩家的是Ada Lovelace架构,此前爆料也是最多18432个流处理器,但是它会大量阉割计算单元,保留完整的图形及光追单元,跟H100的设计理念反过来。



H100计算卡采用SXM、PCIe 5.0两种形态,其中后者功耗高达史无前例的700W,相比A100多了整整300W。


按惯例也不是满血,GPC虽然还是8组,但是SXM5版本只开启了62组TPC(魅族GPC屏蔽一组TPC)、128组SM,总计有15872个CUDA核心、528个Tensor核心、50MB二级缓存。


PCIe 5.0版本更是只有57组TPC,SM虽然还是128组,但是CUDA核心只有14952个,Tensor核心只有456个。



DGX H100系统集成八颗H100芯片、搭配两颗PCIe 5.0 CPU处理器(Intel Sapphire Rapids四代可扩展至器?),拥有总计6400亿个晶体管、640GB HBM3显存、24TB/s显存带宽。


性能方面,AI算力32PFlops(每秒3.2亿亿次),浮点算力FP64 480TFlops(每秒480万亿次),FP16 1.6PFlops(每秒1.6千万亿次),FP8 3.2PFlops(每秒3.2千亿次),分别是上代DGX A100的3倍、3倍、6倍,而且新增支持网络内计算,性能3.6TFlops。




DGX H100是最小的计算单元,为了扩展,这一次NVIDIA还设计了全新的VNLink Swtich互连系统,可以连接最多32个节点,也就是256颗H100芯片,称之为“DGX POD”。


这么一套系统内,还有20.5TB HBM3内存,总带宽768TB/s,AI性能高达颠覆性的1EFlops(100亿亿亿次每秒),实现百亿亿次计算。


系统合作伙伴包括Atos、思科、戴尔、富士通、技嘉、新华三、慧与、浪潮、联想、宁畅、超威。


云服务合作伙伴包括阿里云、亚马逊云、百度云、Google云、微软Azure、甲骨文云、腾讯云。





【Grace GPU】


NVIDIA Grace CPU处理器专为AI及超算设计,官方表示性能上根本没有对手。


NVIDIA去年其实就发布了Grace,不过当时没有详细规格,现在公布的这叫做
“Grace CPU Superchip”,将两颗Grace整合在一块卡上。


规格自然是相当恐怖的,总计144个CPU内核(基于ARMv9指令集),缓存容量396MB,支持LPDDR5X ECC内存,带宽高达1TB/s,整体功耗仅为500W。


其他方面还有PCIe 5.0、NVLink-C2C互连。



性能方面,Grace CPU Superchip的SPECint 2017得分为740分,NVIDIA表示这个性能没有什么产品可与之媲美,无敌了。



有了Grace CPU Superchip,NVIDIA可以灵活搭配各种方案,就像是搭积木那样简单。



Grace CPU Superchip芯片会在2023年上市。



【Grace+Hopper】


有了Hopper H100 GPU核心、Grace CPU处理器,NVIDIA还丧心病狂地把二者放在了一张卡上,命名为“Grace Hopper”,官方称之为密度最高达到加速计算系统。


两颗芯片并排放置,彼此之间通过NVLink总线进行芯片间通信,带宽达900GB/s。


具体规格暂未公布,但应该做不到同时满血,尤其是Hopper GPU。


Grace CPU基于ARMv9架构指令集设计,72个核心,集成198MB缓存,搭档LPDDR5X内存,支持ECC。


Hopper GH100 GPU 18432个CUDA核心、576个Tensor核心、60MB二级缓存、6144-bit HBM2e/HBM3显存位宽。


H100计算卡则只开启了16896个CUDA核心、528个Tensor核心、50MB二级缓存、5120-bit HBM3显存位宽,Grace Hopper卡上大概率也是这个规格。


这种合体“怪物”有啥用?显然也是做HPC、AI计算,CPU、GPU可以协调分配不同负载,达到效率最大化。



另外还有“H100 CNX”,同时集成H100 GPU、CX-7 SmartNIC网络芯片。


通过让GPU直连网络消除系统带宽,支持PCIe 5.0,最高支持7个多GPU实例并发。



另外,NVIDIA今天发布的CPU及GPU是首发支持PCIe 5.0,然而PCIe 5.0的性能已经满足不了NVIDIA的需要了,专门打造了NVLink-C2C技术,支持多种裸芯互连,包括CPU、GPU、DPU、NIC及SoC等等。


NVLink-C2C实现了高达900GB/s的连接带宽,能效更是PCIe 5.0的25倍,面积效率则是后者的90倍,可以说性能碾压的情况下功耗更低,占用的面积更小。


NVLink-C2C技术还支持ARM的ARBA集线器接口协议,NVIDIA现在跟ARM一起合作以增强AMBA协议,以便支持与其他互连芯片一致且安全的加速器连接。


除了NVLink-C2C之外,NVIDIA还支持前不久Intel、AMD等公司联合推出的UCIe芯片封装标准,虽然之前的名单中没有NVIDIA,但是现在看来他们不打算跟业界主流标准隔离开来,客户定制的NVIDIA芯片可以选择使用UCIe或者NVLink-C2C,后者在性能、延迟及能效上做了优化。



【牵手比亚迪】


意外的是,大会期间,比亚迪、NVIDIA宣布在智能驾驶技术方面达成合作。


从2023年上半年起,比亚迪将在其部分新能源汽车上搭载英伟达DRIVE Hyperion平台,实现车辆智能驾驶和智能泊车。




比亚迪是电动汽车行业的领导者,NVIDIA是人工智能领域的先行者。本次合作,双方强强联合、优势互补,将共同推动新能源汽车产业朝着智能化、信息化方面深度发展。


英伟达DRIVE Orin是全球性能最高的车规级芯片,是下一代汽车人工智能的“大脑”。NVIDIA表示,未来六年其汽车业务方面的营收约为110亿美元。


DRIVE Orin芯片算力可达254TOPS,每秒可计算254万亿次,具备高速外围接口和高内存带宽(205GB/秒),可无缝处理来自多个传感器配置的数据,以实现安全可靠的智能驾驶。


NVIDIA DRIVE Orin芯片符合 ISO 26262 ASIL-D等系统化安全标准,保证智能驾驶的安全性和先进性。


同时,NVIDIA还公布了基于Atlan芯片的新一代汽车自动驾驶技术平台“Drive Hyperion 9”,并计划于2026年量产


相比于上一代,Hyperion 9支持感知硬件数量大幅度提升。它的架构包括:车辆外部的14个摄像头、9个雷达、3个激光雷达传感器和20个超声波传感器,以及车辆内部的3个摄像头和一个雷达。


据悉,Hyperion 9将采用Atlan芯片,在算力方面Atlan提升3倍左右,预计于2025年交付。


英伟达表示,比亚迪正基于Hyperion 9打造其下一代电动汽车。



NVIDIA汽车业务副总裁Rishi Dhall表示:“汽车行业转型的驱动力包括电动化以及由软件定义技术赋予设备的自主性。在人工智能技术和NVIDIA DRIVE平台的赋能下,比亚迪提供的电动汽车将由软件定义,在保证安全可靠的同时,也能随着时代的推进而不断革新。


比亚迪如今已经成为中国新能源汽车领军品牌,2021年实现了新能源乘用车近60万的全球销量,第九次问鼎中国新能源乘用车销冠;新能源累计产销超过150万台。


除了比亚迪,在这次大会上,与NVIDIA达成合作的企业还有Lucid、文远知行、元戎启行、云骥智行、Outrider和悠跑科技。


硬件世界 共同研究探讨硬件知识及相关信息
评论 (0)
  • 晶振在使用过程中可能会受到污染,导致性能下降。可是污染物是怎么进入晶振内部的?如何检测晶振内部污染物?我可不可以使用超声波清洗?今天KOAN凯擎小妹将逐一解答。1. 污染物来源a. 制造过程:生产环境不洁净或封装密封不严,可能导致灰尘和杂质进入晶振。b. 使用环境:高湿度、温度变化、化学物质和机械应力可能导致污染物渗入。c. 储存不当:不良的储存环境和不合适的包装材料可能引发化学物质迁移。建议储存湿度维持相对湿度在30%至75%的范围内,有助于避免湿度对晶振的不利影响。避免雨淋或阳光直射。d.
    koan-xtal 2025-04-28 06:11 169浏览
  •  探针台的维护直接影响其测试精度与使用寿命,需结合日常清洁、环境控制、定期校准等多维度操作,具体方法如下:一、日常清洁与保养1.‌表面清洁‌l 使用无尘布或软布擦拭探针台表面,避免残留清洁剂或硬物划伤精密部件。l 探针头清洁需用非腐蚀性溶剂(如异丙醇)擦拭,检查是否弯曲或损坏。2.‌光部件维护‌l 镜头、观察窗等光学部件用镜头纸蘸取wu水jiu精从中心向外轻擦,操作时远离火源并保持通风。3.‌内部防尘‌l 使用后及时吹扫灰尘,防止污染物进入机械滑
    锦正茂科技 2025-04-28 11:45 123浏览
  • 在智能硬件设备趋向微型化的背景下,语音芯片方案厂商针对小体积设备开发了多款超小型语音芯片方案,其中WTV系列和WT2003H系列凭借其QFN封装设计、高性能与高集成度,成为微型设备语音方案的理想选择。以下从封装特性、功能优势及典型应用场景三个方面进行详细介绍。一、超小体积封装:QFN技术的核心优势WTV系列与WT2003H系列均提供QFN封装(如QFN32,尺寸为4×4mm),这种封装形式具有以下特点:体积紧凑:QFN封装通过减少引脚间距和优化内部结构,显著缩小芯片体积,适用于智能门铃、穿戴设备
    广州唯创电子 2025-04-30 09:02 324浏览
  • 在CAN总线分析软件领域,当CANoe不再是唯一选择时,虹科PCAN-Explorer 6软件成为了一个有竞争力的解决方案。在现代工业控制和汽车领域,CAN总线分析软件的重要性不言而喻。随着技术的进步和市场需求的多样化,单一的解决方案已无法满足所有用户的需求。正是在这样的背景下,虹科PCAN-Explorer 6软件以其独特的模块化设计和灵活的功能扩展,为CAN总线分析领域带来了新的选择和可能性。本文将深入探讨虹科PCAN-Explorer 6软件如何以其创新的模块化插件策略,提供定制化的功能选
    虹科汽车智能互联 2025-04-28 16:00 230浏览
  • 4月22日下午,备受瞩目的飞凌嵌入式「2025嵌入式及边缘AI技术论坛」在深圳深铁皇冠假日酒店盛大举行,此次活动邀请到了200余位嵌入式技术领域的技术专家、企业代表和工程师用户,共享嵌入式及边缘AI技术的盛宴!1、精彩纷呈的展区产品及方案展区是本场活动的第一场重头戏,从硬件产品到软件系统,从企业级应用到高校教学应用,都吸引了现场来宾的驻足观看和交流讨论。全产品矩阵展区展示了飞凌嵌入式丰富的产品线,从嵌入式板卡到工控机,从进口芯片平台到全国产平台,无不体现出飞凌嵌入式在嵌入式主控设备研发设计方面的
    飞凌嵌入式 2025-04-28 14:43 180浏览
  • 你是不是也有在公共场合被偷看手机或笔电的经验呢?科技时代下,不少现代人的各式机密数据都在手机、平板或是笔电等可携式的3C产品上处理,若是经常性地需要在公共场合使用,不管是工作上的机密文件,或是重要的个人信息等,民众都有防窃防盗意识,为了避免他人窥探内容,都会选择使用「防窥保护贴片」,以防止数据外泄。现今市面上「防窥保护贴」、「防窥片」、「屏幕防窥膜」等产品就是这种目的下产物 (以下简称防窥片)!防窥片功能与常见问题解析首先,防窥片最主要的功能就是用来防止他人窥视屏幕上的隐私信息,它是利用百叶窗的
    百佳泰测试实验室 2025-04-30 13:28 491浏览
  • 网约车,真的“饱和”了?近日,网约车市场的 “饱和” 话题再度引发热议。多地陆续发布网约车风险预警,提醒从业者谨慎入局,这背后究竟隐藏着怎样的市场现状呢?从数据来看,网约车市场的“过剩”现象已愈发明显。以东莞为例,截至2024年12月底,全市网约车数量超过5.77万辆,考取网约车驾驶员证的人数更是超过13.48万人。随着司机数量的不断攀升,订单量却未能同步增长,导致单车日均接单量和营收双双下降。2024年下半年,东莞网约出租车单车日均订单量约10.5单,而单车日均营收也不容乐
    用户1742991715177 2025-04-29 18:28 275浏览
  • 文/郭楚妤编辑/cc孙聪颖‍越来越多的企业开始蚕食动力电池市场,行业“去宁王化”态势逐渐明显。随着这种趋势的加强,打开新的市场对于宁德时代而言至关重要。“我们不希望被定义为电池的制造者,而是希望把自己称作新能源产业的开拓者。”4月21日,在宁德时代举行的“超级科技日”发布会上,宁德时代掌门人曾毓群如是说。随着宁德时代核心新品骁遥双核电池的发布,其搭载的“电电增程”技术也走进业界视野。除此之外,经过近3年试水,宁德时代在换电业务上重资加码。曾毓群认为换电是一个重资产、高投入、长周期的产业,涉及的利
    华尔街科技眼 2025-04-28 21:55 200浏览
  • 随着电子元器件的快速发展,导致各种常见的贴片电阻元器件也越来越小,给我们分辨也就变得越来越难,下面就由smt贴片加工厂_安徽英特丽就来告诉大家如何分辨的SMT贴片元器件。先来看看贴片电感和贴片电容的区分:(1)看颜色(黑色)——一般黑色都是贴片电感。贴片电容只有勇于精密设备中的贴片钽电容才是黑色的,其他普通贴片电容基本都不是黑色的。(2)看型号标码——贴片电感以L开头,贴片电容以C开头。从外形是圆形初步判断应为电感,测量两端电阻为零点几欧,则为电感。(3)检测——贴片电感一般阻值小,更没有“充放
    贴片加工小安 2025-04-29 14:59 305浏览
  • 贞光科技代理品牌紫光国芯的车规级LPDDR4内存正成为智能驾驶舱的核心选择。在汽车电子国产化浪潮中,其产品以宽温域稳定工作能力、优异电磁兼容性和超长使用寿命赢得市场认可。紫光国芯不仅确保供应链安全可控,还提供专业本地技术支持。面向未来,紫光国芯正研发LPDDR5车规级产品,将以更高带宽、更低功耗支持汽车智能化发展。随着智能网联汽车的迅猛发展,智能驾驶舱作为人机交互的核心载体,对处理器和存储器的性能与可靠性提出了更高要求。在汽车电子国产化浪潮中,贞光科技代理品牌紫光国芯的车规级LPDDR4内存凭借
    贞光科技 2025-04-28 16:52 322浏览
  • 一、gao效冷却与控温机制‌1、‌冷媒流动设计‌采用低压液氮(或液氦)通过毛细管路导入蒸发器,蒸汽喷射至样品腔实现快速冷却,冷却效率高(室温至80K约20分钟,至4.2K约30分钟)。通过控温仪动态调节蒸发器加热功率,结合温度传感器(如PT100铂电阻或Cernox磁场不敏感传感器),实现±0.01K的高精度温度稳定性。2、‌宽温区覆盖与扩展性‌标准温区为80K-325K,通过降压选件可将下限延伸至65K(液氮模式)或4K(液氦模式)。可选配475K高温模块,满足材料在ji端温度下的性能测试需求
    锦正茂科技 2025-04-30 13:08 380浏览
  • 一、智能家居的痛点与创新机遇随着城市化进程加速,现代家庭正面临两大核心挑战:情感陪伴缺失:超60%的双职工家庭存在“亲子陪伴真空期”,儿童独自居家场景增加;操作复杂度攀升:智能设备功能迭代导致用户学习成本陡增,超40%用户因操作困难放弃高阶功能。而WTR096-16S录音语音芯片方案,通过“语音交互+智能录音”双核驱动,不仅解决设备易用性问题,更构建起家庭成员间的全天候情感纽带。二、WTR096-16S方案的核心技术突破1. 高保真语音交互系统动态情绪语音库:支持8种语气模板(温柔提醒/紧急告警
    广州唯创电子 2025-04-28 09:24 194浏览
  • 浪潮之上:智能时代的觉醒    近日参加了一场课题的答辩,这是医疗人工智能揭榜挂帅的国家项目的地区考场,参与者众多,围绕着医疗健康的主题,八仙过海各显神通,百花齐放。   中国大地正在发生着激动人心的场景:深圳前海深港人工智能算力中心高速运转的液冷服务器,武汉马路上自动驾驶出租车穿行的智慧道路,机器人参与北京的马拉松竞赛。从中央到地方,人工智能相关政策和消息如雨后春笋般不断出台,数字中国的建设图景正在智能浪潮中徐徐展开,战略布局如同围棋
    广州铁金刚 2025-04-30 15:24 265浏览
  • 文/Leon编辑/cc孙聪颖‍2023年,厨电行业在相对平稳的市场环境中迎来温和复苏,看似为行业增长积蓄势能。带着对市场向好的预期,2024 年初,老板电器副董事长兼总经理任富佳为企业定下双位数增长目标。然而现实与预期相悖,过去一年,这家老牌厨电企业不仅未能达成业绩目标,曾提出的“三年再造一个老板电器”愿景,也因市场下行压力面临落空风险。作为“企二代”管理者,任富佳在掌舵企业穿越市场周期的过程中,正面临着前所未有的挑战。4月29日,老板电器(002508.SZ)发布了2024年年度报告及2025
    华尔街科技眼 2025-04-30 12:40 274浏览
我要评论
0
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦