用20块GPU装下整个互联网!英伟达推出Hopper架构H100GPU、GraceCPU超级芯片等新品

电子工程世界 2022-03-23 07:30

▲ 更多精彩内容 请点击上方蓝字关注我们吧!

3月22日晚11点英伟达CEO黄仁勋带来了名为“I AM AI”的GTC 2022线上主题演讲

即便告别了我们熟悉的厨房,但黄仁勋照样能给我们端上多道“硬核大菜”。

先是搭载全新Hopper架构的H100 GPU,接着是Grace超级芯片,然后依次谈到了机器人、自动汽车以及其他软件更新。

总的来看,英伟达再度将GPU的算力推向了极致,借此加强自身在AI、汽车等领域的实力。同时,英伟达已经为下一波AI浪潮以及无限幻想的元宇宙做好了准备。

800亿晶体管的“算力怪兽”

作为AI算力的保障,以及英伟达的“老本行”,全新GPU自然是GTC 2022最值得关注的新品。

这次带来的新品是H100 GPU,该芯片由800亿个晶体管构建而成,采用了专为英伟达加速计算需求而优化的TSMC 4N工艺,单个H100最大支持40TB/s的IO带宽。

用黄仁勋的话来说:20块H100 GPU就可承托全球互联网的流量。这足以看出这块芯片的恐怖算力。

H100同时还集多个首个于一身,包括首款支持PCIe 5.0的GPU,首款采用HBM3标准的GPU,以及全球首款具有机密计算功能的GPU。

相比于上一代Ampere架构的A100,H100带来了6项突破性的创新:

1、目前世界最先进的芯片

2、搭载最新Transformer引擎,速度提升至上一代的6倍。

3、第二代安全多实例,可以同时处理不同类型的任务。

4、具备机密计算功能,此前隐私计算只能在CPU上实现,但H100成为第一个实现该功能的GPU,可以保护AI模型和正在处理的客户数据。

5、支持第4代NVLink,每个NVLink Switch网络最多可以连接多达256个H100,相较于上一代产品,带宽高出9倍。

6、Hooper架构引入了名为DPX的新指令集,可加速动态规划,算法速度有了显著提升。

在H100的帮助下,研究人员和开发者可以训练庞大的模型。比如包含3950亿个参数的混合专家模型,训练速度加速高达9倍,训练时间从几周缩短到几天。

值得一提的是,黄仁勋并没有过多介绍Hopper架构。该架构以美国计算机领域的先驱科学家Grace Hopper 的名字命名,被单独用作计算加速使用,而未来推出的RTX 40系列显卡使用的GPU将基于Ada Lovelace架构。

虽然此次公布的H100与此前的爆料略有缩水,但不妨碍其成为超算界最强引擎,这也称得上英伟达进一步扩大在AI计算领域领导力的体现

世界上最快的AI超级计算机

借助DFX POD架构与NVLink连接,8块H100构成了一个巨型AI系统——NVIDIA DGX H100该系统可以满足大型语言模型、推荐系统、医疗健康研究和气候科学的大规模计算需求。

你以为这个系统已经很强大了?

基于DGX H100,英伟达推出全球运行速度最快的AI超级计算机——NVIDIA EOS

该超级电脑共配备576台DGX H100系统,共计4608块DGX H100 GPU,显存带宽高达768TB/s,有望成为全球运行速度最快的 AI 系统。而整个互联网带宽不过只有100TB/s。

据悉,NVIDIA EOS预计将提供18.4 Exaflops的AI计算性能,这比目前运行速度最快的日本Fugaku超级计算机还快4倍。

为了将数量庞大的H100连接起来,英伟达还推出了NVLink Switch网络系统和更强的DFX superPOD架构,这样就可以连接32个结点、256个H100 GPU。你可以想象成一个“加强版”的DGX H100系统。

黄仁勋表示:“对于英伟达的OEM和云计算合作伙伴来说,EOS将成为先进AI基础设施的蓝图。”

未来,该系统可以为汽车、医疗健康、制造、通信、零售等行业提供开发大型模型所需的AI性能。

最强大的AI专属CPU

在去年GTC大会上,英伟达透露了首款数据中心专属CPU Grace,而在今年,这款面向AI基础设施和高性能计算的超级CPU正式亮相。

这次的Grace有两个版本,第一个版本叫做Grace-Hopper,是“CPU+GPU”结合体,使用NVLink连接,带宽高达900GB/s。

而名为“Grace CPU超级芯片”的版本则由两个CPU芯片封装组成,它们之间通过NVLink-C2C连接。整个超级芯片总计144个CPU内核(基于ARMv9指令集),缓存容量396MB,支持LPDDR5X ECC内存,带宽高达1TB/s。

性能方面,Grace CPU 超级芯片的SPECint 2017得分为业内领先的740分,黄仁勋表示这个性能没有什么产品可与之媲美,称赞为“最强大的CPU”。

据悉,借助带有纠错码的LPDDR5x内存组成的子系统,Grace CPU 超级芯片可以实现速度与功耗的最佳平衡,带宽高达1TB/s,整体功耗仅500W。

有趣的是,这套芯片系统展示了NVLink-C2C的强大扩展性,加之英伟达早些时候发布的UCIe标准(通用小芯片互连传输通道),未来用户采用英伟达产品时,可以像搭积木一样灵活选择CPU和GPU的组合

One More Thing

· Omniverse平台

在去年CTC大会上,黄仁勋就重点介绍了Omniverse平台。该平台为3D设计师提供了一个共享的虚拟世界,他们可以从不同的软件应用程序和不同的地理位置进行协作。

今年,英伟达专注于让个人和企业更广泛地使用Omniverse平台。新的Omniverse Cloud使创作者能够即时访问Omniverse,即使他们没有基于Nvidia RTX的系统。同时推出的Omniverse OVX则是一个旨在满足大规模仿真需求的计算系统。

· 自动驾驶汽车

作为英伟达在AI领域的重要探索,汽车产品线将在未来六年内增加至超过110亿美元。

本次,英伟达推出了最新版本的Hyperion 9自动驾驶平台,这既是Nvidia DRIVE Orin平台的基本架构,也是英伟达用于自动驾驶汽车的硬件架构。据悉,该平台将有14个摄像头、9个雷达、3个激光雷达和20个超声传感器,将于2026年投入使用。

有趣的是,黄仁勋透露了已经采用DRIVE Orin平台的厂商,其中,中国厂商占据了不少席位,而比亚迪也将从2023年上半年开始采用DRIVE Orin平台。

结语

除了上述更新外,英伟达还推出了机器人平台、AI计算基础架构、医疗仪器平台以及六款使用Ampere架构的全新RTX GPU,产品线可谓十分丰富,这里就不再过多介绍。

总的来看,英伟达一直在紧跟两条主线前行,一条是AI,另一条则是Omniverse平台

虽然这次黄仁勋并没有直接点名元宇宙,但无处不在的TJ(黄仁勋数字替身)还是展示出英伟达对于元宇宙的重视程度。

希望在未来的GTC大会上,黄仁勋能给我们带来属于元宇宙的“核弹”。

来源:镁客网等网络内容综合

推荐阅读

BMS升级变锁电,新能源车企为啥要这样做?
“一夜爆红”的固态电池,原理是什么?
华为天才少年教你造又萌又硬的mini机器人,“动手”就行!
放着会衰退,用2年就废?笔记本电池到底能用几年,怎么用寿命更长?



添加微信回复“进群”

拉你进技术交流群!

国产芯|汽车电子|物联网|新能源|电源|工业|嵌入式…..  

众号内回复您想搜索的任意内容,如问题关键字、技术名词、bug代码等,就能轻松获得与之相关的专业技术内容反馈。快去试试吧!


如果您想经常看到我们的文章,可以进入我们的主页,点击屏幕右上角「三个小点」,点击「设为星标」。

欢迎扫码关注


电子工程世界 关注EEWORLD电子工程世界,即时参与讨论电子工程世界最火话题,抢先知晓电子工程业界资讯。
评论
  • 1月7日-10日,2025年国际消费电子产品展览会(CES 2025)盛大举行,广和通发布Fibocom AI Stack,赋智千行百业端侧应用。Fibocom AI Stack提供集高性能模组、AI工具链、高性能推理引擎、海量模型、支持与服务一体化的端侧AI解决方案,帮助智能设备快速实现AI能力商用。为适应不同端侧场景的应用,AI Stack具备海量端侧AI模型及行业端侧模型,基于不同等级算力的芯片平台或模组,Fibocom AI Stack可将TensorFlow、PyTorch、ONNX、
    物吾悟小通 2025-01-08 18:17 74浏览
  • 根据环洋市场咨询(Global Info Research)项目团队最新调研,预计2030年全球中空长航时无人机产值达到9009百万美元,2024-2030年期间年复合增长率CAGR为8.0%。 环洋市场咨询机构出版了的【全球中空长航时无人机行业总体规模、主要厂商及IPO上市调研报告,2025-2031】研究全球中空长航时无人机总体规模,包括产量、产值、消费量、主要生产地区、主要生产商及市场份额,同时分析中空长航时无人机市场主要驱动因素、阻碍因素、市场机遇、挑战、新产品发布等。报告从中空长航时
    GIRtina 2025-01-09 10:35 82浏览
  • 在智能网联汽车中,各种通信技术如2G/3G/4G/5G、GNSS(全球导航卫星系统)、V2X(车联网通信)等在行业内被广泛使用。这些技术让汽车能够实现紧急呼叫、在线娱乐、导航等多种功能。EMC测试就是为了确保在复杂电磁环境下,汽车的通信系统仍然可以正常工作,保护驾乘者的安全。参考《QCT-基于LTE-V2X直连通信的车载信息交互系统技术要求及试验方法-1》标准10.5电磁兼容试验方法,下面将会从整车功能层面为大家解读V2X整车电磁兼容试验的过程。测试过程揭秘1. 设备准备为了进行电磁兼容试验,技
    北汇信息 2025-01-09 11:24 87浏览
  • 一个真正的质量工程师(QE)必须将一件产品设计的“意图”与系统的可制造性、可服务性以及资源在现实中实现设计和产品的能力结合起来。所以,可以说,这确实是一种工程学科。我们常开玩笑说,质量工程师是工程领域里的「侦探」、「警察」或「律师」,守护神是"墨菲”,信奉的哲学就是「墨菲定律」。(注:墨菲定律是一种启发性原则,常被表述为:任何可能出错的事情最终都会出错。)做质量工程师的,有时会不受欢迎,也会被忽视,甚至可能遭遇主动或被动的阻碍,而一旦出了问题,责任往往就落在质量工程师的头上。虽然质量工程师并不负
    优思学院 2025-01-09 11:48 102浏览
  • 故障现象一辆2017款东风风神AX7车,搭载DFMA14T发动机,累计行驶里程约为13.7万km。该车冷起动后怠速运转正常,热机后怠速运转不稳,组合仪表上的发动机转速表指针上下轻微抖动。 故障诊断 用故障检测仪检测,发动机控制单元中无故障代码存储;读取发动机数据流,发现进气歧管绝对压力波动明显,有时能达到69 kPa,明显偏高,推断可能的原因有:进气系统漏气;进气歧管绝对压力传感器信号失真;发动机机械故障。首先从节气门处打烟雾,没有发现进气管周围有漏气的地方;接着拔下进气管上的两个真空
    虹科Pico汽车示波器 2025-01-08 16:51 112浏览
  • 光伏逆变器是一种高效的能量转换设备,它能够将光伏太阳能板(PV)产生的不稳定的直流电压转换成与市电频率同步的交流电。这种转换后的电能不仅可以回馈至商用输电网络,还能供独立电网系统使用。光伏逆变器在商业光伏储能电站和家庭独立储能系统等应用领域中得到了广泛的应用。光耦合器,以其高速信号传输、出色的共模抑制比以及单向信号传输和光电隔离的特性,在光伏逆变器中扮演着至关重要的角色。它确保了系统的安全隔离、干扰的有效隔离以及通信信号的精准传输。光耦合器的使用不仅提高了系统的稳定性和安全性,而且由于其低功耗的
    晶台光耦 2025-01-09 09:58 68浏览
  • 在当前人工智能(AI)与物联网(IoT)的快速发展趋势下,各行各业的数字转型与自动化进程正以惊人的速度持续进行。如今企业在设计与营运技术系统时所面临的挑战不仅是技术本身,更包含硬件设施、第三方软件及配件等复杂的外部因素。然而这些系统往往讲究更精密的设计与高稳定性,哪怕是任何一个小小的问题,都可能对整体业务运作造成严重影响。 POS应用环境与客户需求以本次分享的客户个案为例,该客户是一家全球领先的信息技术服务与数字解决方案提供商,遭遇到一个由他们所开发的POS机(Point of Sal
    百佳泰测试实验室 2025-01-09 17:35 88浏览
  • 在过去十年中,自动驾驶和高级驾驶辅助系统(AD/ADAS)软件与硬件的快速发展对多传感器数据采集的设计需求提出了更高的要求。然而,目前仍缺乏能够高质量集成多传感器数据采集的解决方案。康谋ADTF正是应运而生,它提供了一个广受认可和广泛引用的软件框架,包含模块化的标准化应用程序和工具,旨在为ADAS功能的开发提供一站式体验。一、ADTF的关键之处!无论是奥迪、大众、宝马还是梅赛德斯-奔驰:他们都依赖我们不断发展的ADTF来开发智能驾驶辅助解决方案,直至实现自动驾驶的目标。从新功能的最初构思到批量生
    康谋 2025-01-09 10:04 79浏览
  • 职场是人生的重要战场,既是谋生之地,也是实现个人价值的平台。然而,有些思维方式却会悄无声息地拖住你的后腿,让你原地踏步甚至退步。今天,我们就来聊聊职场中最忌讳的五种思维方式,看看自己有没有中招。1. 固步自封的思维在职场中,最可怕的事情莫过于自满于现状,拒绝学习和改变。世界在不断变化,行业的趋势、技术的革新都在要求我们与时俱进。如果你总觉得自己的方法最优,或者害怕尝试新事物,那就很容易被淘汰。与其等待机会找上门,不如主动出击,保持学习和探索的心态。加入优思学院,可以帮助你快速提升自己,与行业前沿
    优思学院 2025-01-09 15:48 77浏览
  • HDMI 2.2 规格将至,开启视听新境界2025年1月6日,HDMI Forum, Inc. 宣布即将发布HDMI规范2.2版本。新HDMI规范为规模庞大的 HDMI 生态系统带来更多选择,为创建、分发和体验理想的终端用户效果提供更先进的解决方案。新技术为电视、电影和游戏工作室等内容制作商在当前和未来提供更高质量的选择,同时实现多种分发平台。96Gbps的更高带宽和新一代 HDMI 固定比率速率传输(Fixed Rate Link)技术为各种设备应用提供更优质的音频和视频。终端用户显示器能以最
    百佳泰测试实验室 2025-01-09 17:33 96浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦