借助DPU开启HPC和超级计算性能的新时代

英伟达NVIDIA中国 2022-10-11 21:07
超级计算机用于建模和模拟科学计算中最复杂的过程,通常是为了洞察新发现,否则这些新发现在物理上是不切实际的或不可能演示的。

NVIDIA BlueField DPU(数据处理器)正在将高性能计算(HPC)资源转化为更高效的系统,同时在从数学建模和分子动力学到天气预报、气候研究,甚至可再生能源的广泛科学研究中加速解决问题。


BlueField 已经在云网络、网络安全、通信和边缘计算领域产生了显著影响。此外,在高性能计算的多个领域引发了应用程序性能和系统效率方面的创新。

NVIDIA BlueField-3 提供了强大的计算能力,其基于多个 Arm AArch64 内核、多线程数据路径加速器、集成的 NVIDIA ConnectX-7 400Gb/s 网络 ,以及 I/O 路径中的各种可编程加速引擎。它配备了双 DDR 6500MT / s DRAM 控制器,并配有高达 32 GB 的板载内存。BlueField-3 是第三代片上数据中心基础设施,可实现从云到核心数据中心再到边缘的、高效且强大的软件定义、硬件加速基础设施。

那么,这一切对高性能计算意味着什么呢?

提高 HPC 应用程序性能和可扩展性


HPC 就是为了提高性能和可扩展性。近二十年来,InfiniBand 网络在性能和应用程序可扩展性方面一直处于领先地位,这有几个原因。

从高层次来看,InfiniBand 只是最有效的数据移动方式:直接数据放置。在数据从网络接口通过系统到达需要它的实际应用程序时,无需涉及 CPU 或操作系统,也无需制作数据的多个副本。

如果 InfiniBand 已经如此高效,BlueField 会带来什么好处?

InfiniBand 多年来一直在解决的关键挑战之一是将网络通信开销从 CPU 移开,使其能够将时间集中在最擅长的事情上:应用程序计算和分支代码。

当今主流服务器中的 CPU 过于通用,在数百或数千个与实际计算几乎无关的进程中共享其计算周期、时间和资源。

BlueField 通过卸载、加速和隔离广泛的高级网络、存储和安全服务,为超级计算带来了前所未有的创新和效率。

为什么人工智能时代带来了

对 BlueField DPU 的需求


人工智能研究领域作为一门学科于 1956 年成立。甚至在那之前的十年,科学家们就开始讨论创造人工大脑的可能性。随着现代计算机硬件和软件的发展,这些概念很晚才成为现实。

2006 年,NVIDIA 推出了业界首个针对 GPU 的 C 编译器开发环境 CUDA ,解决复杂计算问题的速度比传统方法快 100 倍。今天,人工智能成果丰硕,几乎推动了科学研究的每个领域,改变了我们的生活,塑造了工业格局。

同样, 2006 年年中推出了用于非阻塞集合操作的首个提案。为消息传递接口(MPI)的集合组通信功能而提出的非阻塞接口在理论上肯定是成效斐然的。然而,它并没有在许多应用程序中实现。也许这是因为,在引入 DPU 之前,无法实现全部好处。

今天,随着 BlueField-3 的问世,这项技术已经提供了创新、性能和效率所需的基本要素。为了提高应用程序性能和可伸缩性,并消除操作系统抖动的影响,非阻塞集合操作重新引起了人们的兴趣。

科学计算还有几个领域,包括早期的例子,BlueField 正在展示其如何将 HPC 转化为高效和可持续的计算。

通过网络计算节省 CPU 周期


NVIDIA 的 Scalable Hierarchical Aggregation and Reduction Protocol(SHARP)技术通过将许多阻塞集体操作从 CPU 卸载到交换网络,且无需在端点之间多次发送数据,从而提高了 MPI 操作的性能。这种创新的方法减少了到达聚合节点时穿越网络的数据量,并大大减少了 MPI 操作时间。

BlueField 通过利用其 Arm 内核实现非阻塞操作,扩展了额外的网络计算能力。这使系统主机 CPU 能够执行峰值重叠计算。

图 2 显示了一个使用 MVAPICH2- DPU 库的示例,该库正在进行优化,以充分利用 BlueField 的全部潜力。它显示了提取主机上发生的计算与 MPI_Ialltoall 通信之间的峰值重叠的能力。


适用于 HPC 工作负载的计算存储


计算存储(或称为存储计算)为传统存储设备带来了 HPC 功能。在计算存储中,您可以在存储设备内或旁边执行选定的计算任务,从而减轻主机处理负担并减少数据移动。BlueField 提供在单卡上结合存储和网络计算的能力。

BlueField 使存储软件堆栈能够从计算节点卸载,同时还可作为网络架构附加 NVMe 控制器,能够加速关键存储功能,如压缩、校验和计算以及奇偶校验生成。此类服务在并行文件系统中提供。

整个存储系统堆栈在 Linux 内核中透明卸载,同时在 NVMe 目标端由 NVIDIA DOCA 简单实现标准存储功能。

新一代开放存储架构为加速、隔离和保护高性能存储系统提供了一种新的范例。该系统采用硬件和软件协同设计,使 DPU 对用户来说非常高效和透明。

文件系统的加速意味着提高存储系统中关键功能的性能,而存储系统性能是基于深入学习的科学探究的关键促成因素。

将存储客户端和服务器完全卸载到 DPU 的能力带来以前无法实现的安全和性能隔离级别。关键数据平面和控制平面功能移动到 DPU 上的单独域。这样可以免除服务器 CPU 的工作负担,并在 CPU 或其软件受损的情况下保护功能。

NVIDIA DOCA 软件框架


NVIDIA DOCA SDK 是释放 BlueField 潜力的关键。NVIDIA DOCA 和 BlueField DPU 通过一个全面、开放的开发平台,共同实现了应用程序的开发,这些应用程序可以提供突破性的网络、安全、存储和应用程序性能。

NVIDIA DOCA 支持一系列操作系统和发行版,包括驱动程序、库、工具、文档和示例应用程序。即将发布的 NVIDIA DOCA 1.5 和 2.0 版本引入了广泛的网络、存储、安全功能和增强功能,为 HPC 开发人员提供突破性的性能和高级编程能力:

  • 全新的通信通道库
  • 快速访问主机内存以实现 UCX 加速
  • 存储仿真(SNAP),包括存储加密
  • 全新的 NVIDIA DOCA 服务,包括 UCC 卸载服务和遥测服务
  • NVIDIA DOCA 安全 SDK

改变 HPC 领域的今天和明天


许多创新领域已经初露端倪,BlueField DPU 、NVIDIA DOCA 以及社区将继续为 HPC 领域带来改变。

有些想法已经实现了,例如在数据中心范围内增强性能隔离,或增强作业调度程序以实现更智能的作业安排。

由于科学应用程序通常是高度同步的,因此系统噪声对大型 HPC 系统的负面影响可能会对性能产生更大的影响。减少存储等其他过程引起的系统噪音至关重要。

遥测信息功能强大。它不仅仅是收集有关路由器、交换机和网络流量的信息。相反,可以通过工作负载和 I/O 特性收集和共享信息。

AI 框架精确地调整了 NVIDIA Quantum-2 InfiniBand 平台中的性能隔离算法。共享公共数据中心资源(如网络和存储)的多应用程序环境可以确保能实现的最佳性能,就像应用程序作为单个实例在裸机上运行一样。

BlueField DPU 完全有能力应对大规模计算带来的挑战。


GTC23 演讲、海报和培训实验内容征集现已开放!
即刻扫描下方海报二维码,分享您近期取得的成就!


评论 (0)
  • ‌磁光克尔效应(Magneto-Optic Kerr Effect, MOKE)‌ 是指当线偏振光入射到磁性材料表面并反射后,其偏振状态(偏振面旋转角度和椭偏率)因材料的磁化强度或方向发生改变的现象。具体表现为:1、‌偏振面旋转‌:反射光的偏振方向相对于入射光发生偏转(克尔旋转角 θK)。2、‌椭偏率变化‌:反射光由线偏振变为椭圆偏振(克尔椭偏率 εK)。这一效应直接关联材料的磁化状态,是表征磁性材料(如铁磁体、反铁磁体)磁学性质的重要非接触式光学探测手段,广泛用于
    锦正茂科技 2025-05-12 11:02 238浏览
  •   基于 2025 年行业权威性与时效性,以下梳理国内知名软件定制开发企业,涵盖综合型、垂直领域及特色技术服务商:   华盛恒辉科技有限公司:是一家专注于高端软件定制开发服务和高端建设的服务机构,致力于为企业提供全面、系统的开发制作方案。在部队政企开发、建设到运营推广领域拥有丰富经验,在教育,工业,医疗,APP,管理,商城,人工智能,部队软件、工业软件、数字化转型、新能源软件、光伏软件、汽车软件,ERP,系统二次开发,CRM等领域有很多成功案例。   五木恒润科技有限公司:是一家专业的部队信
    华盛恒辉l58ll334744 2025-05-12 16:13 214浏览
  •   电磁数据管理系统深度解析   北京华盛恒辉电磁数据管理系统作为专业的数据处理平台,旨在提升电磁数据的处理效率、安全性与可靠性。以下从功能架构、核心特性、应用场景及技术实现展开分析:   应用案例   目前,已有多个电磁数据管理系统在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润电磁数据管理系统。这些成功案例为电磁数据管理系统的推广和应用提供了有力支持。   一、核心功能模块   数据采集与接入:实时接收天线、频谱仪等设备数据,兼容多协议接口,确保数据采集的全面性与实时性
    华盛恒辉l58ll334744 2025-05-13 10:59 131浏览
  • 在 AI 浪潮席卷下,厨电行业正经历着深刻变革。AWE 2025期间,万得厨对外首次发布了wan AiOS 1.0组织体超智能系统——通过AI技术能够帮助全球家庭实现从健康检测、膳食推荐,到食材即时配送,再到一步烹饪、营养总结的个性化健康膳食管理。这一创新之举并非偶然的个案,而是整个厨电行业大步迈向智能化、数字化转型浪潮的一个关键注脚,折射出全行业对 AI 赋能的热切渴求。前有标兵后有追兵,万得厨面临着高昂的研发成本与技术迭代压力,稍有懈怠便可能被后来者赶
    用户1742991715177 2025-05-11 22:44 161浏览
  • 在全球供应链紧张和国产替代需求推动下,国产存储芯片产业快速发展,形成设计到封测一体化的完整生态。北京君正、兆易创新、紫光国芯、东芯股份、普冉股份和佰维存储等六大上市公司在NOR/NAND Flash、DRAM、嵌入式存储等领域布局各具特色,推动国产替代提速。贞光科技代理的品牌紫光国芯,专注DRAM技术,覆盖嵌入式存储与模组解决方案,为多领域客户提供高可靠性产品。随着AI、5G等新兴应用兴起,国产存储厂商有望迎来新一轮增长。存储芯片分类与应用易失性与非易失性存储芯片易失性存储芯片(Volatile
    贞光科技 2025-05-12 16:05 120浏览
  • 感谢面包板论坛组织的本次测评活动,本次测评的对象是STM32WL Nucleo-64板 (NUCLEO-WL55JC) ,该测试板专为LoRa™应用原型构建,基于STM32WL系列sub-GHz无线微控制器。其性能、功耗及特性组合经过精心挑选,支持通过Arduino® Uno V3连接,并利用ST morpho接头扩展STM32WL Nucleo功能,便于访问多种专用屏蔽。STM32WL Nucleo-64板集成STLINK-V3E调试器与编程器,无需额外探测器。该板配备全面的STM
    无言的朝圣 2025-05-13 09:47 29浏览
  •   定制软件开发公司推荐清单   在企业数字化转型加速的2025年,定制软件开发需求愈发多元复杂。不同行业、技术偏好与服务模式的企业,对开发公司的要求大相径庭。以下从技术赛道、服务模式及行业场景出发,为您提供适配的定制软件开发公司推荐及选择建议。   华盛恒辉科技有限公司:是一家专注于高端软件定制开发服务和高端建设的服务机构,致力于为企业提供全面、系统的开发制作方案。在部队政企开发、建设到运营推广领域拥有丰富经验,在教育,工业,医疗,APP,管理,商城,人工智能,部队软件、工业软件、数字化转
    华盛恒辉l58ll334744 2025-05-12 15:55 271浏览
  •   电磁数据展示系统平台解析   北京华盛恒辉电磁数据展示系统平台是实现电磁数据高效展示、分析与管理的综合性软件体系,以下从核心功能、技术特性、应用场景及发展趋势展开解读:   应用案例   目前,已有多个电磁数据展示系统在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润电磁数据展示系统。这些成功案例为电磁数据展示系统的推广和应用提供了有力支持。   一、核心功能模块   数据采集与预处理   智能分析处理   集成频谱分析、时频变换等信号处理算法,自动提取时域频域特征;
    华盛恒辉l58ll334744 2025-05-13 10:20 151浏览
  • 【拆解】+CamFi卡菲单反无线传输器拆解 对于单反爱好者,想要通过远程控制自拍怎么办呢。一个远程连接,远程控制相机拍摄的工具再合适不过了。今天给大伙介绍的是CamFi卡菲单反无线传输器。 CamFi 是专为数码单反相机打造的无线传输控制器,自带的 WiFi 功能(无需手机流量),不但可通过手机、平板、电脑等设备远程连接操作单反相机进行拍摄,而且还可实时传输相机拍摄的照片到 iPad 和电视等大屏设备进行查看和分享。 CamFi 支持大部分佳能和尼康单反相机,内置可充电锂离子电池,无需相机供电。
    zhusx123 2025-05-11 14:14 284浏览
  • 文/Leon编辑/cc孙聪颖‍2025年1月至今,AI领域最出圈的除了DeepSeek,就是号称首个“通用AI Agent”(智能体)的Manus了,其邀请码一度被炒到8万元。很快,通用Agent就成为互联网大厂、AI独角兽们的新方向,迅速地“卷”了起来。国外市场,Open AI、Claude、微软等迅速推出Agent产品或构建平台,国内企业也在4月迅速跟进。4月,字节跳动、阿里巴巴、百度纷纷入局通用Agent市场,主打复杂的多任务、工作流功能,并对个人用户免费。腾讯则迅速更新腾讯元器的API接
    华尔街科技眼 2025-05-12 22:29 35浏览
  • 在印度与巴基斯坦的军事对峙情境下,歼10C的出色表现如同一颗投入平静湖面的巨石,激起层层涟漪,深刻印证了“质量大于数量”这一铁律。军事领域,技术优势就是决定胜负的关键钥匙。歼10C凭借先进的航电系统、强大的武器挂载能力以及卓越的机动性能,在战场上大放异彩。它能够精准捕捉目标,迅速发动攻击,以一敌多却毫不逊色。与之形成鲜明对比的是,单纯依靠数量堆砌的军事力量,在面对先进技术装备时,往往显得力不从心。这一现象绝非局限于军事范畴,在当今社会的各个领域,“质量大于数量”都已成为不可逆转的趋势。在科技行业
    curton 2025-05-11 19:09 218浏览
我要评论
0
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦