借助DPU开启HPC和超级计算性能的新时代

英伟达NVIDIA中国 2022-10-11 21:07
超级计算机用于建模和模拟科学计算中最复杂的过程,通常是为了洞察新发现,否则这些新发现在物理上是不切实际的或不可能演示的。

NVIDIA BlueField DPU(数据处理器)正在将高性能计算(HPC)资源转化为更高效的系统,同时在从数学建模和分子动力学到天气预报、气候研究,甚至可再生能源的广泛科学研究中加速解决问题。


BlueField 已经在云网络、网络安全、通信和边缘计算领域产生了显著影响。此外,在高性能计算的多个领域引发了应用程序性能和系统效率方面的创新。

NVIDIA BlueField-3 提供了强大的计算能力,其基于多个 Arm AArch64 内核、多线程数据路径加速器、集成的 NVIDIA ConnectX-7 400Gb/s 网络 ,以及 I/O 路径中的各种可编程加速引擎。它配备了双 DDR 6500MT / s DRAM 控制器,并配有高达 32 GB 的板载内存。BlueField-3 是第三代片上数据中心基础设施,可实现从云到核心数据中心再到边缘的、高效且强大的软件定义、硬件加速基础设施。

那么,这一切对高性能计算意味着什么呢?

提高 HPC 应用程序性能和可扩展性


HPC 就是为了提高性能和可扩展性。近二十年来,InfiniBand 网络在性能和应用程序可扩展性方面一直处于领先地位,这有几个原因。

从高层次来看,InfiniBand 只是最有效的数据移动方式:直接数据放置。在数据从网络接口通过系统到达需要它的实际应用程序时,无需涉及 CPU 或操作系统,也无需制作数据的多个副本。

如果 InfiniBand 已经如此高效,BlueField 会带来什么好处?

InfiniBand 多年来一直在解决的关键挑战之一是将网络通信开销从 CPU 移开,使其能够将时间集中在最擅长的事情上:应用程序计算和分支代码。

当今主流服务器中的 CPU 过于通用,在数百或数千个与实际计算几乎无关的进程中共享其计算周期、时间和资源。

BlueField 通过卸载、加速和隔离广泛的高级网络、存储和安全服务,为超级计算带来了前所未有的创新和效率。

为什么人工智能时代带来了

对 BlueField DPU 的需求


人工智能研究领域作为一门学科于 1956 年成立。甚至在那之前的十年,科学家们就开始讨论创造人工大脑的可能性。随着现代计算机硬件和软件的发展,这些概念很晚才成为现实。

2006 年,NVIDIA 推出了业界首个针对 GPU 的 C 编译器开发环境 CUDA ,解决复杂计算问题的速度比传统方法快 100 倍。今天,人工智能成果丰硕,几乎推动了科学研究的每个领域,改变了我们的生活,塑造了工业格局。

同样, 2006 年年中推出了用于非阻塞集合操作的首个提案。为消息传递接口(MPI)的集合组通信功能而提出的非阻塞接口在理论上肯定是成效斐然的。然而,它并没有在许多应用程序中实现。也许这是因为,在引入 DPU 之前,无法实现全部好处。

今天,随着 BlueField-3 的问世,这项技术已经提供了创新、性能和效率所需的基本要素。为了提高应用程序性能和可伸缩性,并消除操作系统抖动的影响,非阻塞集合操作重新引起了人们的兴趣。

科学计算还有几个领域,包括早期的例子,BlueField 正在展示其如何将 HPC 转化为高效和可持续的计算。

通过网络计算节省 CPU 周期


NVIDIA 的 Scalable Hierarchical Aggregation and Reduction Protocol(SHARP)技术通过将许多阻塞集体操作从 CPU 卸载到交换网络,且无需在端点之间多次发送数据,从而提高了 MPI 操作的性能。这种创新的方法减少了到达聚合节点时穿越网络的数据量,并大大减少了 MPI 操作时间。

BlueField 通过利用其 Arm 内核实现非阻塞操作,扩展了额外的网络计算能力。这使系统主机 CPU 能够执行峰值重叠计算。

图 2 显示了一个使用 MVAPICH2- DPU 库的示例,该库正在进行优化,以充分利用 BlueField 的全部潜力。它显示了提取主机上发生的计算与 MPI_Ialltoall 通信之间的峰值重叠的能力。


适用于 HPC 工作负载的计算存储


计算存储(或称为存储计算)为传统存储设备带来了 HPC 功能。在计算存储中,您可以在存储设备内或旁边执行选定的计算任务,从而减轻主机处理负担并减少数据移动。BlueField 提供在单卡上结合存储和网络计算的能力。

BlueField 使存储软件堆栈能够从计算节点卸载,同时还可作为网络架构附加 NVMe 控制器,能够加速关键存储功能,如压缩、校验和计算以及奇偶校验生成。此类服务在并行文件系统中提供。

整个存储系统堆栈在 Linux 内核中透明卸载,同时在 NVMe 目标端由 NVIDIA DOCA 简单实现标准存储功能。

新一代开放存储架构为加速、隔离和保护高性能存储系统提供了一种新的范例。该系统采用硬件和软件协同设计,使 DPU 对用户来说非常高效和透明。

文件系统的加速意味着提高存储系统中关键功能的性能,而存储系统性能是基于深入学习的科学探究的关键促成因素。

将存储客户端和服务器完全卸载到 DPU 的能力带来以前无法实现的安全和性能隔离级别。关键数据平面和控制平面功能移动到 DPU 上的单独域。这样可以免除服务器 CPU 的工作负担,并在 CPU 或其软件受损的情况下保护功能。

NVIDIA DOCA 软件框架


NVIDIA DOCA SDK 是释放 BlueField 潜力的关键。NVIDIA DOCA 和 BlueField DPU 通过一个全面、开放的开发平台,共同实现了应用程序的开发,这些应用程序可以提供突破性的网络、安全、存储和应用程序性能。

NVIDIA DOCA 支持一系列操作系统和发行版,包括驱动程序、库、工具、文档和示例应用程序。即将发布的 NVIDIA DOCA 1.5 和 2.0 版本引入了广泛的网络、存储、安全功能和增强功能,为 HPC 开发人员提供突破性的性能和高级编程能力:

  • 全新的通信通道库
  • 快速访问主机内存以实现 UCX 加速
  • 存储仿真(SNAP),包括存储加密
  • 全新的 NVIDIA DOCA 服务,包括 UCC 卸载服务和遥测服务
  • NVIDIA DOCA 安全 SDK

改变 HPC 领域的今天和明天


许多创新领域已经初露端倪,BlueField DPU 、NVIDIA DOCA 以及社区将继续为 HPC 领域带来改变。

有些想法已经实现了,例如在数据中心范围内增强性能隔离,或增强作业调度程序以实现更智能的作业安排。

由于科学应用程序通常是高度同步的,因此系统噪声对大型 HPC 系统的负面影响可能会对性能产生更大的影响。减少存储等其他过程引起的系统噪音至关重要。

遥测信息功能强大。它不仅仅是收集有关路由器、交换机和网络流量的信息。相反,可以通过工作负载和 I/O 特性收集和共享信息。

AI 框架精确地调整了 NVIDIA Quantum-2 InfiniBand 平台中的性能隔离算法。共享公共数据中心资源(如网络和存储)的多应用程序环境可以确保能实现的最佳性能,就像应用程序作为单个实例在裸机上运行一样。

BlueField DPU 完全有能力应对大规模计算带来的挑战。


GTC23 演讲、海报和培训实验内容征集现已开放!
即刻扫描下方海报二维码,分享您近期取得的成就!


评论
  • 现在为止,我们已经完成了Purple Pi OH主板的串口调试和部分配件的连接,接下来,让我们趁热打铁,完成剩余配件的连接!注:配件连接前请断开主板所有供电,避免敏感电路损坏!1.1 耳机接口主板有一路OTMP 标准四节耳机座J6,具备进行音频输出及录音功能,接入耳机后声音将优先从耳机输出,如下图所示:1.21.2 相机接口MIPI CSI 接口如上图所示,支持OV5648 和OV8858 摄像头模组。接入摄像头模组后,使用系统相机软件打开相机拍照和录像,如下图所示:1.3 以太网接口主板有一路
    Industio_触觉智能 2025-01-20 11:04 189浏览
  • 临近春节,各方社交及应酬也变得多起来了,甚至一月份就排满了各式约见。有的是关系好的专业朋友的周末“恳谈会”,基本是关于2025年经济预判的话题,以及如何稳定工作等话题;但更多的预约是来自几个客户老板及副总裁们的见面,他们为今年的经济预判与企业发展焦虑而来。在聊天过程中,我发现今年的聊天有个很有意思的“点”,挺多人尤其关心我到底是怎么成长成现在的多领域风格的,还能掌握一些经济趋势的分析能力,到底学过哪些专业、在企业管过哪些具体事情?单单就这个一个月内,我就重复了数次“为什么”,再辅以我上次写的:《
    牛言喵语 2025-01-22 17:10 162浏览
  • 2024年是很平淡的一年,能保住饭碗就是万幸了,公司业绩不好,跳槽又不敢跳,还有一个原因就是老板对我们这些员工还是很好的,碍于人情也不能在公司困难时去雪上加霜。在工作其间遇到的大问题没有,小问题还是有不少,这里就举一两个来说一下。第一个就是,先看下下面的这个封装,你能猜出它的引脚间距是多少吗?这种排线座比较常规的是0.6mm间距(即排线是0.3mm间距)的,而这个规格也是我们用得最多的,所以我们按惯性思维来看的话,就会认为这个座子就是0.6mm间距的,这样往往就不会去细看规格书了,所以这次的运气
    wuliangu 2025-01-21 00:15 299浏览
  • 高速先生成员--黄刚这不马上就要过年了嘛,高速先生就不打算给大家上难度了,整一篇简单但很实用的文章给大伙瞧瞧好了。相信这个标题一出来,尤其对于PCB设计工程师来说,心就立马凉了半截。他们辛辛苦苦进行PCB的过孔设计,高速先生居然说设计多大的过孔他们不关心!另外估计这时候就跳出很多“挑刺”的粉丝了哈,因为翻看很多以往的文章,高速先生都表达了过孔孔径对高速性能的影响是很大的哦!咋滴,今天居然说孔径不关心了?别,别急哈,听高速先生在这篇文章中娓娓道来。首先还是要对各位设计工程师的设计表示肯定,毕竟像我
    一博科技 2025-01-21 16:17 151浏览
  • 嘿,咱来聊聊RISC-V MCU技术哈。 这RISC-V MCU技术呢,简单来说就是基于一个叫RISC-V的指令集架构做出的微控制器技术。RISC-V这个啊,2010年的时候,是加州大学伯克利分校的研究团队弄出来的,目的就是想搞个新的、开放的指令集架构,能跟上现代计算的需要。到了2015年,专门成立了个RISC-V基金会,让这个架构更标准,也更好地推广开了。这几年啊,这个RISC-V的生态系统发展得可快了,好多公司和机构都加入了RISC-V International,还推出了不少RISC-V
    丙丁先生 2025-01-21 12:10 493浏览
  •     IPC-2581是基于ODB++标准、结合PCB行业特点而指定的PCB加工文件规范。    IPC-2581旨在替代CAM350格式,成为PCB加工行业的新的工业规范。    有一些免费软件,可以查看(不可修改)IPC-2581数据文件。这些软件典型用途是工艺校核。    1. Vu2581        出品:Downstream     
    电子知识打边炉 2025-01-22 11:12 117浏览
  •  万万没想到!科幻电影中的人形机器人,正在一步步走进我们人类的日常生活中来了。1月17日,乐聚将第100台全尺寸人形机器人交付北汽越野车,再次吹响了人形机器人疯狂进厂打工的号角。无独有尔,银河通用机器人作为一家成立不到两年时间的创业公司,在短短一年多时间内推出革命性的第一代产品Galbot G1,这是一款轮式、双臂、身体可折叠的人形机器人,得到了美团战投、经纬创投、IDG资本等众多投资方的认可。作为一家成立仅仅只有两年多时间的企业,智元机器人也把机器人从梦想带进了现实。2024年8月1
    刘旷 2025-01-21 11:15 633浏览
  • 数字隔离芯片是一种实现电气隔离功能的集成电路,在工业自动化、汽车电子、光伏储能与电力通信等领域的电气系统中发挥着至关重要的作用。其不仅可令高、低压系统之间相互独立,提高低压系统的抗干扰能力,同时还可确保高、低压系统之间的安全交互,使系统稳定工作,并避免操作者遭受来自高压系统的电击伤害。典型数字隔离芯片的简化原理图值得一提的是,数字隔离芯片历经多年发展,其应用范围已十分广泛,凡涉及到在高、低压系统之间进行信号传输的场景中基本都需要应用到此种芯片。那么,电气工程师在进行电路设计时到底该如何评估选择一
    华普微HOPERF 2025-01-20 16:50 119浏览
  • Ubuntu20.04默认情况下为root账号自动登录,本文介绍如何取消root账号自动登录,改为通过输入账号密码登录,使用触觉智能EVB3568鸿蒙开发板演示,搭载瑞芯微RK3568,四核A55处理器,主频2.0Ghz,1T算力NPU;支持OpenHarmony5.0及Linux、Android等操作系统,接口丰富,开发评估快人一步!添加新账号1、使用adduser命令来添加新用户,用户名以industio为例,系统会提示设置密码以及其他信息,您可以根据需要填写或跳过,命令如下:root@id
    Industio_触觉智能 2025-01-17 14:14 142浏览
  • 故障现象 一辆2007款日产天籁车,搭载VQ23发动机(气缸编号如图1所示,点火顺序为1-2-3-4-5-6),累计行驶里程约为21万km。车主反映,该车起步加速时偶尔抖动,且行驶中加速无力。 图1 VQ23发动机的气缸编号 故障诊断接车后试车,发动机怠速运转平稳,但只要换挡起步,稍微踩下一点加速踏板,就能感觉到车身明显抖动。用故障检测仪检测,发动机控制模块(ECM)无故障代码存储,且无失火数据流。用虹科Pico汽车示波器测量气缸1点火信号(COP点火信号)和曲轴位置传感器信
    虹科Pico汽车示波器 2025-01-23 10:46 60浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦