GTC24|面向无限可扩展的高性能AI网络会议

原创英伟达NVIDIA中国 2024-02-26 20:50

【TI资料】专为高压系统设计的新型MCU 如何提升高压系统的实时性能?

GTC 2024 大会高性能 AI 网络会议专场将于 3 月 19 日下午 14:00 在线举办。本场会议是 NVIDIA 针对涉及数据中心管理、网络架构设计、AI 计算平台开发和维护等专业人士举办的中文演讲专场。

数据中心已成为新的计算单元，网络定义现代数据架构的趋势已经明朗，网络决定了数据中心的总性能和扩展性，这需要全新的网络规范，才能满足 AI 工作负载的无限算力需求。

在此，我们将深入探讨 AI 网络的核心技术实现及其正在发挥的重要作用，重构以数据中心为计算单元的全新 AI 计算平台。

会议代码：[SE62701]

时间：3 月 19 日 14:00 - 17:00

演讲嘉宾及主要话题：

大计算时代的网络

宋庆春 | NVIDIA 网络亚太区高级总监

话题介绍：大模型的普及，标志着大计算时代的来临。以 AI 工厂和生成式 AI 云为代表的新型数据中心成为了算力的主要来源，极致的性能成为了构建数据中心的第一关注点，网络成为了决定数据中心性能的关键。如何衡量基于 AI 服务的数据中心的性能，MLPerf 提供了从训练到推理、再到推荐的完整验证方案。如何快速、高效地构建高性能数据中心，NVIDIA 数据孪生技术提供了创新的思路和实现。欢迎一起探讨如何在这个大计算的时代构建和验证高性能的算力中心。

NVIDIA 高效网络方案助力大模型应用

冯高锋 | NVIDIA 网络技术市场高级总监

话题介绍：风起云涌的大模型训练需要规模较大的 GPU 集群来提供强大的算力支撑，而算力的增长和并行效率的提升则与高速网络的 IO 能力息息相关。随着大模型的发展和生成式 AI 在各个行业的深入应用，网络通信的特征也在逐渐变化。针对这些需求和变化，NVIDIA 端到端的 InfiniBand 网络提供了原生 RDMA 的能力，并且推陈出新开发了强大的网络计算能力，大幅度加速 GPU 集群的 IO 能力，为大模型应用在万卡规模的超大规模集群上训练提供了强有力的性能保障。

NVIDIA Spectrum-X 构建以太网为底座拥有极致性能的 AI 集群

陈龙 | NVIDIA 网络市场开发总监

话题简介：以太网生态广泛，是互联网时代主要的数据中心互连的首选方案，但在以 Transformer 大模型为背景的 AI 时代，传统以太网的弊端不能有效应对大规模性 AI 集群超高速互连的需求，Spectrum-X 以全新的端到端的方案依靠 NVIDIA 强大的网络设计能力，使用 400Gbps 的 SuperNIC 和 NVIDIA Spectrum-4 51.2Tbps 以太网交换机，端到端支持了创新性的动态路技术和可编程拥塞控制技术，由面向以以太网为底座的数据中心场景，打造高性能能力网络互连方案，相比传统以太网方案提升 60% 的性能，释放 AI 集群的强大算力。

DPU 裸金属在大模型场景的应用

王晓慧 | UCloud 计算产品中心研发总监

话题介绍：随着云计算和云服务在各行各业的广泛应用，企业都追求云规模效率以提升性能和可扩展性。在此背景下，硬件加速器 DPU 应运而生。DPU 具备强大的加速能力，实现软件定义的网络、存储和安全，不仅能满足最严格的性能要求，还能应对最苛刻的工作负载。UCloud 已有成功案例证明 DPU 在云主机和裸金属产品中的应用效果显著。未来，DPU 将为云端 AI 大模型的应用提供有力支撑。