2023云栖大会:NVIDIAAI日程攻略先睹为快

原创 英伟达NVIDIA中国 2023-10-26 21:45

2023 云栖大会开幕在即,

10 月 31 日 - 11 月 2 日,

NVIDIA 将前往杭州云栖小镇

赴约科技盛会,

带来围绕大模型、端到端网络解决方案、

生成式 AI、“她力量”、AI 公益、

科研智算、AI 开发者主题的并行话题演讲、

全栈 AI 和加速计算展区、

AI 开发者实战小课堂、

有奖互动等一系列精彩内容!

本文带您抢先开启剧透环节!


✦  +

+

亮点一

精彩演讲纷至沓来,

多维度解读 AI 开发和应用


10 月 31 日

聚合话题演讲 - “无畏·无限”新女性新机遇

演讲主题:AI 女性“进化论”:追光而行、全力奔跑

时间:13:55 - 14:05

点:B 馆 B3 - 5 蔚云厅



演讲人:刘念宁,NVIDIA 全球副总裁 


在主题为“无畏·无限”新女性新机遇的聚合话题演讲,NVIDIA 全球副总裁刘念宁将与现场观众剖析科技女性群像,激励女性在加速计算和生成式 AI 的全新时代中释放无限可能,在实现进化与成长的同时,寻找 AI 的星辰大海。


10 月 31 日

聚合话题演讲 - 可预期网络 - Al Infra 

演讲主题:适用于 AI 的网络基础设施

时间:14:30 - 14:50 

点:D2 - 1 会场  



演讲人:Gilad Shainer,

NVIDIA 网络与高性能计算高级副总裁


现代数据中心已成为计算单元,而网络架构对于定义其功能至关重要。人工智能平台依赖于各种网络才能有效运行,包括:计算网络,负责高速数据处理;存储网络,提供对大量数据集的访问;此外还有管理网络。这些网络的特性直接影响人工智能工作负载的效率以及可以提供 AI 服务的范围。


在本演讲中,NVIDIA 网络与高性能计算高级副总裁 Gilad Shainer 将与您深入探讨人工智能网络的复杂性,探索正在发挥作用的各种技术及其对现代数据中心的影响,阐明网络技术如何塑造人工智能的格局。


11 月 1 日

聚合话题演讲 - NVIDIA 加速计算创造生成式 AI 新时代

地点:B 馆 B3 - 1 德云厅

大会第二天上午,聚合话题演讲将以大语言模型(LLM)为主题,综述 NVIDIA 端到端的数据中心级全栈 AI 和加速计算解决方案,并邀请阿里云人工智能平台 PAI 团队分享其自主研发、基于 NVIDIA 软硬件技术栈的大模型开发一站式工具箱和大规模 RLHF 高效训练框架。更别错过演讲最后的 NVIDIA GPU 幸运抽奖机会!


9:15 - 9:45 >> 

构建面向生成式 AI 的 NVIDIA 端到端解决方案

演讲人:王淼,NVIDIA 解决方案架构与工程总监 


您将了解到 NVIDIA 如何端到端的加速生成式 AI,从 GPU / DPU / CPU、网络、超级计算机到 Base Command™,助力相关创新创业。

9:45 - 10:15 >> 

面向 LLM 的软件方案及 

NVIDIA 软件全栈与行业解决方案更新概览

演讲人:翟健,NVIDIA 解决方案架构师 


演讲将介绍 NVIDIA 在大语言模型(LLM)领域中的解决方案更新,同时还会涵盖 NVIDIA GPU 上的软件全栈及解决方案的更新情况,包括 NVIDIA® CUDA®,深度学习(DL)框架,企业级软件支持,数字孪生软件及通用行业解决方案。

10:15 - 10:45 >> 

NVIDIA TensorRT-LLM 介绍

演讲人:周国峰,NVIDIA 产品研发总监 


您将了解到 NVIDIA 针对大语言模型(LLM)推理方案 TensorRT-LLM,包括 TensorRT-LLM 的定位,基本功能和使用方法。

10:45 - 11:00 >> 

PAI-Megatron-Patch:灵骏集群训练 LLMs 的一站式工具箱

演讲人:黄俊,阿里云资深算法专家 


Pai-Megatron-Patch 工具是阿里云人工智能平台 PAI 算法团队研发,基于阿里云智算服务 PAI - 灵骏平台的大模型最佳实践解决方案配套工具,旨在帮助大模型开发者快速上手灵骏产品,完成大语言模型(LLM)的高效分布式训练,有监督指令微调,模型离线推理验证等完整大模型开发链路。该项目提供了业界主流开源大模型基于 Megatron-LM 的训练 & 离线推理验证流程,方便用户快速上手大模型训练。本演讲对 Pai-Megatron-Patch 的架构,功能,使用方式等进行简要的介绍。

11:00 - 11:15 >> 

PAI-ChatLearn:灵活易用、大规模 RLHF 高效训练框架

演讲人:王林,阿里云高级技术专家 


PAI-ChatLearn 是阿里云人工智能平台 PAI 团队自主研发,灵活易用、大规模模型 RLHF 高效训练框架。支持大模型进行 SFT(有监督指令微调)、RM(奖励模型)、RLHF(基于人类反馈的强化学习)完整训练流程。PAI-ChatLearn 支持使用 NVIDIA Megatron 作为模型定义和训练的 backend,支持大规模(175B + 175B)模型的 RLHF 训练。本演讲对 PAI-ChatLearn 的架构、性能、以及基于 NVIDIA Megatron 如何进行高效 RLHF 训练等进行简要的介绍。

11:15 - 11:45 >> 

全新 GPU 架构下的 FP8 训练与推理

演讲人:高慧怡,NVIDIA 解决方案架构师、薛博陽,NVIDIA GPU 计算专家 


介绍最新 NVIDIA Hopper GPU 架构:FP8。具体介绍 FP8 在大语言模型上的训练与推理的相关工作,以及相应的软件解决方案 Transformer Engine。

11:45 - 12:25 >> 

下一代大规模 LLM / MoE 训练系统基座 - NVIDIA Megatron Core

演讲人:颜子杰,NVIDIA GPU 计算专家、樊士庆,NVIDIA GPU 性能架构师


演讲将为您介绍 NVIDIA Megatron Core 的设计、定位以及优化,其中会重点介绍对大规模 MoE 预训练的支持。


11 月 1 - 2 日

NVIDIA 科学智能(AI4S)、生成式 AI、开发者社群合作话题分享


此外,共有三场 NVIDIA 技术演讲将在 B 馆风云厅C 馆云栖 SHOW 场 相继精彩上演,无论是 AI 赋能科学发现还是开发者深度内容,又或者是生成式 AI 加速训练、调优及部署,必定会带给您不一样的技术启发!


演讲主题:NVIDIA 科学智能(AI4S)赋能科学发

时间:11 月 1 日 10:00 - 10:15

地点:C 馆云栖 SHOW 场



演讲人:李顺,NVIDIA 教科研应用技术总监


想知道 NVIDIA 支持 AI for Science(AI4S)的技术框架?想了解相关技术在生命科学、气象和流体力学中的应用案例?好奇 NVIDIA 如何对中国科研 AI4S 应用提供生态支持?以及现场将有 NVIDIA 和阿里云合作的 AI for Science 训练营和 Hackathon 的相关信息。别错过本场演讲!

演讲主题:NVIDIA 生成式 AI 加速优化方案概览

时间:11 月 1 日 16:00 - 16:20

地点:B 馆 B3 - 2 风云厅



演讲人:金国强,NVIDIA 解决方案架构师


演讲将介绍 NVIDIA 数据中心 GPU 在大语言模型及图像生成领域的强大性能,结合 NeMo™ Framework / TensorRT™ / TensorRT-LLM / Triton™ 推理服务器等软件 SDK 和框架极致加速生成 AI 的训练、微调和推理部署等成熟解决方案,极大提升 AI 应用吞吐量降低延迟,缩短研发周期减小成本。您还将了解到基于阿里达摩院视频生成算法的 NVIDIA 全流程优化加速的解决方案 pipeline,为视频生成领域的应用打好坚实的基础。

演讲主题:引领技术,推动应用

时间:11 月 2 日 11:30 - 11:45

地点:C 馆云栖 SHOW 场



演讲人:侯宇涛,NVIDIA GPU、CUDA 应用市场总监


云上开发者大赛专场,NVIDIA GPU、CUDA 应用市场总监侯宇涛将分享 NVIDIA 与阿里云天池在助力开发者成长和推动 AI 技术应用方面的举措。当然,现场还有 NVIDIA 和阿里云合作的开发者新赛事消息,期待大家的关注!

✦  +

+

亮点二

NVIDIA 全栈 AI 和加速计算展区


1

数据中心规模全栈 AI 展示,

准备就绪加速

NVIDIA 展区将带来采用 NVIDIA AI 技术的客户案例展示。包括 NVIDIA TensorRT-LLM 如何帮助蚂蚁团队优化开源的代码大模型 CodeFuse 的推理加速、NVIDIA GPU 及 NVIDIA Clara™ Parabricks® 如何为阿里云金融与医疗行业提供最佳的解决方案,包含开箱即用的魔搭开源模型和灵积模型服务高效 GPU 优化、Megatron 加速通义大模型训练,确保训练性能在大集群上的可扩展性、基于 NVIDIA Megatron 开发的深度学习大语言模型工具等丰富内容。


此外,NVIDIA 展区也将展示加速基础设施、AI 软件、模型和服务的加速计算解决方案,包括 NVIDIA 加速的基础设施、InfiniBand 网络计算端到端解决方案、NVIDIA AI Enterprise、AI Models and Foundries 等生成式 AI 技术底座、AI Playground 生成式 AI 互动体验等。而 NVIDIA 也正在为各行各业的 3D 创意工作流提供助力,使用户能够以前所未有的方式进行协作和创新。因此,在 AI 互动展示区域,我们也将带来基于 NVIDIA Omniverse™、CloudXR™、RTX™ 等技术分享,期待与您一同探讨数字世界的无限可能。


旨在培养颠覆行业格局的优秀创业公司的 NVIDIA 初创加速计划,展示内容也将于现场开放,欢迎想要获得产品折扣、技术支持、市场宣传、融资对接、业务推荐等一系列服务、加速发展的优秀创业公司,前来了解。


2

AI 小课堂即将开讲

敲黑板!专为开发者打造的必学课堂,连续 3 天课程内容看点满满!


上下滑动查看每日“课表”

10 月 31 日


_

时间

课程

10:00 - 10:30

利用 NVIDIA® BlueField®-3 DPU 构建云

10:30 - 10:45

NVIDIA AI Enterprise 全面助力生成式 AI 全栈开发

11:00 - 11:30

NVIDIA Spectrum-X 平台助力生成式 AI 云服务

13:00 - 13:30

基于 LLM 大模型构建中文对话引擎:NeMo + ChatGLM

14:00 - 14:30

生成式 AI 应用实践:文字生成图像的代码实现流程

15:00 - 15:30

合成数据应用初探 —— 图像分类数据集的制作案例

11 月 1 日


_

时间

课程

10:00 - 10:30

NVIDIA Spectrum-X 平台助力生成式 AI 云服务

10:30 - 10:45

NVIDIA AI Enterprise 全面助力生成式 AI 全栈开发

11:00 - 11:30

利用 NVIDIA BlueField-3 DPU 构建云

13:00 - 13:30

基于 LLM 大模型构建中文对话引擎:NeMo + ChatGLM

14:00 - 14:30

生成式 AI 应用实践:文字生成图像的代码实现流程

15:00 - 15:30

合成数据应用初探 —— 图像分类数据集的制作案例

11 月 2 日


_

时间

课程

10:00 - 10:30

利用 NVIDIA BlueField-3 DPU 构建云

11:00 - 11:30

基于 LLM 大模型构建中文对话引擎:NeMo + ChatGLM

13:00 - 13:30

生成式 AI 应用实践:文字生成图像的代码实现流程

14:00 - 14:30

合成数据应用初探 —— 图像分类数据集的制作案例

15:00 - 15:30

合成数据应用初探 —— 图像分类数据集的制作案例


主讲人划重点:


✔ NVIDIA AI Enterprise 全面助力生成式 AI 全栈开发


NVIDIA AI Enterprise 提供支持的企业级软件,它能够加速数据科学,并简化生产就绪型生成式 AI、计算机视觉和语音应用。在本课程中,我们将介绍如何借助 NVIDIA AI Enterprise 软件平台,加速 AI 开发和部署,保障性能、高可用和安全性。


—— 崔晓楠,NVIDIA 开发者发展经理


✔ 基于 LLM 大模型构建中文对话引擎:NeMo + ChatGLM


本课程将 NeMo 与 ChatGLM 相结合,构建中文场景下“能听、能想、能说”的对话引擎,降低对话式人工智能和 LLM 大语言模型的使用门槛,快速了解对话式人工智能的搭建流程。


—— 李奕澎,NVIDIA 企业开发者社区经理


✔ 生成式 AI 应用实践:一个文字生成图像的代码实现流程


你将了解到生成式 AI 模型 Stable Diffusion 的基本原理以及 TensorRT 推理引擎的工作原理等内容,希望在此学习过程中找到跟踪 AI 发展的灵感,并鼓励你进行更多的实践和探索。


—— 何琨,NVIDIA 企业开发者社区高级经理


✔ 合成数据应用初探——图像分类数据集的制作案例


本课程将带你了解合成数据生成工具 NVIDIA Omniverse Code 和 Omniverse Replicator,同时还有 Jetbot 小车自动避障四分类数字场景的 Python 代码实现思路。


—— 侯宇涛,NVIDIA GPU、CUDA 应用市场总监


✔ 利用 NVIDIA BlueField-3 DPU 构建云


作为 AI 工厂和生成式人工智能云两种数据中心网络设计范例中,NVIDIA BlueField-3 DPU 实现了数据中心基础设施软件的大量加速计算,虚拟化、网络、安全、存储及数据的处理、控制、编排也将在  NVIDIA BlueField-3 DPU 上得到加速和处理。我们将深入探讨 NVIDIA BlueField-3 DPU 在云环境和云应用中的广泛作用与核心价值。


—— 崔岩,NVIDIA 网络技术专家


✔ NVIDIA Spectrum-X™ 平台助力生成式 AI 云服务


NVIDIA Spectrum-X 是首个专为基于以太网的 AI 云提高性能和效率而设计的平台,依托于 NVIDIA Spectrum™-4 以太网交换机和 NVIDIA BlueField-3 DPU 的紧密结合,在多租户环境中实现了一致的、可预测的性能,并提高生成式 AI 云的能效。我们将深入探讨 NVIDIA Spectrum-X 网络平台的动态路由、拥塞控制和性能隔离等特性。


—— 孟庆,NVIDIA 网络市场总监


3

开发者体验活动,即刻预约动手乐趣

大会期间,在 NVIDIA 展台亲自动手,收获有趣有料的科技体验!戳链接即可报名,提前预约参与开发者体验活动。


体验活动 1:动手实验——利用人工智能

技术实现 Jetbot 自动驾驶小车避障功能


扫描下方二维码报名预约体验活动 1 

NVIDIA Jetbot 将帮助您学习如何利用最新的人工智能技术实现避障过程,感受自动驾驶技术的重要组成部分!





2022 云栖大会现场体验活动精彩瞬间


体验活动 2:动手编程——体验 

Full-Stack 语音 AI 开发全流程

扫描下方二维码报名预约体验活动 2 

结合 Jetson 嵌入式平台以及 NVIDIA NeMo 工具库,您将体验到端到端、交互式全栈语音 AI 开发全流程。有 NLP 和语音 AI 开发需求的开发者一定不要错过。


✦  +

+

亮点三

参会赢好礼:NVIDIA 独家限量秘笈


活动期间,光临 NVIDIA 展台及 AI 小课堂,将有机会获取首部 NVIDIA DPU 编程入门书籍!



剧透就先到这里啦!


觉得意犹未尽?

那就收好这份 NVIDIA 的

 2023 云栖大会日程攻略,

往活动现场或线上云端参会,

亲自解锁大会亮点吧!



GTC 2024 将于 2024 年 3 月 18 至 21 日在美国加州圣何塞会议中心举行,线上大会也将同期开放。点击 “阅读原文” 扫描下方海报二维码,关注更多会议及活动信息。


评论
  • 本文介绍Linux系统更换开机logo方法教程,通用RK3566、RK3568、RK3588、RK3576等开发板,触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。制作图片开机logo图片制作注意事项(1)图片必须为bmp格式;(2)图片大小不能大于4MB;(3)BMP位深最大是32,建议设置为8;(4)图片名称为logo.bmp和logo_kernel.bmp;开机
    Industio_触觉智能 2025-01-06 10:43 87浏览
  • By Toradex 秦海1). 简介嵌入式平台设备基于Yocto Linux 在开发后期量产前期,为了安全以及提高启动速度等考虑,希望将 ARM 处理器平台的 Debug Console 输出关闭,本文就基于 NXP i.MX8MP ARM 处理器平台来演示相关流程。 本文所示例的平台来自于 Toradex Verdin i.MX8MP 嵌入式平台。  2. 准备a). Verdin i.MX8MP ARM核心版配合Dahlia载板并
    hai.qin_651820742 2025-01-07 14:52 40浏览
  • 在智能家居领域中,Wi-Fi、蓝牙、Zigbee、Thread与Z-Wave等无线通信协议是构建短距物联局域网的关键手段,它们常在实际应用中交叉运用,以满足智能家居生态系统多样化的功能需求。然而,这些协议之间并未遵循统一的互通标准,缺乏直接的互操作性,在进行组网时需要引入额外的网关作为“翻译桥梁”,极大地增加了系统的复杂性。 同时,Apple HomeKit、SamSung SmartThings、Amazon Alexa、Google Home等主流智能家居平台为了提升市占率与消费者
    华普微HOPERF 2025-01-06 17:23 141浏览
  • 根据Global Info Research项目团队最新调研,预计2030年全球封闭式电机产值达到1425百万美元,2024-2030年期间年复合增长率CAGR为3.4%。 封闭式电机是一种电动机,其外壳设计为密闭结构,通常用于要求较高的防护等级的应用场合。封闭式电机可以有效防止外部灰尘、水分和其他污染物进入内部,从而保护电机的内部组件,延长其使用寿命。 环洋市场咨询机构出版的调研分析报告【全球封闭式电机行业总体规模、主要厂商及IPO上市调研报告,2025-2031】研究全球封闭式电机总体规
    GIRtina 2025-01-06 11:10 103浏览
  •     为控制片内设备并且查询其工作状态,MCU内部总是有一组特殊功能寄存器(SFR,Special Function Register)。    使用Eclipse环境调试MCU程序时,可以利用 Peripheral Registers Viewer来查看SFR。这个小工具是怎样知道某个型号的MCU有怎样的寄存器定义呢?它使用一种描述性的文本文件——SVD文件。这个文件存储在下面红色字体的路径下。    例:南京沁恒  &n
    电子知识打边炉 2025-01-04 20:04 98浏览
  • 每日可见的315MHz和433MHz遥控模块,你能分清楚吗?众所周知,一套遥控设备主要由发射部分和接收部分组成,发射器可以将控制者的控制按键经过编码,调制到射频信号上面,然后经天线发射出无线信号。而接收器是将天线接收到的无线信号进行解码,从而得到与控制按键相对应的信号,然后再去控制相应的设备工作。当前,常见的遥控设备主要分为红外遥控与无线电遥控两大类,其主要区别为所采用的载波频率及其应用场景不一致。红外遥控设备所采用的射频信号频率一般为38kHz,通常应用在电视、投影仪等设备中;而无线电遥控设备
    华普微HOPERF 2025-01-06 15:29 125浏览
  • 大模型的赋能是指利用大型机器学习模型(如深度学习模型)来增强或改进各种应用和服务。这种技术在许多领域都显示出了巨大的潜力,包括但不限于以下几个方面: 1. 企业服务:大模型可以用于构建智能客服系统、知识库问答系统等,提升企业的服务质量和运营效率。 2. 教育服务:在教育领域,大模型被应用于个性化学习、智能辅导、作业批改等,帮助教师减轻工作负担,提高教学质量。 3. 工业智能化:大模型有助于解决工业领域的复杂性和不确定性问题,尽管在认知能力方面尚未完全具备专家级的复杂决策能力。 4. 消费
    丙丁先生 2025-01-07 09:25 80浏览
  • 村田是目前全球量产硅电容的领先企业,其在2016年收购了法国IPDiA头部硅电容器公司,并于2023年6月宣布投资约100亿日元将硅电容产能提升两倍。以下内容主要来自村田官网信息整理,村田高密度硅电容器采用半导体MOS工艺开发,并使用3D结构来大幅增加电极表面,因此在给定的占位面积内增加了静电容量。村田的硅技术以嵌入非结晶基板的单片结构为基础(单层MIM和多层MIM—MIM是指金属 / 绝缘体/ 金属) 村田硅电容采用先进3D拓扑结构在100um内,使开发的有效静电容量面积相当于80个
    知白 2025-01-07 15:02 66浏览
  • 彼得·德鲁克被誉为“现代管理学之父”,他的管理思想影响了无数企业和管理者。然而,关于他的书籍分类,一种流行的说法令人感到困惑:德鲁克一生写了39本书,其中15本是关于管理的,而其中“专门写工商企业或为企业管理者写的”只有两本——《为成果而管理》和《创新与企业家精神》。这样的表述广为流传,但深入探讨后却发现并不完全准确。让我们一起重新审视这一说法,解析其中的矛盾与根源,进而重新认识德鲁克的管理思想及其著作的真正价值。从《创新与企业家精神》看德鲁克的视角《创新与企业家精神》通常被认为是一本专为企业管
    优思学院 2025-01-06 12:03 113浏览
  • PLC组态方式主要有三种,每种都有其独特的特点和适用场景。下面来简单说说: 1. 硬件组态   定义:硬件组态指的是选择适合的PLC型号、I/O模块、通信模块等硬件组件,并按照实际需求进行连接和配置。    灵活性:这种方式允许用户根据项目需求自由搭配硬件组件,具有较高的灵活性。    成本:可能需要额外的硬件购买成本,适用于对系统性能和扩展性有较高要求的场合。 2. 软件组态   定义:软件组态主要是通过PLC
    丙丁先生 2025-01-06 09:23 83浏览
  • 这篇内容主要讨论三个基本问题,硅电容是什么,为什么要使用硅电容,如何正确使用硅电容?1.  硅电容是什么首先我们需要了解电容是什么?物理学上电容的概念指的是给定电位差下自由电荷的储藏量,记为C,单位是F,指的是容纳电荷的能力,C=εS/d=ε0εrS/4πkd(真空)=Q/U。百度百科上电容器的概念指的是两个相互靠近的导体,中间夹一层不导电的绝缘介质。通过观察电容本身的定义公式中可以看到,在各个变量中比较能够改变的就是εr,S和d,也就是介质的介电常数,金属板有效相对面积以及距离。当前
    知白 2025-01-06 12:04 167浏览
  • 根据环洋市场咨询(Global Info Research)项目团队最新调研,预计2030年全球无人机锂电池产值达到2457百万美元,2024-2030年期间年复合增长率CAGR为9.6%。 无人机锂电池是无人机动力系统中存储并释放能量的部分。无人机使用的动力电池,大多数是锂聚合物电池,相较其他电池,锂聚合物电池具有较高的能量密度,较长寿命,同时也具有良好的放电特性和安全性。 全球无人机锂电池核心厂商有宁德新能源科技、欣旺达、鹏辉能源、深圳格瑞普和EaglePicher等,前五大厂商占有全球
    GIRtina 2025-01-07 11:02 63浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦