2023云栖大会:NVIDIAAI日程攻略先睹为快

原创 英伟达NVIDIA中国 2023-10-26 21:45

2023 云栖大会开幕在即,

10 月 31 日 - 11 月 2 日,

NVIDIA 将前往杭州云栖小镇

赴约科技盛会,

带来围绕大模型、端到端网络解决方案、

生成式 AI、“她力量”、AI 公益、

科研智算、AI 开发者主题的并行话题演讲、

全栈 AI 和加速计算展区、

AI 开发者实战小课堂、

有奖互动等一系列精彩内容!

本文带您抢先开启剧透环节!


✦  +

+

亮点一

精彩演讲纷至沓来,

多维度解读 AI 开发和应用


10 月 31 日

聚合话题演讲 - “无畏·无限”新女性新机遇

演讲主题:AI 女性“进化论”:追光而行、全力奔跑

时间:13:55 - 14:05

点:B 馆 B3 - 5 蔚云厅



演讲人:刘念宁,NVIDIA 全球副总裁 


在主题为“无畏·无限”新女性新机遇的聚合话题演讲,NVIDIA 全球副总裁刘念宁将与现场观众剖析科技女性群像,激励女性在加速计算和生成式 AI 的全新时代中释放无限可能,在实现进化与成长的同时,寻找 AI 的星辰大海。


10 月 31 日

聚合话题演讲 - 可预期网络 - Al Infra 

演讲主题:适用于 AI 的网络基础设施

时间:14:30 - 14:50 

点:D2 - 1 会场  



演讲人:Gilad Shainer,

NVIDIA 网络与高性能计算高级副总裁


现代数据中心已成为计算单元,而网络架构对于定义其功能至关重要。人工智能平台依赖于各种网络才能有效运行,包括:计算网络,负责高速数据处理;存储网络,提供对大量数据集的访问;此外还有管理网络。这些网络的特性直接影响人工智能工作负载的效率以及可以提供 AI 服务的范围。


在本演讲中,NVIDIA 网络与高性能计算高级副总裁 Gilad Shainer 将与您深入探讨人工智能网络的复杂性,探索正在发挥作用的各种技术及其对现代数据中心的影响,阐明网络技术如何塑造人工智能的格局。


11 月 1 日

聚合话题演讲 - NVIDIA 加速计算创造生成式 AI 新时代

地点:B 馆 B3 - 1 德云厅

大会第二天上午,聚合话题演讲将以大语言模型(LLM)为主题,综述 NVIDIA 端到端的数据中心级全栈 AI 和加速计算解决方案,并邀请阿里云人工智能平台 PAI 团队分享其自主研发、基于 NVIDIA 软硬件技术栈的大模型开发一站式工具箱和大规模 RLHF 高效训练框架。更别错过演讲最后的 NVIDIA GPU 幸运抽奖机会!


9:15 - 9:45 >> 

构建面向生成式 AI 的 NVIDIA 端到端解决方案

演讲人:王淼,NVIDIA 解决方案架构与工程总监 


您将了解到 NVIDIA 如何端到端的加速生成式 AI,从 GPU / DPU / CPU、网络、超级计算机到 Base Command™,助力相关创新创业。

9:45 - 10:15 >> 

面向 LLM 的软件方案及 

NVIDIA 软件全栈与行业解决方案更新概览

演讲人:翟健,NVIDIA 解决方案架构师 


演讲将介绍 NVIDIA 在大语言模型(LLM)领域中的解决方案更新,同时还会涵盖 NVIDIA GPU 上的软件全栈及解决方案的更新情况,包括 NVIDIA® CUDA®,深度学习(DL)框架,企业级软件支持,数字孪生软件及通用行业解决方案。

10:15 - 10:45 >> 

NVIDIA TensorRT-LLM 介绍

演讲人:周国峰,NVIDIA 产品研发总监 


您将了解到 NVIDIA 针对大语言模型(LLM)推理方案 TensorRT-LLM,包括 TensorRT-LLM 的定位,基本功能和使用方法。

10:45 - 11:00 >> 

PAI-Megatron-Patch:灵骏集群训练 LLMs 的一站式工具箱

演讲人:黄俊,阿里云资深算法专家 


Pai-Megatron-Patch 工具是阿里云人工智能平台 PAI 算法团队研发,基于阿里云智算服务 PAI - 灵骏平台的大模型最佳实践解决方案配套工具,旨在帮助大模型开发者快速上手灵骏产品,完成大语言模型(LLM)的高效分布式训练,有监督指令微调,模型离线推理验证等完整大模型开发链路。该项目提供了业界主流开源大模型基于 Megatron-LM 的训练 & 离线推理验证流程,方便用户快速上手大模型训练。本演讲对 Pai-Megatron-Patch 的架构,功能,使用方式等进行简要的介绍。

11:00 - 11:15 >> 

PAI-ChatLearn:灵活易用、大规模 RLHF 高效训练框架

演讲人:王林,阿里云高级技术专家 


PAI-ChatLearn 是阿里云人工智能平台 PAI 团队自主研发,灵活易用、大规模模型 RLHF 高效训练框架。支持大模型进行 SFT(有监督指令微调)、RM(奖励模型)、RLHF(基于人类反馈的强化学习)完整训练流程。PAI-ChatLearn 支持使用 NVIDIA Megatron 作为模型定义和训练的 backend,支持大规模(175B + 175B)模型的 RLHF 训练。本演讲对 PAI-ChatLearn 的架构、性能、以及基于 NVIDIA Megatron 如何进行高效 RLHF 训练等进行简要的介绍。

11:15 - 11:45 >> 

全新 GPU 架构下的 FP8 训练与推理

演讲人:高慧怡,NVIDIA 解决方案架构师、薛博陽,NVIDIA GPU 计算专家 


介绍最新 NVIDIA Hopper GPU 架构:FP8。具体介绍 FP8 在大语言模型上的训练与推理的相关工作,以及相应的软件解决方案 Transformer Engine。

11:45 - 12:25 >> 

下一代大规模 LLM / MoE 训练系统基座 - NVIDIA Megatron Core

演讲人:颜子杰,NVIDIA GPU 计算专家、樊士庆,NVIDIA GPU 性能架构师


演讲将为您介绍 NVIDIA Megatron Core 的设计、定位以及优化,其中会重点介绍对大规模 MoE 预训练的支持。


11 月 1 - 2 日

NVIDIA 科学智能(AI4S)、生成式 AI、开发者社群合作话题分享


此外,共有三场 NVIDIA 技术演讲将在 B 馆风云厅C 馆云栖 SHOW 场 相继精彩上演,无论是 AI 赋能科学发现还是开发者深度内容,又或者是生成式 AI 加速训练、调优及部署,必定会带给您不一样的技术启发!


演讲主题:NVIDIA 科学智能(AI4S)赋能科学发

时间:11 月 1 日 10:00 - 10:15

地点:C 馆云栖 SHOW 场



演讲人:李顺,NVIDIA 教科研应用技术总监


想知道 NVIDIA 支持 AI for Science(AI4S)的技术框架?想了解相关技术在生命科学、气象和流体力学中的应用案例?好奇 NVIDIA 如何对中国科研 AI4S 应用提供生态支持?以及现场将有 NVIDIA 和阿里云合作的 AI for Science 训练营和 Hackathon 的相关信息。别错过本场演讲!

演讲主题:NVIDIA 生成式 AI 加速优化方案概览

时间:11 月 1 日 16:00 - 16:20

地点:B 馆 B3 - 2 风云厅



演讲人:金国强,NVIDIA 解决方案架构师


演讲将介绍 NVIDIA 数据中心 GPU 在大语言模型及图像生成领域的强大性能,结合 NeMo™ Framework / TensorRT™ / TensorRT-LLM / Triton™ 推理服务器等软件 SDK 和框架极致加速生成 AI 的训练、微调和推理部署等成熟解决方案,极大提升 AI 应用吞吐量降低延迟,缩短研发周期减小成本。您还将了解到基于阿里达摩院视频生成算法的 NVIDIA 全流程优化加速的解决方案 pipeline,为视频生成领域的应用打好坚实的基础。

演讲主题:引领技术,推动应用

时间:11 月 2 日 11:30 - 11:45

地点:C 馆云栖 SHOW 场



演讲人:侯宇涛,NVIDIA GPU、CUDA 应用市场总监


云上开发者大赛专场,NVIDIA GPU、CUDA 应用市场总监侯宇涛将分享 NVIDIA 与阿里云天池在助力开发者成长和推动 AI 技术应用方面的举措。当然,现场还有 NVIDIA 和阿里云合作的开发者新赛事消息,期待大家的关注!

✦  +

+

亮点二

NVIDIA 全栈 AI 和加速计算展区


1

数据中心规模全栈 AI 展示,

准备就绪加速

NVIDIA 展区将带来采用 NVIDIA AI 技术的客户案例展示。包括 NVIDIA TensorRT-LLM 如何帮助蚂蚁团队优化开源的代码大模型 CodeFuse 的推理加速、NVIDIA GPU 及 NVIDIA Clara™ Parabricks® 如何为阿里云金融与医疗行业提供最佳的解决方案,包含开箱即用的魔搭开源模型和灵积模型服务高效 GPU 优化、Megatron 加速通义大模型训练,确保训练性能在大集群上的可扩展性、基于 NVIDIA Megatron 开发的深度学习大语言模型工具等丰富内容。


此外,NVIDIA 展区也将展示加速基础设施、AI 软件、模型和服务的加速计算解决方案,包括 NVIDIA 加速的基础设施、InfiniBand 网络计算端到端解决方案、NVIDIA AI Enterprise、AI Models and Foundries 等生成式 AI 技术底座、AI Playground 生成式 AI 互动体验等。而 NVIDIA 也正在为各行各业的 3D 创意工作流提供助力,使用户能够以前所未有的方式进行协作和创新。因此,在 AI 互动展示区域,我们也将带来基于 NVIDIA Omniverse™、CloudXR™、RTX™ 等技术分享,期待与您一同探讨数字世界的无限可能。


旨在培养颠覆行业格局的优秀创业公司的 NVIDIA 初创加速计划,展示内容也将于现场开放,欢迎想要获得产品折扣、技术支持、市场宣传、融资对接、业务推荐等一系列服务、加速发展的优秀创业公司,前来了解。


2

AI 小课堂即将开讲

敲黑板!专为开发者打造的必学课堂,连续 3 天课程内容看点满满!


上下滑动查看每日“课表”

10 月 31 日


_

时间

课程

10:00 - 10:30

利用 NVIDIA® BlueField®-3 DPU 构建云

10:30 - 10:45

NVIDIA AI Enterprise 全面助力生成式 AI 全栈开发

11:00 - 11:30

NVIDIA Spectrum-X 平台助力生成式 AI 云服务

13:00 - 13:30

基于 LLM 大模型构建中文对话引擎:NeMo + ChatGLM

14:00 - 14:30

生成式 AI 应用实践:文字生成图像的代码实现流程

15:00 - 15:30

合成数据应用初探 —— 图像分类数据集的制作案例

11 月 1 日


_

时间

课程

10:00 - 10:30

NVIDIA Spectrum-X 平台助力生成式 AI 云服务

10:30 - 10:45

NVIDIA AI Enterprise 全面助力生成式 AI 全栈开发

11:00 - 11:30

利用 NVIDIA BlueField-3 DPU 构建云

13:00 - 13:30

基于 LLM 大模型构建中文对话引擎:NeMo + ChatGLM

14:00 - 14:30

生成式 AI 应用实践:文字生成图像的代码实现流程

15:00 - 15:30

合成数据应用初探 —— 图像分类数据集的制作案例

11 月 2 日


_

时间

课程

10:00 - 10:30

利用 NVIDIA BlueField-3 DPU 构建云

11:00 - 11:30

基于 LLM 大模型构建中文对话引擎:NeMo + ChatGLM

13:00 - 13:30

生成式 AI 应用实践:文字生成图像的代码实现流程

14:00 - 14:30

合成数据应用初探 —— 图像分类数据集的制作案例

15:00 - 15:30

合成数据应用初探 —— 图像分类数据集的制作案例


主讲人划重点:


✔ NVIDIA AI Enterprise 全面助力生成式 AI 全栈开发


NVIDIA AI Enterprise 提供支持的企业级软件,它能够加速数据科学,并简化生产就绪型生成式 AI、计算机视觉和语音应用。在本课程中,我们将介绍如何借助 NVIDIA AI Enterprise 软件平台,加速 AI 开发和部署,保障性能、高可用和安全性。


—— 崔晓楠,NVIDIA 开发者发展经理


✔ 基于 LLM 大模型构建中文对话引擎:NeMo + ChatGLM


本课程将 NeMo 与 ChatGLM 相结合,构建中文场景下“能听、能想、能说”的对话引擎,降低对话式人工智能和 LLM 大语言模型的使用门槛,快速了解对话式人工智能的搭建流程。


—— 李奕澎,NVIDIA 企业开发者社区经理


✔ 生成式 AI 应用实践:一个文字生成图像的代码实现流程


你将了解到生成式 AI 模型 Stable Diffusion 的基本原理以及 TensorRT 推理引擎的工作原理等内容,希望在此学习过程中找到跟踪 AI 发展的灵感,并鼓励你进行更多的实践和探索。


—— 何琨,NVIDIA 企业开发者社区高级经理


✔ 合成数据应用初探——图像分类数据集的制作案例


本课程将带你了解合成数据生成工具 NVIDIA Omniverse Code 和 Omniverse Replicator,同时还有 Jetbot 小车自动避障四分类数字场景的 Python 代码实现思路。


—— 侯宇涛,NVIDIA GPU、CUDA 应用市场总监


✔ 利用 NVIDIA BlueField-3 DPU 构建云


作为 AI 工厂和生成式人工智能云两种数据中心网络设计范例中,NVIDIA BlueField-3 DPU 实现了数据中心基础设施软件的大量加速计算,虚拟化、网络、安全、存储及数据的处理、控制、编排也将在  NVIDIA BlueField-3 DPU 上得到加速和处理。我们将深入探讨 NVIDIA BlueField-3 DPU 在云环境和云应用中的广泛作用与核心价值。


—— 崔岩,NVIDIA 网络技术专家


✔ NVIDIA Spectrum-X™ 平台助力生成式 AI 云服务


NVIDIA Spectrum-X 是首个专为基于以太网的 AI 云提高性能和效率而设计的平台,依托于 NVIDIA Spectrum™-4 以太网交换机和 NVIDIA BlueField-3 DPU 的紧密结合,在多租户环境中实现了一致的、可预测的性能,并提高生成式 AI 云的能效。我们将深入探讨 NVIDIA Spectrum-X 网络平台的动态路由、拥塞控制和性能隔离等特性。


—— 孟庆,NVIDIA 网络市场总监


3

开发者体验活动,即刻预约动手乐趣

大会期间,在 NVIDIA 展台亲自动手,收获有趣有料的科技体验!戳链接即可报名,提前预约参与开发者体验活动。


体验活动 1:动手实验——利用人工智能

技术实现 Jetbot 自动驾驶小车避障功能


扫描下方二维码报名预约体验活动 1 

NVIDIA Jetbot 将帮助您学习如何利用最新的人工智能技术实现避障过程,感受自动驾驶技术的重要组成部分!





2022 云栖大会现场体验活动精彩瞬间


体验活动 2:动手编程——体验 

Full-Stack 语音 AI 开发全流程

扫描下方二维码报名预约体验活动 2 

结合 Jetson 嵌入式平台以及 NVIDIA NeMo 工具库,您将体验到端到端、交互式全栈语音 AI 开发全流程。有 NLP 和语音 AI 开发需求的开发者一定不要错过。


✦  +

+

亮点三

参会赢好礼:NVIDIA 独家限量秘笈


活动期间,光临 NVIDIA 展台及 AI 小课堂,将有机会获取首部 NVIDIA DPU 编程入门书籍!



剧透就先到这里啦!


觉得意犹未尽?

那就收好这份 NVIDIA 的

 2023 云栖大会日程攻略,

往活动现场或线上云端参会,

亲自解锁大会亮点吧!



GTC 2024 将于 2024 年 3 月 18 至 21 日在美国加州圣何塞会议中心举行,线上大会也将同期开放。点击 “阅读原文” 扫描下方海报二维码,关注更多会议及活动信息。


评论
  •         温度传感器的精度受哪些因素影响,要先看所用的温度传感器输出哪种信号,不同信号输出的温度传感器影响精度的因素也不同。        现在常用的温度传感器输出信号有以下几种:电阻信号、电流信号、电压信号、数字信号等。以输出电阻信号的温度传感器为例,还细分为正温度系数温度传感器和负温度系数温度传感器,常用的铂电阻PT100/1000温度传感器就是正温度系数,就是说随着温度的升高,输出的电阻值会增大。对于输出
    锦正茂科技 2024-12-03 11:50 112浏览
  • 作为优秀工程师的你,已身经百战、阅板无数!请先醒醒,新的项目来了,这是一个既要、又要、还要的产品需求,ARM核心板中一个处理器怎么能实现这么丰富的外围接口?踌躇之际,你偶阅此文。于是,“潘多拉”的魔盒打开了!没错,USB资源就是你打开新世界得钥匙,它能做哪些扩展呢?1.1  USB扩网口通用ARM处理器大多带两路网口,如果项目中有多路网路接口的需求,一般会选择在主板外部加交换机/路由器。当然,出于成本考虑,也可以将Switch芯片集成到ARM核心板或底板上,如KSZ9897、
    万象奥科 2024-12-03 10:24 68浏览
  • 概述 说明(三)探讨的是比较器一般带有滞回(Hysteresis)功能,为了解决输入信号转换速率不够的问题。前文还提到,即便使能滞回(Hysteresis)功能,还是无法解决SiPM读出测试系统需要解决的问题。本文在说明(三)的基础上,继续探讨为SiPM读出测试系统寻求合适的模拟脉冲检出方案。前四代SiPM使用的高速比较器指标缺陷 由于前端模拟信号属于典型的指数脉冲,所以下降沿转换速率(Slew Rate)过慢,导致比较器检出出现不必要的问题。尽管比较器可以使能滞回(Hysteresis)模块功
    coyoo 2024-12-03 12:20 119浏览
  • 11-29学习笔记11-29学习笔记习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-02 23:58 73浏览
  • 光伏逆变器是一种高效的能量转换设备,它能够将光伏太阳能板(PV)产生的不稳定的直流电压转换成与市电频率同步的交流电。这种转换后的电能不仅可以回馈至商用输电网络,还能供独立电网系统使用。光伏逆变器在商业光伏储能电站和家庭独立储能系统等应用领域中得到了广泛的应用。光耦合器,以其高速信号传输、出色的共模抑制比以及单向信号传输和光电隔离的特性,在光伏逆变器中扮演着至关重要的角色。它确保了系统的安全隔离、干扰的有效隔离以及通信信号的精准传输。光耦合器的使用不仅提高了系统的稳定性和安全性,而且由于其低功耗的
    晶台光耦 2024-12-02 10:40 120浏览
  • 遇到部分串口工具不支持1500000波特率,这时候就需要进行修改,本文以触觉智能RK3562开发板修改系统波特率为115200为例,介绍瑞芯微方案主板Linux修改系统串口波特率教程。温馨提示:瑞芯微方案主板/开发板串口波特率只支持115200或1500000。修改Loader打印波特率查看对应芯片的MINIALL.ini确定要修改的bin文件#查看对应芯片的MINIALL.ini cat rkbin/RKBOOT/RK3562MINIALL.ini修改uart baudrate参数修改以下目
    Industio_触觉智能 2024-12-03 11:28 87浏览
  • 最近几年,新能源汽车愈发受到消费者的青睐,其销量也是一路走高。据中汽协公布的数据显示,2024年10月,新能源汽车产销分别完成146.3万辆和143万辆,同比分别增长48%和49.6%。而结合各家新能源车企所公布的销量数据来看,比亚迪再度夺得了销冠宝座,其10月新能源汽车销量达到了502657辆,同比增长66.53%。众所周知,比亚迪是新能源汽车领域的重要参与者,其一举一动向来为外界所关注。日前,比亚迪汽车旗下品牌方程豹汽车推出了新车方程豹豹8,该款车型一上市就迅速吸引了消费者的目光,成为SUV
    刘旷 2024-12-02 09:32 119浏览
  • 当前,智能汽车产业迎来重大变局,随着人工智能、5G、大数据等新一代信息技术的迅猛发展,智能网联汽车正呈现强劲发展势头。11月26日,在2024紫光展锐全球合作伙伴大会汽车电子生态论坛上,紫光展锐与上汽海外出行联合发布搭载紫光展锐A7870的上汽海外MG量产车型,并发布A7710系列UWB数字钥匙解决方案平台,可应用于数字钥匙、活体检测、脚踢雷达、自动泊车等多种智能汽车场景。 联合发布量产车型,推动汽车智能化出海紫光展锐与上汽海外出行达成战略合作,联合发布搭载紫光展锐A7870的量产车型
    紫光展锐 2024-12-03 11:38 103浏览
  • TOF多区传感器: ND06   ND06是一款微型多区高集成度ToF测距传感器,其支持24个区域(6 x 4)同步测距,测距范围远达5m,具有测距范围广、精度高、测距稳定等特点。适用于投影仪的无感自动对焦和梯形校正、AIoT、手势识别、智能面板和智能灯具等多种场景。                 如果用ND06进行手势识别,只需要经过三个步骤: 第一步&
    esad0 2024-12-04 11:20 58浏览
  • RDDI-DAP错误通常与调试接口相关,特别是在使用CMSIS-DAP协议进行嵌入式系统开发时。以下是一些可能的原因和解决方法: 1. 硬件连接问题:     检查调试器(如ST-Link)与目标板之间的连接是否牢固。     确保所有必要的引脚都已正确连接,没有松动或短路。 2. 电源问题:     确保目标板和调试器都有足够的电源供应。     检查电源电压是否符合目标板的规格要求。 3. 固件问题: &n
    丙丁先生 2024-12-01 17:37 102浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦