2023云栖大会圆满收官，与NVIDIA共赏高光时刻！

11 月 1 日，来自 NVIDIA 和阿里云的资深技术专家，齐聚“NVIDIA 加速计算 创造生成式 AI 新时代”聚合话题演讲，分享 LLM 的全栈 AI 开发方案及开发者工具和服务。

NVIDIA 解决方案架构与工程总监王淼、NVIDIA 解决方案架构师翟健、NVIDIA 产品研发总监周国峰、阿里云资深算法专家黄俊、阿里云高级技术专家张杰、NVIDIA 解决方案架构师高慧怡、NVIDIA GPU 计算专家薛博陽、NVIDIA GPU 计算专家颜子杰、NVIDIA GPU 性能架构师樊士庆，依次发表精彩的专题演讲。

NVIDIA 技术专家围绕大语言模型（LLM）主题，分享了 NVIDIA 端到端的数据中心级全栈 AI 和加速计算解决方案和软件全栈与行业解决方案更新概览，介绍了 NVIDIA 最新发布的开源大型语言模型推理加速库 TensorRT-LLM 的产品定位、基本功能和使用方法，全新 GPU 架构下的重要特性 FP8 训练与推理和相应软件解决方案 Transformer Engine，以及 NVIDIA Megatron Core 对下一代大规模 LLM / MoE  训练的支持。同时，阿里云的技术专家也分享了阿里云人工智能平台 PAI (Platform of AI) 团队研发的 Pai-Megatron-Patch，以 NVIDIA Megatron-LM 为核心开发的灵骏集群训练 LLM 的一站式工具箱，以及其自主研发的大规模模型 RLHF 高效训练框架 PAI-ChatLearn 的架构、性能，和如何基于 Megatron 进行高效 RLHF 训练。

精彩内容令人应接不暇！另有 3 场干货十足的演讲为 2023 云栖大会注入了 NVIDIA 特色的技术灵感。

11 月 2 日，NVIDIA GPU、CUDA 应用市场总监侯宇涛应阿里云天池邀请，在云栖 SHOW 场-云上开发者大赛专场，以 “引领技术，推动应用” 为主题做专题分享，引导和鼓励开发者学习 NVIDIA GPU 加速和优化技术，并和阿里云开发者关系总监孟晋宇共同发布了 3 个联合举办的 AI 算法开发大赛。

NVIDIA 在展区空间内带来了众多采用 NVIDIA AI 技术的客户案例，包括 NVIDIA TensorRT-LLM 如何帮助蚂蚁团队优化开源代码大模型 CodeFuse 的推理加速、NVIDIA GPU 及 NVIDIA Clara™ Parabricks® 如何为阿里云金融与医疗行业提供最佳的解决方案，包含开箱即用的魔搭开源模型和灵积模型服务高效 GPU 优化、Megatron 加速通义大模型训练，确保训练性能在大集群上的可扩展性、基于 NVIDIA Megatron 开发的深度学习大语言模型工具等丰富内容。

此外，NVIDIA 还展示了加速基础设施、AI 软件、模型和服务的加速计算解决方案，包括 NVIDIA 加速的基础设施、InfiniBand 网络计算端到端解决方案、NVIDIA AI Enterprise、AI Models and Foundries 等生成式 AI 技术底座、AI Playground 生成式 AI 互动体验等。

现场观众跟随精彩讲解做笔记划重点，讲解结束更积极与技术大咖们交流探讨，仿佛每个人都在 NVIDIA 的 AI 小课堂上完成了一次“版本升级”。

展位现场的动手体验环节更是圈粉无数！

利用人工智能技术实现 Jetbot 自动驾驶小车避障功能的动手体验活动，在展位现场人气爆棚。开发者踊跃尝试、积极动手，体验了 NVIDIA 计算机视觉 AI 技术在避障和路径优化场景的应用。

Full-Stack 语音 AI 开发全流程动手编程体验同样人气满满，开发者经过学习当场实现了借助 NVIDIA NeMo 工具库结合中文语音数据训练，基于 Jetson 嵌入式平台来完成中文 ASR 功能的开发。