2024云栖大会圆满收官:NVIDIA高光时刻精彩回顾

原创 英伟达NVIDIA中国 2024-09-24 19:16


以“云启智跃 · 产业蝶变”为主题的 2024 云栖大会于 9 月 21 日圆满落幕。作为全球加速计算的领导者,NVIDIA 全面参与大会,展示了针对大语言模型(LLM)和生成式 AI 落地的数据中心级端到端技术栈和云上解决方案及用例,生态加速项目,以及生态企业解决方案;NVIDIA 也分享和深入探讨了全栈视角下的加速计算技术和实践,包括系统架构设计、训练与推理工程的加速和成本降低、应用开发范式的创新、云和生态系统的合作等。本文将带您回顾 NVIDIA 在本届云栖大会上的高光时刻。


高光时刻一:

在 NVIDIA 展区一站式领略

基于 CUDA 的全栈加速计算技术


左右滑动,查看更多


今年,NVIDIA 展区由 NVIDIA 加速计算技术、云上解决方案和客户实践、LLM 互动技术演示、初创加速计划、企业开发者社区、深度学习培训中心(DLI)、AI 小课堂七大板块构成,不仅凸显了 NVIDIA 与云和生态的技术合作,也体现了 NVIDIA 引领行业在 AI 应用、软件、算法、集群等各个层面协同创新和持续优化。NVIDIA 加速计算技术展示了包括 NVIDIA RAPIDS™ cuDFNeMo™Megatron-CoreTensorRT-LLMTriton™ 推理服务器NIM 预构建容器工具Spectrum-4 SN5600 网络交换机BlueField®-3 网络平台、基于 NVIDIA Spectrum-4 的阿里云白盒以太网交换机,以及 NVIDIA Omniverse™


左右滑动,查看更多


LLM 互动技术演示区成为了体验生成式 AI 魅力的热门打卡点。大会观众在此体验了由 LLM 驱动的逼真 NPC 交互,可以通过键盘打字、话筒语音输入的方式,用中英文和 NPC 对话,并可以看到其对话时栩栩如生的面部表情;另一个 Stable Diffusion ComfyUI 应用的图像生成技术演示,可以让观众在现场输入自拍照后,仅用数秒,即可获得基于其自拍照的超级英雄图片。


左右滑动,查看更多


紧邻技术演示区,NVIDIA 企业开发者社区NVIDIA 深度学习培训中心(DLI)也吸引了众多观众的目光。此外,一如往年,“NVIDIA AI 小课堂”如期举行,三位 NVIDIA 讲师分别带来“基于 NIM 构建 LLM-RAG 智能检索应用”、“NVIDIA AI 推理加速解决方案”以及“NVIDIA Spectrum-X – 适用于 AI 的下一代以太网”话题,诠释 AI 技术带来的魅力与变革。


左右滑动,查看更多


此外,NVIDIA 展区还展示了云上解决方案和客户用例,包括:


  • 猿辅导集团:Motiff 妙多 AI 时代设计工具,基于 NVIDIA 加速计算,驱动 AI 直接生成产品界面。

  • 吉利集团:极氪浩瀚智驾 2.0 启动端到端大模型,基于 NVIDIA 芯片,打造智驾新体验,自研域控,行车,泊车与主动安全全场景覆盖,城市领航功能全国都能用。

  • 阿里云容器服务(ACK):在阿里云容器服务 ACK 集群上部署 NIM 预构建容器工具,使用其云原生 AI 套件,开源的 KServe 等组件和 Prometheus 监控服务,以及 NIM 提供的丰富监控指标,快速拉起高性能、可实时观测、极致弹性的模型推理服务。

  • 魔搭社区:魔搭社区上线 TensorRT-LLM,支持主流 LLM 推理优化和常用量化方法,并适配不同环境,其中使用 FP8 量化,可获得相比 HuggingFace 基准,最高 8.6 倍的整体推理性能提升。

  • 蚂蚁集团:图谱自动构建和可信问答,基于 LLM 的私域知识库自动图谱构建和可信问答。

  • 阿里云云工开物校园云:NVIDIA 与阿里云支持中国高校 AI 通识教育。

  • 阿里云函数计算(FC):阿里云与 NVIDIA 共同打造更高效的推理平台,推理速度提升 30%。

  • 月之暗面:Kimi 底层推理平台 Mooncake——基于 KVCache 的分离式推理架构。

  • 阿里云计算巢服务:NVIDIA AI Enterprise 结合计算巢实现 LLM 快速 SaaS 化和软件一站式上云。

  • vGPU:按“虚”而动,大势所趋,NVIDIA vGPU 解决方案助力阿里云弹性计算。


高光时刻二:

NVIDIA 精彩演讲与专题论坛


在本次云栖大会上,多位 NVIDIA 专家发表了精彩演讲,分享洞见,深入解读了 NVIDIA 如何推动行业的进步与创新。


左右滑动,查看更多

*以上图片均来自阿里云,如您有任何疑问或需要使用以上图片,请联系阿里云


在 9 月 19 日《云与 AI 的创见》 主论坛的圆桌对话环节,NVIDIA 全球副总裁、汽车事业部负责人吴新宙小鹏汽车董事长、CEO 何小鹏围绕“生成式 AI 重塑自动驾驶”主题展开了精彩的圆桌对话。


左右滑动,查看更多


NVIDIA 全球副总裁刘念宁在“智汇”她力量论坛演讲中,与大家分享了几个世纪以来女性的收入和劳动力市场参与情况,并对比在全球化和数字化的新时代背景下,现代女性正以前所未有的姿态参与到社会的各个层面之中,展现出了非凡的能力和贡献,并表示 AI 新工业革命将激励更多女性的参与。精彩演讲成功收获了现场观众的热烈反响。


左右滑动,查看更多

*以上图片均来自阿里云,如您有任何疑问或需要使用以上图片,请联系阿里云


在 9 月 20 日的“面向 Al 的可预期智算网络”论坛中,NVIDIA 网络高级副总裁 Gilad Shainer 为参会观众带来了“迈向 AI 网络创新的新领域”的主题演讲,深入探讨了 NVIDIA AI 计算和网络架构的细节及其在下一代 AI 数据中心设计中的重要作用。


左右滑动,查看更多


此外,在 9 月 19 日的“聚力 · 链接 · 创见:开放生态中的 MaaS 版图”论坛中,NVIDIA 开发与技术部门亚太区资深总监李曦鹏发表了“加速大语言模型推理”主题演讲,围绕最新开源模型、工具、模型应用现状等展开分享。在同日的两场并行话题中,NVIDIA 解决方案架构师金国强阿里云智能集团高级技术专家聂大鹏带来了题为“Serverless GPU 助力 AI 推理加速”的演讲内容;阿里云智能集团数据库产品事业部高级技术专家王正恒NVIDIA GPU 计算专家团队高级经理季光带来了“Tair:基于 KV 缓存的推理加速服务”主题演讲。大会后两日,NVIDIA 软件高级总监卓睿,以及 NVIDIA 解决方案架构师毛亦姝分别出席了“AI 时代通义智能端侧”、“计算巢,软件上云一站式解决方案”两大分论坛,带来了关于“大语言模型在 NVIDIA DRIVE 平台的应用”以及“NVIDIA NIM 联合阿里云计算巢助力 LLM 快速 SaaS 化”的探讨。


高光时刻三:

NVIDIA 专场“大语言模型时代的加速计算”


NVIDIA 全球副总裁何涛为专场观众致欢迎词


在本次云栖大会上,NVIDIA 举办了以“大语言模型时代的加速计算”为主题的专场论坛,成为了大会的一个亮点,吸引了众多行业专业人士的关注。通过这些精彩纷呈的分享和讨论,与会者对 NVIDIA 在大语言模型时代如何引领技术创新和行业发展有了更全面的理解。


左右滑动,查看更多


在本次专场中,NVIDIA 全球副总裁何涛为专场观众致欢迎词,此后,NVIDIA 开发与技术部门亚太区资深总监李曦鹏带来了开场演讲 “大语言模型时代的加速计算”,分享加速计算在大语言模型时代的变革与传承,深入探讨 NVIDIA 如何应对大语言模型带来的新技术挑战以及解决方案。

此外,NVIDIA 解决方案架构师金国强阿里云智能集团弹性计算高级开发工程师刘霖分享“让生成式 AI 触手可及:NVIDIA NIM 助力企业级大模型推理优化部署”。NVIDIA 资深解决方案架构师刘功元在“NVIDIA 加速计算助力生成式 AI”的演讲中,重点介绍 GPU 架构,GPU 集群 Scale-up 和 Scale-out 的演进,以及助力生成式 AI 的落地的最佳实践。NVIDIA GPU 计算专家张顺康王猛分别分享了“NVIDIA Megatron-Core MoE:架构、特性与性能优化”,以及“NVIDIA TensorRT-LLM:大模型推理优化最佳实践”。阿里云智能集团算法专家李鹏分享了“PAI-Megatron-Patch:围绕 Megatron-Core 打造大语言模型训练加速生态”,接着阿里云智能集团高级技术专家张杰(王林)则以及“PAI-ChatLearn:借助 Megatron-LM 实现高效 Alignment 训练”为题进行了分享。最后,NVIDIA 亚太区企业级软件负责人张旭埃森哲大中华区技术服务事业部资深解决方案架构师杨阳阿里云智能集团弹性计算开发工程师高涵,共同讨论了“NVIDIA AI Enterprise 助力传统企业 LLM 上云”,分享如何基于定制企业专有数据和微调模型,助力打造定制化的企业级解决方案。


高光时刻四:

NVIDIA 初创加速计划会员企业亮相



在今年新增的 NVIDIA Inception Pavilion 展区,共有 10 家 NVIDIA 初创加速计划会员企业参展,包括 6Estates、FathomX Pte. Ltd.、MetaLearner、8glabs Inc.、WeShop、深圳幻影未来信息科技有限公司、万生华态科技有限公司、北京睿甄创新科技有限公司、酷牛创新技术(深圳)有限公司和埃罗科技(上海)有限公司。每家初创企业都展示了令人耳目一新的创新成果,吸引了众多关注。


左右滑动,查看更多


总结


最后,衷心感谢所有线上线下观众的热烈关注与积极参与本次 2024 云栖大会。NVIDIA 期待与大家再次相聚,共同见证 AI 新时代的发展!



GTC 2025 内容征集现已开放点击“阅读原文”,或扫描下方海报二维码即可提交。2025 年 3 月,在圣何塞向全世界分享您的成就。

评论
  • 光耦合器作为关键技术组件,在确保安全性、可靠性和效率方面发挥着不可或缺的作用。无论是混合动力和电动汽车(HEV),还是军事和航空航天系统,它们都以卓越的性能支持高要求的应用环境,成为现代复杂系统中的隐形功臣。在迈向更环保技术和先进系统的过程中,光耦合器的重要性愈加凸显。1.混合动力和电动汽车中的光耦合器电池管理:保护动力源在电动汽车中,电池管理系统(BMS)是最佳充电、放电和性能监控背后的大脑。光耦合器在这里充当守门人,将高压电池组与敏感的低压电路隔离开来。这不仅可以防止潜在的损坏,还可以提高乘
    腾恩科技-彭工 2024-11-29 16:12 118浏览
  • 光伏逆变器是一种高效的能量转换设备,它能够将光伏太阳能板(PV)产生的不稳定的直流电压转换成与市电频率同步的交流电。这种转换后的电能不仅可以回馈至商用输电网络,还能供独立电网系统使用。光伏逆变器在商业光伏储能电站和家庭独立储能系统等应用领域中得到了广泛的应用。光耦合器,以其高速信号传输、出色的共模抑制比以及单向信号传输和光电隔离的特性,在光伏逆变器中扮演着至关重要的角色。它确保了系统的安全隔离、干扰的有效隔离以及通信信号的精准传输。光耦合器的使用不仅提高了系统的稳定性和安全性,而且由于其低功耗的
    晶台光耦 2024-12-02 10:40 63浏览
  • 艾迈斯欧司朗全新“样片申请”小程序,逾160种LED、传感器、多芯片组合等产品样片一触即达。轻松3步完成申请,境内免费包邮到家!本期热荐性能显著提升的OSLON® Optimal,GF CSSRML.24ams OSRAM 基于最新芯片技术推出全新LED产品OSLON® Optimal系列,实现了显著的性能升级。该系列提供五种不同颜色的光源选项,包括Hyper Red(660 nm,PDN)、Red(640 nm)、Deep Blue(450 nm,PDN)、Far Red(730 nm)及Ho
    艾迈斯欧司朗 2024-11-29 16:55 157浏览
  • 戴上XR眼镜去“追龙”是种什么体验?2024年11月30日,由上海自然博物馆(上海科技馆分馆)与三湘印象联合出品、三湘印象旗下观印象艺术发展有限公司(下简称“观印象”)承制的《又见恐龙》XR嘉年华在上海自然博物馆重磅开幕。该体验项目将于12月1日正式对公众开放,持续至2025年3月30日。双向奔赴,恐龙IP撞上元宇宙不久前,上海市经济和信息化委员会等部门联合印发了《上海市超高清视听产业发展行动方案》,特别提到“支持博物馆、主题乐园等场所推动超高清视听技术应用,丰富线下文旅消费体验”。作为上海自然
    电子与消费 2024-11-30 22:03 75浏览
  • 国产光耦合器正以其创新性和多样性引领行业发展。凭借强大的研发能力,国内制造商推出了适应汽车、电信等领域独特需求的专业化光耦合器,为各行业的技术进步提供了重要支持。本文将重点探讨国产光耦合器的技术创新与产品多样性,以及它们在推动产业升级中的重要作用。国产光耦合器创新的作用满足现代需求的创新模式新设计正在满足不断变化的市场需求。例如,高速光耦合器满足了电信和数据处理系统中快速信号传输的需求。同时,栅极驱动光耦合器支持电动汽车(EV)和工业电机驱动器等大功率应用中的精确高效控制。先进材料和设计将碳化硅
    克里雅半导体科技 2024-11-29 16:18 161浏览
  • 学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&
    youyeye 2024-11-30 14:30 65浏览
  • By Toradex胡珊逢简介嵌入式领域的部分应用对安全、可靠、实时性有切实的需求,在诸多实现该需求的方案中,QNX 是经行业验证的选择。在 QNX SDP 8.0 上 BlackBerry 推出了 QNX Everywhere 项目,个人用户可以出于非商业目的免费使用 QNX 操作系统。得益于 Toradex 和 QNX 的良好合作伙伴关系,用户能够在 Apalis iMX8QM 和 Verdin iMX8MP 模块上轻松测试和评估 QNX 8 系统。下面将基于 Apalis iMX8QM 介
    hai.qin_651820742 2024-11-29 15:29 150浏览
  • 国产光耦合器因其在电子系统中的重要作用而受到认可,可提供可靠的电气隔离并保护敏感电路免受高压干扰。然而,随着行业向5G和高频数据传输等高速应用迈进,对其性能和寿命的担忧已成为焦点。本文深入探讨了国产光耦合器在高频环境中面临的挑战,并探索了克服这些限制的创新方法。高频性能:一个持续关注的问题信号传输中的挑战国产光耦合器传统上利用LED和光电晶体管进行信号隔离。虽然这些组件对于标准应用有效,但在高频下面临挑战。随着工作频率的增加,信号延迟和数据保真度降低很常见,限制了它们在电信和高速计算等领域的有效
    腾恩科技-彭工 2024-11-29 16:11 106浏览
  • RDDI-DAP错误通常与调试接口相关,特别是在使用CMSIS-DAP协议进行嵌入式系统开发时。以下是一些可能的原因和解决方法: 1. 硬件连接问题:     检查调试器(如ST-Link)与目标板之间的连接是否牢固。     确保所有必要的引脚都已正确连接,没有松动或短路。 2. 电源问题:     确保目标板和调试器都有足够的电源供应。     检查电源电压是否符合目标板的规格要求。 3. 固件问题: &n
    丙丁先生 2024-12-01 17:37 57浏览
  • 在电子技术快速发展的今天,KLV15002光耦固态继电器以高性能和强可靠性完美解决行业需求。该光继电器旨在提供无与伦比的电气隔离和无缝切换,是现代系统的终极选择。无论是在电信、工业自动化还是测试环境中,KLV15002光耦合器固态继电器都完美融合了效率和耐用性,可满足当今苛刻的应用需求。为什么选择KLV15002光耦合器固态继电器?不妥协的电压隔离从本质上讲,KLV15002优先考虑安全性。输入到输出隔离达到3750Vrms(后缀为V的型号为5000Vrms),确保即使在高压情况下,敏感的低功耗
    克里雅半导体科技 2024-11-29 16:15 119浏览
  • 在现代科技浪潮中,精准定位技术已成为推动众多关键领域前进的核心力量。虹科PCAN-GPS FD 作为一款多功能可编程传感器模块,专为精确捕捉位置和方向而设计。该模块集成了先进的卫星接收器、磁场传感器、加速计和陀螺仪,能够通过 CAN/CAN FD 总线实时传输采样数据,并具备内部存储卡记录功能。本篇文章带你深入虹科PCAN-GPS FD的技术亮点、多场景应用实例,并展示其如何与PCAN-Explorer6软件结合,实现数据解析与可视化。虹科PCAN-GPS FD虹科PCAN-GPS FD的数据处
    虹科汽车智能互联 2024-11-29 14:35 149浏览
  • 《高速PCB设计经验规则应用实践》+PCB绘制学习与验证读书首先看目录,我感兴趣的是这一节;作者在书中列举了一条经典规则,然后进行详细分析,通过公式推导图表列举说明了传统的这一规则是受到电容加工特点影响的,在使用了MLCC陶瓷电容后这一条规则已经不再实用了。图书还列举了高速PCB设计需要的专业工具和仿真软件,当然由于篇幅所限,只是介绍了一点点设计步骤;我最感兴趣的部分还是元件布局的经验规则,在这里列举如下:在这里,演示一下,我根据书本知识进行电机驱动的布局:这也算知行合一吧。对于布局书中有一句:
    wuyu2009 2024-11-30 20:30 88浏览
  • 最近几年,新能源汽车愈发受到消费者的青睐,其销量也是一路走高。据中汽协公布的数据显示,2024年10月,新能源汽车产销分别完成146.3万辆和143万辆,同比分别增长48%和49.6%。而结合各家新能源车企所公布的销量数据来看,比亚迪再度夺得了销冠宝座,其10月新能源汽车销量达到了502657辆,同比增长66.53%。众所周知,比亚迪是新能源汽车领域的重要参与者,其一举一动向来为外界所关注。日前,比亚迪汽车旗下品牌方程豹汽车推出了新车方程豹豹8,该款车型一上市就迅速吸引了消费者的目光,成为SUV
    刘旷 2024-12-02 09:32 60浏览
  • 学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&
    youyeye 2024-11-29 14:30 118浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦