2024云栖大会圆满收官:NVIDIA高光时刻精彩回顾

原创 英伟达NVIDIA中国 2024-09-24 19:16


以“云启智跃 · 产业蝶变”为主题的 2024 云栖大会于 9 月 21 日圆满落幕。作为全球加速计算的领导者,NVIDIA 全面参与大会,展示了针对大语言模型(LLM)和生成式 AI 落地的数据中心级端到端技术栈和云上解决方案及用例,生态加速项目,以及生态企业解决方案;NVIDIA 也分享和深入探讨了全栈视角下的加速计算技术和实践,包括系统架构设计、训练与推理工程的加速和成本降低、应用开发范式的创新、云和生态系统的合作等。本文将带您回顾 NVIDIA 在本届云栖大会上的高光时刻。


高光时刻一:

在 NVIDIA 展区一站式领略

基于 CUDA 的全栈加速计算技术


左右滑动,查看更多


今年,NVIDIA 展区由 NVIDIA 加速计算技术、云上解决方案和客户实践、LLM 互动技术演示、初创加速计划、企业开发者社区、深度学习培训中心(DLI)、AI 小课堂七大板块构成,不仅凸显了 NVIDIA 与云和生态的技术合作,也体现了 NVIDIA 引领行业在 AI 应用、软件、算法、集群等各个层面协同创新和持续优化。NVIDIA 加速计算技术展示了包括 NVIDIA RAPIDS™ cuDFNeMo™Megatron-CoreTensorRT-LLMTriton™ 推理服务器NIM 预构建容器工具Spectrum-4 SN5600 网络交换机BlueField®-3 网络平台、基于 NVIDIA Spectrum-4 的阿里云白盒以太网交换机,以及 NVIDIA Omniverse™


左右滑动,查看更多


LLM 互动技术演示区成为了体验生成式 AI 魅力的热门打卡点。大会观众在此体验了由 LLM 驱动的逼真 NPC 交互,可以通过键盘打字、话筒语音输入的方式,用中英文和 NPC 对话,并可以看到其对话时栩栩如生的面部表情;另一个 Stable Diffusion ComfyUI 应用的图像生成技术演示,可以让观众在现场输入自拍照后,仅用数秒,即可获得基于其自拍照的超级英雄图片。


左右滑动,查看更多


紧邻技术演示区,NVIDIA 企业开发者社区NVIDIA 深度学习培训中心(DLI)也吸引了众多观众的目光。此外,一如往年,“NVIDIA AI 小课堂”如期举行,三位 NVIDIA 讲师分别带来“基于 NIM 构建 LLM-RAG 智能检索应用”、“NVIDIA AI 推理加速解决方案”以及“NVIDIA Spectrum-X – 适用于 AI 的下一代以太网”话题,诠释 AI 技术带来的魅力与变革。


左右滑动,查看更多


此外,NVIDIA 展区还展示了云上解决方案和客户用例,包括:


  • 猿辅导集团:Motiff 妙多 AI 时代设计工具,基于 NVIDIA 加速计算,驱动 AI 直接生成产品界面。

  • 吉利集团:极氪浩瀚智驾 2.0 启动端到端大模型,基于 NVIDIA 芯片,打造智驾新体验,自研域控,行车,泊车与主动安全全场景覆盖,城市领航功能全国都能用。

  • 阿里云容器服务(ACK):在阿里云容器服务 ACK 集群上部署 NIM 预构建容器工具,使用其云原生 AI 套件,开源的 KServe 等组件和 Prometheus 监控服务,以及 NIM 提供的丰富监控指标,快速拉起高性能、可实时观测、极致弹性的模型推理服务。

  • 魔搭社区:魔搭社区上线 TensorRT-LLM,支持主流 LLM 推理优化和常用量化方法,并适配不同环境,其中使用 FP8 量化,可获得相比 HuggingFace 基准,最高 8.6 倍的整体推理性能提升。

  • 蚂蚁集团:图谱自动构建和可信问答,基于 LLM 的私域知识库自动图谱构建和可信问答。

  • 阿里云云工开物校园云:NVIDIA 与阿里云支持中国高校 AI 通识教育。

  • 阿里云函数计算(FC):阿里云与 NVIDIA 共同打造更高效的推理平台,推理速度提升 30%。

  • 月之暗面:Kimi 底层推理平台 Mooncake——基于 KVCache 的分离式推理架构。

  • 阿里云计算巢服务:NVIDIA AI Enterprise 结合计算巢实现 LLM 快速 SaaS 化和软件一站式上云。

  • vGPU:按“虚”而动,大势所趋,NVIDIA vGPU 解决方案助力阿里云弹性计算。


高光时刻二:

NVIDIA 精彩演讲与专题论坛


在本次云栖大会上,多位 NVIDIA 专家发表了精彩演讲,分享洞见,深入解读了 NVIDIA 如何推动行业的进步与创新。


左右滑动,查看更多

*以上图片均来自阿里云,如您有任何疑问或需要使用以上图片,请联系阿里云


在 9 月 19 日《云与 AI 的创见》 主论坛的圆桌对话环节,NVIDIA 全球副总裁、汽车事业部负责人吴新宙小鹏汽车董事长、CEO 何小鹏围绕“生成式 AI 重塑自动驾驶”主题展开了精彩的圆桌对话。


左右滑动,查看更多


NVIDIA 全球副总裁刘念宁在“智汇”她力量论坛演讲中,与大家分享了几个世纪以来女性的收入和劳动力市场参与情况,并对比在全球化和数字化的新时代背景下,现代女性正以前所未有的姿态参与到社会的各个层面之中,展现出了非凡的能力和贡献,并表示 AI 新工业革命将激励更多女性的参与。精彩演讲成功收获了现场观众的热烈反响。


左右滑动,查看更多

*以上图片均来自阿里云,如您有任何疑问或需要使用以上图片,请联系阿里云


在 9 月 20 日的“面向 Al 的可预期智算网络”论坛中,NVIDIA 网络高级副总裁 Gilad Shainer 为参会观众带来了“迈向 AI 网络创新的新领域”的主题演讲,深入探讨了 NVIDIA AI 计算和网络架构的细节及其在下一代 AI 数据中心设计中的重要作用。


左右滑动,查看更多


此外,在 9 月 19 日的“聚力 · 链接 · 创见:开放生态中的 MaaS 版图”论坛中,NVIDIA 开发与技术部门亚太区资深总监李曦鹏发表了“加速大语言模型推理”主题演讲,围绕最新开源模型、工具、模型应用现状等展开分享。在同日的两场并行话题中,NVIDIA 解决方案架构师金国强阿里云智能集团高级技术专家聂大鹏带来了题为“Serverless GPU 助力 AI 推理加速”的演讲内容;阿里云智能集团数据库产品事业部高级技术专家王正恒NVIDIA GPU 计算专家团队高级经理季光带来了“Tair:基于 KV 缓存的推理加速服务”主题演讲。大会后两日,NVIDIA 软件高级总监卓睿,以及 NVIDIA 解决方案架构师毛亦姝分别出席了“AI 时代通义智能端侧”、“计算巢,软件上云一站式解决方案”两大分论坛,带来了关于“大语言模型在 NVIDIA DRIVE 平台的应用”以及“NVIDIA NIM 联合阿里云计算巢助力 LLM 快速 SaaS 化”的探讨。


高光时刻三:

NVIDIA 专场“大语言模型时代的加速计算”


NVIDIA 全球副总裁何涛为专场观众致欢迎词


在本次云栖大会上,NVIDIA 举办了以“大语言模型时代的加速计算”为主题的专场论坛,成为了大会的一个亮点,吸引了众多行业专业人士的关注。通过这些精彩纷呈的分享和讨论,与会者对 NVIDIA 在大语言模型时代如何引领技术创新和行业发展有了更全面的理解。


左右滑动,查看更多


在本次专场中,NVIDIA 全球副总裁何涛为专场观众致欢迎词,此后,NVIDIA 开发与技术部门亚太区资深总监李曦鹏带来了开场演讲 “大语言模型时代的加速计算”,分享加速计算在大语言模型时代的变革与传承,深入探讨 NVIDIA 如何应对大语言模型带来的新技术挑战以及解决方案。

此外,NVIDIA 解决方案架构师金国强阿里云智能集团弹性计算高级开发工程师刘霖分享“让生成式 AI 触手可及:NVIDIA NIM 助力企业级大模型推理优化部署”。NVIDIA 资深解决方案架构师刘功元在“NVIDIA 加速计算助力生成式 AI”的演讲中,重点介绍 GPU 架构,GPU 集群 Scale-up 和 Scale-out 的演进,以及助力生成式 AI 的落地的最佳实践。NVIDIA GPU 计算专家张顺康王猛分别分享了“NVIDIA Megatron-Core MoE:架构、特性与性能优化”,以及“NVIDIA TensorRT-LLM:大模型推理优化最佳实践”。阿里云智能集团算法专家李鹏分享了“PAI-Megatron-Patch:围绕 Megatron-Core 打造大语言模型训练加速生态”,接着阿里云智能集团高级技术专家张杰(王林)则以及“PAI-ChatLearn:借助 Megatron-LM 实现高效 Alignment 训练”为题进行了分享。最后,NVIDIA 亚太区企业级软件负责人张旭埃森哲大中华区技术服务事业部资深解决方案架构师杨阳阿里云智能集团弹性计算开发工程师高涵,共同讨论了“NVIDIA AI Enterprise 助力传统企业 LLM 上云”,分享如何基于定制企业专有数据和微调模型,助力打造定制化的企业级解决方案。


高光时刻四:

NVIDIA 初创加速计划会员企业亮相



在今年新增的 NVIDIA Inception Pavilion 展区,共有 10 家 NVIDIA 初创加速计划会员企业参展,包括 6Estates、FathomX Pte. Ltd.、MetaLearner、8glabs Inc.、WeShop、深圳幻影未来信息科技有限公司、万生华态科技有限公司、北京睿甄创新科技有限公司、酷牛创新技术(深圳)有限公司和埃罗科技(上海)有限公司。每家初创企业都展示了令人耳目一新的创新成果,吸引了众多关注。


左右滑动,查看更多


总结


最后,衷心感谢所有线上线下观众的热烈关注与积极参与本次 2024 云栖大会。NVIDIA 期待与大家再次相聚,共同见证 AI 新时代的发展!



GTC 2025 内容征集现已开放点击“阅读原文”,或扫描下方海报二维码即可提交。2025 年 3 月,在圣何塞向全世界分享您的成就。

评论 (0)
  • 退火炉,作为热处理设备的一种,广泛应用于各种金属材料的退火处理。那么,退火炉究竟是干嘛用的呢?一、退火炉的主要用途退火炉主要用于金属材料(如钢、铁、铜等)的热处理,通过退火工艺改善材料的机械性能,消除内应力和组织缺陷,提高材料的塑性和韧性。退火过程中,材料被加热到一定温度后保持一段时间,然后以适当的速度冷却,以达到改善材料性能的目的。二、退火炉的工作原理退火炉通过电热元件(如电阻丝、硅碳棒等)或燃气燃烧器加热炉膛,使炉内温度达到所需的退火温度。在退火过程中,炉内的温度、加热速度和冷却速度都可以根
    锦正茂科技 2025-04-02 10:13 116浏览
  • 探针本身不需要对焦。探针的工作原理是通过接触被测物体表面来传递电信号,其精度和使用效果取决于探针的材质、形状以及与检测设备的匹配度,而非对焦操作。一、探针的工作原理探针是检测设备中的重要部件,常用于电子显微镜、坐标测量机等精密仪器中。其工作原理主要是通过接触被测物体的表面,将接触点的位置信息或电信号传递给检测设备,从而实现对物体表面形貌、尺寸或电性能等参数的测量。在这个过程中,探针的精度和稳定性对测量结果具有至关重要的影响。二、探针的操作要求在使用探针进行测量时,需要确保探针与被测物体表面的良好
    锦正茂科技 2025-04-02 10:41 136浏览
  • 文/郭楚妤编辑/cc孙聪颖‍不久前,中国发展高层论坛 2025 年年会(CDF)刚刚落下帷幕。本次年会围绕 “全面释放发展动能,共促全球经济稳定增长” 这一主题,吸引了全球各界目光,众多重磅嘉宾的出席与发言成为舆论焦点。其中,韩国三星集团会长李在镕时隔两年的访华之行,更是引发广泛热议。一直以来,李在镕给外界的印象是不苟言笑。然而,在论坛开幕前一天,李在镕却意外打破固有形象。3 月 22 日,李在镕与高通公司总裁安蒙一同现身北京小米汽车工厂。小米方面极为重视此次会面,CEO 雷军亲自接待,小米副董
    华尔街科技眼 2025-04-01 19:39 267浏览
  • 文/Leon编辑/cc孙聪颖‍步入 2025 年,国家进一步加大促消费、扩内需的政策力度,家电国补政策将持续贯穿全年。这一利好举措,为行业发展注入强劲的增长动力。(详情见:2025:消费提振要靠国补还是“看不见的手”?)但与此同时,也对家电企业在战略规划、产品打造以及市场营销等多个维度,提出了更为严苛的要求。在刚刚落幕的中国家电及消费电子博览会(AWE)上,家电行业的竞争呈现出胶着的态势,各大品牌为在激烈的市场竞争中脱颖而出,纷纷加大产品研发投入,积极推出新产品,试图提升产品附加值与市场竞争力。
    华尔街科技眼 2025-04-01 19:49 256浏览
  • 提到“质量”这两个字,我们不会忘记那些奠定基础的大师们:休哈特、戴明、朱兰、克劳士比、费根堡姆、石川馨、田口玄一……正是他们的思想和实践,构筑了现代质量管理的核心体系,也深远影响了无数企业和管理者。今天,就让我们一同致敬这些质量管理的先驱!(最近流行『吉卜力风格』AI插图,我们也来玩玩用『吉卜力风格』重绘质量大师画象)1. 休哈特:统计质量控制的奠基者沃尔特·A·休哈特,美国工程师、统计学家,被誉为“统计质量控制之父”。1924年,他提出世界上第一张控制图,并于1931年出版《产品制造质量的经济
    优思学院 2025-04-01 14:02 161浏览
  • 随着汽车向智能化、场景化加速演进,智能座舱已成为人车交互的核心承载。从驾驶员注意力监测到儿童遗留检测,从乘员识别到安全带状态判断,座舱内的每一次行为都蕴含着巨大的安全与体验价值。然而,这些感知系统要在多样驾驶行为、复杂座舱布局和极端光照条件下持续稳定运行,传统的真实数据采集方式已难以支撑其开发迭代需求。智能座舱的技术演进,正由“采集驱动”转向“仿真驱动”。一、智能座舱仿真的挑战与突破图1:座舱实例图智能座舱中的AI系统,不仅需要理解驾驶员的行为和状态,还要同时感知乘员、儿童、宠物乃至环境中的潜在
    康谋 2025-04-02 10:23 221浏览
  • 据先科电子官方信息,其产品包装标签将于2024年5月1日进行全面升级。作为电子元器件行业资讯平台,大鱼芯城为您梳理本次变更的核心内容及影响:一、标签变更核心要点标签整合与环保优化变更前:卷盘、内盒及外箱需分别粘贴2张标签(含独立环保标识)。变更后:环保标识(RoHS/HAF/PbF)整合至单张标签,减少重复贴标流程。标签尺寸调整卷盘/内盒标签:尺寸由5030mm升级至**8040mm**,信息展示更清晰。外箱标签:尺寸统一为8040mm(原7040mm),提升一致性。关键信息新增新增LOT批次编
    大鱼芯城 2025-04-01 15:02 239浏览
  • 在智能交互设备快速发展的今天,语音芯片作为人机交互的核心组件,其性能直接影响用户体验与产品竞争力。WT588F02B-8S语音芯片,凭借其静态功耗<5μA的卓越低功耗特性,成为物联网、智能家居、工业自动化等领域的理想选择,为设备赋予“听得懂、说得清”的智能化能力。一、核心优势:低功耗与高性能的完美结合超低待机功耗WT588F02B-8S在休眠模式下待机电流仅为5μA以下,显著延长了电池供电设备的续航能力。例如,在电子锁、气体检测仪等需长期待机的场景中,用户无需频繁更换电池,降低了维护成本。灵活的
    广州唯创电子 2025-04-02 08:34 191浏览
  • 职场之路并非一帆风顺,从初入职场的新人成长为团队中不可或缺的骨干,背后需要经历一系列内在的蜕变。许多人误以为只需努力工作便能顺利晋升,其实核心在于思维方式的更新。走出舒适区、打破旧有框架,正是让自己与众不同的重要法宝。在这条道路上,你不只需要扎实的技能,更需要敏锐的观察力、不断自省的精神和前瞻的格局。今天,就来聊聊那改变命运的三大思维转变,让你在职场上稳步前行。工作初期,总会遇到各式各样的难题。最初,我们习惯于围绕手头任务来制定计划,专注于眼前的目标。然而,职场的竞争从来不是单打独斗,而是团队协
    优思学院 2025-04-01 17:29 262浏览
  • 北京贞光科技有限公司作为紫光同芯授权代理商,专注于为客户提供车规级安全芯片的硬件供应与软件SDK一站式解决方案,同时配备专业技术团队,为选型及定制需求提供现场指导与支持。随着新能源汽车渗透率突破40%(中汽协2024数据),智能驾驶向L3+快速演进,车规级MCU正迎来技术范式变革。作为汽车电子系统的"神经中枢",通过AEC-Q100 Grade 1认证的MCU芯片需在-40℃~150℃极端温度下保持μs级响应精度,同时满足ISO 26262 ASIL-D功能安全要求。在集中式
    贞光科技 2025-04-02 14:50 247浏览
我要评论
0
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦