NVIDIA知乎精彩问答甄选|解读NVIDIAGTC2024发布的新技术(五)

原创 英伟达NVIDIA中国 2024-05-20 18:10
NVIDIA 带来知乎精彩问答甄选系列,将为您精选知乎上有关 NVIDIA 产品的精彩问答。

本期是解读 NVIDIA GTC 2024 发布的新技术第五期。


以下四个知乎甄选问答将为您带来更多关于 NVIDIA 微服务的信息

Q:谁了解新发布的 NVIDIA NIM 微服务?


A:

NVIDIA NIM 微服务提供基于 NVIDIA 推理软件的预构建容器,包括 Triton 推理服务器™ 和 TensorRT™-LLM,使开发者能够将部署时间从几周缩短至几分钟。NVIDIA NIM 微服务适用于 NVIDIA 及合作伙伴生态系统中 20 多个热门的 AI 模型进行推理优化。为语言、语音和药物发现等领域提供行业标准 API,使开发者能够使用安全托管在自己的基础设施中的专有数据,来快速构建 AI 应用。这些应用可按需扩展,从而为在 NVIDIA 加速计算平台上运行生产级生成式 AI 提供灵活性和性能。NIM 微服务为部署 NVIDIA、A121、Adept、Cohere、Getty Images 和 Shutterstock 的模型,以及谷歌、Hugging Face、Meta、微软、Mistral AI 和 Stability AI 的开放模型提供了快速且性能出色的生产级 AI 容器。



Q:NVIDIA 在生成式 AI 微服务有什么新进展吗?


A:

NVIDIA 于 GTC 2024 推出数十项企业级生成式 AI 微服务,企业可以利用这些微服务在自己的平台上创建和部署定制应用,同时保留对知识产权的完整所有权和控制权。包括 CrowdStrike、SAP 和 ServiceNow 在内的多家领先应用和网络安全平台提供商都正在采用 NVIDIA 微服务。



Q:有人听说过 NVIDIA cuOpt 微服务吗,有什么优势?


A:

NVIDIA cuOpt 微服务是 NVIDIA AI Enterprise 软件平台的一部分,可以为任何企业提供用于实时动态路径规划、工厂优化和机器人仿真方面的加速优化。在 GTC 2024 大会上,NVIDIA 创始人兼首席执行官黄仁勋宣布 cuOpt 即将全面上线。

NVIDIA cuOpt 微服务主要特性包括:

  • 动态重新规划路线:重新运行模型并进行调整,以便应对车辆无法操作、交通中断/恶劣天气和新增订单等变化,而且所有这些都会在服务等级协议(SLA)时间限制内完成。 
  • 创下世界纪录的准确性:体验在 Li & Lim 和 Gehring & Homberger 准确性基准方面创下世界纪录的性能。 
  • 无缝扩展:可扩展到执行 15,000 个路线规划任务,为计算密集型用例提供助力。
  • 实时分析:规划 1,000 个包裹的路线所需的时间从 20 分钟缩短到了 10 秒,速度提高了 120 倍,准确性则保持不变。 
  • 降低成本并减少碳足迹:行程时间和燃料成本降低了 15%,云资源成本降低了 87%,而且数据中心使用量也减少了。 
  • Enterprise 产品组合:访问安全的生产就绪型微服务,该微服务是 NVIDIA AI Enterprise 的一部分,可部署在任意位置,并能够加快价值实现。

NVIDIA cuOpt™ 能够借助加速计算更快地做出更好的决策,从而优化运营。cuOpt 能够帮助团队解决具有多重约束的复杂路线规划问题,并且能够提供动态重新规划路线、作业调度和机器人仿真等新功能,同时实现亚秒级求解器响应时间。凭借 23 项创下世界纪录的基准,cuOpt 包揽了过去三年内最大路线规划基准方面的世界纪录。

cuOpt 使用依赖于启发式算法、元启发式算法和优化技术且经由 GPU 加速的物流求解器,来计算具有各种约束的复杂车辆路线规划问题。cuOpt 可以部署在任何数据中心或云端。它支持具有不对称模式的距离和时间矩阵,因此可以与热门地图引擎无缝集成。

cuOpt 在研究最深入的路径优化基准测试中,使用知名解决方案进行持续测试,测试结果比基于 CPU 的方案提速 100 倍。cuOpt 在 Gehring & Homberger 车辆路径基准测试中创造了 15 项记录,在 Li & Lim 取货和送货基准测试中创造了 8 项记录,展现出全球最佳的准确性与最快的速度。


Q:NVIDIA cuOpt 微服务有什么应用场景?


A:

在依赖复杂自动化系统、精准物料流程以及人机交互的设施(如汽车工厂、半导体代工厂、仓库等)中同时采用 cuOpt、Omniverse 和 NVIDIA Metropolis for Factories,将有助于优化和创建安全的设施与环境以应对大量的物流处理。


川崎重工是一家拥有一百多年大型机械制造历史的制造企业。该公司正与 Slalom 合作,开发由 AI 驱动的川崎轨道维护平台,并在这一过程中利用 cuOpt 实现高效率的路径规划。该平台能够为维护团队提供轨道状况的相关数据,以便于确定维修的优先顺序,从而提升运营的安全性和可靠性。


一家全球汽车座椅制造领域的领先企业采用了由 Omniverse 和 cuOpt 驱动的 SyncTwin 的数字孪生功能,借助 AI 以改善运营。cuOpt 与 SyncTwin 的连接可实现高效的路径规划,优化了庞大装卸码头网络中包括车辆、机器人托盘升降机等在内的所有动态部分。


更多精彩问答,点击下方小程序,
关注 NVIDIA 知乎账号


NVIDIA 知乎精彩问答甄选往期精彩内容

NVIDIA 知乎精彩问答甄选 | 解读 NVIDIA GTC 2024 发布的新技术(四)
NVIDIA 知乎精彩问答甄选 | 解读 NVIDIA GTC 2024 发布的新技术(三)
NVIDIA 知乎精彩问答甄选 | 解读 NVIDIA GTC 2024 发布的新技术(二)


更多精彩仍在继续... 

敬请关注



点击 “阅读原文”,或扫描下方海报二维码,北京时间 6 月 2 日 19:00 观看 NVIDIA 创始人兼 CEO 黄仁勋在 COMPUTEX 2024 的现场主题演讲直播,一同揭开新工业革命序幕!


评论
  • 光耦合器作为关键技术组件,在确保安全性、可靠性和效率方面发挥着不可或缺的作用。无论是混合动力和电动汽车(HEV),还是军事和航空航天系统,它们都以卓越的性能支持高要求的应用环境,成为现代复杂系统中的隐形功臣。在迈向更环保技术和先进系统的过程中,光耦合器的重要性愈加凸显。1.混合动力和电动汽车中的光耦合器电池管理:保护动力源在电动汽车中,电池管理系统(BMS)是最佳充电、放电和性能监控背后的大脑。光耦合器在这里充当守门人,将高压电池组与敏感的低压电路隔离开来。这不仅可以防止潜在的损坏,还可以提高乘
    腾恩科技-彭工 2024-11-29 16:12 117浏览
  • 在电子技术快速发展的今天,KLV15002光耦固态继电器以高性能和强可靠性完美解决行业需求。该光继电器旨在提供无与伦比的电气隔离和无缝切换,是现代系统的终极选择。无论是在电信、工业自动化还是测试环境中,KLV15002光耦合器固态继电器都完美融合了效率和耐用性,可满足当今苛刻的应用需求。为什么选择KLV15002光耦合器固态继电器?不妥协的电压隔离从本质上讲,KLV15002优先考虑安全性。输入到输出隔离达到3750Vrms(后缀为V的型号为5000Vrms),确保即使在高压情况下,敏感的低功耗
    克里雅半导体科技 2024-11-29 16:15 119浏览
  • By Toradex胡珊逢简介嵌入式领域的部分应用对安全、可靠、实时性有切实的需求,在诸多实现该需求的方案中,QNX 是经行业验证的选择。在 QNX SDP 8.0 上 BlackBerry 推出了 QNX Everywhere 项目,个人用户可以出于非商业目的免费使用 QNX 操作系统。得益于 Toradex 和 QNX 的良好合作伙伴关系,用户能够在 Apalis iMX8QM 和 Verdin iMX8MP 模块上轻松测试和评估 QNX 8 系统。下面将基于 Apalis iMX8QM 介
    hai.qin_651820742 2024-11-29 15:29 150浏览
  • 国产光耦合器正以其创新性和多样性引领行业发展。凭借强大的研发能力,国内制造商推出了适应汽车、电信等领域独特需求的专业化光耦合器,为各行业的技术进步提供了重要支持。本文将重点探讨国产光耦合器的技术创新与产品多样性,以及它们在推动产业升级中的重要作用。国产光耦合器创新的作用满足现代需求的创新模式新设计正在满足不断变化的市场需求。例如,高速光耦合器满足了电信和数据处理系统中快速信号传输的需求。同时,栅极驱动光耦合器支持电动汽车(EV)和工业电机驱动器等大功率应用中的精确高效控制。先进材料和设计将碳化硅
    克里雅半导体科技 2024-11-29 16:18 157浏览
  • 戴上XR眼镜去“追龙”是种什么体验?2024年11月30日,由上海自然博物馆(上海科技馆分馆)与三湘印象联合出品、三湘印象旗下观印象艺术发展有限公司(下简称“观印象”)承制的《又见恐龙》XR嘉年华在上海自然博物馆重磅开幕。该体验项目将于12月1日正式对公众开放,持续至2025年3月30日。双向奔赴,恐龙IP撞上元宇宙不久前,上海市经济和信息化委员会等部门联合印发了《上海市超高清视听产业发展行动方案》,特别提到“支持博物馆、主题乐园等场所推动超高清视听技术应用,丰富线下文旅消费体验”。作为上海自然
    电子与消费 2024-11-30 22:03 70浏览
  • 学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&
    youyeye 2024-11-30 14:30 63浏览
  • 国产光耦合器因其在电子系统中的重要作用而受到认可,可提供可靠的电气隔离并保护敏感电路免受高压干扰。然而,随着行业向5G和高频数据传输等高速应用迈进,对其性能和寿命的担忧已成为焦点。本文深入探讨了国产光耦合器在高频环境中面临的挑战,并探索了克服这些限制的创新方法。高频性能:一个持续关注的问题信号传输中的挑战国产光耦合器传统上利用LED和光电晶体管进行信号隔离。虽然这些组件对于标准应用有效,但在高频下面临挑战。随着工作频率的增加,信号延迟和数据保真度降低很常见,限制了它们在电信和高速计算等领域的有效
    腾恩科技-彭工 2024-11-29 16:11 106浏览
  • 在现代科技浪潮中,精准定位技术已成为推动众多关键领域前进的核心力量。虹科PCAN-GPS FD 作为一款多功能可编程传感器模块,专为精确捕捉位置和方向而设计。该模块集成了先进的卫星接收器、磁场传感器、加速计和陀螺仪,能够通过 CAN/CAN FD 总线实时传输采样数据,并具备内部存储卡记录功能。本篇文章带你深入虹科PCAN-GPS FD的技术亮点、多场景应用实例,并展示其如何与PCAN-Explorer6软件结合,实现数据解析与可视化。虹科PCAN-GPS FD虹科PCAN-GPS FD的数据处
    虹科汽车智能互联 2024-11-29 14:35 149浏览
  • 光伏逆变器是一种高效的能量转换设备,它能够将光伏太阳能板(PV)产生的不稳定的直流电压转换成与市电频率同步的交流电。这种转换后的电能不仅可以回馈至商用输电网络,还能供独立电网系统使用。光伏逆变器在商业光伏储能电站和家庭独立储能系统等应用领域中得到了广泛的应用。光耦合器,以其高速信号传输、出色的共模抑制比以及单向信号传输和光电隔离的特性,在光伏逆变器中扮演着至关重要的角色。它确保了系统的安全隔离、干扰的有效隔离以及通信信号的精准传输。光耦合器的使用不仅提高了系统的稳定性和安全性,而且由于其低功耗的
    晶台光耦 2024-12-02 10:40 54浏览
  • 最近几年,新能源汽车愈发受到消费者的青睐,其销量也是一路走高。据中汽协公布的数据显示,2024年10月,新能源汽车产销分别完成146.3万辆和143万辆,同比分别增长48%和49.6%。而结合各家新能源车企所公布的销量数据来看,比亚迪再度夺得了销冠宝座,其10月新能源汽车销量达到了502657辆,同比增长66.53%。众所周知,比亚迪是新能源汽车领域的重要参与者,其一举一动向来为外界所关注。日前,比亚迪汽车旗下品牌方程豹汽车推出了新车方程豹豹8,该款车型一上市就迅速吸引了消费者的目光,成为SUV
    刘旷 2024-12-02 09:32 59浏览
  • RDDI-DAP错误通常与调试接口相关,特别是在使用CMSIS-DAP协议进行嵌入式系统开发时。以下是一些可能的原因和解决方法: 1. 硬件连接问题:     检查调试器(如ST-Link)与目标板之间的连接是否牢固。     确保所有必要的引脚都已正确连接,没有松动或短路。 2. 电源问题:     确保目标板和调试器都有足够的电源供应。     检查电源电压是否符合目标板的规格要求。 3. 固件问题: &n
    丙丁先生 2024-12-01 17:37 57浏览
  • 艾迈斯欧司朗全新“样片申请”小程序,逾160种LED、传感器、多芯片组合等产品样片一触即达。轻松3步完成申请,境内免费包邮到家!本期热荐性能显著提升的OSLON® Optimal,GF CSSRML.24ams OSRAM 基于最新芯片技术推出全新LED产品OSLON® Optimal系列,实现了显著的性能升级。该系列提供五种不同颜色的光源选项,包括Hyper Red(660 nm,PDN)、Red(640 nm)、Deep Blue(450 nm,PDN)、Far Red(730 nm)及Ho
    艾迈斯欧司朗 2024-11-29 16:55 155浏览
  • 《高速PCB设计经验规则应用实践》+PCB绘制学习与验证读书首先看目录,我感兴趣的是这一节;作者在书中列举了一条经典规则,然后进行详细分析,通过公式推导图表列举说明了传统的这一规则是受到电容加工特点影响的,在使用了MLCC陶瓷电容后这一条规则已经不再实用了。图书还列举了高速PCB设计需要的专业工具和仿真软件,当然由于篇幅所限,只是介绍了一点点设计步骤;我最感兴趣的部分还是元件布局的经验规则,在这里列举如下:在这里,演示一下,我根据书本知识进行电机驱动的布局:这也算知行合一吧。对于布局书中有一句:
    wuyu2009 2024-11-30 20:30 86浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦