NVIDIA知乎精彩问答甄选|解读NVIDIAGTC2024发布的新技术(五)

原创 英伟达NVIDIA中国 2024-05-20 18:10
NVIDIA 带来知乎精彩问答甄选系列,将为您精选知乎上有关 NVIDIA 产品的精彩问答。

本期是解读 NVIDIA GTC 2024 发布的新技术第五期。


以下四个知乎甄选问答将为您带来更多关于 NVIDIA 微服务的信息

Q:谁了解新发布的 NVIDIA NIM 微服务?


A:

NVIDIA NIM 微服务提供基于 NVIDIA 推理软件的预构建容器,包括 Triton 推理服务器™ 和 TensorRT™-LLM,使开发者能够将部署时间从几周缩短至几分钟。NVIDIA NIM 微服务适用于 NVIDIA 及合作伙伴生态系统中 20 多个热门的 AI 模型进行推理优化。为语言、语音和药物发现等领域提供行业标准 API,使开发者能够使用安全托管在自己的基础设施中的专有数据,来快速构建 AI 应用。这些应用可按需扩展,从而为在 NVIDIA 加速计算平台上运行生产级生成式 AI 提供灵活性和性能。NIM 微服务为部署 NVIDIA、A121、Adept、Cohere、Getty Images 和 Shutterstock 的模型,以及谷歌、Hugging Face、Meta、微软、Mistral AI 和 Stability AI 的开放模型提供了快速且性能出色的生产级 AI 容器。



Q:NVIDIA 在生成式 AI 微服务有什么新进展吗?


A:

NVIDIA 于 GTC 2024 推出数十项企业级生成式 AI 微服务,企业可以利用这些微服务在自己的平台上创建和部署定制应用,同时保留对知识产权的完整所有权和控制权。包括 CrowdStrike、SAP 和 ServiceNow 在内的多家领先应用和网络安全平台提供商都正在采用 NVIDIA 微服务。



Q:有人听说过 NVIDIA cuOpt 微服务吗,有什么优势?


A:

NVIDIA cuOpt 微服务是 NVIDIA AI Enterprise 软件平台的一部分,可以为任何企业提供用于实时动态路径规划、工厂优化和机器人仿真方面的加速优化。在 GTC 2024 大会上,NVIDIA 创始人兼首席执行官黄仁勋宣布 cuOpt 即将全面上线。

NVIDIA cuOpt 微服务主要特性包括:

  • 动态重新规划路线:重新运行模型并进行调整,以便应对车辆无法操作、交通中断/恶劣天气和新增订单等变化,而且所有这些都会在服务等级协议(SLA)时间限制内完成。 
  • 创下世界纪录的准确性:体验在 Li & Lim 和 Gehring & Homberger 准确性基准方面创下世界纪录的性能。 
  • 无缝扩展:可扩展到执行 15,000 个路线规划任务,为计算密集型用例提供助力。
  • 实时分析:规划 1,000 个包裹的路线所需的时间从 20 分钟缩短到了 10 秒,速度提高了 120 倍,准确性则保持不变。 
  • 降低成本并减少碳足迹:行程时间和燃料成本降低了 15%,云资源成本降低了 87%,而且数据中心使用量也减少了。 
  • Enterprise 产品组合:访问安全的生产就绪型微服务,该微服务是 NVIDIA AI Enterprise 的一部分,可部署在任意位置,并能够加快价值实现。

NVIDIA cuOpt™ 能够借助加速计算更快地做出更好的决策,从而优化运营。cuOpt 能够帮助团队解决具有多重约束的复杂路线规划问题,并且能够提供动态重新规划路线、作业调度和机器人仿真等新功能,同时实现亚秒级求解器响应时间。凭借 23 项创下世界纪录的基准,cuOpt 包揽了过去三年内最大路线规划基准方面的世界纪录。

cuOpt 使用依赖于启发式算法、元启发式算法和优化技术且经由 GPU 加速的物流求解器,来计算具有各种约束的复杂车辆路线规划问题。cuOpt 可以部署在任何数据中心或云端。它支持具有不对称模式的距离和时间矩阵,因此可以与热门地图引擎无缝集成。

cuOpt 在研究最深入的路径优化基准测试中,使用知名解决方案进行持续测试,测试结果比基于 CPU 的方案提速 100 倍。cuOpt 在 Gehring & Homberger 车辆路径基准测试中创造了 15 项记录,在 Li & Lim 取货和送货基准测试中创造了 8 项记录,展现出全球最佳的准确性与最快的速度。


Q:NVIDIA cuOpt 微服务有什么应用场景?


A:

在依赖复杂自动化系统、精准物料流程以及人机交互的设施(如汽车工厂、半导体代工厂、仓库等)中同时采用 cuOpt、Omniverse 和 NVIDIA Metropolis for Factories,将有助于优化和创建安全的设施与环境以应对大量的物流处理。


川崎重工是一家拥有一百多年大型机械制造历史的制造企业。该公司正与 Slalom 合作,开发由 AI 驱动的川崎轨道维护平台,并在这一过程中利用 cuOpt 实现高效率的路径规划。该平台能够为维护团队提供轨道状况的相关数据,以便于确定维修的优先顺序,从而提升运营的安全性和可靠性。


一家全球汽车座椅制造领域的领先企业采用了由 Omniverse 和 cuOpt 驱动的 SyncTwin 的数字孪生功能,借助 AI 以改善运营。cuOpt 与 SyncTwin 的连接可实现高效的路径规划,优化了庞大装卸码头网络中包括车辆、机器人托盘升降机等在内的所有动态部分。


更多精彩问答,点击下方小程序,
关注 NVIDIA 知乎账号


NVIDIA 知乎精彩问答甄选往期精彩内容

NVIDIA 知乎精彩问答甄选 | 解读 NVIDIA GTC 2024 发布的新技术(四)
NVIDIA 知乎精彩问答甄选 | 解读 NVIDIA GTC 2024 发布的新技术(三)
NVIDIA 知乎精彩问答甄选 | 解读 NVIDIA GTC 2024 发布的新技术(二)


更多精彩仍在继续... 

敬请关注



点击 “阅读原文”,或扫描下方海报二维码,北京时间 6 月 2 日 19:00 观看 NVIDIA 创始人兼 CEO 黄仁勋在 COMPUTEX 2024 的现场主题演讲直播,一同揭开新工业革命序幕!


评论
  • 本文介绍Linux系统更换开机logo方法教程,通用RK3566、RK3568、RK3588、RK3576等开发板,触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。制作图片开机logo图片制作注意事项(1)图片必须为bmp格式;(2)图片大小不能大于4MB;(3)BMP位深最大是32,建议设置为8;(4)图片名称为logo.bmp和logo_kernel.bmp;开机
    Industio_触觉智能 2025-01-06 10:43 71浏览
  • 每日可见的315MHz和433MHz遥控模块,你能分清楚吗?众所周知,一套遥控设备主要由发射部分和接收部分组成,发射器可以将控制者的控制按键经过编码,调制到射频信号上面,然后经天线发射出无线信号。而接收器是将天线接收到的无线信号进行解码,从而得到与控制按键相对应的信号,然后再去控制相应的设备工作。当前,常见的遥控设备主要分为红外遥控与无线电遥控两大类,其主要区别为所采用的载波频率及其应用场景不一致。红外遥控设备所采用的射频信号频率一般为38kHz,通常应用在电视、投影仪等设备中;而无线电遥控设备
    华普微HOPERF 2025-01-06 15:29 73浏览
  • 彼得·德鲁克被誉为“现代管理学之父”,他的管理思想影响了无数企业和管理者。然而,关于他的书籍分类,一种流行的说法令人感到困惑:德鲁克一生写了39本书,其中15本是关于管理的,而其中“专门写工商企业或为企业管理者写的”只有两本——《为成果而管理》和《创新与企业家精神》。这样的表述广为流传,但深入探讨后却发现并不完全准确。让我们一起重新审视这一说法,解析其中的矛盾与根源,进而重新认识德鲁克的管理思想及其著作的真正价值。从《创新与企业家精神》看德鲁克的视角《创新与企业家精神》通常被认为是一本专为企业管
    优思学院 2025-01-06 12:03 73浏览
  • 这篇内容主要讨论三个基本问题,硅电容是什么,为什么要使用硅电容,如何正确使用硅电容?1.  硅电容是什么首先我们需要了解电容是什么?物理学上电容的概念指的是给定电位差下自由电荷的储藏量,记为C,单位是F,指的是容纳电荷的能力,C=εS/d=ε0εrS/4πkd(真空)=Q/U。百度百科上电容器的概念指的是两个相互靠近的导体,中间夹一层不导电的绝缘介质。通过观察电容本身的定义公式中可以看到,在各个变量中比较能够改变的就是εr,S和d,也就是介质的介电常数,金属板有效相对面积以及距离。当前
    知白 2025-01-06 12:04 107浏览
  • 随着市场需求不断的变化,各行各业对CPU的要求越来越高,特别是近几年流行的 AIOT,为了有更好的用户体验,CPU的算力就要求更高了。今天为大家推荐由米尔基于瑞芯微RK3576处理器推出的MYC-LR3576核心板及开发板。关于RK3576处理器国产CPU,是这些年的骄傲,华为手机全国产化,国人一片呼声,再也不用卡脖子了。RK3576处理器,就是一款由国产是厂商瑞芯微,今年第二季推出的全新通用型的高性能SOC芯片,这款CPU到底有多么的高性能,下面看看它的几个特性:8核心6 TOPS超强算力双千
    米尔电子嵌入式 2025-01-03 17:04 41浏览
  • 自动化已成为现代制造业的基石,而驱动隔离器作为关键组件,在提升效率、精度和可靠性方面起到了不可或缺的作用。随着工业技术不断革新,驱动隔离器正助力自动化生产设备适应新兴趋势,并推动行业未来的发展。本文将探讨自动化的核心趋势及驱动隔离器在其中的重要角色。自动化领域的新兴趋势智能工厂的崛起智能工厂已成为自动化生产的新标杆。通过结合物联网(IoT)、人工智能(AI)和机器学习(ML),智能工厂实现了实时监控和动态决策。驱动隔离器在其中至关重要,它确保了传感器、执行器和控制单元之间的信号完整性,同时提供高
    腾恩科技-彭工 2025-01-03 16:28 166浏览
  • 根据Global Info Research项目团队最新调研,预计2030年全球封闭式电机产值达到1425百万美元,2024-2030年期间年复合增长率CAGR为3.4%。 封闭式电机是一种电动机,其外壳设计为密闭结构,通常用于要求较高的防护等级的应用场合。封闭式电机可以有效防止外部灰尘、水分和其他污染物进入内部,从而保护电机的内部组件,延长其使用寿命。 环洋市场咨询机构出版的调研分析报告【全球封闭式电机行业总体规模、主要厂商及IPO上市调研报告,2025-2031】研究全球封闭式电机总体规
    GIRtina 2025-01-06 11:10 76浏览
  •     为控制片内设备并且查询其工作状态,MCU内部总是有一组特殊功能寄存器(SFR,Special Function Register)。    使用Eclipse环境调试MCU程序时,可以利用 Peripheral Registers Viewer来查看SFR。这个小工具是怎样知道某个型号的MCU有怎样的寄存器定义呢?它使用一种描述性的文本文件——SVD文件。这个文件存储在下面红色字体的路径下。    例:南京沁恒  &n
    电子知识打边炉 2025-01-04 20:04 63浏览
  • PLC组态方式主要有三种,每种都有其独特的特点和适用场景。下面来简单说说: 1. 硬件组态   定义:硬件组态指的是选择适合的PLC型号、I/O模块、通信模块等硬件组件,并按照实际需求进行连接和配置。    灵活性:这种方式允许用户根据项目需求自由搭配硬件组件,具有较高的灵活性。    成本:可能需要额外的硬件购买成本,适用于对系统性能和扩展性有较高要求的场合。 2. 软件组态   定义:软件组态主要是通过PLC
    丙丁先生 2025-01-06 09:23 66浏览
  • 在智能家居领域中,Wi-Fi、蓝牙、Zigbee、Thread与Z-Wave等无线通信协议是构建短距物联局域网的关键手段,它们常在实际应用中交叉运用,以满足智能家居生态系统多样化的功能需求。然而,这些协议之间并未遵循统一的互通标准,缺乏直接的互操作性,在进行组网时需要引入额外的网关作为“翻译桥梁”,极大地增加了系统的复杂性。 同时,Apple HomeKit、SamSung SmartThings、Amazon Alexa、Google Home等主流智能家居平台为了提升市占率与消费者
    华普微HOPERF 2025-01-06 17:23 76浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦