Q:谁了解新发布的 NVIDIA NIM 微服务?
A:
NVIDIA NIM 微服务提供基于 NVIDIA 推理软件的预构建容器,包括 Triton 推理服务器™ 和 TensorRT™-LLM,使开发者能够将部署时间从几周缩短至几分钟。NVIDIA NIM 微服务适用于 NVIDIA 及合作伙伴生态系统中 20 多个热门的 AI 模型进行推理优化。为语言、语音和药物发现等领域提供行业标准 API,使开发者能够使用安全托管在自己的基础设施中的专有数据,来快速构建 AI 应用。这些应用可按需扩展,从而为在 NVIDIA 加速计算平台上运行生产级生成式 AI 提供灵活性和性能。NIM 微服务为部署 NVIDIA、A121、Adept、Cohere、Getty Images 和 Shutterstock 的模型,以及谷歌、Hugging Face、Meta、微软、Mistral AI 和 Stability AI 的开放模型提供了快速且性能出色的生产级 AI 容器。
Q:NVIDIA 在生成式 AI 微服务有什么新进展吗?
A:
Q:有人听说过 NVIDIA cuOpt 微服务吗,有什么优势?
A:
Q:NVIDIA cuOpt 微服务有什么应用场景?
A:
在依赖复杂自动化系统、精准物料流程以及人机交互的设施(如汽车工厂、半导体代工厂、仓库等)中同时采用 cuOpt、Omniverse 和 NVIDIA Metropolis for Factories,将有助于优化和创建安全的设施与环境以应对大量的物流处理。
川崎重工是一家拥有一百多年大型机械制造历史的制造企业。该公司正与 Slalom 合作,开发由 AI 驱动的川崎轨道维护平台,并在这一过程中利用 cuOpt 实现高效率的路径规划。该平台能够为维护团队提供轨道状况的相关数据,以便于确定维修的优先顺序,从而提升运营的安全性和可靠性。
NVIDIA 知乎精彩问答甄选往期精彩内容
更多精彩仍在继续...
敬请关注