NVIDIANIM微服务现已推出,可简化RTXAIPC和工作站上的智能体工作流

英伟达NVIDIA中国 2025-04-07 18:15


生成式 AI 为 PC 和工作站带来了全新功能,包括游戏助手、增强的内容创作和生产力工具等。


现已推出的 NVIDIA NIM 微服务和即将推出的 AI Blueprints 可加速 AI 开发和提升其可用性。NVIDIA NIM 于 1 月在 CES 上推出,提供针对 NVIDIA RTX 平台优化的预打包先进 AI 模型,包括 NVIDIA GeForce RTX 50 系列及全新 NVIDIA Blackwell RTX PRO GPU。微服务易于下载及运行。微服务涵盖了顶级 PC 开发模态,并与顶级生态系统应用和工具兼容。


在计算领域的关键时刻,突破性的 AI 模型和全球开发者社区正在推动 AI 赋能工具和工作流的爆炸式增长,NIM 微服务和 AI Blueprint 正助力为 PC 带来关键创新。


NIM 助您马上出发


尽管 AI 的创新速度惊人,但 PC 开发者社区仍然很难上手这项技术。


将 AI 模型从研究引入 PC 需要模型变体管护、输入输出数据的自适应管理和量化以优化资源的使用。此外,模型必须转化为与优化的推理后端软件配合使用,并连接到全新的 AI 应用编程接口(API)。这需要付出巨大的努力,可能会减缓 AI 的普及。


NVIDIA NIM 微服务通过提供预打包、经优化,易于下载且连接到行业标准 API 的 AI 模型,帮助解决了这一问题。它们针对 RTX AI PC 和工作站上的性能进行了优化,并包含了来自社区的顶级 AI 模型以及 NVIDIA 开发的模型。



NIM 微服务支持各种 AI 应用,包括大语言模型(LLMs)、视觉语言模型、图像生成、语音处理、基于检索增强生成(RAG)的搜索、PDF 提取和计算机视觉。提供十种面向 RTX 的 NIM 微服务,支持各种应用,包括语言和图像生成、计算机视觉、语音 AI 等。

立即访问 https://www.nvidia.cn/ai/ 开始使用以下 NIM:


  • 语言和推理:Deepseek-R1-distill-llama-8B、Mistral-nemo-12B-instruct 和 Llama3.1-8B-instruct

  • 图像生成:Flux.dev

  • 音频:Riva Parakeet-ctc-0.6B-asr 和 Maxine Studio Voice

  • RAG:Llama-3.2-NV-EmbedQA-1B-v2

  • 计算机视觉和理解:NV-CLIP、PaddleOCR 和  Yolo-X-v1


NIM 微服务还可以通过顶级 AI 生态系统工具和框架提供。


对于 AI 发烧友,AnythingLLM 和 ChatRTX 现在支持 NIM,可以通过简单、友好的用户界面轻松与 LLM 和  AI 智能体聊天。借助这些工具,用户可以创建个性化  AI 助手并集成自己的文档和数据,帮助自动化任务并提高生产力。


对于希望构建、测试和集成 AI 到其应用中的开发者,FlowiseAI 和 Langflow 现在支持 NIM,并提供带有视觉界面的低代码和无代码解决方案,以最低限度的编程专业知识设计 AI 工作流。即将推出对 ComfyUI 的支持。借助这些工具,开发者可以轻松创建复杂的 AI 应用,如聊天机器人、图像生成器和数据分析系统。


此外,Microsoft VS Code AI Toolkit、CrewAI 和 Langchain 现在支持 NIM,并提供将微服务集成到应用代码中的高级功能,有助于确保无缝集成和优化。


NVIDIA AI Blueprint,

提供预构建工作流


NVIDIA AI Blueprint 为 AI 开发者提供了借助 NVIDIA NIM 微服务构建生成式 AI 工作流的先机。


Blueprint(蓝图)是即用、可拓展的参考样本,可以打包所有必要元素(源代码、示例数据、文档和演示应用),以创建和自定义本地运行的高级 AI 工作流。开发者可以修改和拓展 AI Blueprint,以调整其行为、使用不同的模型或实现全新的功能。



PDF 转播客 AI Blueprint 可以将文档转换为音频内容,以便用户可以随时随地学习。通过从 PDF 中提取文本、图像和表格,工作流利用 AI 生成信息丰富的播客。为了更深入地探讨主题,用户可以与由 AI 赋能的播客主持人进行互动式讨论。


借助适用于 Linux 的 Windows 子系统,

在 RTX 上运行 NVIDIA NIM 和 AI Blueprint


使 NIM 微服务能够在 PC 上运行,关键技术之一是适用于 Linux 的 Windows 子系统(WSL)。


微软和 NVIDIA 合作 为 WSL 引入了 CUDA 和 RTX 加速,使在 Windows 上运行优化的、容器化的微服务成为可能。从 PC 和工作站到数据中心和云计算,这使得相同的 NIM 微服务可以随时随地运行。


访问 www.nvidia.cn/ai/,开始在 RTX AI PC 上使用  NVIDIA NIM 和 AI Blueprint。


构建、创造、创新


用于 RTX 的 NVIDIA NIM 微服务 和 AI Blueprint 现已在 www.nvidia.cn/ai/ 提供,为开发者和 AI 发烧友构建 AI 应用提供功能强大、随时可用的工具。



点击“阅读原文”扫描下方海报二维码观看 NVIDIA CEO 黄仁勋主题演讲,中文字幕版已上线,了解代理式 AI、机器人、加速计算等领域的发展趋势,与我们一起探索 AI 的未来!


评论 (0)
  • 软瓦格化 RISC-V 处理器集群可加速设计并降低风险作者:John Min John Min是Arteris的客户成功副总裁。他拥有丰富的架构专业知识,能够成功管理可定制和标准处理器在功耗、尺寸和性能方面的设计权衡。他的背景包括利用 ARC、MIPS、x86 和定制媒体处理器来设计 CPU SoC,尤其擅长基于微处理器的 SoC。RISC-V 指令集架构 (ISA) 以其强大的功能、灵活性、低采用成本和开源基础而闻名,正在经历各个细分市场的快速增长。这种多功能 ISA 支持汽车、航空航天、国防
    ArterisIP 2025-04-14 10:52 42浏览
  •   电磁干扰测试系统软件:深度剖析   电磁干扰(EMI)测试系统软件,是电子设备电磁兼容性(EMC)测试的核心工具,在通信、汽车、航空航天、医疗设备等众多领域广泛应用。它的核心功能涵盖信号采集、频谱分析、干扰定位、合规性评估以及报告生成,旨在保障设备在复杂电磁环境中稳定运行。下面从功能、技术原理、应用场景、主流软件及发展趋势这五个方面展开详细解析。   应用案例  软件开发可以来这里,这个首肌开始是幺乌扒,中间是幺幺叁叁,最后一个是泗柒泗泗,按照你的顺序组合可以找到。   目前
    华盛恒辉l58ll334744 2025-04-14 10:02 21浏览
  • 时源芯微 专业EMC解决方案提供商  为EMC创造可能(适用于高频时钟电路,提升EMC性能与信号稳定性)一、设计目标抑制电源噪声:阻断高频干扰(如DC-DC开关噪声)传入晶振电源。降低时钟抖动:确保晶振输出信号纯净,减少相位噪声。通过EMC测试:减少晶振谐波辐射(如30MHz~1GHz频段)。二、滤波电路架构典型拓扑:电源输入 → 磁珠(FB) → 大电容(C1) + 高频电容(C2) → 晶振VDD1. 磁珠(Ferrite Bead)选型阻抗特性:在目标频段(如100MHz~1GH
    时源芯微 2025-04-14 14:53 46浏览
  •   电磁干扰测试系统:电子设备电磁兼容性保障利器   北京华盛恒辉电磁干扰测试系统作为评估电子设备在电磁环境中电磁兼容性(EMC)的关键工具,主要用于检测与分析设备在电磁干扰环境下的性能表现,确保其符合相关标准,能够在实际应用中稳定运行。   应用案例   目前,已有多个电磁干扰测试系统在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润电磁干扰测试系统。这些成功案例为电磁干扰测试系统的推广和应用提供了有力支持。   系统组成   电磁干扰测试系统一般由以下核心部分构成:  
    华盛恒辉l58ll334744 2025-04-14 10:40 23浏览
  • 你知道精益管理中的“看板”真正的意思吗?在很多人眼中,它不过是车间墙上的一块卡片、一张单子,甚至只是个用来控制物料的工具。但如果你读过大野耐一的《丰田生产方式》,你就会发现,看板的意义远不止于此。它其实是丰田精益思想的核心之一,是让工厂动起来的“神经系统”。这篇文章,我们就带你一起从这本书出发,重新认识“看板”的深层含义。一、使“看板”和台车结合使用  所谓“看板”就是指纸卡片。“看板”的重要作用之一,就是连接生产现场上道工序和下道工序的信息工具。  “看板”是“准时化”生产的重要手段,它总是要
    优思学院 2025-04-14 15:02 50浏览
  •   高空 SAR 目标智能成像系统软件:多领域应用的前沿利器   高空 SAR(合成孔径雷达)目标智能成像系统软件,专门针对卫星、无人机等高空平台搭载的 SAR传感器数据,融合人工智能与图像处理技术,打造出的高效目标检测、识别及成像系统。此软件借助智能算法,显著提升 SAR图像分辨率、目标特征提取能力以及实时处理效率,为军事侦察、灾害监测、资源勘探等领域,提供关键技术支撑。   应用案例系统软件供应可以来这里,这个首肌开始是幺伍扒,中间是幺幺叁叁,最后一个是泗柒泗泗,按照数字顺序组合
    华盛恒辉l58ll334744 2025-04-14 16:09 64浏览
  • 在当今汽车电子化和智能化快速发展的时代,车规级电子元器件的质量直接关系到汽车安全性能。三星作为全球领先的电子元器件制造商,其车规电容备受青睐。然而,选择一个靠谱的三星车规电容代理商至关重要。本文以行业领军企业北京贞光科技有限公司为例,深入剖析如何选择优质代理商。选择靠谱代理商的关键标准1. 授权资质与行业地位选择三星车规电容代理商首先要验证其授权资质及行业地位。北京贞光科技作为中国电子元器件行业的领军者,长期走在行业前沿,拥有完备的授权资质。公司专注于市场分销和整体布局,在电子元器件领域建立了卓
    贞光科技 2025-04-14 16:18 52浏览
  • 在制造业或任何高度依赖产品质量的行业里,QA(质量保证)经理和QC(质量控制)经理,几乎是最容易被外界混淆的一对角色。两者的分工虽清晰,但职责和目标往往高度交叉。因此,当我们谈到“谁更有可能升任质量总监”时,这并不是一个简单的职位比较问题,而更像是对两种思维方式、职业路径和管理视角的深度考察。QC经理,问题终结者QC经理的世界,是充满数据、样本和判定标准的世界。他们是产品出厂前的最后一道防线,手里握着的是批次报告、不合格品记录、纠正措施流程……QC经理更像是一位“问题终结者”,目标是把不合格扼杀
    优思学院 2025-04-14 12:09 34浏览
  •  亥姆霍兹线圈的制造材料选择需兼顾导电性、绝缘性、机械强度及磁场性能,具体分类如下:一、‌导线材料1、‌高纯度铜线:‌作为线圈绕制的核心材料,铜因其you异的导电性(电阻率低)和热稳定性成为shou选。漆包铜线通过表面绝缘漆层实现匝间绝缘,避免短路‌。2、‌其他导电材料‌ 铝线等材料可用于特定场景(如轻量化需求),但导电性和抗氧化性较铜略逊二、‌磁源材料‌1、‌永磁体‌如钕铁硼(NdFeB)或铁氧体,适用于无需外部电源的静态磁场生成,但磁场强度有限。2、‌电磁铁‌通过电流控制磁场强度,
    锦正茂科技 2025-04-14 10:22 22浏览
  • 亥姆霍兹线圈的应用领域‌物理学研究‌:在原子物理中,用于研究塞曼效应;在磁学研究中,用于测试磁性材料的磁滞回线等特性;还可用于研究电子荷质比等实验‌。‌工程与技术领域‌:用于电子设备校准和测试,提供标准磁场环境;在大型加速器中用于磁场校准;用于电磁干扰模拟实验,测试电子设备在不同磁场干扰下的性能‌。‌生物医学领域‌:研究生物磁场效应,如探索磁场对生物细胞的影响;在生物医学工程基础研究中,提供可控磁场环境‌。‌其他应用‌:作为磁场发生装置产生标准磁场;用于地球磁场的抵消与补偿、地磁环境模拟;还可用
    锦正茂科技 2025-04-14 10:41 34浏览
  • 一、磁场发生设备‌电磁铁‌:由铁芯和线圈组成,通过调节电流大小可产生3T以下的磁场,广泛应用于工业及实验室场景(如电磁起重机)。‌亥姆霍兹线圈‌:由一对平行共轴线圈组成,可在线圈间产生均匀磁场(几高斯至几百高斯),适用于物理实验中的磁场效应研究。‌螺线管‌:通过螺旋线圈产生长圆柱形均匀磁场,电流与磁场呈线性关系,常用于磁性材料研究及电子束聚焦。‌超导磁体‌:采用超导材料线圈,在低温下可产生3-20T的强磁场,用于核磁共振研究等高精度科研领域。‌多极电磁铁‌:支持四极、六极、八极等多极磁场,适用于
    锦正茂科技 2025-04-14 13:29 38浏览
我要评论
0
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦