在当今数字化浪潮席卷全球的时代,AI 正以前所未有的速度重塑各个行业。在这场变革中,代理式 AI (Agentic AI) 作为前沿技术的代表,正逐渐成为企业提升效率、优化决策的关键工具。正如 NVIDIA CEO 黄仁勋在 GTC 2025 的演讲中提到,我们正在迈向一个 Agentic AI 的新时代。
在 AI 智能体火热的当下,NVIDIA 不仅支持客户构建智能体,内部的许多团队也一直在积极实践,通过 Agentic AI 简化工作流,解决业务挑战。因此,我们特别推出 NVIDIA Agentic AI 实践月系列内容,带您了解代理式 AI 在 NVIDIA 内部的各个实践,分享 NVIDIA 内部团队的解决方案和重要经验,供您参考和借鉴。
本次分享的实践内容包括:
微调小型语言模型以提高代码审查准确性
构建 AI 智能体以自动创建软件测试案例
构建 AI 销售助理的经验与挑战
使用 NVIDIA NIM 和 LangChain 创建自定义 Slackbot LLM 智能体
完整内容可点击“阅读原文”或下方链接:
https://developer.nvidia.com/zh-cn/blog/tag/chat-labs/
微调小型语言模型
以提高代码审查准确性
微调小语言模型 (SLM) 通常利用知识蒸馏等技术,相较于采用大型基础模型,可提供接近更大模型的性能,并且速度更快、成本效益更高。此外,SLM 可以部署在本地或虚拟私有云 (VPC) 中,使企业能够确保敏感数据的安全。然而,微调较小的模型需要高质量的标记数据,而创建这些数据既耗时又昂贵。
基于此,NVIDIA 团队使用了一种自动微调方法,该方法通过使用数据飞轮策略来应对这些挑战。数据飞轮策略是一种反馈驱动机制,可迭代地提高模型性能。通过使用大型“教师”模型生成和结构化合成训练数据,此方法可优化微调过程,使较小的模型能够更有效地处理复杂任务,同时尽可能减少人工干预。
微调 SLM 可帮助企业在解决成本、延迟和可扩展性相关挑战的同时,实现具有竞争力的准确性。虽然这里的重点是代码辅助,但该方法适用于各种企业用例。
构建 AI 智能体
以自动创建软件测试案例
在软件开发中,测试对于确保最终产品的质量和可靠性至关重要。然而,创建测试计划和规范可能耗时且需要大量人力,尤其是在复杂系统中管理多种需求和不同测试类型时。许多此类任务通常由测试工程师手动执行。
为了简化这一过程,NVIDIA 的 DriveOS 团队开发了 Hephaestus (HEPH),这是一个用于自动测试生成的内部生成式 AI 框架。HEPH 可自动执行各种测试的设计和实施,包括集成测试和单元测试。它使用大语言模型 (LLM) 进行输入分析和代码生成,显著减少了创建测试用例所花费的时间。通过根据输入文档、代码样本和反馈循环生成上下文感知测试,HEPH 使测试更快、更高效。
构建 AI 销售助理的经验与挑战
在 NVIDIA,销售团队依赖于内部和外部文档将先进的硬件和软件推向市场,而寻找这些文档通常会浏览多个存储库来查找信息。为其打造 AI 销售助理则是一项有意义的技术挑战,可为设计可扩展的 AI 驱动型解决方案提供宝贵见解。
借助基于 RAG 的架构,我们集成了各种知识来源,优化了查询处理,并确保了高性能和准确性,从而满足动态数据密集型环境的需求。
通过将先进的 LLM、结构化工作流程和实时数据检索相结合,AI 销售助理可为销售团队提供即时的定制见解,同时显著提高工作流程效率和用户参与度。
该项目为开发者在快节奏领域处理复杂的决策支持系统提供了蓝图。
使用 NVIDIA NIM 和 LangChain
创建自定义 Slackbot LLM 智能体
在企业运营的其他方面,如日常办公协作中,同样可以通过技术提升效率。通过利用 NVIDIA NIM 微服务的强大功能,企业可以利用 API 目录中的模型,快速构建超越简单自动化的智能 Slackbot。这表明 API 目录可用于生产部署。
这些 Slackbot 成为宝贵的虚拟助手,能够处理各种任务——从回答基本查询到解决复杂问题,甚至生成创意内容。这不仅可以节省时间和资源,还可以打造更具协作性和高效的工作环境。
使用 NVIDIA NIM 和 LangChain 针对特定用例创建自定义 Slackbot 智能体的逐步指导可参考博客全文。
通过这些前沿实践,NVIDIA 不断突破技术创新的边界,积极加速代理式 AI 的落地应用,为开发者和企业打造了一系列极具价值的参考范例与强大工具,助力他们在各自的专业领域中实现突破性创新,提升效率与竞争力。
Agentic AI 的时代刚刚开始,未来还会有更多应用场景,NVIDIA 也将继续创新和实践,为您带来更多可借鉴的经验和总结。
了解以上 NVIDIA 的实践内容,请点击“阅读原文”或下方链接:
https://developer.nvidia.com/zh-cn/blog/tag/chat-labs/扫描下方海报二维码,观看 NVIDIA CEO 黄仁勋主题演讲,中文字幕版已上线,了解代理式 AI、机器人、加速计算等领域的发展趋势,与我们一起探索 AI 的未来!