使用NVIDIAIsaacSim、ROS和Nimbus开发多机器人环境

原创 英伟达NVIDIA中国 2023-06-05 19:11



随着现实场景中部署的自主机器人越来越多,对高保真多机器人仿真环境的需求也在迅速增长。本文将回顾笔者过去在 Cogniteam 使用的仿真多机器人的方法、目前使用 NVIDIA Isaac Sim 所取得的进步,以及 Nimbus 如何通过 Isaac Sim 加速多机器人仿真的开发和维护。 


使用 Unreal Tournament 

游戏引擎进行多机器人仿真


大约 20 年前,我和 Cogniteam 的朋友们开始进行机器人开发。大家想要构建一个用于多机器人任务分配和团队工作的机器人框架。该系统最初被命名为 CogniTAO,后来又发布了简化版本 ROS decision_making。


当时,多机器人的用例还很少,而且也无法对这些机器人进行 3D 仿真。所以我为 Unreal Tournament 2000-2004 游戏引擎写了一个可以仿真四个机器人的 mod。我们这支由四名程序员组成的小团队花了大约 3 年时间,开发出一个可以顺利运行 15 分钟的仿真环境。


图 1. 四个机器人的仿真(左)

以及这些机器人的视频(右)


该环境能够在五台先进的台式电脑上仿真四个带有摄像头、Hokuyo 激光雷达、测向仪和测绘功能的机器人,并且能够远程接收每台机器人的视频资料。我们的一位工程师写了一个 C++ 的 TCP 客户端,可以直接从本地网络传输游戏引擎的数据并全屏显示。必须严格按照顺序运行代码,这样才能让机器人按时抵达正确的位置。


使用 Gazebo 进行多机器人仿真


到了 2013 年,在 Gazebo 成为实际中的机器人仿真平台后,我们把工作转移到了 Gazebo 上。三个程序员花了大约 2 年时间,在两台英特尔 Xeon 上仿真了 10 个机器人。他们使用了 ROS move_base 导航堆栈和 OpenCV Hough Circle Transform 进行模板检测,在 TensorFlow 出现之前,机器人团队都是用这个办法来做演示的。我们当时的同事花了 6 个月的时间构建了 RQT 插件,来控制和显示来自多个机器人的数据串流(图 2)。


图 2. 10 个带有 RQT 插件的机器人

所拍摄的视频影像和地图视图


这些机器人必须能够相互通信,也必须能够在无法通信的情况下运行。为了实现这一点,每个机器人都必须运行自己的 ROS 主程序,并通过 ROS 多主程序网络进行同步。


使用 NVIDIA Isaac Sim 进行多机器人仿真


几个月前,我请 Cogniteam 算法团队的计算机科学学生 Saar Moseri 使用云机器人生态 Nimbus 和 NVIDIA Isaac Sim 建立了一个多机器人仿真场景。我和内部测试团队都希望使用 Nimbus 来控制机器人,并查看它们所产生的数据。


Saar 花了大约两周时间熟悉环境和配置系统。图 3 所示的是这项工作的成果,运行在 Cogniteam 实验室一台装有 NVIDIA GeForce RTX 3080 的标准(单体)台式机上。


图 3. NVIDIA Isaac Sim 多机器人默认设置


Saar 依据了 NVIDIA NGC 上的 Isaac Sim 文档来安装和设置环境。他使用 Nimbus 在仿真机上设置了代理并创建了一个网关节点,通过 ROS 接收来自仿真机的数据。


图 4. Nimbus 机器人编辑器(左)

和 Nimbus 配置编辑器(右)


然后我们创建了图 5 所示的节点配置。


图 5. 带有 move_base 导航的 Nimbus 简单任务配置


这两个已经容器化的构建模块分别是一个网关节点和一个 move_base 导航的节点。该配置被部署到 Cogniteam 实验室仿真桌面上运行的代理中。其他更复杂的配置连同来源,包括用于 GMapping、路径追踪等的节点,都可以在 Nimbus Hubhttps://app.cognimbus.com/nimbushub获取。


我和团队都被这种方法的无限可能性震惊到了。在上述配置中,仿真感官数据从 Isaac Sim 通过 ROS 网关到达,ROS 网关同时支持 ROS 和 ROS 2。Nimbus 可实现查看和控制功能。


这个开箱即用的设置使我们的团队能够执行基本的仿真任务,并在实验室里仿真机器人车队的控制。不仅如此,还可以完成许多其他功能,比如记录机器人的仿真运行情况和感官数据、通过远程 SSH 连接到仿真机器、对仿真数据进行全局监控,甚至向验证团队发送有关仿真进展的电子邮件和短信通知。所有这些都可以在一个网络浏览器上完成。


将 Isaac Sim 与 Nimbus 组合成统一的系统,其功能与现有的云仿真产品相似,但在本地机器上运行且不会产生额外的云仿真计算成本。此外,它还开辟了一些新的先进仿真流程,比如硬件在环仿真等。这在云中运行仿真时是不可能做到的。图 6 显示了 Nimbus 中的控制、导航和绘图情况。


图 6. Nimbus 机器人 WebRTC 视频监控(左)

以及 Nimbus 地图视图和自主控制(右)


如要拷贝上述提到的设置,请参考 Isaac Sim documentation (https://catalog.ngc.nvidia.com/orgs/nvidia/containers/isaac-sim) 文档。然后在 Nimbus 上创建一个免费账户,登录后按照说明即可创建一个机器人。


在将机器人代理安装在 Isaac Sim 以 headless 模式运行的桌面上后,您就能够通过远程 SSH 配置仿真并在 Nimbus 网站上监控仿真机。



视频1. Nimbus 和 NVIDIA Isaac Sim 演示视频


您可在 Nimbus hub 部署 Isaac Sim 配置。由于一切都已经容器化(包括 Isaac Sim)并且可在浏览器上进行控制,因此不需要安装任何应用。机器上的代理将设置好执行所需的一切。


然后,您可以在该代理的监控页面上监控任何与您的设置相关的数据。在代理设置中,您可以通过在 ROS 串流上添加条件来定义通知,比如:


if GoalStatus == ABORTED”send sms/mail to simulation@your-company.com


总结


仿真是成功部署自主机器人的关键。多次运行同一场景对测试来说至关重要,但多机器人仿真则有所不同。开发一个高保真的多机器人仿真环境十分复杂且耗时,但正如本文所述,您可以使用 NVIDIA Isaac Sim Nimbus 简化这一过程。


如要进一步了解 Isaac Sim,请访问 NVIDIA Developer Isaac ROS Forum https://forums.developer.nvidia.com/c/agx-autonomous-machines/isaac/67




点击 “阅读原文”,或扫描下方海报二维码观看 NVIDIA 创始人兼 CEO 黄仁勋在 COMPUTEX 2023 的主题演讲直播回放,主题演讲中文字幕版已上线,了解 AI、图形及其他领域的最新进展!


评论 (0)
  • 据先科电子官方信息,其产品包装标签将于2024年5月1日进行全面升级。作为电子元器件行业资讯平台,大鱼芯城为您梳理本次变更的核心内容及影响:一、标签变更核心要点标签整合与环保优化变更前:卷盘、内盒及外箱需分别粘贴2张标签(含独立环保标识)。变更后:环保标识(RoHS/HAF/PbF)整合至单张标签,减少重复贴标流程。标签尺寸调整卷盘/内盒标签:尺寸由5030mm升级至**8040mm**,信息展示更清晰。外箱标签:尺寸统一为8040mm(原7040mm),提升一致性。关键信息新增新增LOT批次编
    大鱼芯城 2025-04-01 15:02 93浏览
  • 引言随着物联网和智能设备的快速发展,语音交互技术逐渐成为提升用户体验的核心功能之一。在此背景下,WT588E02B-8S语音芯片,凭借其创新的远程更新(OTA)功能、灵活定制能力及高集成度设计,成为智能设备语音方案的优选。本文将从技术特性、远程更新机制及典型应用场景三方面,解析该芯片的技术优势与实际应用价值。一、WT588E02B-8S语音芯片的核心技术特性高性能硬件架构WT588E02B-8S采用16位DSP内核,内部振荡频率达32MHz,支持16位PWM/DAC输出,可直接驱动8Ω/0.5W
    广州唯创电子 2025-04-01 08:38 81浏览
  • 一、温度计不准的原因温度计不准可能由多种原因导致,如温度计本身的质量问题、使用环境的变化、长时间未进行校准等。为了确保温度计的准确性,需要定期进行校准。二、校准前准备工作在进行温度计校准之前,需要做好以下准备工作:1. 选择合适的校准方法和设备,根据温度计的型号和使用需求来确定。2. 确保校准环境稳定,避免外部因素对校准结果产生影响。3. 熟悉温度计的使用说明书和校准流程,以便正确操作。三、温度计校准方法温度计校准方法一般分为以下几步:1. 将温度计放置在
    锦正茂科技 2025-03-31 10:27 43浏览
  • 在智能家居领域,无线门铃正朝着高集成度、低功耗、强抗干扰的方向发展。 WTN6040F 和 WT588F02B 两款语音芯片,凭借其 内置EV1527编解码协议 和 免MCU设计 的独特优势,为无线门铃开发提供了革命性解决方案。本文将深入解析这两款芯片的技术特性、应用场景及落地价值。一、无线门铃市场痛点与芯片方案优势1.1 行业核心痛点系统复杂:传统方案需MCU+射频模块+语音芯片组合,BOM成本高功耗瓶颈:待机电流
    广州唯创电子 2025-03-31 09:06 147浏览
  • 北京贞光科技有限公司作为紫光同芯产品的官方代理商,为客户提供车规安全芯片的硬件、软件SDK销售及专业技术服务,并且可以安排技术人员现场支持客户的选型和定制需求。在全球汽车电子市场竞争日益激烈的背景下,中国芯片厂商正通过与国际领先企业的深度合作,加速融入全球技术生态体系。近日,紫光同芯与德国HighTec达成的战略合作标志着国产高端车规芯片在国际化道路上迈出了关键一步,为中国汽车电子产业的发展注入了新的活力。全栈技术融合:打造国际化开发平台紫光同芯与HighTec共同宣布,HighTec汽车级编译
    贞光科技 2025-03-31 14:44 68浏览
  • 在智能语音交互设备开发中,系统响应速度直接影响用户体验。WT588F系列语音芯片凭借其灵活的架构设计,在响应效率方面表现出色。本文将深入解析该芯片从接收指令到音频输出的全过程,并揭示不同工作模式下的时间性能差异。一、核心处理流程与时序分解1.1 典型指令执行路径指令接收 → 协议解析 → 存储寻址 → 数据读取 → 数模转换 → 音频输出1.2 关键阶段时间分布(典型值)处理阶段PWM模式耗时DAC模式耗时外挂Flash模式耗时指令解析2-3ms2-3ms3-5ms存储寻址1ms1ms5-10m
    广州唯创电子 2025-03-31 09:26 180浏览
  • 在不久前发布的《技术实战 | OK3588-C开发板上部署DeepSeek-R1大模型的完整指南》一文中,小编为大家介绍了DeepSeek-R1在飞凌嵌入式OK3588-C开发板上的移植部署、效果展示以及性能评测,本篇文章不仅将继续为大家带来关于DeepSeek-R1的干货知识,还会深入探讨多种平台的移植方式,并介绍更为丰富的交互方式,帮助大家更好地应用大语言模型。1、移植过程1.1 使用RKLLM-Toolkit部署至NPURKLLM-Toolkit是瑞芯微为大语言模型(LLM)专门开发的转换
    飞凌嵌入式 2025-03-31 11:22 127浏览
  • 升职这件事,说到底不是单纯靠“干得多”或者“喊得响”。你可能也看过不少人,能力一般,甚至没你努力,却升得飞快;而你,日复一日地拼命干活,升职这两个字却始终离你有点远。这种“不公平”的感觉,其实在很多职场人心里都曾经出现过。但你有没有想过,问题可能就藏在一些你“没当回事”的小细节里?今天,我们就来聊聊你升职总是比别人慢,可能是因为这三个被你忽略的小细节。第一:你做得多,但说得少你可能是那种“默默付出型”的员工。项目来了接着干,困难来了顶上去,别人不愿意做的事情你都做了。但问题是,这些事情你做了,却
    优思学院 2025-03-31 14:58 73浏览
  • REACH和RoHS欧盟两项重要的环保法规有什么区别?适用范围有哪些?如何办理?REACH和RoHS是欧盟两项重要的环保法规,主要区别如下:一、核心定义与目标RoHS全称为《关于限制在电子电器设备中使用某些有害成分的指令》,旨在限制电子电器产品中的铅(Pb)、汞(Hg)、镉(Cd)、六价铬(Cr6+)、多溴联苯(PBBs)和多溴二苯醚(PBDEs)共6种物质,通过限制特定材料使用保障健康和环境安全REACH全称为《化学品的注册、评估、授权和限制》,覆盖欧盟市场所有化学品(食品和药品除外),通过登
    张工13144450251 2025-03-31 21:18 55浏览
  • 引言在语音芯片设计中,输出电路的设计直接影响音频质量与系统稳定性。WT588系列语音芯片(如WT588F02B、WT588F02A/04A/08A等),因其高集成度与灵活性被广泛应用于智能设备。然而,不同型号在硬件设计上存在关键差异,尤其是DAC加功放输出电路的配置要求。本文将从硬件架构、电路设计要点及选型建议三方面,解析WT588F02B与F02A/04A/08A的核心区别,帮助开发者高效完成产品设计。一、核心硬件差异对比WT588F02B与F02A/04A/08A系列芯片均支持PWM直推喇叭
    广州唯创电子 2025-04-01 08:53 103浏览
  •        在“软件定义汽车”的时代浪潮下,车载软件的重要性日益凸显,软件在整车成本中的比重逐步攀升,已成为汽车智能化、网联化、电动化发展的核心驱动力。车载软件的质量直接关系到车辆的安全性、可靠性以及用户体验,因此,构建一套科学、严谨、高效的车载软件研发流程,确保软件质量的稳定性和可控性,已成为行业共识和迫切需求。       作为汽车电子系统领域的杰出企业,经纬恒润深刻理解车载软件研发的复杂性和挑战性,致力于为O
    经纬恒润 2025-03-31 16:48 48浏览
  • 提到“质量”这两个字,我们不会忘记那些奠定基础的大师们:休哈特、戴明、朱兰、克劳士比、费根堡姆、石川馨、田口玄一……正是他们的思想和实践,构筑了现代质量管理的核心体系,也深远影响了无数企业和管理者。今天,就让我们一同致敬这些质量管理的先驱!(最近流行『吉卜力风格』AI插图,我们也来玩玩用『吉卜力风格』重绘质量大师画象)1. 休哈特:统计质量控制的奠基者沃尔特·A·休哈特,美国工程师、统计学家,被誉为“统计质量控制之父”。1924年,他提出世界上第一张控制图,并于1931年出版《产品制造质量的经济
    优思学院 2025-04-01 14:02 66浏览
  • 在环保与经济挑战交织的当下,企业如何在提升绩效的同时,也为地球尽一份力?普渡大学理工学院教授 查德·劳克斯(Chad Laux),和来自 Maryville 大学、俄亥俄州立大学及 Trine 大学的三位学者,联合撰写了《精益可持续性:迈向循环经济之路(Lean Sustainability: Creating a Sustainable Future through Lean Thinking)》一书,为这一问题提供了深刻的答案。这本书也荣获了 国际精益六西格玛研究所(IL
    优思学院 2025-03-31 11:15 53浏览
  • Shinco音响拆解 一年一次的面包板社区的拆解活动拉开帷幕了。板友们开始大显身手了,拆解各种闲置的宝贝。把各自的设计原理和拆解的感悟一一向电子爱好者展示。产品使用了什么方案,用了什么芯片,能否有更优的方案等等。不仅让拆解的人员了解和深入探索在其中。还可以让网友们学习电子方面的相关知识。今天我也向各位拆解一个产品--- Shinco音响(如下图)。 当产品连接上电脑的耳机孔和USB孔时,它会发出“开机,音频输入模式”的语音播报,。告诉用户它已经进入音响外放模式。3.5mm耳机扣接收电脑音频信号。
    zhusx123 2025-03-30 15:42 107浏览
我要评论
0
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦