3D视觉技术提升工业自动化中的立体深度感知

MEMS 2024-12-23 00:01

深度感知对仓库机器人应用至关重要,尤其是在自主导航、物品拾取与放置、库存管理等方面。


通过将深度感知与各种类型的3D数据(如体积数据、点云、纹理等)相结合,仓库机器人可以在错综复杂环境中实现自主导航,物品检测,灵活避开障碍物,精准拾取目标物品,将其准确无误地放置在特定位置,同时有效优化仓库空间布局,提升作业效率。

图1 示例仓库机器人应用

3D视觉技术


3D传感器是支持现实场景深度感知测量的基础技术。存在多种常见的3D视觉技术选择,如立体相机、激光雷达、渡越时间相机和激光三角测量。


3D技术的选择取决于具体的应用和需求,因为每项技术都有其独特的优势。例如,激光雷达和激光三角测量技术,由于内置诸如旋转镜等运动部件,因此不适合在恶劣环境中使用。立体相机更适合户外应用场景,原因在于立体相机不易受到阳光直射的干扰。立体相机的成本通常低于其他3D传感器选择。

此外,立体相机在计算图像中的3D数据时,相较于上述其他技术,需要更高的计算能力。然而,部分立体相机配备了板载处理能力,从而减轻主机的数据处理负担。


此外,在某些应用场景下,物体的识别依赖于彩色图像,而彩色点云则能提供更丰富的情境感知。相较于其他常见的3D视觉技术需要额外配备彩色相机,立体相机则能提供彩色图像与彩色点云。


这往往是在范围与精度之间做出的一种权衡考量。例如,远程传感器的精度相对较低,而短距离传感器则具有较高的精度。在测距能力方面,激光雷达具备较远的测距能力,其次是立体相机,最后是渡越时间传感器。激光三角测量的覆盖范围虽然最短,但其精度却更高。自主导航和障碍避让功能需要较长的探测范围,而物品拾取与放置操作则只需中等范围的覆盖即可。近距离范围探测主要则用于物体的识别与检查。


立体技术广泛适用于大多数仓库机器人的应用场景。它能提供灵活的覆盖范围和足够的精度性能。它拥有较低的成本优势,能够轻松适应恶劣环境条件,同时提供物体识别所需的彩色图像。

图2 各种3D视觉技术范围和精度的平衡

立体成像概述


立体成像技术模拟人类视觉中的3D感知原理。人类的双眼从两个不同视角观察同一场景,可以通过视差(即两个不同视角下物体位置的位移)推断出距离。


以下是立体成像流程的关键组成部分。在立体成像系统投入使用前,必须进行一次性相机校准,如下图中的虚线部分所示。

图3 立体成像流程概览

在每一帧图像中,相机首先捕捉原始的左右图像,随后,在矫正步骤中,使用前期校准得到的信息。经过矫正的图像被传递至立体匹配步骤,生成视差图。最后,通过三角测量步骤将视差图转换为3D点云。在这些步骤中,立体匹配的计算开销最为显著。然而,由于处理流程的高度并行化特性,使得这一步骤能够得到大幅优化。


立体相机的关键设计驱动因素是3D精度。深度误差由以下公式得出:ΔZ d。它取决于以下因子:

“Z” = 范围

“B” = 基线,即两台相机之间的距离

“f” = 像素中的焦距,与相机视野及图像分辨率相关。


基于此公式,深度误差随范围的增加而呈二次方增长。这是立体相机在远距离操作中面临的一个主要局限性。为了减少误差,我们可以采取多种措施,例如延长基线长度、提高分辨率或缩小视野范围。

3D视觉技术


1

使用自主移动机器人(AMR)的仓库机器人技术


仓库和工厂可以通过使用自动驾驶机器人实现自动化物料运输,从而提高生产力和效率。AMR通过构建环境地图并同时在地图上进行自我定位来执行SLAM(同步定位与地图构建)。AMR能够规划前往指定目的地的路线,同时精准检测障碍物(包括物体/行人),并灵活地在这些障碍物周围导航。


AMR的主要优势体现在其对不同非结构化环境的操作适应性和可扩展性。仓库无需额外建设特殊的基础设施,同时确保员工的安全。此外,多辆AMR能够协同作业。

图4 立体相机使用案例 – 自主移动机器人

以下是自主移动机器人(AMR)应用中标准立体相机的特征/要求:

  • 高帧率

  • 低延迟

  • 坚固可靠

  • 校准保留

  • 宽视野

  • 远距离工作能力

  • 适用于室内外的高动态范围

2

使用拾取与放置机器人的仓库机器人技术


另一个常见的立体相机仓库机器人应用是拾取与放置作业,这类机器人能够精准地拾取零件或物品,并将其放置到其他位置。该应用的关键组件包括一个用于感知周围环境的视觉系统、一个用于数据处理制定决策的控制系统,以及一个带有夹具或吸盘用于操控各种物体的机器人手臂。相较于人工拾取与放置,这类机器人的优势主要体现在其更高的准确性和一致性上。它们具备出色的环境适应性,能够灵活应对各种变化,同时高效执行重复性任务,从而释放人力,使之投入到更为复杂的作业中,最终推动生产力和效率的双重提升。

图5 立体相机使用案例 – 拾取与放置机器人

拾取与放置机器人应用广泛,涵盖装配、托盘化、去托盘化和箱子拾取等多个领域。以箱子拾取为例,其目标是从容器中移除随机放置的物体。首先,视觉系统需要识别和定位物体,随后计算其方位,确保夹具能够正确拾取。然后,控制系统规划出机器人的移动路径,有效避开途中的障碍物。最后,机器人顺利拾起物体,并将其放置于指定位置。


以下是自拾取与放置机器人应用中标准立体相机的特征/要求:

  • 高精度

  • 低延迟

  • 坚固可靠

  • 校准保留

  • 扬尘/潮湿的工业环境

  • 针对不同大小的物体,需要在视野和工作距离上具备灵活性

现实世界的挑战


通过与客户深入交流,我们识别出一系列现实世界中面临的挑战。由于3D点云的质量直接依赖于图像传感器数据的优劣,机器视觉领域中的典型难题同样适用于此。例如,必须提供充足的光照条件,以避免因长时间曝光导致的图像模糊问题。在3D数据处理方面,常见的挑战包括提升3D点云的整体质量和缩短获取3D数据的延迟时间。当系统投入实际应用后,立体摄相机的选择还需考虑一系列实际因素。


机器人的性能和决策精准度在很大程度上依赖于所获取的3D点云质量。为了提升3D点云的质量,我们可以采取以下措施:

  • 提高传感器和立体分辨率,能够生成更多的3D点。

  • 随着基线增宽、分辨率提高和视野收窄,3D点的准确性得到提高。

  • 采用更先进的立体算法,获得更密集、更清晰的点云,但需注意在质量与处理速度之间找到平衡点。

  • 在低纹理场景中,利用图案投影仪,增加点云的密度。

  • 实施后处理,如中值滤波、散斑滤波、时间滤波等,可以减少点云中的噪声。

延迟是指从图像被相机传感器捕获到3D数据传输至主机所需的时间。低延迟意味着更快的决策速度和更灵敏的环境交互能力。同时,更快的3D数据接收还能为后续的AI处理预留更多时间。以下是降低延迟的关键因素:

  • 通过简化相机架构,可以使得管道中的像素得到并行处理,因此在开始下一个模块的处理前,无需等待前一个模块完成整个图像。

  • 立体处理速度的提升,可加快视差图的生成速度,减少延迟。

  • 增加传输带宽,可缩短从相机到主机传输数据的时间,从而减少延迟。

在系统部署用于生产后,持续监测其性能至关重要。以下是部署后可能遇到的一些实际问题:

  • 相机间歇性工作或频繁掉线,可能是由于接口连接不稳定所致。建议使用更稳定的工业接口,如以太网,替代USB。

  • 若相机因系统冲击和振动而故障,则应选择具有高可靠性、稳健性和适当IP等级的相机。

  • 若相机故障且由于产品生命周期结束无法替换为相同型号相机,则应考虑选择能够提供更为持久的产品生命周期及全面支持的供应商。

  • 若机器人性能随时间下降,可能需要重新校准立体相机。


校准保留对于立体相机的稳定运行至关重要。未正确校准的立体相机将影响应用的决策能力。在下方图6中,第一行是经过精确校准的立体相机拍摄的一对立体图和视差图样本。在第二行中,当校准出现半像素行错位时,视差图虽仍可接受,但随着错位程度的增加,视差图质量迅速恶化,这将直接导致有效3D点的数量减少,并可能引发更多错误3D点的产生。此外,随着校准误差的增大,立体准确性也会降低。因此,选择能够保持良好校准的立体相机至关重要。否则,在现场部署后,需要频繁对相机进行重新校准,这在实践中也是非常不切实际的。

图6 立体相机校准保留的重要性

Bumblebee X 立体相机赋能工业自动化


下一代 Bumblebee® X 立体相机,提供高分辨率、优异的精度和先进的板载处理能力。此外,其出色的工业设计、IP67 防护等级和 5 GigE 接口确保其能稳定集成在工业环境中。


Bumblebee X 的主要特点包括:

  • 高分辨率与高精度

  • 利用强大的立体算法的板载处理

  • 24 厘米基线的远距离工作

  • 灵活的视野选项(60、80 和 105 度)

  • 具备 IP67 工业设计的高可靠性和坚固性

  • 具备 5 Gigabit 以太网接口的高带宽和低延迟

  • 长时间的校准保留

  • 兼容外部图案投影仪

  • 产品生命周期长

  • 支持 ROS(机器人操作系统)和 GenICam

  • SDK功能丰富且易用

Teledyne 深知机器人专业人士的迫切需求——快速数据采集、低延迟及高精度 3D 深度信息。基于 20 多年的校准与立体视觉技术经验积累,Bumblebee X 立体相机不仅是一款新型的立体相机,更是优异性能的延续。它继承了前代 Bumblebee 立体相机的创新与可靠性,并在此基础上实现了升级,具备更多功能。Bumblebee X 配备Teledyne最新的工业级 5GigE 板载处理立体视觉系统。


迈向机器人技术的崭新纪元,选择集高端技术、耐用性和多功能性于一体的解决方案。提升效率,减少停机时间,助力您在竞争激烈的市场环境中保持领先。选择 Bumblebee X:让创新与可靠融为一体。


MEMS 中国首家MEMS咨询服务平台——麦姆斯咨询(MEMS Consulting)
评论
  •  万万没想到!科幻电影中的人形机器人,正在一步步走进我们人类的日常生活中来了。1月17日,乐聚将第100台全尺寸人形机器人交付北汽越野车,再次吹响了人形机器人疯狂进厂打工的号角。无独有尔,银河通用机器人作为一家成立不到两年时间的创业公司,在短短一年多时间内推出革命性的第一代产品Galbot G1,这是一款轮式、双臂、身体可折叠的人形机器人,得到了美团战投、经纬创投、IDG资本等众多投资方的认可。作为一家成立仅仅只有两年多时间的企业,智元机器人也把机器人从梦想带进了现实。2024年8月1
    刘旷 2025-01-21 11:15 684浏览
  • 现在为止,我们已经完成了Purple Pi OH主板的串口调试和部分配件的连接,接下来,让我们趁热打铁,完成剩余配件的连接!注:配件连接前请断开主板所有供电,避免敏感电路损坏!1.1 耳机接口主板有一路OTMP 标准四节耳机座J6,具备进行音频输出及录音功能,接入耳机后声音将优先从耳机输出,如下图所示:1.21.2 相机接口MIPI CSI 接口如上图所示,支持OV5648 和OV8858 摄像头模组。接入摄像头模组后,使用系统相机软件打开相机拍照和录像,如下图所示:1.3 以太网接口主板有一路
    Industio_触觉智能 2025-01-20 11:04 199浏览
  •     IPC-2581是基于ODB++标准、结合PCB行业特点而指定的PCB加工文件规范。    IPC-2581旨在替代CAM350格式,成为PCB加工行业的新的工业规范。    有一些免费软件,可以查看(不可修改)IPC-2581数据文件。这些软件典型用途是工艺校核。    1. Vu2581        出品:Downstream     
    电子知识打边炉 2025-01-22 11:12 143浏览
  • 高速先生成员--黄刚这不马上就要过年了嘛,高速先生就不打算给大家上难度了,整一篇简单但很实用的文章给大伙瞧瞧好了。相信这个标题一出来,尤其对于PCB设计工程师来说,心就立马凉了半截。他们辛辛苦苦进行PCB的过孔设计,高速先生居然说设计多大的过孔他们不关心!另外估计这时候就跳出很多“挑刺”的粉丝了哈,因为翻看很多以往的文章,高速先生都表达了过孔孔径对高速性能的影响是很大的哦!咋滴,今天居然说孔径不关心了?别,别急哈,听高速先生在这篇文章中娓娓道来。首先还是要对各位设计工程师的设计表示肯定,毕竟像我
    一博科技 2025-01-21 16:17 165浏览
  • 本文介绍瑞芯微开发板/主板Android配置APK默认开启性能模式方法,开启性能模式后,APK的CPU使用优先级会有所提高。触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。源码修改修改源码根目录下文件device/rockchip/rk3562/package_performance.xml并添加以下内容,注意"+"号为添加内容,"com.tencent.mm"为AP
    Industio_触觉智能 2025-01-17 14:09 211浏览
  •  光伏及击穿,都可视之为 复合的逆过程,但是,复合、光伏与击穿,不单是进程的方向相反,偏置状态也不一样,复合的工况,是正偏,光伏是零偏,击穿与漂移则是反偏,光伏的能源是外来的,而击穿消耗的是结区自身和电源的能量,漂移的载流子是 客席载流子,须借外延层才能引入,客席载流子 不受反偏PN结的空乏区阻碍,能漂不能漂,只取决于反偏PN结是否处于外延层的「射程」范围,而穿通的成因,则是因耗尽层的过度扩张,致使跟 端子、外延层或其他空乏区 碰触,当耗尽层融通,耐压 (反向阻断能力) 即告彻底丧失,
    MrCU204 2025-01-17 11:30 212浏览
  • 数字隔离芯片是一种实现电气隔离功能的集成电路,在工业自动化、汽车电子、光伏储能与电力通信等领域的电气系统中发挥着至关重要的作用。其不仅可令高、低压系统之间相互独立,提高低压系统的抗干扰能力,同时还可确保高、低压系统之间的安全交互,使系统稳定工作,并避免操作者遭受来自高压系统的电击伤害。典型数字隔离芯片的简化原理图值得一提的是,数字隔离芯片历经多年发展,其应用范围已十分广泛,凡涉及到在高、低压系统之间进行信号传输的场景中基本都需要应用到此种芯片。那么,电气工程师在进行电路设计时到底该如何评估选择一
    华普微HOPERF 2025-01-20 16:50 126浏览
  • Ubuntu20.04默认情况下为root账号自动登录,本文介绍如何取消root账号自动登录,改为通过输入账号密码登录,使用触觉智能EVB3568鸿蒙开发板演示,搭载瑞芯微RK3568,四核A55处理器,主频2.0Ghz,1T算力NPU;支持OpenHarmony5.0及Linux、Android等操作系统,接口丰富,开发评估快人一步!添加新账号1、使用adduser命令来添加新用户,用户名以industio为例,系统会提示设置密码以及其他信息,您可以根据需要填写或跳过,命令如下:root@id
    Industio_触觉智能 2025-01-17 14:14 150浏览
  • 故障现象 一辆2007款日产天籁车,搭载VQ23发动机(气缸编号如图1所示,点火顺序为1-2-3-4-5-6),累计行驶里程约为21万km。车主反映,该车起步加速时偶尔抖动,且行驶中加速无力。 图1 VQ23发动机的气缸编号 故障诊断接车后试车,发动机怠速运转平稳,但只要换挡起步,稍微踩下一点加速踏板,就能感觉到车身明显抖动。用故障检测仪检测,发动机控制模块(ECM)无故障代码存储,且无失火数据流。用虹科Pico汽车示波器测量气缸1点火信号(COP点火信号)和曲轴位置传感器信
    虹科Pico汽车示波器 2025-01-23 10:46 87浏览
  • 嘿,咱来聊聊RISC-V MCU技术哈。 这RISC-V MCU技术呢,简单来说就是基于一个叫RISC-V的指令集架构做出的微控制器技术。RISC-V这个啊,2010年的时候,是加州大学伯克利分校的研究团队弄出来的,目的就是想搞个新的、开放的指令集架构,能跟上现代计算的需要。到了2015年,专门成立了个RISC-V基金会,让这个架构更标准,也更好地推广开了。这几年啊,这个RISC-V的生态系统发展得可快了,好多公司和机构都加入了RISC-V International,还推出了不少RISC-V
    丙丁先生 2025-01-21 12:10 693浏览
  • 临近春节,各方社交及应酬也变得多起来了,甚至一月份就排满了各式约见。有的是关系好的专业朋友的周末“恳谈会”,基本是关于2025年经济预判的话题,以及如何稳定工作等话题;但更多的预约是来自几个客户老板及副总裁们的见面,他们为今年的经济预判与企业发展焦虑而来。在聊天过程中,我发现今年的聊天有个很有意思的“点”,挺多人尤其关心我到底是怎么成长成现在的多领域风格的,还能掌握一些经济趋势的分析能力,到底学过哪些专业、在企业管过哪些具体事情?单单就这个一个月内,我就重复了数次“为什么”,再辅以我上次写的:《
    牛言喵语 2025-01-22 17:10 191浏览
  • 2024年是很平淡的一年,能保住饭碗就是万幸了,公司业绩不好,跳槽又不敢跳,还有一个原因就是老板对我们这些员工还是很好的,碍于人情也不能在公司困难时去雪上加霜。在工作其间遇到的大问题没有,小问题还是有不少,这里就举一两个来说一下。第一个就是,先看下下面的这个封装,你能猜出它的引脚间距是多少吗?这种排线座比较常规的是0.6mm间距(即排线是0.3mm间距)的,而这个规格也是我们用得最多的,所以我们按惯性思维来看的话,就会认为这个座子就是0.6mm间距的,这样往往就不会去细看规格书了,所以这次的运气
    wuliangu 2025-01-21 00:15 340浏览
  • 飞凌嵌入式基于瑞芯微RK3562系列处理器打造的FET3562J-C全国产核心板,是一款专为工业自动化及消费类电子设备设计的产品,凭借其强大的功能和灵活性,自上市以来得到了各行业客户的广泛关注。本文将详细介绍如何启动并测试RK3562J处理器的MCU,通过实际操作步骤,帮助各位工程师朋友更好地了解这款芯片。1、RK3562J处理器概述RK3562J处理器采用了4*Cortex-A53@1.8GHz+Cortex-M0@200MHz架构。其中,4个Cortex-A53核心作为主要核心,负责处理复杂
    飞凌嵌入式 2025-01-24 11:21 66浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦