单光子激光雷达+机器学习算法,实现遮挡场景的3D建模

MEMS 2024-06-20 00:01

这项技术有望实现更安全的自动驾驶、更高效的增强现实/虚拟现实(AR/VR)设备以及更快的仓库机器人。

通常我们驾驶汽车行进在隧道中,当隧道出口前方发生事故时,如果前方车辆没有采取刹车制动,我们是无法提前预知的。这种情况下,如果车辆能够“看到”人类驾驶员视线以外的区域并更快地踩下刹车,将大大提高车辆的安全性。

据麦姆斯咨询报道,麻省理工学院(MIT)和Meta公司的研究人员开发了一种基于单光子激光雷达(LiDAR)的计算机视觉技术,或能在未来帮助自动驾驶汽车做到这一点。

他们引入了一种新方法,可以利用单个激光雷达位置获取的信息,创建整个场景物理精确的3D模型,包括视线遮挡的区域。他们在这项技术中利用阴影来确定场景中被遮挡部分的情境。

他们将这种方案称为“PlatoNeRF”,基于希腊哲学家柏拉图的洞穴寓言,这是其著作《理想国》中的一段,故事中被锁在洞穴中的囚犯,根据投射在洞穴墙壁上的阴影来辨别外部世界的真实情况。

通过将单光子激光雷达技术与机器学习相结合,PlatoNeRF可以生成比某些现有AI技术更准确的3D几何重建。此外,PlatoNeRF在平滑地重建阴影难以分辨的场景时表现更为出色,例如环境光高亮或背景较暗的场景。

除了提高自动驾驶汽车的安全性,PlatoNeRF还可以使用户无需走动测量,即可对房间的几何形状进行建模,从而提高AR/VR设备的效率。它还可以帮助仓库机器人更快地在杂乱的环境中找到物品。

“这一概念的关键是将之前在不同学科完成的两件成果结合在一起:多重反射单光子激光雷达和机器学习算法。事实证明,两者的结合,带来了很多新的探索机遇。”麻省理工学院媒体艺术与科学专业的研究生、PlatoNeRF论文主要作者Tzofi Klinghoffer说道。

揭示问题

从一个激光雷达视角重建完整的3D场景是一个很复杂的问题。

一些机器学习算法采用生成式人工智能模型,试图猜测遮挡区域中的物体,但这些模型可能会幻想出并不存在的物体。还有其它方法尝试使用彩色图像中的阴影来推断隐藏物体的形状,但当阴影难以辨别时可能会遇到困难。

对于PlatoNeRF,麻省理工学院的研究人员利用了一种称为单光子激光雷达的新传感模态。激光雷达通过发射光脉冲并测量光反射回传感器所需的时间来测绘3D场景。由于单光子激光雷达可以检测单个光子,因此它们可以提供更高分辨率的数据。

研究人员使用单光子激光雷达中的激光器照亮场景中的目标点。一些光从该点反射并直接返回传感器。然而,大部分光线在返回传感器之前会被其它物体散射和反射。PlatoNeRF正是利用了这些二次光反射。

通过计算光线反射两次然后返回激光雷达传感器所需的时间,PlatoNeRF捕获有关场景的其它信息,包括深度。第二次反射的光还包含有关阴影的信息。


实验方案:PlatoNeRF通过单视角二次反射激光雷达的飞行时间学习3D场景几何形状,并使用NeRF建模。

系统追踪二次反射光,以确定哪些点位于阴影中。根据这些阴影的位置,PlatoNeRF可以推断出隐藏物体的几何形状。


研究人员采用的激光雷达系统包含位置Xs的SPAD和位置Xl的脉冲激光器。SPAD视角保持不变,而激光器依次照亮场景中的不同点(从I1到IK),对于每个照明点,测量光传播的飞行时间。

单光子激光雷达中的激光器依次照亮16个点,以捕获多个图像,用于重建整个3D场景。

“每次我们照亮场景中的一个点时,都会创建新的阴影。由于多个不同的照亮点,周围有很多传输的光线,所以我们可以划出被遮挡位于可见范围之外的区域。”Klinghoffer说。

成功的组合

PlatoNeRF的关键是将多重反射单光子激光雷达与被称为神经辐射场(NeRF)的特殊机器学习模型相结合。NeRF将场景的几何形状编码为神经网络的权重,这使模型具有强大的插值(或估算)能力,能够预测场景的新视图。

Klinghoffer说,当与多重反射激光雷达结合使用时,这种插值能力还可以实现高精度的场景重建。

“最大的挑战是弄清楚如何将它们结合起来。我们必须考量光如何通过多重反射单光子激光雷达传输的物理原理,以及如何通过机器学习对其进行建模。”他说。

他们将PlatoNeRF与两种常见的替代方法进行了比较,一种仅使用单光子激光雷达,另一种仅通过利用一张彩色图像的NeRF。

他们发现,他们的方案优于这两种技术,特别是当激光雷达传感器分辨率较低时。这将使他们的方案在现实世界更实用,因为在商业设备中,低分辨率的传感器更为常见。

“大约15年前,我们的团队发明了第一台能够‘看到’拐角后方的激光雷达,它的工作原理是利用多次光反射或‘光回声’。这些技术使用了特殊的激光器和传感器,并使用了三次光反射。从那时起,激光测距技术变得更加主流,这促使我们研究能够透过雾气的激光雷达。这项新工作仅使用两次光反射,这意味着信噪比非常高,并且3D重建质量很喜人。”研究人员介绍说。

未来,研究人员希望尝试跟踪两次以上的光反射,看看这将如何改善场景重建。此外,他们有兴趣应用更多的深度学习技术,并将PlatoNeRF与彩色图像测量相结合来捕捉纹理信息。

“尽管研究阴影图像作为3D重建的手段已有多年历史,但这项工作利用单光子激光雷达重新审视了这个问题,在重建隐藏几何体的准确性方面获得了显著提高。这项研究展示了巧妙的算法如何与普通传感器(许多人随身携带的iPhone智能手机就包含了激光雷达系统)相结合,进而实现非凡的功能。”多伦多大学计算机科学系助理教授David Lindell说道。

MEMS 中国首家MEMS咨询服务平台——麦姆斯咨询(MEMS Consulting)
评论
  • 在智能化技术快速发展当下,图像数据的采集与处理逐渐成为自动驾驶、工业等领域的一项关键技术。高质量的图像数据采集与算法集成测试都是确保系统性能和可靠性的关键。随着技术的不断进步,对于图像数据的采集、处理和分析的需求日益增长,这不仅要求我们拥有高性能的相机硬件,还要求我们能够高效地集成和测试各种算法。我们探索了一种多源相机数据采集与算法集成测试方案,能够满足不同应用场景下对图像采集和算法测试的多样化需求,确保数据的准确性和算法的有效性。一、相机组成相机一般由镜头(Lens),图像传感器(Image
    康谋 2024-12-12 09:45 78浏览
  • 铁氧体芯片是一种基于铁氧体磁性材料制成的芯片,在通信、传感器、储能等领域有着广泛的应用。铁氧体磁性材料能够通过外加磁场调控其导电性质和反射性质,因此在信号处理和传感器技术方面有着独特的优势。以下是对半导体划片机在铁氧体划切领域应用的详细阐述: 一、半导体划片机的工作原理与特点半导体划片机是一种使用刀片或通过激光等方式高精度切割被加工物的装置,是半导体后道封测中晶圆切割和WLP切割环节的关键设备。它结合了水气电、空气静压高速主轴、精密机械传动、传感器及自动化控制等先进技术,具有高精度、高
    博捷芯划片机 2024-12-12 09:16 86浏览
  • 首先在gitee上打个广告:ad5d2f3b647444a88b6f7f9555fd681f.mp4 · 丙丁先生/香河英茂工作室中国 - Gitee.com丙丁先生 (mr-bingding) - Gitee.com2024年对我来说是充满挑战和机遇的一年。在这一年里,我不仅进行了多个开发板的测评,还尝试了多种不同的项目和技术。今天,我想分享一下这一年的故事,希望能给大家带来一些启发和乐趣。 年初的时候,我开始对各种开发板进行测评。从STM32WBA55CG到瑞萨、平头哥和平海的开发板,我都
    丙丁先生 2024-12-11 20:14 75浏览
  • 习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-12 10:13 42浏览
  • 习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-11 17:58 87浏览
  • 全球智能电视时代来临这年头若是消费者想随意地从各个通路中选购电视时,不难发现目前市场上的产品都已是具有智能联网功能的智能电视了,可以宣告智能电视的普及时代已到临!Google从2021年开始大力推广Google TV(即原Android TV的升级版),其他各大品牌商也都跟进推出搭载Google TV操作系统的机种,除了Google TV外,LG、Samsung、Panasonic等大厂牌也开发出自家的智能电视平台,可以看出各家业者都一致地看好这块大饼。智能电视的Wi-Fi连线怎么消失了?智能电
    百佳泰测试实验室 2024-12-12 17:33 56浏览
  • 时源芯微——RE超标整机定位与解决详细流程一、 初步测量与问题确认使用专业的电磁辐射测量设备,对整机的辐射发射进行精确测量。确认是否存在RE超标问题,并记录超标频段和幅度。二、电缆检查与处理若存在信号电缆:步骤一:拔掉所有信号电缆,仅保留电源线,再次测量整机的辐射发射。若测量合格:判定问题出在信号电缆上,可能是电缆的共模电流导致。逐一连接信号电缆,每次连接后测量,定位具体哪根电缆或接口导致超标。对问题电缆进行处理,如加共模扼流圈、滤波器,或优化电缆布局和屏蔽。重新连接所有电缆,再次测量
    时源芯微 2024-12-11 17:11 109浏览
  • 一、SAE J1939协议概述SAE J1939协议是由美国汽车工程师协会(SAE,Society of Automotive Engineers)定义的一种用于重型车辆和工业设备中的通信协议,主要应用于车辆和设备之间的实时数据交换。J1939基于CAN(Controller Area Network)总线技术,使用29bit的扩展标识符和扩展数据帧,CAN通信速率为250Kbps,用于车载电子控制单元(ECU)之间的通信和控制。小北同学在之前也对J1939协议做过扫盲科普【科普系列】SAE J
    北汇信息 2024-12-11 15:45 113浏览
  • 应用环境与极具挑战性的测试需求在服务器制造领域里,系统整合测试(System Integration Test;SIT)是确保产品质量和性能的关键步骤。随着服务器系统的复杂性不断提升,包括:多种硬件组件、操作系统、虚拟化平台以及各种应用程序和服务的整合,服务器制造商面临着更有挑战性的测试需求。这些挑战主要体现在以下五个方面:1. 硬件和软件的高度整合:现代服务器通常包括多个处理器、内存模块、储存设备和网络接口。这些硬件组件必须与操作系统及应用软件无缝整合。SIT测试可以帮助制造商确保这些不同组件
    百佳泰测试实验室 2024-12-12 17:45 63浏览
  • 本文介绍瑞芯微RK3588主板/开发板Android12系统下,APK签名文件生成方法。触觉智能EVB3588开发板演示,搭载了瑞芯微RK3588芯片,该开发板是核心板加底板设计,音视频接口、通信接口等各类接口一应俱全,可帮助企业提高产品开发效率,缩短上市时间,降低成本和设计风险。工具准备下载Keytool-ImportKeyPair工具在源码:build/target/product/security/系统初始签名文件目录中,将以下三个文件拷贝出来:platform.pem;platform.
    Industio_触觉智能 2024-12-12 10:27 71浏览
  • RK3506 是瑞芯微推出的MPU产品,芯片制程为22nm,定位于轻量级、低成本解决方案。该MPU具有低功耗、外设接口丰富、实时性高的特点,适合用多种工商业场景。本文将基于RK3506的设计特点,为大家分析其应用场景。RK3506核心板主要分为三个型号,各型号间的区别如下图:​图 1  RK3506核心板处理器型号场景1:显示HMIRK3506核心板显示接口支持RGB、MIPI、QSPI输出,且支持2D图形加速,轻松运行QT、LVGL等GUI,最快3S内开
    万象奥科 2024-12-11 15:42 88浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦