单光子激光雷达+机器学习算法,实现遮挡场景的3D建模

MEMS 2024-06-20 00:01

这项技术有望实现更安全的自动驾驶、更高效的增强现实/虚拟现实(AR/VR)设备以及更快的仓库机器人。

通常我们驾驶汽车行进在隧道中,当隧道出口前方发生事故时,如果前方车辆没有采取刹车制动,我们是无法提前预知的。这种情况下,如果车辆能够“看到”人类驾驶员视线以外的区域并更快地踩下刹车,将大大提高车辆的安全性。

据麦姆斯咨询报道,麻省理工学院(MIT)和Meta公司的研究人员开发了一种基于单光子激光雷达(LiDAR)的计算机视觉技术,或能在未来帮助自动驾驶汽车做到这一点。

他们引入了一种新方法,可以利用单个激光雷达位置获取的信息,创建整个场景物理精确的3D模型,包括视线遮挡的区域。他们在这项技术中利用阴影来确定场景中被遮挡部分的情境。

他们将这种方案称为“PlatoNeRF”,基于希腊哲学家柏拉图的洞穴寓言,这是其著作《理想国》中的一段,故事中被锁在洞穴中的囚犯,根据投射在洞穴墙壁上的阴影来辨别外部世界的真实情况。

通过将单光子激光雷达技术与机器学习相结合,PlatoNeRF可以生成比某些现有AI技术更准确的3D几何重建。此外,PlatoNeRF在平滑地重建阴影难以分辨的场景时表现更为出色,例如环境光高亮或背景较暗的场景。

除了提高自动驾驶汽车的安全性,PlatoNeRF还可以使用户无需走动测量,即可对房间的几何形状进行建模,从而提高AR/VR设备的效率。它还可以帮助仓库机器人更快地在杂乱的环境中找到物品。

“这一概念的关键是将之前在不同学科完成的两件成果结合在一起:多重反射单光子激光雷达和机器学习算法。事实证明,两者的结合,带来了很多新的探索机遇。”麻省理工学院媒体艺术与科学专业的研究生、PlatoNeRF论文主要作者Tzofi Klinghoffer说道。

揭示问题

从一个激光雷达视角重建完整的3D场景是一个很复杂的问题。

一些机器学习算法采用生成式人工智能模型,试图猜测遮挡区域中的物体,但这些模型可能会幻想出并不存在的物体。还有其它方法尝试使用彩色图像中的阴影来推断隐藏物体的形状,但当阴影难以辨别时可能会遇到困难。

对于PlatoNeRF,麻省理工学院的研究人员利用了一种称为单光子激光雷达的新传感模态。激光雷达通过发射光脉冲并测量光反射回传感器所需的时间来测绘3D场景。由于单光子激光雷达可以检测单个光子,因此它们可以提供更高分辨率的数据。

研究人员使用单光子激光雷达中的激光器照亮场景中的目标点。一些光从该点反射并直接返回传感器。然而,大部分光线在返回传感器之前会被其它物体散射和反射。PlatoNeRF正是利用了这些二次光反射。

通过计算光线反射两次然后返回激光雷达传感器所需的时间,PlatoNeRF捕获有关场景的其它信息,包括深度。第二次反射的光还包含有关阴影的信息。


实验方案:PlatoNeRF通过单视角二次反射激光雷达的飞行时间学习3D场景几何形状,并使用NeRF建模。

系统追踪二次反射光,以确定哪些点位于阴影中。根据这些阴影的位置,PlatoNeRF可以推断出隐藏物体的几何形状。


研究人员采用的激光雷达系统包含位置Xs的SPAD和位置Xl的脉冲激光器。SPAD视角保持不变,而激光器依次照亮场景中的不同点(从I1到IK),对于每个照明点,测量光传播的飞行时间。

单光子激光雷达中的激光器依次照亮16个点,以捕获多个图像,用于重建整个3D场景。

“每次我们照亮场景中的一个点时,都会创建新的阴影。由于多个不同的照亮点,周围有很多传输的光线,所以我们可以划出被遮挡位于可见范围之外的区域。”Klinghoffer说。

成功的组合

PlatoNeRF的关键是将多重反射单光子激光雷达与被称为神经辐射场(NeRF)的特殊机器学习模型相结合。NeRF将场景的几何形状编码为神经网络的权重,这使模型具有强大的插值(或估算)能力,能够预测场景的新视图。

Klinghoffer说,当与多重反射激光雷达结合使用时,这种插值能力还可以实现高精度的场景重建。

“最大的挑战是弄清楚如何将它们结合起来。我们必须考量光如何通过多重反射单光子激光雷达传输的物理原理,以及如何通过机器学习对其进行建模。”他说。

他们将PlatoNeRF与两种常见的替代方法进行了比较,一种仅使用单光子激光雷达,另一种仅通过利用一张彩色图像的NeRF。

他们发现,他们的方案优于这两种技术,特别是当激光雷达传感器分辨率较低时。这将使他们的方案在现实世界更实用,因为在商业设备中,低分辨率的传感器更为常见。

“大约15年前,我们的团队发明了第一台能够‘看到’拐角后方的激光雷达,它的工作原理是利用多次光反射或‘光回声’。这些技术使用了特殊的激光器和传感器,并使用了三次光反射。从那时起,激光测距技术变得更加主流,这促使我们研究能够透过雾气的激光雷达。这项新工作仅使用两次光反射,这意味着信噪比非常高,并且3D重建质量很喜人。”研究人员介绍说。

未来,研究人员希望尝试跟踪两次以上的光反射,看看这将如何改善场景重建。此外,他们有兴趣应用更多的深度学习技术,并将PlatoNeRF与彩色图像测量相结合来捕捉纹理信息。

“尽管研究阴影图像作为3D重建的手段已有多年历史,但这项工作利用单光子激光雷达重新审视了这个问题,在重建隐藏几何体的准确性方面获得了显著提高。这项研究展示了巧妙的算法如何与普通传感器(许多人随身携带的iPhone智能手机就包含了激光雷达系统)相结合,进而实现非凡的功能。”多伦多大学计算机科学系助理教授David Lindell说道。

MEMS 中国首家MEMS咨询服务平台——麦姆斯咨询(MEMS Consulting)
评论
  • 根据Global Info Research(环洋市场咨询)项目团队最新调研,预计2030年全球无人机电池和电源产值达到2834百万美元,2024-2030年期间年复合增长率CAGR为10.1%。 无人机电池是为无人机提供动力并使其飞行的关键。无人机使用的电池类型因无人机的大小和型号而异。一些常见的无人机电池类型包括锂聚合物(LiPo)电池、锂离子电池和镍氢(NiMH)电池。锂聚合物电池是最常用的无人机电池类型,因为其能量密度高、设计轻巧。这些电池以输出功率大、飞行时间长而著称。不过,它们需要
    GIRtina 2025-01-13 10:49 198浏览
  • 随着全球向绿色能源转型的加速,对高效、可靠和环保元件的需求从未如此强烈。在这种背景下,国产固态继电器(SSR)在实现太阳能逆变器、风力涡轮机和储能系统等关键技术方面发挥着关键作用。本文探讨了绿色能源系统背景下中国固态继电器行业的前景,并强调了2025年的前景。 1.对绿色能源解决方案日益增长的需求绿色能源系统依靠先进的电源管理技术来最大限度地提高效率并最大限度地减少损失。固态继电器以其耐用性、快速开关速度和抗机械磨损而闻名,正日益成为传统机电继电器的首选。可再生能源(尤其是太阳能和风能
    克里雅半导体科技 2025-01-10 16:18 328浏览
  • 01. 什么是过程能力分析?过程能力研究利用生产过程中初始一批产品的数据,预测制造过程是否能够稳定地生产符合规格的产品。可以把它想象成一种预测。通过历史数据的分析,推断未来是否可以依赖该工艺持续生产高质量产品。客户可能会要求将过程能力研究作为生产件批准程序 (PPAP) 的一部分。这是为了确保制造过程能够持续稳定地生产合格的产品。02. 基本概念在定义制造过程时,目标是确保生产的零件符合上下规格限 (USL 和 LSL)。过程能力衡量制造过程能多大程度上稳定地生产符合规格的产品。核心概念很简单:
    优思学院 2025-01-12 15:43 529浏览
  •   在信号处理过程中,由于信号的时域截断会导致频谱扩展泄露现象。那么导致频谱泄露发生的根本原因是什么?又该采取什么样的改善方法。本文以ADC性能指标的测试场景为例,探讨了对ADC的输出结果进行非周期截断所带来的影响及问题总结。 两个点   为了更好的分析或处理信号,实际应用时需要从频域而非时域的角度观察原信号。但物理意义上只能直接获取信号的时域信息,为了得到信号的频域信息需要利用傅里叶变换这个工具计算出原信号的频谱函数。但对于计算机来说实现这种计算需要面对两个问题: 1.
    TIAN301 2025-01-14 14:15 110浏览
  • PNT、GNSS、GPS均是卫星定位和导航相关领域中的常见缩写词,他们经常会被用到,且在很多情况下会被等同使用或替换使用。我们会把定位导航功能测试叫做PNT性能测试,也会叫做GNSS性能测试。我们会把定位导航终端叫做GNSS模块,也会叫做GPS模块。但是实际上他们之间是有一些重要的区别。伴随着技术发展与越发深入,我们有必要对这三个词汇做以清晰的区分。一、什么是GPS?GPS是Global Positioning System(全球定位系统)的缩写,它是美国建立的全球卫星定位导航系统,是GNSS概
    德思特测试测量 2025-01-13 15:42 498浏览
  • ARMv8-A是ARM公司为满足新需求而重新设计的一个架构,是近20年来ARM架构变动最大的一次。以下是对ARMv8-A的详细介绍: 1. 背景介绍    ARM公司最初并未涉足PC市场,其产品主要针对功耗敏感的移动设备。     随着技术的发展和市场需求的变化,ARM开始扩展到企业设备、服务器等领域,这要求其架构能够支持更大的内存和更复杂的计算任务。 2. 架构特点    ARMv8-A引入了Execution State(执行状
    丙丁先生 2025-01-12 10:30 471浏览
  • 食物浪费已成为全球亟待解决的严峻挑战,并对环境和经济造成了重大影响。最新统计数据显示,全球高达三分之一的粮食在生产过程中损失或被无谓浪费,这不仅导致了资源消耗,还加剧了温室气体排放,并带来了巨大经济损失。全球领先的光学解决方案供应商艾迈斯欧司朗(SIX:AMS)近日宣布,艾迈斯欧司朗基于AS7341多光谱传感器开发的创新应用来解决食物浪费这一全球性难题。其多光谱传感解决方案为农业与食品行业带来深远变革,该技术通过精确判定最佳收获时机,提升质量控制水平,并在整个供应链中有效减少浪费。 在2024
    艾迈斯欧司朗 2025-01-14 18:45 68浏览
  • 新年伊始,又到了对去年做总结,对今年做展望的时刻 不知道你在2024年初立的Flag都实现了吗? 2025年对自己又有什么新的期待呢? 2024年注定是不平凡的一年, 一年里我测评了50余块开发板, 写出了很多科普文章, 从一个小小的工作室成长为科工公司。 展望2025年, 中国香河英茂科工, 会继续深耕于,具身机器人、飞行器、物联网等方面的研发, 我觉得,要向未来学习未来, 未来是什么? 是掌握在孩子们生活中的发现,和精历, 把最好的技术带给孩子,
    丙丁先生 2025-01-11 11:35 463浏览
  • 电动汽车(EV)正在改变交通运输,为传统内燃机提供更清洁、更高效的替代方案。这种转变的核心是电力电子和能源管理方面的创新,而光耦合器在其中发挥着关键作用。这些不起眼的组件可实现可靠的通信、增强安全性并优化电动汽车系统的性能,使其成为正在进行的革命中不可或缺的一部分。光耦合器,也称为光隔离器,是一种使用光传输电信号的设备。通过隔离高压和低压电路,光耦合器可确保安全性、减少干扰并保持信号完整性。这些特性对于电动汽车至关重要,因为精确控制和安全性至关重要。 光耦合器在电动汽车中的作用1.电池
    腾恩科技-彭工 2025-01-10 16:14 82浏览
  • 随着通信技术的迅速发展,现代通信设备需要更高效、可靠且紧凑的解决方案来应对日益复杂的系统。中国自主研发和制造的国产接口芯片,正逐渐成为通信设备(从5G基站到工业通信模块)中的重要基石。这些芯片凭借卓越性能、成本效益及灵活性,满足了现代通信基础设施的多样化需求。 1. 接口芯片在通信设备中的关键作用接口芯片作为数据交互的桥梁,是通信设备中不可或缺的核心组件。它们在设备内的各种子系统之间实现无缝数据传输,支持高速数据交换、协议转换和信号调节等功能。无论是5G基站中的数据处理,还是物联网网关
    克里雅半导体科技 2025-01-10 16:20 448浏览
  • 流量传感器是实现对燃气、废气、生活用水、污水、冷却液、石油等各种流体流量精准计量的关键手段。但随着工业自动化、数字化、智能化与低碳化进程的不断加速,采用传统机械式检测方式的流量传感器已不能满足当代流体计量行业对于测量精度、测量范围、使用寿命与维护成本等方面的精细需求。流量传感器的应用场景(部分)超声波流量传感器,是一种利用超声波技术测量流体流量的新型传感器,其主要通过发射超声波信号并接收反射回来的信号,根据超声波在流体中传播的时间、幅度或相位变化等参数,间接计算流体的流量,具有非侵入式测量、高精
    华普微HOPERF 2025-01-13 14:18 489浏览
  • 在不断发展的电子元件领域,继电器——作为切换电路的关键设备,正在经历前所未有的技术变革。固态继电器(SSR)和机械继电器之间的争论由来已久。然而,从未来发展的角度来看,固态继电器正逐渐占据上风。本文将从耐用性、速度和能效三个方面,全面剖析固态继电器为何更具优势,并探讨其在行业中的应用与发展趋势。1. 耐用性:经久耐用的设计机械继电器:机械继电器依靠物理触点完成电路切换。然而,随着时间的推移,这些触点因电弧、氧化和材料老化而逐渐磨损,导致其使用寿命有限。因此,它们更适合低频或对切换耐久性要求不高的
    腾恩科技-彭工 2025-01-10 16:15 102浏览
  • 随着数字化的不断推进,LED显示屏行业对4K、8K等超高清画质的需求日益提升。与此同时,Mini及Micro LED技术的日益成熟,推动了间距小于1.2 Pitch的Mini、Micro LED显示屏的快速发展。这类显示屏不仅画质卓越,而且尺寸适中,通常在110至1000英寸之间,非常适合应用于电影院、监控中心、大型会议、以及电影拍摄等多种室内场景。鉴于室内LED显示屏与用户距离较近,因此对于噪音控制、体积小型化、冗余备份能力及电气安全性的要求尤为严格。为满足这一市场需求,开关电源技术推出了专为
    晶台光耦 2025-01-13 10:42 507浏览
  • 数字隔离芯片是现代电气工程师在进行电路设计时所必须考虑的一种电子元件,主要用于保护低压控制电路中敏感电子设备的稳定运行与操作人员的人身安全。其不仅能隔离两个或多个高低压回路之间的电气联系,还能防止漏电流、共模噪声与浪涌等干扰信号的传播,有效增强电路间信号传输的抗干扰能力,同时提升电子系统的电磁兼容性与通信稳定性。容耦隔离芯片的典型应用原理图值得一提的是,在电子电路中引入隔离措施会带来传输延迟、功耗增加、成本增加与尺寸增加等问题,而数字隔离芯片的目标就是尽可能消除这些不利影响,同时满足安全法规的要
    华普微HOPERF 2025-01-15 09:48 83浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦