大疆车载负责人新论文:摄像头激光雷达惯导一起上,实时渲染精准3D场景

原创 智能车参考 2024-03-05 13:06
曹原 发自 副驾寺
智能车参考 | 公众号 AI4Auto

大疆车载负责人沈邵劼,带队发了一篇新论文。

随着高阶智驾开城进展加快,这给系统的高精定位、实时建图能力带来不小的考验。

在这样的背景下,来自香港大学、港科大、上交和北理的沈邵劼团队,基于摄像头、激光雷达和IMU,带来一种新方式:LIV-GaussMap

通过这种方案实时构建出的地图,精度可以和照片媲美:

更重要的是,这种方法需要的硬件、软件还有团队收集的数据集,全部开源

高精定位技术路线

以自动驾驶系统为例,模块化通常可分为三部分:感知、定位和规控。

经常提到的“重感知、轻地图”路线,这里的地图指的就是定位模块。

而自动驾驶等级越高,对于定位的精度要求也会越高。

因为精度越高,系统对周围环境了解越清楚,车道线、红绿灯等等都“一目了然”,才能更方便系统做出驾驶决策,并且是正确的决策。

一般来说,高精定位技术路线有三种,卫星信号定位(GNSS+RTK)、惯性导航定位(INS/IMU)和环境特征匹配定位

并且由于三种技术方案各自都有优缺点,实际通常会采用多种方案融合的方式。

比如最常见的卫星定位和惯性导航,可通过松耦合紧耦合深耦合的方式进行定位,也就是俗称的卫惯组合

卫星可修正惯导系统的误差,提高精度;惯导则可以防止卫星信号被遮挡或干扰的情况下,车辆无法获得定位信息。

不过,即使用多种方案融合,在城市工况中卫星被严重遮挡(隧道、高架桥),甚至是地下停车场这种完全“丢星”的情况,就又回到了单一技术方案:只依赖惯导。

而惯导系统如果长时间没有外部信息修正,误差会不断积累,导致无法给出准确的定位结果。

因此就诞生了解耦卫惯,引入其他传感器等信息的新方式。比如利用惯导和摄像头的视觉惯性里程计测距(Visual Inertial Odometry,VIO),类似的还有使用激光雷达的LIO。

而本篇论文的团队,选择同时引入摄像头和激光雷达信息,提出了一种新解法。

LIV-GaussMap:实时生成照片级地图

LIV-GaussMap系统集成激光雷达(LiDAR)、惯性测量单元(IMU)和摄像头(Visual)的信息,进行多模态的传感器融合,能实时生成3D辐射场地图,是一种新方式生成的紧耦合地图。

这种方法生成的地图,无论是小范围场景(a)还是大范围场景(b),精度明显提升,并且不会产生奇怪的虚影。

这又是怎么做到的?

系统首先进行硬件同步,也就是摄像头产生的图像和激光雷达生成的点云之间实现精确时间对齐,为数据融合做准备。

随后,系统利用激光雷达和IMU融合的系统进行实时定位和地图构建,基于迭代误差状态卡尔曼滤波(IESKF)提供场景初步的高斯结构,和初始点云数据。

接下来,系统使用图像亮度梯度优化高斯结构和球面谐波系数,用优化后的结果得到表面高斯模型。

最后用光度插值和外推来合成新的视图,并且系统能做到自适应控制,根据点云的分布和密度,动态调整地图的结构,确保生成的是有细节、没有任何间隙的地图。

基于真实数据集,和其他最先进算法相比,比如Plenoxel、F2-NeRF、3D-GS等,LIV-GaussMap生成的效果更真实、精度更高。

从得分来看,LIV-GaussMap的多项成绩也均优于其它方式。比如能够衡量图像质量的指标PSNR,以及基于深度学习的图像相似性度量LPIPS,无论是内插还是外插,LIV-GaussMap效果都是最优的。

实时3D建图,不止于车

从实际的生成效果来看,LIV-GaussMap最大特点就是能够准确还原各类物体的表面特征和几何结构,可以构建详细地图。

而从图像引入的亮度梯度数据,可以帮助解决激光雷达点云分布不合理或者测量不准确的问题。

同时,LIV-GaussMap系统对于激光雷达类型没有要求,无论是固态还是机械的激光雷达,同时支持重复和非重复扫描模式。

并且,虽然SLAM这种能够实时构建高精地图的能力,对于高阶智能驾驶来说不可或缺,但LIV-GaussMap也能应用在数字孪生、虚拟现实、机器人等需要实时渲染3D场景的领域。

从论文团队的背景来看,也都来自多个专业。

作者Sheng HongJunjie He对本文有同等贡献,其中Sheng Hong来自香港科技大学计算机电子工程系,是机器人研究所-空中机器人组博士生。

Junjie He则和作者之一Xinhu Zheng,都来自香港科技大学(广州)系统枢纽平台(System hub)。

Xinhu Zheng

作者之一Chunran Zheng来自香港大学,本科毕业于西安交通大学自动化专业,目前在香港大学MaRS实验室攻读博士学位。

本文的其他作者则都是美国电气电子工程师学会(IEEE)的会员,包括来自上海交通大学自动化系教授Hesheng Wang,已经在国内外期刊和学术会议上发表论文超过150篇,SCI引用超过200次,谷歌学术被引次数超过1400次,曾多次担任IEEE会议主席,还是多份机器人相关期刊副主编。

还有来自北京理工大学自动化学院的方浩教授,2002年获得西安交通大学博士学位,曾参与多项国防预研项目,公开发表学术论文超过40篇。

本文的通讯作者是刘康丞教授,来自香港科技大学(广州),博士就读于香港中文大学,主动机器人和3D视觉方向,曾担任20余种国际会议程序会议主席,和10余种国际顶级期刊的程序委员会委员或审稿人。

最后一位作者就是沈劭劼,是港科大计算机电子工程学系副教授,以及港科大-大疆联合创新实验室(HDJI Lab)主任,同时还是大疆车载负责人。

沈劭劼拥有宾夕法尼亚大学电气与系统工程博士学位,研究领域包括机器人和无人机的状态估计、传感器融合、定位和地图绘制等,不仅多次担任国际机器人会议和期刊的主席、高级编辑等职务,还多次获得AI 2000最具影响力学者奖。

目前,LIV-GaussMap的硬件、软件,还有团队收集的数据集将在github上开源,感兴趣的可以等等看~

论文传送门:

https://arxiv.org/abs/2401.14857

github传送门:

https://github.com/sheng00125/LIV-GaussMap

— 联系作者 —

智能驾驶2023年度评选结果

在经过广泛征集、专业推荐,以及智能车参考垂直社群的万人票选后,智能车2023年度评选结果正式发布。涵盖三类奖项:

· 十大智能车领军人物

· 十大智能车产品

· 十大智能车技术方案

在汽车工业迎来百年未有之大变局时,我们希望能以此提供智能维度的参考和注脚。

其中,十大智能车技术方案是:

<< 左右滑动查看更多 >>



—  —

智能车参考】原创内容,未经账号授权,禁止随意转载。

点这里👇关注我,记得标星,么么哒~

智能车参考 在这里读懂智能汽车变革
评论
  • 随着AI大模型训练和推理对计算能力的需求呈指数级增长,AI数据中心的网络带宽需求大幅提升,推动了高速光模块的发展。光模块作为数据中心和高性能计算系统中的关键器件,主要用于提供高速和大容量的数据传输服务。 光模块提升带宽的方法有两种:1)提高每个通道的比特速率,如直接提升波特率,或者保持波特率不变,使用复杂的调制解调方式(如PAM4);2)增加通道数,如提升并行光纤数量,或采用波分复用(CWDM、LWDM)。按照传输模式,光模块可分为并行和波分两种类型,其中并行方案主要应用在中短距传输场景中成本
    hycsystembella 2025-01-25 17:24 47浏览
  • 高速先生成员--黄刚这不马上就要过年了嘛,高速先生就不打算给大家上难度了,整一篇简单但很实用的文章给大伙瞧瞧好了。相信这个标题一出来,尤其对于PCB设计工程师来说,心就立马凉了半截。他们辛辛苦苦进行PCB的过孔设计,高速先生居然说设计多大的过孔他们不关心!另外估计这时候就跳出很多“挑刺”的粉丝了哈,因为翻看很多以往的文章,高速先生都表达了过孔孔径对高速性能的影响是很大的哦!咋滴,今天居然说孔径不关心了?别,别急哈,听高速先生在这篇文章中娓娓道来。首先还是要对各位设计工程师的设计表示肯定,毕竟像我
    一博科技 2025-01-21 16:17 192浏览
  • 飞凌嵌入式基于瑞芯微RK3562系列处理器打造的FET3562J-C全国产核心板,是一款专为工业自动化及消费类电子设备设计的产品,凭借其强大的功能和灵活性,自上市以来得到了各行业客户的广泛关注。本文将详细介绍如何启动并测试RK3562J处理器的MCU,通过实际操作步骤,帮助各位工程师朋友更好地了解这款芯片。1、RK3562J处理器概述RK3562J处理器采用了4*Cortex-A53@1.8GHz+Cortex-M0@200MHz架构。其中,4个Cortex-A53核心作为主要核心,负责处理复杂
    飞凌嵌入式 2025-01-24 11:21 152浏览
  • 前篇文章中『服务器散热效能不佳有解吗?』提到气冷式的服务器其散热效能对于系统稳定度是非常重要的关键因素,同时也说明了百佳泰对于散热效能能提供的协助与服务。本篇将为您延伸说明我们如何进行评估,同时也会举例在测试过程中发现的问题及改善后的数据。AI服务器的散热架构三大重点:GPU导风罩:尝试不同的GPU导风罩架构,用以集中服务器进风量,加强对GPU的降温效果。GPU托盘:改动GPU托盘架构,验证出风面积大小对GPU散热的影想程度。CPU导风罩:尝试封闭CPU导风罩间隙,集中风流,验证CPU降温效果。
    百佳泰测试实验室 2025-01-24 16:58 52浏览
  •     IPC-2581是基于ODB++标准、结合PCB行业特点而指定的PCB加工文件规范。    IPC-2581旨在替代CAM350格式,成为PCB加工行业的新的工业规范。    有一些免费软件,可以查看(不可修改)IPC-2581数据文件。这些软件典型用途是工艺校核。    1. Vu2581        出品:Downstream     
    电子知识打边炉 2025-01-22 11:12 201浏览
  • 故障现象 一辆2007款日产天籁车,搭载VQ23发动机(气缸编号如图1所示,点火顺序为1-2-3-4-5-6),累计行驶里程约为21万km。车主反映,该车起步加速时偶尔抖动,且行驶中加速无力。 图1 VQ23发动机的气缸编号 故障诊断接车后试车,发动机怠速运转平稳,但只要换挡起步,稍微踩下一点加速踏板,就能感觉到车身明显抖动。用故障检测仪检测,发动机控制模块(ECM)无故障代码存储,且无失火数据流。用虹科Pico汽车示波器测量气缸1点火信号(COP点火信号)和曲轴位置传感器信
    虹科Pico汽车示波器 2025-01-23 10:46 136浏览
  • 项目展示①正面、反面②左侧、右侧项目源码:https://mbb.eet-china.com/download/316656.html前言为什么想到要做这个小玩意呢,作为一个死宅,懒得看手机,但又想要抬头就能看见时间和天气信息,于是就做个这么个小东西,放在示波器上面正好(示波器外壳有个小槽,刚好可以卡住)功能主要有,获取国家气象局的天气信息,还有实时的温湿度,主控采用ESP32,所以后续还可以开放更多奇奇怪怪的功能,比如油价信息、股票信息之类的,反正能联网可操作性就大多了原理图、PCB、面板设计
    小恶魔owo 2025-01-25 22:09 114浏览
  • 不让汽车专美于前,近年来哈雷(Harley-Davidson)和本田(Honda)等大型重型机车大厂的旗下车款皆已陆续配备车载娱乐系统与语音助理,在路上也有越来越多的普通机车车主开始使用安全帽麦克风,在骑车时透过蓝牙连线执行语音搜寻地点导航、音乐播放控制或免持拨打接听电话等各种「机车语音助理」功能。客户背景与面临的挑战以本次分享的客户个案为例,该客户是一个跨国车用语音软件供货商,过往是与车厂合作开发前装车机为主,且有着多年的「汽车语音助理」产品经验。由于客户这次是首度跨足「机车语音助理」产品,因
    百佳泰测试实验室 2025-01-24 17:00 58浏览
  • 临近春节,各方社交及应酬也变得多起来了,甚至一月份就排满了各式约见。有的是关系好的专业朋友的周末“恳谈会”,基本是关于2025年经济预判的话题,以及如何稳定工作等话题;但更多的预约是来自几个客户老板及副总裁们的见面,他们为今年的经济预判与企业发展焦虑而来。在聊天过程中,我发现今年的聊天有个很有意思的“点”,挺多人尤其关心我到底是怎么成长成现在的多领域风格的,还能掌握一些经济趋势的分析能力,到底学过哪些专业、在企业管过哪些具体事情?单单就这个一个月内,我就重复了数次“为什么”,再辅以我上次写的:《
    牛言喵语 2025-01-22 17:10 267浏览
  • 书接上回:【2022年终总结】阳光总在风雨后,启航2023-面包板社区  https://mbb.eet-china.com/blog/468701-438244.html 总结2019,松山湖有个欧洲小镇-面包板社区  https://mbb.eet-china.com/blog/468701-413397.html        2025年该是总结下2024年的喜怒哀乐,有个好的开始,才能更好的面对2025年即将
    liweicheng 2025-01-24 23:18 101浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦