浅析基于深度卷积网络的自动驾驶多模态轨迹预测

智驾最前沿 2022-02-07 08:00
--后台回复“资料”,领取特斯拉专利技术解析报告--
为了安全高效地在道路上行驶,自动驾驶汽车必须具有像人类驾驶员一样预测周围交通参与者行为的能力。目前,轨迹预测的相关研究受到了越来越多的重视。这篇文章主要解决轨迹预测的一个难点,即预测的多模态。同时,这篇文章的另一个亮点是通过卷积光栅图像来实现预测。作者通过实验得到了目前最优的预测效果。这篇文章对轨迹预测相关领域的研究具有一定的学习和参考价值。
无论是在难度还是潜在的社会影响方面,自动驾驶是目前人工智能领域面临的最大问题之一。自动驾驶车辆(SDVs)有望在改善更多人的生活质量的同时,减少道路事故,挽救数百万人的生命。然而,尽管有大量的关注和在自动驾驶领域工作的行业参与者,为了开发一个能与最好的人类驾驶员操作水平相当的系统,仍有许多工作要做。其中一个原因是交通行为的高度不确定性以及SDV在道路上可能遇到的大量情况,使得很难创建一个完全通用的系统。为了确保安全和高效的运行,自动驾驶车辆需要考虑到这种不确定性,并预测周围交通参与者的多种可能行为。我们解决了这个关键问题,并提出了一种方法来预测多个可能的轨迹,同时估计它们的概率。该方法将每个参与者的周围环境编码成一个光栅图像,作为深度卷积网络的输入,以自动获得任务的相关特征。经过大量的离线评估和与最新基准的比较,该方法成功地在SDVs上完成了封闭道路测试。
近年来,人工智能(AI)应用领域取得了前所未有的进展,智能算法迅速成为我们日常生活中不可或缺的一部分。举几个影响了数百万人的例子:医院使用人工智能方法来帮助诊断疾病[1],婚介服务使用学习的模型来连接潜在的夫妇[2],而社交媒体订阅源则通过算法[3]来构建。尽管如此,人工智能革命仍远未结束,并有可能在未来几年进一步加速。有趣的是,汽车领域是主要的产业之一,目前为止人工智能的应用还很有限。大型汽车制造商通过在高级驾驶辅助系统(ADAS)中使用人工智能(AI)取得了一些进展[5],然而,它的全部能力仍有待通过新的智能技术的出现加以利用,例如自动驾驶汽车(SDVs)。
尽管驾驶车辆对许多人来说是很平常的活动,但也是一项危险任务,甚至对于有几年经验的人类驾驶员来说也是如此[6]。虽然汽车制造商正努力通过更好的设计和ADAS系统来提高汽车安全性,但年复一年的统计数据表明,仍有许多工作要做来扭转公共道路上的负面趋势。尤其是2015年美国的车祸死亡人数占总死亡人数的5%以上[7],绝大多数车祸都是人为因素造成的[8]。不幸的是,这并不是最近才出现的问题,几十年来,研究人员一直在试图了解其原因。研究包括调查司机分心的影响[9]、酒精和毒品使用[10]、[11]和司机年龄[6]等因素,以及如何最有效地让司机接受自己是易犯错误的并最高效地影响他们的行为[12]。毫不奇怪,现有文献中的一个共同主题是,人类是交通系统中最不可靠的部分。这可以通过SDV的发展和广泛应用来改善。硬件和软件技术的最新突破使这一前景成为可能,为机器人和人工智能领域打开了大门,从而可能产生迄今为止最大的社会影响。
自动驾驶技术已经发展了很长一段时间,最早的尝试可以追溯到20世纪80年代,关于AL-VINN的研究[13]。然而,直到最近,技术进步才达到一个可以更广泛使用的程度,例如2007年DARPA城市挑战的结果[14],[15]。在这里,参赛队伍必须在复杂的城市环境中导航,处理公共道路上常见的情况,并与人和机器人驾驶的车辆进行互动。这些早期的成功激发了人们对自动驾驶领域的极大兴趣,许多行业参与者(如Uber和Waymo)和政府机构正竞相为实现SDVs建立技术和法律基础。然而尽管取得了进展,仍有更多的工作要做,来使SDVs以人的水平运作并充分商业化。
要在现实世界中安全有效地运行,一个关键的难题是正确地预测周围参与者的运动,一个成功的系统还需要考虑到他们固有的多模态特性。我们专注于这项任务,并以我们部署的基于深度学习的工作[16]为基础,创建了编码高清地图和环境的鸟瞰图(BEV)光栅,以预测参与者的未来,并提出以下贡献:
(1)我们扩展了现有技术,提出了一种方法,取代单一轨迹的推断,而给出了多条轨迹及其概率;
(2) 在对多假设方法进行广泛的离线研究之后,该方法成功地在SDV上进行了封闭道路测试。
图1显示了我们的模型如何捕获未来6秒轨迹的多模态。该方法使用光栅化的车辆上下文(包括高清地图和其他参与者)作为模型输入,以预测参与者在动态环境中的运动[16]。当车辆接近交叉口时,多模态模型(其中我们将模态数设置为2)估计直行的概率比右转的概率略低,见图1a。在三个步骤后,车辆继续直行,此时右转的概率显著下降(图1c);注意,实际上车辆继续直行通过交叉口。我们可以看到,单模态模型不能捕捉场景的多模态,而是粗略地预测两种模态的平均值,如图1b和1d所示。
相关工作
预测参与者未来动作的问题已在最近的一些出版物中讨论过。本课题的全面概述见[17]、[18],在本节中,我们将从自主驾驶的角度回顾相关工作。首先,我们将介绍自动驾驶行业中实际应用的工程方法。然后,我们讨论了用于运动预测的机器学习方法,特别强调了深度学习方法。
自动驾驶系统中的运动预测
大多数部署的自动驾驶系统使用成熟的工程方法来预测参与者的动作。常用的方法包括根据底层物理系统的假设和利用卡尔曼滤波(KF)[19],[20]等技术,通过随时间传播对象的状态来计算对象的未来运动。虽然这种方法对短期预测效果很好,但由于模型忽略了周围的环境(如道路、其他参与者、交通规则),其性能在较长时间内会下降。针对这一问题,MercedesBenz[21]提出的方法利用地图信息作为约束条件来计算车辆的长期未来位置。系统首先将每个检测到的车辆与地图上的一条或多条车道相关联。然后,基于地图拓扑、车道连通性和车辆当前状态估计,为每个车辆和相关车道对生成所有可能的路径。这种启发式方法在一般情况下提供了合理的预测,但是它对车辆和车道关联的误差很敏感。作为现有的部署工程方法的替代,所提出的方法自动地从车辆通常遵守道路和车道约束的数据中学习,同时很好地推广到在道路上观察到的各种情况。此外,结合现有的车道关联的想法,我们提出了一个我们方法的扩展。
机器学习预测模型
人工设计的模型无法扩展到许多不同的交通场景,这促使机器学习模型成为替代方案,如隐马尔可夫模型[22]、贝叶斯网络[23]或高斯过程[24]。最近研究人员关注于如何使用逆强化学习(IRL)来模拟环境背景[25]。Kitani等人[26]考虑场景语义,使用逆最优控制来预测行人路径,然而现有的IRL方法对于实时应用来说是低效的。
深度学习在许多实际应用中的成功[27]促使人们研究它在运动预测中的应用。随着近期递归神经网络(RNN)的成功,其中一条研究路线叫做长短时间记忆(LSTM)被用于序列预测任务。文献[28],[29]的作者应用LSTM预测了行人在社会交往中的未来轨迹。在[30]中,LSTM被应用于利用过去的轨迹数据预测车辆位置。在[31]中,另一个称为门控递归单元(GRU)的RNN变体与条件变分自动编码器(CVAE)结合用于预测车辆轨迹。此外,[32],[33]通过将卷积神经网络(CNN)应用于一系列视觉图像,直接从图像像素预测简单物理系统的运动。在[16]中,作者提出了一个系统,在该系统中,使用CNNs预测短期车辆轨迹,并将编码单个参与者周围环境的BEV光栅图像作为输入,该图像随后也应用于弱势交通参与者[34]。尽管这些方法取得了成功,但它们并没有解决精确的长期交通预测所需的未来可能轨迹潜在的多模态问题。
目前存在许多研究在解决多模态建模的问题。混合密度网络(MDNs)[35]是通过学习高斯混合模型的参数来解决多模态回归问题的传统神经网络。然而,MDNs由于在高维空间中操作时的数值不稳定性,实际上经常难以训练。
为了解决这个问题,研究人员提出训练一个网络集合[36],或者训练一个网络,用一个仅考虑最接近真值的预测结果的损失,来产生M种不同假设[37]对应的M个不同输出。由于良好的经验结果,我们的工作建立在这些努力的基础上。此外,在[38]中,作者通过学习将概率分配给六个机动类别的模型,介绍了公路车辆多模态轨迹预测的方法。该方法需要预先定义一组可能的离散动机,这对于复杂的城市驾驶来说可能很难定义。或者,在[28]、[29]、[31]中,作者建议通过采样生成多模态预测,这需要重复的前向传递来生成多个轨迹。而我们提出的方法在一个单一的前向CNN模型上,直接计算多模态的预测结果。
图2. 本文提出的网络框架
提出的方法
在本小节中,我们讨论提出的交通参与者多模态轨迹预测方法,我们先介绍问题定义以及符号使用,然后讨论我们设计的卷积神经网络结构和损失函数。
问题定义
假设我们可以得到安装在自动驾驶汽车上的传感器,比如激光雷达、超声波雷达或者相机的实时数据流。此外,假设这些数据被用于现存的检测和跟踪系统中,并输出所有周围交通参与者的状态估计S(状态包括检测框、位置、速度、加速度、航向和航向角变化率)。定义跟踪器输出状态评估的一组离散时间为,在连续的时间步之间的时间间隔是固定的(当跟踪器工作在10Hz时,时间间隔为0.1s)。然后,我们定义跟踪器在tj时刻对第i个交通参与者的状态输出为sij,这里i=1,…,Nj。Nj是在tj时刻被跟踪的所有交通参与者数。注意一般情况下,交通参与者的个数是时刻变化的因为新的交通参与者会出现在传感器的感知范围内以及原先被跟踪的交通参与者会超出传感器的感知范围。并且,我们假设可以得到自动驾驶汽车行驶区域的详细的高精地图信息M,包括道路和人行道位置,车道方向以及其他相关的地图信息。
多模态轨迹建模
基于我们之前的工作[16],我们首先栅格化一个BEV栅格图像,该图像编码交通参与者的地图环境以及周围交通参与者(比如其他的车辆和行人等),如图一所示。然后,给定在tj时刻的第i个交通参与者的栅格图和状态估计sij,我们使用一个卷积神经网络模型来预测M个可能的未来状态序列,以及每个序列的概率。其中,m表示模态数,H表示预测的时间步长。有关栅格化方法的详细描述,请读者查阅我们之前的工作[16]。在不损失一般性的情况下,我们简化了工作,我们只推断第i个交通参与者未来的x和y坐标而不是完整的状态估计,而其余的状态估计可以通过状态序列和未来的位置估计得到。在tj时刻交通参与者过去和未来的位置坐标都是都是相对于交通参与者在tj时刻的位置,其中前进方向为x轴,左手方向为y轴,交通参与者检测框的中心为原点。
本文提出的网络结构如图2所示。输入是300*300的分辨率为0.2米的RGB栅格图以及交通参与者当前的状态(车速、加速度和朝向角改变率),输出是M个模态的未来的x坐标和y坐标(每个模态有2H个输出)以及它们的概率(每个模态一个标量)。所以每个交通参与者有(2H+1)M的输出。概率输出随后被传到softmax层以保证它们的和为1。注意任何卷积神经网络结构可以被用作基础网络,这里我们使用了MobilleNet-v2。
多模态优化函数
在这一部分我们讨论我们提出的建模轨迹预测问题固有的多模态性的损失函数。首先,我们定义在tj时刻第i个交通参与者的第m个模态的单模态损失函数为真值轨迹点和预测的第m个模态之间的平均位移误差(或者L2范数)。
一个简单的多模态损失函数我们可以直接使用的是ME损失,定义如下:
然而,从我们在第四节的评估结果可以看出,由于模态崩溃问题,ME损失不适用于轨迹预测问题。为了解决这个问题,我们受到[37]的启发提出使用一种新的多轨迹预测(MTP)损失,它明确地模拟了轨迹空间的多模态。在MTP方法中,对tj时刻的第i个交通参与者,我们首先通过神经网络的前向传播获得M条输出轨迹。然后我们通过一个任意轨迹距离公式确定最接近真值轨迹的模态m。
在选择了最佳的匹配模态m后,最终的损失函数可以被定义为如下:
这里I是一个二进制指示函数,如果条件c是真的就等于1,否则就为0,是一个分类交叉熵损失,定义为:
α是一个用来权衡两个损失的超参数。换句话说,我们使最匹配的模态m的概率接近1,使其它模态的概率接近0。注意在训练的过程中,位置的输出只更新最优模态,而概率的输出所有模态都更新。这使得每个模式都专门针对不同类别的参与者行为(例如,直走或者转弯),这样就成功地解决了模态崩溃的问题,如接下来的实验中所示。
图3:模态选择方法(模态以蓝色表示):使用位移时,真值(绿色)与右转模态匹配,而使用角度时则与直行模态匹配
我们实验了几种不同的轨迹距离函数。特别是作为第一选项,我们使用的是两个轨迹之间的平均位移。但是,这个距离函数并不能很好地对十字路口处的多模态行为进行建模,如图3所示。为了解决这个问题,我们提出一个通过考虑交通参与者当前位置与真值和预测轨迹最后一个位置之间夹角的测距函数,从而改进了对十字路口场景的处理。第四节给出了定量的比较结果。
最后,对损失(2)和(4)我们训练卷积神经网络参数来最小化训练集上的损失。
注意我们的多模态损失函数是不可知的选择其中一个模态作损失函数,并且很容易将我们的方法推广到论文[16]中提出的用负高斯对数似然来预测轨迹点的不确定性。
车道线跟随多模态预测
之前我们描述了一种方法,它可以直接在一个前向传播过程中预测多个模态。在[21]中,每辆车都与一条车道相关联(即为车道线跟随车辆),我们提出了一种隐式输出多条轨迹的方法。特别是,假设我们已知可能跟随的车道线和通过车道线评分系统筛选出不可能跟随的车道线,我们添加了另一个栅格层来编码此信息,并训练网络输出车道线跟随轨迹。然后,对于一个场景,我们通过生成多个不同的车道线跟随的栅格图,可以有效地预测多模态轨迹。为了生成训练集,我们首先确定车辆实际跟随的车道线并基于此建立输入栅格图。然后我们通过设置M=1(ME和MTP在这种情况下是相等的)来使用之前介绍的损失函数来训练车道线跟随(LF)模型。实际上,LF和其它方法可以被同时使用,分别处理车道线跟随和其它的交通参与者。请注意我们介绍这种方法只是为了完整性,因为实践者可能会发现将栅格化想法与现有的车道线跟随方法相结合来获得多模态预测会很有帮助,如[21]中所述。
图4. LF模型在同一场景下不同跟随车道线的轨迹输出示例(淡粉色表示)
在图4中我们展示了同一个场景的栅格图,但是使用两个不同的用淡粉色标记的跟随车道线。一个是直行另一个是左转。该方法输出的轨迹很好地遵循了预定的路径,并可用于对车道线跟随车辆生成多条预测轨迹。
实验
我们通过手动驾驶在匹兹堡、PA、菲尼克斯、AZ等不同交通条件下(如不同时段、不同天数),收集了240小时的数据。从相机、激光雷达和超声波雷达获取原始传感器数据,使用UKF[40]和运动学模型[41]对j交通参与者进行跟踪,并以10Hz的速率对每辆跟踪车辆输出状态估计。UKF在大量标记数据上进行了高度优化和训练,并在大规模真实数据上进行了广泛测试。每个交通参与者在每个离散时刻的跟踪时刻相当于一个单一的数据点1,在删除静态交通参与者后,总体数据有780万个数据点。我们考虑了6秒的预测时间(即H=60),α=1,并且使用3:1:1的分割比例获得训练集、验证集和测试集。
我们将提出的方法与几个基线进行比较:
(1)前向UKF实时估计的状态
(2)单轨迹预测(STP)[16]
(3)高斯混合轨迹空间MDN[35]
模型在TensorFlow[42]上实现,并在16Nvidia Titan X GPU卡上训练。我们使用开源分布式框架Horovod[43]进行训练,在24小时内完成。我们设置每个gpu处理的批量数为64,并使用Adam optimizer[44]进行训练,将初始学习率设置为10-4,每隔2万次迭代就降低0.9倍。所有的模型都是端到端的训练,并部署到自动驾驶汽车上,使用GPU执行批量处理,平均时间约为10ms。
实验结果
我们使用与运动预测相关的误差度量来比较方法:位移(1),以及沿着和交叉跟踪的误差[45]分别测量与真值的纵向和横向偏差。由于多磨要方法提供了概率,一种可能的评估方法是使用最可能的模态的预测误差。但是,早期关于多模态预测[31]的研究发现,这种度量指标更倾向于单模态模型,因为他们显示地优化了平均预测误差,同时输出了不真实的轨迹(参看图1中的示例)。我们从[31]和[37]镜像现有的设置,过滤掉概率低的轨迹(我们将阈值设置为0.2),并使用其余设置的最小误差模式来计算度量指标。我们发现这种方式计算的结果更加符合自动驾驶汽车上的观测性能。
表1. 不同方法的预测误差比较(以米为单位)
在表1中我们给出了预测步长为1s和6s的误差,一级不同数量的模态M在整个预测步长的平均度量指标(模态数量从2到4)。首先我们可以看到单模态模型(如UKF和STP)显然不适合进行上时间预测。然而它们在1s的短时预测结果是合理的,6s的预测误差明显大于最优多模态方法。这样的结果是在意料之中的,因为在短期内交通参与者受到物理和它们周围环境的限制,导致真值近似单模态分布[16]。另一方面,从长时间的角度来看,预测问题的多模态性变得更加明显(例如当一个交通参与者接近一个十字路口时,它们在完全相同的场景下可能做出几种不同的选择)。单模态预测并没有很好地考虑这种问题,而是直接预测了一个分布的平均值,如图1所示。
此外,值得注意的是,对于各种M值,MDN和ME给出的结果与STP相似。原因是众所周知的模态崩溃问题,其中只有一个模态提供了非退化预测。因此,在实践中,一个受影响的多模态方法会退回到单模态,不能完全捕获多个模态。[37]的作者报告了MDNs的这个问题,并发现多模态假设模型受到的影响较小,我们的实验结果也进一步证实了这一点。
将我们的重点转移到MTP方法上,我们观察到与其他方法相比有了明显的改进。平均误差和6s时刻的误差都全面下降,表明这些方法学习到了交通问题的多模态性。短期1s和长期6s的预测误差均低于其它方法,即使在长期预测的效果更加明显。有趣的是,结果表明当M=3时,各项评价指标均达到了最佳。
表2. 对于不同模态在6s时刻的位移误差
接下来,我们评估了不同的轨迹距离度量,以选择在MP训练中的最佳匹配模态。表一显示,使用位移作为距离函数比使用角度的性能稍好。然而,为了更好地理解这种选择的含义,我们将测试集分为三类:左转、右转和直行(测试集中95%的交通参与者大致是直行,其余的在转弯之间平均分布),并在表2中报告了6s预测的结果。我们可以看到,使用角度改善转弯的处理,以及非常轻微的退化直行情况。这证实了我们的假设,即角度匹配策略提高了十字路口的性能,这对自动驾驶汽车的安全性至关重要。考虑到这些结果,在本节的剩余部分中,我们将使用角度模态匹配策略的MTP模型。
图5. 从左到右分别对应1到4个不同模态对输出轨迹的影响
在图5中,当增加模态M的数量时,我们可以看到,当M=1时(即所推断的轨迹大致是直线模式和右转模式的平均值。增加模态的数量到2,我们得到了一个直走和右转模态的清晰的分离。此外,将M设置为3会出现左转模态,尽管可能性很低。当我们设置为M=4时,我们发现了一个有趣的结果,直线模态又分成了“快”和“慢”模态,建模·交通参与者的纵向速度。我们注意到在远离十字路口的直道上也有同样的效果,直行模态会分开成几种不同的速度模态。
图6. 模态概率校正的分析
最后,我们对预测模态概率的标定进行了分析。特别地,利用测试集,我们计算了预测模态概率和与真值轨迹最匹配的模态概率之间的关系。我们根据轨迹的预测概率对其进行了分段,并计算了每个分段的平均模态匹配概率。图6给出了我们使用M=3的结果,而M为其他值的结果与所示类似。我们可以看出,改图与y=x参考线非常接近,表明预测的概率经过了很好的校准。
由于交通参与者行为固有的不确定性,为了保证在道路上安全高效地行驶,自动驾驶汽车需要考虑周围交通参与者未来可能的多条轨迹。在这篇论文中,我们解决了自动驾驶问题的这一关键方面,并且提出了一种对车辆运动预测的多模态建模方法。该方法首先生成一个栅格图编码交通参与者的周围环境,并使用一个卷积神经网络模型输出几个可能的预测轨迹及其概率。我们讨论了几种多模态模型,并与目前最先进的方法进行了比较,结果表明,本文提出的方法具有实际效益。经过大量的离线评估,该方法成功地在自动驾驶汽车上进行了测试。
参考文献
[1]F.Amato,A.López,E.M.Peña-Méndez,P. Vaňhara, A.Hampl,and J.Havel,"Artificial neural networks in medical diagnosis,"Jounal of Applied Biomedicine,vol.11,no.2pp.47-582013.
[2]K.Albury,J.Burgess,B.Light,K.Race,and R.Wilken,"Data cultures of mobile dating and hook-up apps: Emerging issues for critical social science research,"Big Data & Society,vol.4,no.2,2017.
[3]I.Katakis,G.Tsoumakas,E.Banos,N. Bassiliades, and I. Vlahavas. An adaptive personalized news dissemination system,Journal of Intelligent Information Systems,vol.32,no.2,pp.191-212,2009[4]Y.N.Harari,"Reboot for the ai revolution," Nature News, vol.550 no.7676,p.324,2017.
[5]A.Lindgren and F.Chen,"State of the art analysis: An overview of advanced driver assistance systems (adas) and possible human factors issues,"Human factors and economics aspects on safety,pp.38-502006.
[6] A.E.Curry,M.R.Pfeiffer,D.R.Durbin,and M.R.Elliott,“Young driver crash rates by licensing age,driving experience,and license phase,"Accident Analysis& Prevention,vol.80pp.243-2502015.[7] NCHS,“Health,United States, 2016:With chartbook on long-term trends in health,"National Center for Health Statistics,Tech.Rep1232,May 2017.
[8]S.Singh, "Critical reasons for crashes investigated in the national motor vehicle crash causation survey,National Highway Traffic Safety Administration,Tech.Rep.DOT HS 812 115,February 2015.
[9]F.A.Wilson and J.P. Stimpson,“Trends in fatalities from distracted driving in the united states,1999to 2008,American journal of public health,vol.100no11,pp2213-2219,2010.
[10] FBarboneA.McMahon,P.Davey,A.MorrisI.ReidD.McDe vitt.and T.MacDonald."Association of road-traffic accidents with benzodiazepine use,"The Lancet,vol.352,no.9137,pp.1331-13361998.
[11] ] R.F.BorkensteinR.Crowther,and R.Shumate,"The role of the drinking driver in traffic accidents (the grand rapids study),"Blutalkohol vol.11.no.Suppl.,pp.1-131,1974.
[12] R. Naätänen and H. Summala,"Road-user behaviour and traffic accidents,Publication of: North-Holland Publishing Company,1976
[13]DA.Pomerleau,Alvinn:An autonomous land vehicle in a neural network,"in Advances in neural information processing systems,1989 pp305-313.
[14] M.Montemerlo,J. BeckerSBhatH.Dahlkamp,D.Dolgov S.EttingerD.HaehnelTHildenGHoffmannB.Huhnke,et al. Junior: The stanford entry in the urban challenge,"Journal offield Robotics,vol25,no9,pp569-597,2008.
15]CUrmson et al."Self-driving cars and the urban challenge"IEEE Intelligent Systemsvol23no.22008.
[16]N.Djuric,V.RadosavljevicH.CuiTNguyen,F.-C.Chou,T-H.Lin and J.Schneider“Short-term motion prediction of traffic actors for autonomous driving using deep convolutional networks,"arXiv preprint arXiv:1808058192018
17] S.Lefèvre,D.Vasquez,and CLaugierA survey on motion prediction and risk assessment for intelligent vehicles"ROBOMECH Journal, vol. 1, no 1,Jul 2014. [Online] Available: https//dxdoiorg/101186/s40648-014-0001-Z
[18]J.Wiest, Statistical long-term motion prediction. Universität Ulm 2017.
[19]R.E.KalmanA new approach to linear filtering and prediction problems,"Transactions ofthe ASME-Journal ofBasic Engineering vol.82no.Series Dpp35-451960.
20]ACosgunL.Ma,et al,"Towards full automated drive in urban environments:Ademonstrationin gomentum station,california,"in IEEE Intelligent Vehicles Symposium,2017,pp1811-1818 [Online]Available:https://doiorg/101109/1VS20177995969
[21]J.Ziegler,P.BenderM.Schreiber,et al,“Making bertha drive-an au-tonomous journey on a historic route,"IEEE Intelligent Transportation Systems Magazine,vol6pp8-20102015.
[22] TStreubel and KH.Hoffmann, Prediction of driver intended path at intersections.IEEE,Jun 2014.[Online].Available http://dxdoiorg/10.1109/VS.2014.6856508
[23]M.Schreier, V. Willert, and J.Adamy,“An integrated approach to maneuver-based trajectory prediction and criticality assessment in arbitrary road environments,"IEEE Transactions on Intelligen Transportation Systems,vol17no10p2751-2766Oct 2016[Online].Available:http://dxdoiorg/10.1109/TITS.2016.2522507
[24]J.Wang,D.Fleet,and A.Hertzmann,“Gaussian process dynamical models for human motion,"IEEE Transactions on Pattern Analysis and Machine Intelligence,vol.30,no.2p.283-298Feb2008 [Onlinel.Available:http://dxdoi.org/10.1109/TPAMI.2007.1167
[25]A.Y.Ng and S.Russell,"Algorithms for inverse reinforcement learning, in International Conference on Machine Learning,2000
[26] K.M.Kitani,B.D.Ziebart,J. A.Bagnell, and M.Hebert, Activity Forecasting. Springer Berlin Heidelberg,2012p.201-214.[Online] Available:http://dxdoiorg/10.1007/978-3-642-33765-9_15
[27]Y. LeCun, Y. Bengio,and G.Hinton,"Deep learning,” Nature, pp 436-4442015.
[28] A.Alahi,K. Goel, et al. Social LSTM:Human Trajectory Prediction in Crowded Spaces. IEEE,Jun 2016.Online].Availables http://dxdoi.org/10.1109/CVPR.2016.110
[29] A.Gupta,J.Johnson,L.Fei-Fei,S.Savarese,and A.Alahi“Social gan: Socially acceptable trajectories with generative adversarial networks, in The IEEE Conference on Computer Vision and Pattern Recognition(CVPR)2018.
[30]B.KimC.M.Kang,S.H.Lee,H.Chae,J.Kim,C.C.Chung,and J.W. Choi,“Probabilistic vehicle trajectory prediction over occupancy grid map via recurrent neural network,"arXiv preprint arXiv:1704.070492017.
[31] N.Lee,W.Choi,P.Vernaza.C.B.Choy,et al,DESIRE:Distant Future Prediction in Dynamic Scenes with Interacting Agents. IEEE,Jul2017.[Online.Available:http://dxdoi.org/10.1109/CVPR.2017.233[32]K.Fragkiadaki,P.Agrawal,et al,"Learning visual predictive models of physics for playing billiards,"in International Conference on Learning Representations(CLR),2016.
[33]N.Watters,A.Tacchetti,T.WeberR.Pascanu,P.Battaglia,and D.Zoran,"Visual interaction networks,"arXiv preprint arXiv:1706.014332017.
[34]F.-C.Chou,T-H.Lin,HCui,V.RadosavljevicT Nguyen,T.-K. Huang.M.Niedoba,J.Schneiderand N.Djuric,“Predicting motion of vulnerable road users using high-definition maps and efficient convnets," in Workshop on 'Machine Learning for Intelligent Transportation Systems’at Conference on Neural Information Processing Systems(MLITS)2018.
[35] C.M.Bishop,“Mixture density networks,"Citeseer,Tech.Rep,1994[36] S.Lee,SPurushwalkam Shiva Prakash,M.Cogswell,V. Ranjan D.Crandall,and D.Batra,“Stochastic multiple choice learning fo training diverse deep ensembles,"in Advances in Neural Information Processing Systems 29,2016,pp.2119-2127.
[37] C.Rupprecht,I.Laina,R.DiPietro,M.Baust,F.Tombari,N. Navab and G. D. Hager, "Learning in an uncertain world: Representing ambiguity through multiple hypotheses,"in Proceedings ofthe lEEE International Conference on Computer Vision,2017pp.3591-3600[38]N.Deo and M.M.Trivedi,"Multi-modal trajectory prediction osurrounding vehicles with maneuver based lstms,"arXiv preprint arXiv:1805.054992018.
[39] M.Sandler,A.Howard,M.Zhu,A.Zhmoginov,and L.-C.Chen Inverted residuals and linear bottlenecks:Mobile networks for classifi cation, detection and segmentation,"arXivpreprint arXiv:1801.043812018.
[40] E.A.Wan and R.Van Der Merwe,"The unscented kalman filter for nonlinear estimation,"in Adaptive Systems for Signal Processing Communications, and Control Symposium2000.AS-spcc.The IEEE2000. eee,2000,pp.153-158.
[41]J.Kong,M.Pfeiffer,G.Schildbach,and F.Borrelli,"Kinematic and dynamic vehicle models for autonomous driving control design,"in Intelligent Vehicles Symposium(IV),2015 IEEE. IEEE,2015,Pp1094-1099.
[42] M.Abadi,A.Agarwal,P.BarhamE.Brevdo,et al,“TensorFlow Large-scale machine learning on heterogeneous systems"2015 [Online].Available:https://www.tensorfloworg/
[43] A.Sergeev and M.D.Balso,“Horovod: fast and easy distributed deep learning in tensorflow,"arXiv preprint arXiv:1802.05799,2018.
[44]D.P.Kingma and J.Ba“Adam:A method for stochastic optimization, arXiv preprint arXiv:1412.6980,2014.
[45]C.Gong and D.McNally,A methodology for automated trajectory prediction analysis,"in AIAA Guidance, Navigation, and Control Conference and Exhibit,2004.

转载自网络文中观点仅供分享交流,不代表本公众号立场,如涉及版权等问题,请您告知,我们将及时处理。

-- END --

智驾最前沿 「智驾最前沿」深耕自动驾驶领域技术、资讯等信息,解读行业现状、紧盯行业发展、挖掘行业前沿,致力于助力自动驾驶发展与落地!公众号:智驾最前沿
评论
  • 铁氧体芯片是一种基于铁氧体磁性材料制成的芯片,在通信、传感器、储能等领域有着广泛的应用。铁氧体磁性材料能够通过外加磁场调控其导电性质和反射性质,因此在信号处理和传感器技术方面有着独特的优势。以下是对半导体划片机在铁氧体划切领域应用的详细阐述: 一、半导体划片机的工作原理与特点半导体划片机是一种使用刀片或通过激光等方式高精度切割被加工物的装置,是半导体后道封测中晶圆切割和WLP切割环节的关键设备。它结合了水气电、空气静压高速主轴、精密机械传动、传感器及自动化控制等先进技术,具有高精度、高
    博捷芯划片机 2024-12-12 09:16 90浏览
  • 我的一台很多年前人家不要了的九十年代SONY台式组合音响,接手时只有CD功能不行了,因为不需要,也就没修,只使用收音机、磁带机和外接信号功能就够了。最近五年在外地,就断电闲置,没使用了。今年9月回到家里,就一个劲儿地忙着收拾家当,忙了一个多月,太多事啦!修了电气,清理了闲置不用了的电器和电子,就是一个劲儿地扔扔扔!几十年的“工匠式”收留收藏,只能断舍离,拆解不过来的了。一天,忽然感觉室内有股臭味,用鼻子的嗅觉功能朝着臭味重的方向寻找,觉得应该就是这台组合音响?怎么会呢?这无机物的东西不会腐臭吧?
    自做自受 2024-12-10 16:34 187浏览
  • 习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-11 17:58 91浏览
  • 应用环境与极具挑战性的测试需求在服务器制造领域里,系统整合测试(System Integration Test;SIT)是确保产品质量和性能的关键步骤。随着服务器系统的复杂性不断提升,包括:多种硬件组件、操作系统、虚拟化平台以及各种应用程序和服务的整合,服务器制造商面临着更有挑战性的测试需求。这些挑战主要体现在以下五个方面:1. 硬件和软件的高度整合:现代服务器通常包括多个处理器、内存模块、储存设备和网络接口。这些硬件组件必须与操作系统及应用软件无缝整合。SIT测试可以帮助制造商确保这些不同组件
    百佳泰测试实验室 2024-12-12 17:45 81浏览
  • 全球知名半导体制造商ROHM Co., Ltd.(以下简称“罗姆”)宣布与Taiwan Semiconductor Manufacturing Company Limited(以下简称“台积公司”)就车载氮化镓功率器件的开发和量产事宜建立战略合作伙伴关系。通过该合作关系,双方将致力于将罗姆的氮化镓器件开发技术与台积公司业界先进的GaN-on-Silicon工艺技术优势结合起来,满足市场对高耐压和高频特性优异的功率元器件日益增长的需求。氮化镓功率器件目前主要被用于AC适配器和服务器电源等消费电子和
    电子资讯报 2024-12-10 17:09 101浏览
  • 全球智能电视时代来临这年头若是消费者想随意地从各个通路中选购电视时,不难发现目前市场上的产品都已是具有智能联网功能的智能电视了,可以宣告智能电视的普及时代已到临!Google从2021年开始大力推广Google TV(即原Android TV的升级版),其他各大品牌商也都跟进推出搭载Google TV操作系统的机种,除了Google TV外,LG、Samsung、Panasonic等大厂牌也开发出自家的智能电视平台,可以看出各家业者都一致地看好这块大饼。智能电视的Wi-Fi连线怎么消失了?智能电
    百佳泰测试实验室 2024-12-12 17:33 71浏览
  • 习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-12 10:13 52浏览
  • 在智能化技术快速发展当下,图像数据的采集与处理逐渐成为自动驾驶、工业等领域的一项关键技术。高质量的图像数据采集与算法集成测试都是确保系统性能和可靠性的关键。随着技术的不断进步,对于图像数据的采集、处理和分析的需求日益增长,这不仅要求我们拥有高性能的相机硬件,还要求我们能够高效地集成和测试各种算法。我们探索了一种多源相机数据采集与算法集成测试方案,能够满足不同应用场景下对图像采集和算法测试的多样化需求,确保数据的准确性和算法的有效性。一、相机组成相机一般由镜头(Lens),图像传感器(Image
    康谋 2024-12-12 09:45 93浏览
  • 本文介绍瑞芯微RK3588主板/开发板Android12系统下,APK签名文件生成方法。触觉智能EVB3588开发板演示,搭载了瑞芯微RK3588芯片,该开发板是核心板加底板设计,音视频接口、通信接口等各类接口一应俱全,可帮助企业提高产品开发效率,缩短上市时间,降低成本和设计风险。工具准备下载Keytool-ImportKeyPair工具在源码:build/target/product/security/系统初始签名文件目录中,将以下三个文件拷贝出来:platform.pem;platform.
    Industio_触觉智能 2024-12-12 10:27 85浏览
  • 时源芯微——RE超标整机定位与解决详细流程一、 初步测量与问题确认使用专业的电磁辐射测量设备,对整机的辐射发射进行精确测量。确认是否存在RE超标问题,并记录超标频段和幅度。二、电缆检查与处理若存在信号电缆:步骤一:拔掉所有信号电缆,仅保留电源线,再次测量整机的辐射发射。若测量合格:判定问题出在信号电缆上,可能是电缆的共模电流导致。逐一连接信号电缆,每次连接后测量,定位具体哪根电缆或接口导致超标。对问题电缆进行处理,如加共模扼流圈、滤波器,或优化电缆布局和屏蔽。重新连接所有电缆,再次测量
    时源芯微 2024-12-11 17:11 120浏览
  • 一、SAE J1939协议概述SAE J1939协议是由美国汽车工程师协会(SAE,Society of Automotive Engineers)定义的一种用于重型车辆和工业设备中的通信协议,主要应用于车辆和设备之间的实时数据交换。J1939基于CAN(Controller Area Network)总线技术,使用29bit的扩展标识符和扩展数据帧,CAN通信速率为250Kbps,用于车载电子控制单元(ECU)之间的通信和控制。小北同学在之前也对J1939协议做过扫盲科普【科普系列】SAE J
    北汇信息 2024-12-11 15:45 119浏览
  • RK3506 是瑞芯微推出的MPU产品,芯片制程为22nm,定位于轻量级、低成本解决方案。该MPU具有低功耗、外设接口丰富、实时性高的特点,适合用多种工商业场景。本文将基于RK3506的设计特点,为大家分析其应用场景。RK3506核心板主要分为三个型号,各型号间的区别如下图:​图 1  RK3506核心板处理器型号场景1:显示HMIRK3506核心板显示接口支持RGB、MIPI、QSPI输出,且支持2D图形加速,轻松运行QT、LVGL等GUI,最快3S内开
    万象奥科 2024-12-11 15:42 91浏览
  • 天问Block和Mixly是两个不同的编程工具,分别在单片机开发和教育编程领域有各自的应用。以下是对它们的详细比较: 基本定义 天问Block:天问Block是一个基于区块链技术的数字身份验证和数据交换平台。它的目标是为用户提供一个安全、去中心化、可信任的数字身份验证和数据交换解决方案。 Mixly:Mixly是一款由北京师范大学教育学部创客教育实验室开发的图形化编程软件,旨在为初学者提供一个易于学习和使用的Arduino编程环境。 主要功能 天问Block:支持STC全系列8位单片机,32位
    丙丁先生 2024-12-11 13:15 71浏览
  • 近日,搭载紫光展锐W517芯片平台的INMO GO2由影目科技正式推出。作为全球首款专为商务场景设计的智能翻译眼镜,INMO GO2 以“快、准、稳”三大核心优势,突破传统翻译产品局限,为全球商务人士带来高效、自然、稳定的跨语言交流体验。 INMO GO2内置的W517芯片,是紫光展锐4G旗舰级智能穿戴平台,采用四核处理器,具有高性能、低功耗的优势,内置超微高集成技术,采用先进工艺,计算能力相比同档位竞品提升4倍,强大的性能提供更加多样化的应用场景。【视频见P盘链接】 依托“
    紫光展锐 2024-12-11 11:50 80浏览
  • 首先在gitee上打个广告:ad5d2f3b647444a88b6f7f9555fd681f.mp4 · 丙丁先生/香河英茂工作室中国 - Gitee.com丙丁先生 (mr-bingding) - Gitee.com2024年对我来说是充满挑战和机遇的一年。在这一年里,我不仅进行了多个开发板的测评,还尝试了多种不同的项目和技术。今天,我想分享一下这一年的故事,希望能给大家带来一些启发和乐趣。 年初的时候,我开始对各种开发板进行测评。从STM32WBA55CG到瑞萨、平头哥和平海的开发板,我都
    丙丁先生 2024-12-11 20:14 81浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦