没有人类掌控方向盘的车子，不了解它要去哪里而且为什么要去，这会是自动驾驶车辆普及化的重大障碍...
在上周于比利时布鲁塞尔(Brussel)举行的年度车用感知技术研讨会AutoSens Conference闭幕座谈会上，有两位熟知自动驾驶车辆(AV)内的人工智能(AI)测试之限制所在的专家，对于长期以来车厂与科技业者都认为自驾车在不久的将来就会实现的希望，轻轻泼了一盆冷水。
美国康乃尔大学(Cornell University)计算机科学教授Bart Selman解释，会做“头脑体操”的思考机器，缺乏一种让这些令人惊奇的系统做出选择与决定的“常识理解”(common sense understanding)；举例来说，已经有超级计算机能打败全球最厉害的围棋棋士，“但是它没有意识到它是在下围棋。”
Selman表示，这种人类思考所固有的、对情境以及自我意识的“常识理解”，可能在十年之内也会出现在计算机中，但“也可能要等上20年或30年。”以情境所运作的AI驱动车辆可能性，远比下围棋来得复杂，除了因为AI的“常识”鸿沟，还有人类仍无力了解AI系统的“黑盒子”是怎么想的。
另一位与谈专家，美国硅谷创新联盟实验室(Alliance Innovation Lab Silicon Valley)──由车厂雷诺(Renault)、日产(Nissan)与三菱(Mistubishi)合作成立──的Therese Cypher-Plissant，她正在为自驾车系统进行严苛的测试，甚至预测Level 5全自动驾驶车辆可能永远不会被市场接受或是实现，“我不知道Level 4或是Level 5在所有的情况下是否有意义。”
Selman与Cypher-Plissant都认为，要实现广泛有效的Level 5自动驾驶所需的公共基础设施以及车辆对车辆通讯技术，看来还是空想。
这样的批判带来了让AutoSens这样的先进车用技术大会陷入主办单位总监Robert Stead所说的“幻灭的恐惧”(he dread trough of disillusion)；但Cypher-Plissant另一面的看法是，整体自动驾驶技术的简短进展，包括先进驾驶辅助系统(ADAS)的改善，能大幅提高驾驶安全性，而且它们已经做到了。
在这场由EE Times首席国际特派记者Junko Yoshida主持、题为“人工智能安全性以及其限制”(Artificial Intelligence Safety and Its Limitations)的座谈会中，问题的症结点在于，AI系统是在它们不知道为什么的情况下做选择──根据大量收集与诠释的资料。Selman表示：“车子不了解它们为甚么要行驶到任何地方。”
Selman举了一个医疗紧急状况为例，来解释自驾车系统如何会不能理解其处境：当人类驾驶载着怀孕的老婆或是受伤的小孩紧急赶往医院，就可能会在路上超速，或是在不冒着疯狂驾驶风险的情况下尽可能违反许多道路交通规则。但是自驾车不会辨别紧急情况与正常驾驶的不同，而且他认为：“会有很长一段时间无法让车子理解这种情况。”
Yoshida的提问是，当遇到这样的特殊情况，AI系统是否应该要会“求救”；对此Cypher-Plissant强调，机器应该要会说：“我需要帮忙思考。”她补充指出，要让人们接受，技术需要可以让人类对计算机的选择进行“互动与反应”，并在需要时修改它们的选择。这种功能通常被认为是Level 3自动驾驶的范畴，但事实证明，要实现非常困难。
Selman又扩大了这种难题，指出目前AI系统能在85~90%的时间内做出正确的选择，例如语言翻译的应用就是如此；这虽然令人印象深刻，但是“关键在于别忘了机器不懂语言描述的是什么(无论是哪种语言)，它们对于语言的意义毫无头绪。”
他接着指出：“系统是基于错误的原因做出正确的选择，它不知道发生了什么事，也可能不会意识到它不知道的东西；但人类可以，机器仍距离那样的境界非常遥远。”
Selman与Cypher-Plissant都强调，没有人类掌控方向盘的车子，不了解它要去哪里而且为什么要去，这会是自动驾驶车辆普及化的重大障碍。
Cypher-Plissant进一步阐释了所谓的“人为因素”，她指出她所属的单位，位在硅谷的联合创新实验室有一个人类学家团队，负责研究当高速公路路网充满了自驾车，人类的感受是什么。她指出，在硅谷，“我们就是喜欢这样具挑战性的科技，而且我们已经接受了，但是若要说服我住在美国蒙大拿州的亲戚们接受自驾车，恐怕得有好运气才做得到。”
Yoshida又添加了一个额外的复杂性，指出就像AI系统不了解它们“思考”的理由，人类通常也忽略了AI系统内的“黑盒子”究竟是如何运作。Selman赞同这一点，表示AI算法往往是不可能验证的；“它们的魔力有一部份来自于我们不知道它们是如何做的。”
两位参与座谈的专家都同意，车用AI的进展大概会在可见的未来局限在Level 3，而这已能让下一代的车辆“够安全”可能降低95%的交通意外死亡事故。
对此Yoshida的响应是，包括Tesla、Uber的公司所做出的承诺，却都超越了95%的水平；100%就是无法达到，她很想问，“时自驾车产业能与大众站在同样的水平线上？”众不会被愚弄，当完美变成营销手段，“何一桩事故都会让进展停滞。”
Cypher-Plissant表示，这就是为什么她的实验室会以拥有掌控权的人类驾驶员测试每一辆车子，“要我们感觉有什么不对──我们知道它什么时候会出错──就不会等待，我们会纪录数据，我们不会冒险。”
她的说法意味着反复尝试错误以及让车子能感受、拥有常识的过程不可能在一夜之间发生，而会是“一段真的真的真的很长的时间；”此外，随着研究继续进行，法规也会浮上台面并且大幅改变一直在很大程度上自我监督的汽车产业。
而她明确指出，像是Uber这样急着想大量以自驾车取代人类驾驶员的公司，是在冒很大的风险；“也许有了Uber会让你成为大赢家，但你也会成为最大的输家。”
编译：Judith Cheng 责编：Yvonne Geng
(参考原文：‘Common Sense’ Cools AV Ardor at AutoSens ，by David Benjamin)
您可能感兴趣
