在”超级智能”计算机变得比人类更聪明之前，那些机器必须要被植入与其人类发明者一致的”常识”(common sense)...
在全虚拟化的2021年国际消费性电子展(CES)期间，Intel旗下Mobileye首席执行官 Amnon Shashua与《纽约时报》(New York Times)的专栏作者Thomas Friedman针对人工智能(AI)的未来进行了一场对谈；他们都同意，在”超级智能”计算机变得比人类更聪明之前，那些机器必须要被植入与其人类发明者一致的”常识”(common sense)。
Shashua认为，如果人与机器没有共同点，将会是”一场大灾难”，而看来他在提及AI发展潜能时多次提到”科幻小说”并非偶然，因为像是Karel Čapek、Arthur C. Clarke与Philip K. Dick等作家在近一个世纪前就已经警告过读者以及科学家们，带着恶意的机器人若掌控了人类的命运，将会有什么样的危险。
Shashua举了一个既轻松又有点预言意味的范例：一种设计来让人们更开心的、”由AI启动的非常复杂软件代理程序(software agent)”；他假设该AI程序会”搞清楚如果降低人们的智商，他就会少一些忧虑，并可能因此变得更开心。”
他继续指出：”这是工程师编写AI程序时没有预期到的，也不会很快就显现的结果；可能得等到几十年之后，人们的智商真的降低了…随着时间推移，人们变得越来越笨，然后我们才惊觉这是AI出于『善意』的作为──看这会是多大的一场灾难！”
当然，Shashua自己就是一个明显的AI拥护者，因为他的公司Mobileye是智能车用感测系统的领导供货商。Friedman就描述了他乘坐由Shashua主控、搭载Mobileye技术的自驾车在以色列耶路撒冷街道奔驰的冒险旅程：“那里没有两条平行的街道…有山丘、发夹弯、驴子、骆驼，还有各式各样的行人…”
但Firedman兴奋地表示，Mobileye的自驾技术在迷宫般的街道上畅行无阻，这需要机器与人类之间”复杂的适应性联盟”，才能实现那样的感测技术。他指出，实际上Mobileye与车厂福斯(Volkswagen)、耶律撒冷的犹太教导师以及以色列交通部合作建立了一个生态系统，为自动驾驶开发了一种保险协议。
Shashua与Friedman也将他们的对话延伸到自动驾驶之外，探讨了随着AI系统变得越来越普遍与复杂，技术开发者、消费者与政府主管机关所面临的迫切挑战。
为了形容AI的快速发展，Friedman以经典运算和量子运算之间的不同做为比喻，指出今日的AI属于经典类别；他指出：“经典运算就像是抛掷一个25美分硬币，0或1、正面或反面，如果你能把一个硬币在晶体管上抛掷10亿次，就具备运算与储存功能。量子运算则像是旋转一个硬币，在同一个时间可以有多个状态。”
Shashu扩充了以上的见解，表示AI第一个层次的理解是图形辨识，是相当基本的技能；更困难的挑战则是语言。而他指出，这样的突破──机器能读、写并说故事──迫在眉睫。
“这不是科幻小说，在过去两年，对语言的理解已经有飞跃性的进展；”Shashua表示，”在接下来两年、最多五年，我可以预见计算机能理解文字并通过阅读测验。高中的阅读测验非常复杂，目前没有计算机可以通过；但两年内我相信它们可以。”
Shashua假设与一台会读、会写，并能详尽分析接种新冠病毒(Covid-19)疫苗之利弊的计算机对话，计算机会告诉他是否应该去接种疫苗，还有哪一种疫苗对他最好。而AI运算能力的下一个阶段飞跃，是Shashua与Friedman都提到的｢通用人工智能」(artificial general intelligence，AGI)──即一种利用”蛮力”(brute force)的大规模运算。
AGI能模仿人类的行为与战略、并且在不参考人类的前例之情况下构思自己的解决方案；不过Shashua指出，这种“超级智慧”(super-intelligence)既神奇又危险。而从更实际的角度，Friedman将对话转向AI启动、他所谓的“双用途”(dual use)技术，并提出他称之为“我们正在研究的，世界上最大的地缘政治与政治议题。”
Friedman提供了一幅简单朴实的插画：“现在，在一个快速、融合、深度世界，你拥有软件加速以及芯片技术，所有东西都是双用途。我的烤面包机也是双用途，而如果我的烤面包机能与冰箱对话，我也可以把我的烤面包机跟冰箱装在你家的厨房，听见你在说甚么。”
他进一步指出：”所以当我们把智慧放进所有东西，它们都会变成双用途。我们已经看到美国与世界上其他国家之间的紧张局势，如果我把芯片或软件卖给俄罗斯、中国或是其他国家，我如何能控制他们的用途？”
Friedman的结论是：“然后我们回到了这个价值观的问题──我们要健康的依存关系或是不健康的依存关系？”这个问题不只适用于国家之间，也适用人类与越来越聪明(可能也越来越独立)的机器之间。
他表示，Shashua所说的、越来越复杂的“扁平世界”与其全然令人困惑的复杂性几乎不可比；“今日全球的复杂性更多反映了大自然的复杂性，当气候变迁、哪个生态系能存活？是那些建立在复杂适应性系统上的。”
“在人类社会，那些社群、国家与企业──就像Mobileye的联盟──建立了复杂的适应性联盟以因应变化，那会在21世纪蓬勃发展；我们跟达尔文(Darwin)学到了这一点。”Friedman总结指出，全球新冠病毒疫情迫使CES取消了年度的实体展会，“因为新冠病毒，我们不是与另一个国家对抗，而是与大自然对抗。谁能获得大自然的奖赏？不会是最聪明、最强大的，而是最具适应力的。”
编译：Judith Cheng 责编：Yvonne Geng
（参考原文 ：Shashua-Friedman Chat: AI Is Both ‘Miraculous’ and ‘Dangerous’，by David Benjamin）
您可能感兴趣
