埃隆·马斯克：人工智能会威胁人类文明甚至引发战争

美国电动车制造商特斯拉(Tesla)、太空运输公司SpaceX创办人埃隆·马斯克（Elon Musk）呼吁，政府应该针对人工智能(artificial intelligence；AI)立法监管，透过社会规范AI技术进步正成为当务之急。

人工智能不再是科幻小说，而是拥有巨大潜力的现实。尽管大部份的消息都着重于AI的正面发展潜力，但近来一些有识之士也开始点出其潜在的危险。这其中就包括了Elon Musk。

Elon Musk是SpaceX的创办人、CEO与CTO，同时身兼特斯拉CEO，当然不会是个反对科技进步的“卢尔德份子”(Luddite)。当他谈到AI时，所讨论的绝对是在其商业模式中不可或缺的技术。尽管如此，Musk在本月举行的全美州长协会(National Governors Association；NGA)夏季会议中强调，社会必须规范AI技术的进展。

Musk在受访时提到他目前所“接触的就是最尖端的AI”，并警告说：“我认为人们应该真的关切”这件事。他指出，其关键在于不要害怕AI的潜在后果或被动地作出响应，而是应该主动地为这项技术发展预先做好准备。

在面对技术不可预期的后果时，必须要打破过去的行为模式。Musk指出，“这通常会发生一大堆麻烦的事。例如公开的抗议，再经过几年后，才会有法规出现。但接着企业就会开始反对。无论如何，这些事会一直不断地发生。”

但是，Musk强调，社会可不能坐视AI所发生的一切，因为AI可能“对于人类文明存在造成根本威胁。”

例如，早期技术破坏的后果包括“车祸、飞机坠毁、伪药或有害食品等”，也就是说，Musk认为，结果“对于个人造成实时伤害，但对于整个社会而言则不尽然。”相形之下，AI则造成了“根本性的存在危机，而我认为人们并不会马上察觉到，”等到发现危险却为时已晚。

这就是为什么他正积极地推动对于AI的立法监管。

作为身处高度管制的汽车与航空产业环境中的企业家，Musk认为“被监管当然很没趣”，同时也表达他反对“过度监管”的立场。然而，他说：“我真的认为政府必须对于AI立法监管，而且还应该尽快完成。”

他说，政府必须尽快采取行动，因为产业竞争的本质将迫使公司之间“竞相打造AI系统”。毕竟，如果你的竞争对手正在打造AI系统，而你一旦落后，“很快地就会被‘打趴’…”。

这就是为什么“监管机构有必要站出来说，你必须暂缓，先确保它足够安全”。Musk说，如果他们“在这场竞争中不顾其他参与的厂商”，将会让个别的公司感受到加速AI发展的压力。他指出，AI目前已在迅速发展中。

针对美国科罗拉多州州长John Hickenlooper的提问，Musk以AI公司DeepMind如何使其AI围棋程序‘AlphaGo’从赢得世界排名第一的围棋选手，迅速地进步到同时挑战多位顶尖的人类棋手且赢过全部对手，说明了“人工智能可能到的重大成就”。在AlphaGo赢过人类“棋王以前，大家都认为AI至少要再等20年的时间才能达到打败人类棋手的程度”。

他还引用了另一个DeepMind的计划显示，AI教导自己“从无到有的学习过程只需几个小时，这比任何生物的学习都还要快得多了。”

为什么AI的进展令人忧心？Musk解释，对于初入门者，AI可能操纵信息甚至篡改系统而“引发战争”。他提出了一个“纯粹假设性”的例子说明这种情况如何发生以及可能引发的原因：“让股票投资组合价值最大化的目标”就在于“长线效益”。这种最糟糕的情况听起来就像是电情情节，同时也解释了为什么人们可能会被怂恿而未对其加以重视。

然而，还存在着一个更迫切的危机。例如，Musk说：“它当然还会造成许多工作中断，因为机器人做每一件事都比我们每一个人更有效率。”他并坦承认他自己也“不确定该怎么做。”

社会可能会因为这一类的事实而觉醒：自动化不只是提高效率，同时也减少了工作机会。《华尔街日报》(The Wall Street Journal)在上周刊登了一篇文章——“机器人开始取代购物商场员工”(Robots Are Replacing Workers Where You Shop)，文中详述美国零售商店Wallmart已经开始用一些技术取代工作人员了，其中还引用了Citi Research的图表，显示在2030年以前因自动化而可能受威胁的工作及机率。例如保险业和金融业存在54%被取代的高风险率，最严重的则是餐饮和住宿服务业，被机器人取代的机率高达86%。

预计接下来将会有大量的人员被解雇，而这种急剧的变化不仅会伤害到被取代的人们，同时也会对整个社会和经济带来冲击。

Musk对于AI未来的担忧似乎像是集中于电影中的那些邪恶的情节，但与自动化有关的工作减少面临更迫切危机，也更值得我们关注。

就像Musk一样，我也没有答案，但是我们必须从提出质疑开始，不要再存有“所有技术进步带来意料之外的后果都是好的”这种侥幸心态了。

编译：Susan Hong

本文授权编译自EE Times，版权所有，谢绝转载

关注最前沿的电子设计资讯，请关注“电子工程专辑微信公众号”。