广告

埃隆·马斯克:人工智能会威胁人类文明甚至引发战争

2017-07-26 10:23:09 Ariella Brown, Technology Writ 阅读:
Elon Musk强调,人工智能恐造成“人类文明存在的根本威胁”,甚至“引发战争”,因而呼吁政府必须尽快立法监管人工智能…
广告

美国电动车制造商特斯拉(Tesla)、太空运输公司SpaceX创办人埃隆·马斯克(Elon Musk)呼吁,政府应该针对人工智能(artificial intelligence;AI)立法监管,透过社会规范AI技术进步正成为当务之急。

人工智能不再是科幻小说,而是拥有巨大潜力的现实。尽管大部份的消息都着重于AI的正面发展潜力,但近来一些有识之士也开始点出其潜在的危险。这其中就包括了Elon Musk。
20170726-elon-musk-AI-1
Elon Musk是SpaceX的创办人、CEO与CTO,同时身兼特斯拉CEO,当然不会是个反对科技进步的“卢尔德份子”(Luddite)。当他谈到AI时,所讨论的绝对是在其商业模式中不可或缺的技术。尽管如此,Musk在本月举行的全美州长协会(National Governors Association;NGA)夏季会议中强调,社会必须规范AI技术的进展。

Musk在受访时提到他目前所“接触的就是最尖端的AI”,并警告说:“我认为人们应该真的关切”这件事。他指出,其关键在于不要害怕AI的潜在后果或被动地作出响应,而是应该主动地为这项技术发展预先做好准备。

广告

在面对技术不可预期的后果时,必须要打破过去的行为模式。Musk指出,“这通常会发生一大堆麻烦的事。例如公开的抗议,再经过几年后,才会有法规出现。但接着企业就会开始反对。无论如何,这些事会一直不断地发生。”

但是,Musk强调,社会可不能坐视AI所发生的一切,因为AI可能“对于人类文明存在造成根本威胁。”

例如,早期技术破坏的后果包括“车祸、飞机坠毁、伪药或有害食品等”,也就是说,Musk认为,结果“对于个人造成实时伤害,但对于整个社会而言则不尽然。”相形之下,AI则造成了“根本性的存在危机,而我认为人们并不会马上察觉到,”等到发现危险却为时已晚。

这就是为什么他正积极地推动对于AI的立法监管。

作为身处高度管制的汽车与航空产业环境中的企业家,Musk认为“被监管当然很没趣”,同时也表达他反对“过度监管”的立场。然而,他说:“我真的认为政府必须对于AI立法监管,而且还应该尽快完成。”

他说,政府必须尽快采取行动,因为产业竞争的本质将迫使公司之间“竞相打造AI系统”。毕竟,如果你的竞争对手正在打造AI系统,而你一旦落后,“很快地就会被‘打趴’…”。

这就是为什么“监管机构有必要站出来说,你必须暂缓,先确保它足够安全”。Musk说,如果他们“在这场竞争中不顾其他参与的厂商”,将会让个别的公司感受到加速AI发展的压力。他指出,AI目前已在迅速发展中。

针对美国科罗拉多州州长John Hickenlooper的提问,Musk以AI公司DeepMind如何使其AI围棋程序‘AlphaGo’从赢得世界排名第一的围棋选手,迅速地进步到同时挑战多位顶尖的人类棋手且赢过全部对手,说明了“人工智能可能到的重大成就”。在AlphaGo赢过人类“棋王以前,大家都认为AI至少要再等20年的时间才能达到打败人类棋手的程度”。

他还引用了另一个DeepMind的计划显示,AI教导自己“从无到有的学习过程只需几个小时,这比任何生物的学习都还要快得多了。”

为什么AI的进展令人忧心?Musk解释,对于初入门者,AI可能操纵信息甚至篡改系统而“引发战争”。他提出了一个“纯粹假设性”的例子说明这种情况如何发生以及可能引发的原因:“让股票投资组合价值最大化的目标”就在于“长线效益”。这种最糟糕的情况听起来就像是电情情节,同时也解释了为什么人们可能会被怂恿而未对其加以重视。

然而,还存在着一个更迫切的危机。例如,Musk说:“它当然还会造成许多工作中断,因为机器人做每一件事都比我们每一个人更有效率。”他并坦承认他自己也“不确定该怎么做。”

社会可能会因为这一类的事实而觉醒:自动化不只是提高效率,同时也减少了工作机会。《华尔街日报》(The Wall Street Journal)在上周刊登了一篇文章——“机器人开始取代购物商场员工”(Robots Are Replacing Workers Where You Shop),文中详述美国零售商店Wallmart已经开始用一些技术取代工作人员了,其中还引用了Citi Research的图表,显示在2030年以前因自动化而可能受威胁的工作及机率。例如保险业和金融业存在54%被取代的高风险率,最严重的则是餐饮和住宿服务业,被机器人取代的机率高达86%。
20170726-elon-musk-AI-2

预计接下来将会有大量的人员被解雇,而这种急剧的变化不仅会伤害到被取代的人们,同时也会对整个社会和经济带来冲击。
20170726-elon-musk-AI-3
Musk对于AI未来的担忧似乎像是集中于电影中的那些邪恶的情节,但与自动化有关的工作减少面临更迫切危机,也更值得我们关注。

就像Musk一样,我也没有答案,但是我们必须从提出质疑开始,不要再存有“所有技术进步带来意料之外的后果都是好的”这种侥幸心态了。

编译:Susan Hong

本文授权编译自EE Times,版权所有,谢绝转载

EETC wechat barcode


关注最前沿的电子设计资讯,请关注“电子工程专辑微信公众号”。

  • AI 人類發展過程中
  • 苹果M5芯片进入量产阶段,采用台积电3nm工艺 凭借先进的3nm制程工艺和SoIC-MH封装技术,M5芯片在性能、能效和AI能力上均实现了显著提升。首批搭载M5芯片的设备陆续上市......
  • 开放标准突破AI加速器互连瓶颈 随着AI模型规模越来越大,所需的训练硬件也需同步升级。然而,目前缺乏一种开放的互连标准来支持AI加速器间的高效通信。
  • EDA三巨头竞逐台积电AI设计流程 AI正稳步改变半导体行业,这一趋势在领先EDA公司和硅片代工厂表现得尤为突出。三大EDA工具制造商(Cadence、Synopsys和西门子EDA)已宣布与台积电合作,致力于为先进芯片制造节点开发AI驱动的设计流程。本文将简要回顾这些合作的现状。
  • 实测GeForce RTX 5080:AI生成的像素,到底算不算性能提升? 最近发布的GeForce RTX 5080显卡晶体管数量、die size相比前代RTX 4080都没什么大变化,这真的能有性能提升吗?
  • 传台积电将在台湾再建两座CoWoS先进封装厂 台积电计划在 3 月前投资超过 2000 亿新台币(约合 61.2 亿美元),扩建其位于台湾南部科学园区三期的CoWoS生产设施。知情人士透露,台积电之所以做出这一决定,是因为人工智能(AI)驱动的先进封装需求比预期更为强劲......
  • CoWoS遭英伟达砍单?台积电回应 尽管市场上有传言称英伟达大幅削减了对台积电CoWoS-S封装的需求,甚至有报告指出砍单幅度高达80%,但台积电和英伟达均对此进行了否认......
  • 摩根士丹利详解全球人形机器人100 全球人形机器人领域上市公司的百强名单将人形机器人产业链区分为大脑、身体以及集成三大核心环节,覆盖全球共计100家上市公司。中国共37家企业上榜(中国大陆32家,台湾5家),其中深圳7家,占中国大陆上榜企业近四分之一,包括比亚迪、腾讯、优必选、速腾聚创、雷赛智能、兆威机电、汇川技术等......
  • DeepSeek的低成本AI模型将催生光通 DeepSeek模型虽降低AI训练成本,但AI模型的低成本化可望扩大应用场景,进而增加全球数据中心建置量。光收发模块作为数据中心互连的关键组件,将受惠于高速数据传输的需求。未来AI服务器之间的数据传输,都需要大量的高速光收发模块......
  • 全球首款骁龙®8至尊版折叠旗舰,OPP 凭借新一代3nm制程工艺与全新架构,骁龙® 8至尊版的单核和GPU 性能提升均超过 40%,使得Find N5在性能上实现质的飞跃……
  • 康佳特重磅推出aReady.IoT 简化物联网连接:应用就绪型软件构建模块
广告
热门推荐
广告
广告
广告
EE直播间
在线研讨会
广告
广告
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了