“你想象有一天,你吃着火锅,唱着歌,坐在一辆车上,过着未来的美好生活,然后这个车就被黑客劫持了,美好生活也就结束了。”周鸿祎说。5月16日,360董事长周鸿祎在第二届世界智能大会现场演讲时给无人驾驶泼冷水:没有安全,就不可能有智能汽车时代真正到来。无论是特斯拉还是别的智能汽车联网后都可以用手机来控制,那就一定可以被劫持。周鸿祎自称他们公司研究团队可以做到特斯拉每出一款车,就以最快速度进行模拟劫持。
名叫mygreentea的网友立马调侃道,
“以后每辆特斯拉屏幕上都会有360的安全提醒:亲,您的系统有严重的安全漏洞。。。马:我没允许装这玩意啊,怎么来的?
周:我这是主动性防御,不需要谁同意。”
周鸿祎笑称其研发团队模拟劫持每款特斯拉,并没有害大家的想法,只是做盾的人要研究矛。
周鸿祎还提到了,《电影速度与激情8》中“僵尸车”汹涌前进的场景可能两三年后就会成为现实,街上大量无人驾驶车辆被黑客控制。我不同意伊隆马斯克或者霍金的这种想法:机器会变成自主意识对人类产生危害。很多无人值守系统一旦被黑客劫持,扳机会控制在黑客手里,所以带来的危险比较大。
同时,周鸿祎指出了人工智能作为智能经济的关键技术支撑力也存在重要的安全问题,主要来自于4个方面:
第一,人工智能会用于许多无人值守系统,像无人值守的汽车、高铁、无人机,无人值守的武器等。但是,这些无人值守系统都有安全漏洞的风险,一旦被网络劫持,将带来严重的安全问题。比如未来用人工智能做成智能机枪以后,一旦被黑客攻破,就有可能向无辜的人开火。
第二,人工智能所依赖的传感器、训练数据和使用的开源软件等都可能存在安全隐患,比如传感器可以被干扰,系统自身也可以被欺骗或入侵。
第三,现在的人工智能还只是一种拼命用大量数据训练出来的概率判断系统,远远称不上完善。它也许可以有99.99%的概率保证识别是正确的,但是对于安全来讲,它只要出现一次识别错误,就会造成严重后果。过去一年里,曾发生多起自动驾驶测试车车祸,甚至撞死行人的事件,就是因为这个原因。
第四,现在的人工智能系统大多使用开源软件和架构,这里面的安全漏洞就更多了。所以,周鸿祎认为,大安全时代,迫切需要一个完整的解决方案。要运用新技术构建一个强健有力的“安全大脑”,建立“上帝视角”,绘制出大安全全景图。
本消息综合澎湃新闻、华尔街见闻及雷锋网内容整理报道