近日,在谷歌工作10年有余的杰弗里·辛顿( Geoffrey Hinton)在社交平台上证实已经从谷歌离职。杰弗里·辛顿表示,离开谷歌不是为了批评谷歌,实际上是为了能更自由的谈论人工智能的危机。

电子工程专辑讯 近日,在谷歌工作10年有余的杰弗里·辛顿( Geoffrey Hinton)在社交平台上证实已经从谷歌离职。杰弗里·辛顿表示,离开谷歌不是为了批评谷歌,实际上是为了能更自由的谈论人工智能的危机。

早前,杰弗里·辛顿最初预测人工智能将在未来30-50年内变得比人类更聪明,不过他现在认为这个时间节点会发生的更快,杰弗里·辛顿预测时间可能会提早到5-20年,不过没有什么信心,我们生活在非常不确定的时代,关于人工智能超越人类,没有人真正知道,这也正是我们现在应该担心的。

来源Geoffrey Hinton推特

杰弗里·辛顿生于1947年12月6日,以类神经网络方面的贡献而闻名。辛顿是反向传播算法和对比散度算法的发明人之一,也是深度学习的积极推动者,被誉为“深度学习之父”。 辛顿因在深度学习方面的贡献与约书亚·本希奥和杨立昆一同被授予了2018年的图灵奖。

辛顿于1970年在英国剑桥大学获得实验心理学学士学位。此后于1978年在爱丁堡大学获得人工智能博士学位。此后曾在萨塞克斯大学、加州大学圣迭戈分校、剑桥大学、卡内基梅隆大学和伦敦大学学院工作。他是盖茨比计算神经科学中心的创始人,目前担任多伦多大学计算机科学系教授。辛顿是机器学习领域的加拿大首席学者,也是加拿大高等研究院赞助的“神经计算和自适应感知”项目的领导者。辛顿在2013年3月加入Google,同时Google并购了他创办的DNNresearch公司。

据《纽约时报》消息,辛顿证实了对人工智能未来发展的担忧,他表示随着各大科技公司改进人工生成智能系统,人工智能经常从分析大量数据中学习意想不到的行为,人工智能将变得越来越危险。

辛顿之前认为,谷歌、OpenAI和其他公司建立的从大量数字文本中学习生成式人工智能网络,是一种让机器理解和生成语言的强大方式,但它不如人类处理语言的方式。但是随着如ChatGPT这样的聊天机器人的火爆,辛顿的观点发生了改变。他对生成式人工智能可能带来的风险有了更深刻的了解。

近年生成式AI初创企业的投资热度高涨,根据商业研究公司CB Insights的一份报告,2022年投资者向110笔针对生成式AI初创公司的交易投入了超过 26亿美元,这是该领域投资的历史新高。在2022年第四季度所有行业规模最大的风投交易中,有两笔是针对生成式AI初创企业的。

生成式人工智能的研发竞争不会停止,这也将迫使人类面临充斥着假图片和假文字的世界,真相会变得难以辨识。而人工智能制造的大量错误的信息,将影响人们的判断和决策。

AI也将颠覆就业市场,比如ChatGPT聊天机器人可以协助我们工作的完善,取代律师助理、个人助理、翻译,或者其他死记硬背的工作,“它带走苦差事,也可能会带走更多的东西”,辛顿表示。

辛顿的言论引发了外界猜测,他是否在批评谷歌的猜想。不过辛顿对此澄清说,他之所以公开谈论人工智能的风险,是因为他已经不受谷歌的限制,可以自由谈论人工智能所带来的危机。

专家呼吁暂停人工智能开发

辛顿的观点并不是一家之谈,由非营利性的“生命的未来研究所 "人工智能(AI)行业专家在3月28号的一封公开信中,呼吁暂停开发比OpenAI最近推出的GPT-4更强大的生成性AI系统,理由是对社会和人类的潜在风险。这些系统可能会造成经济和政治混乱,并呼吁开发者与政策制定者和监管者合作。共同签署者包括稳定人工智能公司的首席执行官埃马德-莫斯塔克、Alphabet旗下DeepMind公司的研究人员以及人工智能大师约书亚-本吉奥和斯图尔特-拉塞尔。

该公开信说:"只有当我们确信强大的人工智能系统的影响是积极的,其风险是可控的,才应该开发。"

签署该信的纽约大学教授加里-马库斯(Gary Marcus)说:"这封信并不完美,但精神是正确的:我们需要放慢脚步,直到我们更好地了解其影响。" 他指出,"大公司对他们正在做的事情越来越保密,这使得社会难以抵御可能发生的损害。"

埃隆·马斯克在阿联酋迪拜的2023年世界政府峰会上表示,ChatGPT证实了人工智能(AI)已经获得了令人难以置信的发展,但这已成为人类应该担心的一件事。人工智能是未来人类文明最大的风险之一。他补充称,“它有积极的一面,也有消极的一面,有巨大的前景也有巨大的能力,但随之而来的危险也是巨大的。”

著名物理学家斯蒂芬·霍金曾在2017全球移动互联网大会(GMIC)上发表《让人工智能造福人类及其赖以生存的家园》的主题演讲上提出了“人工智能的崛起可能是人类文明的终结”的观点。

霍金指出,文明所提产生的一切都是人类智能的产物,生物大脑可以达到的和计算机可以达到的,没有本质区别。因此,它遵循了“计算机在理论上可以模仿人类智能,然后超越”这一原则。当我们将无限得到人工智能帮助的同时,我们的文明也可能被它毁灭,尽管现在只是替代工作岗位。从短期和长期来讨论人工智能的研究,短期担忧如无人驾驶方面,从民用无人机到自主驾驶汽车,如果在紧急情况下,一辆无人驾驶汽车不得不在小风险的大事故和大概率的小事故之间进行选择。另一个担忧在致命性智能自主武器,他们是否该被禁止?如果是,那么“自主”该如何精确定义。如果不是,任何使用不当和故障的过失应该如何问责。还有另外一些担忧,由人工智能逐渐可以解读大量监控数据引起的隐私和担忧,以及如何管理因人工智能取代工作岗位带来的经济影响。

长期担忧主要是人工智能系统失控的潜在风险,随着不遵循人类意愿行事的超级智能的崛起,那个强大的系统威胁到人类。这样错位的结果是否有可能?如果是,这些情况是如何出现的?我们应该投入什么样的研究,以便更好的理解和解决危险的超级智能崛起的可能性,或智能爆发的出现?

当前控制人工智能技术的工具,例如强化学习,简单实用的功能,还不足以解决这个问题。因此,我们需要进一步研究来找到和确认一个可靠的解决办法来掌控这一问题。

霍金还提到,在库布里克的电影《2001太空漫游》中,出故障的超级电脑哈尔没有让科学家们进入太空舱,但那是科幻。我们要面对的则是事实。奥斯本·克拉克跨国律师事务所的合伙人,洛纳·布拉泽尔在报告中说,我们不承认鲸鱼和大猩猩有人格,所以也没有必要急于接受一个机器人人格。但是担忧一直存在。报告承认在几十年的时间内,人工智能可能会超越人类智力范围,进而挑战人机关系。

本文参考自路透社、推特、Newtalk、维基百科、腾讯科技等报道

责编:Amy.wu
阅读全文,请先
您可能感兴趣
新公司将包括本田、日产和三菱汽车,预计年销量将超过800万辆,成为世界第3大汽车制造集团。这将使新公司在全球汽车市场中占据重要地位,尤其是在与特斯拉和中国电动车品牌的竞争中。
新款开发板售价仅为249美元,而上一代40 TOPS开发板售价为499美元,价格仅为上一代的一半。这使得Jetson Orin Nano Super成为“世界上最经济实惠的生成式AI计算机”,特别适合商业AI开发者、爱好者和学生使用。
面对AI时代带来的差异化趋势、软件应用及开发时间长、软硬件协同难、高复杂度高成本等挑战,国产EDA仍需不断探索和创新。
印度政府希望通过这一系列的方式,“推动”中国品牌更深入地“融入”印度市场,并“加强”与当地的经济合作,比如鼓励中国企业与本土电子制造商建立合作关系,共同在印度生产智能手机。而vivo印度公司此次与迪克森成立合资公司,就是在以上政府指引下无奈作出的选择。
通过机器学习技术,EDA工具可以获取更精确的模型来预测设计中存在的问题,如布线拥塞、信号干扰、热效应等,从而为用户提供更准确快速的指导,避免后期返工。
此次柔宇显示名下资产的拍卖页面自11月28日就已经上线,直至12月15日拍卖结束,在这长达半个多月的时间里,始终没有任何人报名参与竞拍。
目前,智能终端NFC功能的使用频率越来越高,面对新场景新需求,ITMA多家成员单位一起联合推动iTAP(智能无感接近式协议)标准化项目,预计25年上半年发布1.0标准,通过功能测试、兼容性测试,确保新技术产业应用。
中科院微电子所集成电路制造技术重点实验室刘明院士团队提出了一种基于记忆交叉阵列的符号知识表示解决方案,首次实验演示并验证了忆阻神经-模糊硬件系统在无监督、有监督和迁移学习任务中的应用……
C&K Switches EITS系列直角照明轻触开关提供表面贴装 PIP 端子和标准通孔配置,为电信、数据中心和专业音频/视频设备等广泛应用提供创新的多功能解决方案。
投身国产浪潮向上而行,英韧科技再获“中国芯”认可
‍‍12月18日,深圳雷曼光电科技股份有限公司(下称“雷曼光电”)与成都辰显光电有限公司(下称“辰显光电”)在成都正式签署战略合作协议。双方将充分发挥各自在技术创新、产品研发等方面的优势,共同推进Mi
万物互联的时代浪潮中,以OLED为代表的新型显示技术,已成为人机交互、智能联结的重要端口。维信诺作为中国OLED赛道的先行者和引领者,凭借自主创新,实现了我国OLED技术的自立自强,成为中国新型显示产
万物互联的时代浪潮中,以OLED为代表的新型显示技术,已成为人机交互、智能联结的重要端口。维信诺作为中国OLED赛道的先行者和引领者,凭借自主创新,实现了我国OLED技术的自立自强,成为中国新型显示产
12月18 日,据报道,JNTC与印度Welspun BAPL就车载盖板玻璃的开发及量产签订了投资引进业务合作备忘录(MOU)。资料显示,JNTC是韩国的一家盖板玻璃厂商。Welspun的总部位于印度
阿里资产显示,随着深圳柔宇显示技术有限公司(下称:“柔宇显示”)旗下资产一拍以流拍告终,二拍将于12月24日开拍,起拍价为9.8亿元。拍卖标的包括位于深圳市龙岗区的12套不动产和一批设备类资产,其中不
扫描关注一起学嵌入式,一起学习,一起成长在嵌入式开发软件中查找和消除潜在的错误是一项艰巨的任务。通常需要英勇的努力和昂贵的工具才能从观察到的崩溃,死机或其他计划外的运行时行为追溯到根本原因。在最坏的情
近期,高科视像、新视通、江苏善行智能科技等企业持续扩充COB产能。插播:加入LED显示行业群,请加VX:hangjia188■ 高科视像:MLED新型显示面板生产项目(二期)招标12月18日,山西高科
在上海嘉定叶城路1688号的极越办公楼里,最显眼的位置上,写着一句话:“中国智能汽车史上,必将拥有每个极越人的名字。”本以为这句话是公司的企业愿景,未曾想这原来是命运的嘲弄。毕竟,极越用一种极其荒唐的
LG Display  12月18日表示,为加强OLED制造竞争力,自主开发并引进了“AI(人工智能)生产体系”。“AI生产体系”是AI实时收集并分析OLED工艺制造数据的系统。LG Display表
 “ AWS 的收入增长应该会继续加速。 ”作者 | RichardSaintvilus编译 | 华尔街大事件亚马逊公司( NASDAQ:AMZN ) 在当前水平上还有 38% 的上涨空间。这主要得益