当地时间5月14日,OpenAI在官网宣布,其联合创始人兼首席科学家伊尔亚·苏茨克沃(Ilya Sutskever)将离开OpenAI,原研究主管雅库布·帕乔基(Jakub Pachocki)将接替伊尔亚担任首席科学家,他曾领导GPT-4和OpenAI Five的开发,以及大规模强化学习和深度学习优化方面的基础研究。
值得注意的是,去年,伊尔亚在OpenAI“宫斗”风波结束后就鲜有露面,公司董事会调整后其新职务也一直没有公布。就连近日发布GPT-4o,在OpenAI官网披露的贡献者中,也没有看到他的身影。
稍早前,伊尔亚在个人X平台账号宣布离开OpenAI,他说:
“近十年后,我做出了离开 OpenAI 的决定。公司的发展轨迹堪称奇迹,我相信 OpenAI 将在 @sama、@gdb、@miramurati 以及现在的 @merettm 的研究团队领导下,打造出既安全又有益的通用人工智能(AGI)。 能与大家共事是我的荣幸,我会非常想念大家的。
再见了,感谢你们所做的一切。我对接下来的工作充满期待 —— 这个项目对我个人意义非凡,我会在适当的时候与大家分享细节。”
伊尔亚在发文下,附带了一张与 OpenAI 董事会成员、以及高层领导的合照。合照人物从左往右依次为:
OpenAI 研究团队 leader Jakub Pachocki
OpenAI 总裁兼联合创始人 Greg Brockman
OpenAI 联合创始人兼首席科学家 Ilya Sutskever
OpenAI 联合创始人兼CEO Sam Altman(OpenAI 董事会成员)
OpenAI CTO Mira Murati
与“CEO驱逐”事件有关的人,几乎都走了
2023年底,OpenAI董事会成员联手驱逐了CEO山姆·奥特曼(Sam Altman),而伊尔亚也是董事会的一员。据外媒报道称,导火索是几名研究人员致信警告称一项强大的AI(人工智能)发现可能威胁到人类。
不过在700多名员工威胁辞职以及微软公司等多方压力下,在被赶下台仅仅五天后,奥特曼很快便重返OpenAI担任CEO,并组建了新董事会。
伊尔亚也从董事会离开,他曾表示对此举(驱逐奥特曼)感到后悔。彼时,他仍然是OpenAI员工,但再也没有回到公司工作
奥特曼当时在备忘录中写道,他“爱戴并尊敬”伊尔亚,自己对他“毫无恶意”:“虽然伊尔亚将不再担任董事会职务,但我们希望继续与他保持工作关系,并正在讨论如何能够让他在OpenAI继续自己的工作。”
彼时,据消息人士透露,Murati曾告诉员工,一封关于Q*(发音为Q-Star)AI取得突破的信件促使董事会采取了解雇行动。
OpenAI在Q*上取得的进展,让部分公司内部人士相信,这可能是他们找到“超级智能(即AGI)”的突破。OpenAI将AGI定义为“比人类更聪明的AI系统”,这也是几位创始人产生分歧的根源。
今年4月12日,据可靠消息透露,OpenAI还解雇了两名涉嫌泄密的研究人员,此事在业界引起了广泛关注。据悉,这两名研究人员分别是利奥波德·阿申布伦纳(Leopold Aschenbrenner)和帕维尔·伊兹梅洛夫(Pavel Izmailov)。
阿申布伦纳曾是致力于确保人工智能社会安全的核心团队成员,也是伊尔亚的盟友。他是一位才华横溢的研究者,19岁便从哥伦比亚大学毕业。他曾在未来基金(Future Fund)工作,这是由著名加密货币交易所创始人山姆·班克曼-弗里德(Sam Bankman-Fried)创立的慈善基金,专注于资助能“改善人类长期前景”的创新项目。阿申布伦纳一年前加入了OpenAI。
值得一提的是,阿申布伦纳是OpenAI内部所谓超级对齐(Superalignment)团队的成员,该团队由伊尔亚于去年夏天组建,旨在开发控制和操纵AGI的技术,探索如何利用这种智能解决核聚变、星际殖民等人类面临的重大挑战。
而伊兹梅洛夫则是一名专注于推理研究的专家,也曾在安全团队中工作。
在阿申布伦纳和伊兹梅洛夫被解雇之前,OpenAI的员工就如何安全地开发人工智能存在明显的分歧。阿申布伦纳与有效利他主义运动有紧密联系,该运动强调优先解决人工智能可能带来的潜在风险,而不仅仅是追求短期利益或生产力的提升。
目前尚不清楚这两名员工具体泄露了什么信息。但此次解雇标志着自奥特曼今年3月重返董事会以来,OpenAI人员变动的消息首次公开出现,伊尔亚的离职只不过是连锁事件。
值得注意的是,解雇奥特曼的一些原董事会成员与有效利他主义运动有着千丝万缕的联系。例如,塔莎·麦考利(Tasha McCauley)是Effective Ventures董事会的成员,而EffectiveVentures正是有效利他主义中心的母公司。海伦·托纳(Helen Toner)曾在专注于有效利他主义的开放慈善项目中担任重要职务。在奥特曼去年底重新担任首席执行官后,这两位也都离开了OpenAI的董事会。
奥特曼等高管发文回应伊尔亚离职
这次伊尔亚离职,奥特曼、Brockman以及Pachocki均发文作出回应。
奥特曼发文称:“伊尔亚要与OpenAI分道扬镳了,这让我很难过;伊尔亚无疑是我们这一代最具才智的人物之一,是我们这个领域的指路明灯,也是一位亲爱的朋友。他的才华和远见是众所周知的;他的热情和同情心不那么为人所知,但同样重要。没有他,OpenAl就不会有今天。”
“虽然他有一些对个人有意义的事情要做,但我永远感激他在这里所做的一切,并致力于完成我们共同开始的使命。我很高兴有这么长时间能接近这样一位真正杰出的天才,一位如此专注于为人类创造最好未来的人。”奥特曼写道。
OpenAI联合创始人兼总裁格雷格·布罗克曼(Greg Brockman)当然也要来送祝福。伊尔亚不仅是他的创业伙伴、他的朋友,还是他结婚典礼的司仪。
布罗克曼发文称:“我们一起规划了OpenAI今天的发展方向。当我们在2015年底开始时,OpenAI还是一个非营利组织,其使命是让AGI顺利运行,但没有一个可靠的计划来实现它。在早期,伊尔亚和我花了无数的时间认真思考文化、技术方向和战略的各个方面。我们一起意识到,为了建造规模空前的超级计算机,我们需要筹集比任何人想象的多得多的资金。”
“我们在非营利组织中一起筹集资金,筹集的资金比其他人想象的要多,但仍然远远不够。我们建议创建一个以营利为目的的机构,为这项使命服务。一旦这个目标建立起来,我们就会继续调整和塑造公司的价值观,继续专注于我们的AGI使命,同时努力解决如何每天取得进展的棘手实际问题。”
“伊尔亚是一位艺术家。他的远见和热情是有感染力的,当我刚刚起步的时候,他帮助我了解了这个领域。他不怕从直觉中得出合乎逻辑的结论。我们的灵感来自1962年出版的《未来概览》(Profiles of the Future)一书,该书开篇描述了一些错误的思维方式,正是这些思维方式导致科学家们断言灯泡、飞行和进入轨道是不可能的,而不久这些壮举就实现了。因此,尽管人们怀疑AGI在可预见的范围内的任何地方,但我们会深思熟虑,并根据我们的信念采取行动,相信深度学习可以把我们带到那里。”布罗克曼写道。
奥特曼宣布OpenAI原研发总监Jakub Pachocki将接任OpenAI首席科学家,称其是“我们这一代最具才智的人之一”、“已经管理了我们许多最重要的项目”。
接任者什么来头?
Pachocki也发文回顾与伊尔亚的交情:“伊尔亚把我带进了深度学习研究的世界,多年来一直是我的导师和棒极了的合作者。他对深度学习的不可思议的愿景是OpenAI和AI领域今天的基础。我非常感谢他与我进行的无数次对话,从关于AI未来发展的高层讨论,到深入的技术白板会议。我会想念和你一起工作的。”
2012年,Pachocki曾赢得了Code Jam冠军,并获得了10,000美元的奖金。此外,他还在其他编程竞赛中名列前茅,包括2012年ACM ICPC世界总决赛(金牌)、2012年TopCoder公开赛和2013年Facebook黑客杯。
Pachocki在编程领域所取得的成功,凸显了认知能力在此领域的重要性。他曾在采访中提到,像谷歌Code Jam这类编程竞赛更类似于数学作业或解逻辑题,要想获胜需要极高的认知能力。
从这个角度看,谷歌14%没有本科学位的员工,可能与其余86%的员工并无太大差异。
加入OpenAI之前,Pachocki曾获得卡内基梅隆大学理论计算机科学博士学位,并在Facebook进行软件工程岗位的实习。
自2017年以来,Pachocki一直供职于OpenAI,是开发GPT-4背后的“关键先生”。 他曾先后担任Dota组、推理组以及深度学习科学团队的研究负责人,并于去年8月起担任OpenAI研究总监一职,领导了GPT-4和OpenAI Five的开发,以及大规模RL和深度学习优化方面的基础研究。
在此前的MIT采访中,Pachocki将开发如GPT-4这样的语言模型比作‘构建宇宙飞船’——必须确保每一个部件都完美无缺。他还提到,自2018年第一个版本发布以来,GPT模型的基本构建方法并没有太大变化。
尽管Pachocki在GPT-4的开发中扮演了关键角色,并且取得了显著成就,但他一直保持低调,很少在媒体前露面。然而,他的成就本身已经足够引人注目。
Pachocki对AI的热情始于AlphaGo的发布,当时他意识到深度学习的潜力远超过当时计算机的能力。他在OpenAI开发Dota 2游戏机器人的过程中发挥了关键作用,该机器人通过不断自我对战,最终达到了职业水平。
实际上,Pachocki自2023年11月“驱逐CEO事件”后,就已经担任OpenAI首席科学家。
伊尔亚会去哪?
伊尔亚是以色列裔加拿大人,1985年出生于前苏联,五岁随家人移民耶路撒冷(因此他精通俄语、希伯来语和英语),2002 年搬到加拿大生活。
在多伦多大学读本科期间,伊尔亚从一个叫做“改进随机邻域嵌入算法”的项目开始,开始了与2018年图灵奖得主、“深度学习三巨头”之一杰弗里·辛顿(Geoffray Hinton)的合作,后来在攻读博士学位时正式加入了辛顿的团队。
2013年在加拿大多伦多大学获得计算机科学博士学位后,伊尔亚曾在斯坦福大学吴恩达团队和Google Brain进行研究工作。2016年,他以联合创始人兼研究总监的身份加盟OpenAI,并在两年后升任为首席科学家。
过去十年兴起的AI落地浪潮中,深度卷积神经网络AlexNet、时序预测回归模型Seq2Seq、主流机器学习框架TensorFlow、AI围棋机器人AlphaGo,这些具有里程碑意义的科研成果都有伊尔亚的贡献。
Ilya Sutskever(左)、Alex Krizhevsky(中)、Geoffrey Hinton(右)
特别是2012年出场的AlexNet,由辛顿和他的两位弟子伊尔亚、亚历克斯·克利切夫斯基(Alex Krizhevsky)一起开发,在当年的ImageNet大规模视觉识别挑战赛中以显著优势一举夺魁,相关论文引用次数超过60000次,对于深度学习走向主流和GPU成为主流AI训练芯片都功不可没。
据英伟达创始人兼CEO黄仁勋回忆,研发AlexNet时,是伊尔亚专程从多伦多开车到纽约,买了一整个后备箱的当时最新版GTX 580显卡。日后正是这个满登登的后备箱,打开了AI新世界的大门。
2013年,AlexNet团队又一起创立了深度学习创企DNNResearch。这家初创公司随即被谷歌、微软、百度、DeepMind激烈竞拍,最终花落谷歌,伊尔亚也被谷歌大脑(Google Brain)聘请为研究科学家。
加入谷歌大脑之后,伊尔亚对语言处理非常感兴趣。他主导研发序列模型Seq2Seq模型,击败了当时表现最好的翻译器,带动了谷歌翻译的巨大进步。如今主流大模型所普遍采用的Transformer架构,最初便是用于解决Seq2Seq问题。在谷歌首席科学家、谷歌大脑团队负责人杰夫·迪恩(Jeff Dean)眼中,伊尔亚总是“对事情发展方向有很强的直觉”。
在谷歌大脑没做多久,伊尔亚很快就开启了新副本——OpenAI。
2015年12月,马斯克、奥特曼、PayPal联合创始人彼得·蒂尔、Stripe CTO雷格·布罗克曼等硅谷大佬,因为担心谷歌垄断AI技术,联手创办了一家非营利组织OpenAI。在马斯克力邀之下,伊尔亚加入了OpenAI创始团队,并担任首席科学家。
马斯克将这段挖人经历称为“最艰难的招聘战之一”。税务报表显示,OpenAI给伊尔亚的年薪是190万美元。据说当时为了挽留伊尔亚,谷歌联合创始人拉里·佩奇提出把给他的年薪提高到OpenAI待遇的两三倍,结果还是没能留住人。为此佩奇把这笔账算到了马斯克头上,导致原本有望修复的两人关系走向破裂。
这次离职后,伊尔亚到底何去何从仍待公布。此前,马斯克曾公开“挖角”伊尔亚,在一位X用户发文称伊尔亚应该加入特斯拉时,他回复称:“或者是xAI。”