【腾讯视频】突发！openai又迎人事动荡！安全主管辞职，“超级智能对齐团队”已被解散-尊龙登录

每经编辑 杜宇

5月18日凌晨，突发团队openai安全主管、又迎已被“超级智能对齐团队”负责人jan leike在社交平台宣布，人事离开openai。动荡对齐这也是安全本周三openai联合创始人兼首席科学家ilya sutskever辞职之后，又有一名高管辞职。主管智腾讯视频

jan leike在x上公开透露了他离职的辞职超级部分原因。他的解散潜台词是，他与openai高层在公司的突发团队核心优先事项上存在长期分歧，最终双方的又迎已被分歧已经严重到无法调和的地步。团队在推动其研究项目和争取计算资源时遇到了重大阻碍，人事缺乏资源会严重影响研究的动荡对齐进度和质量。

本周五（当地时间5月17日），安全夸克openai证实，主管智由ilya和他的辞职超级亲信jan leike共同领导的“超级智能对齐团队”已经解散。此后，该团队的研究工作将被整合到openai的其他研究小组中。至此，一度几乎导致openai分崩离析的汽车之家宫斗事件终于尘埃落定。

马斯克针对openai的长期人工智能风险团队已经解散这一消息评价称：“这显示安全并不是openai的首要任务。”

openai首席执行官sam altman感谢并肯定了jan leike在openai的贡献和领导能力。并表示，未来几天内会发表一篇更长的文章，来阐述openai对于产品安全的规划和所做的事情。

加入openai之前，jan leike曾在谷歌deepmind工作，主要负责从人类反馈中进行强化学习的原型设计。在openai期间，参与了instructgpt、chatgpt的开发以及gpt-4的安全对齐工作。

对于ilya、jan的辞职，有人表示这两位安全领导高管都辞职了，以后谁来负责openai的产品安全呢？

也有一位网友爆料，想离开openai没问题，但是你必须签署一份“离职协议”， 如果你不签署终身不诋毁承诺，将失去所有已获得的openai股权。不知道jan leike的一番吐槽，是否会影响到他的股权。

在去年7月份，openai宣布成立一个新的研究团队“超级对齐”，要用ai监督ai的方式，解决超智能“ai对齐”问题。“ai对齐”的意思是，要求ai系统的目标要和人类的价值观与利益相一致。公司创始人之一伊利亚·苏茨克沃被任命为团队共同负责人。

而现在ai风险团队解散是公司内部最近出现动荡的又一证据，也再次引发了人们对该公司在开发ai产品时如何平衡速度与安全的质疑。openai章程规定，必须安全地开发通用人工智能(agi)，即可以与人类匹敌或超越人类的技术。

每日经济新闻综合公开资料

免责声明：本文内容与数据仅供参考，不构成投资建议，使用前请核实。据此操作，风险自担。