OpenAI风波不断：关键安全团队崩溃与离职风波引发信任危机

  每周跟踪AI热点新闻动向和震撼发展 想要探索生成式人工智能的前沿进展吗？订阅我们的简报，深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同，从行业内部的深度分析和实用指南中受益。不要错过这个机会，成为AI领域的领跑者。点击订阅，与未来同行！ 订阅：https://rengongzhineng.io/

OpenAI最近经历了一个艰难的星期。

随着关键安全研究人员的离职、严格保密协议压制前员工发声的报道，以及对新版ChatGPT的强烈反对，该公司一直处于防御状态。

上周，Jan Leike和Ilya Sutskever的戏剧性离职甚至迫使OpenAI领导层，包括CEO Sam Altman，公开声明为他们控制AI风险的努力辩护。

当Vox报道了OpenAI严格的离职协议后，Altman表示这是他“经营OpenAI以来少数几次真正感到尴尬”的时候之一。他补充说，他不知道这些条款被强加给离职员工，并表示公司正在努力修改这些协议。

对于Altman来说，这种承认是罕见的，他一直努力营造一种在OpenAI的持续混乱中相对冷静的形象。去年一次未遂的罢免行动最终增强了这位CEO的声誉，但似乎OpenAI的裂缝再次显现。

安全团队的崩溃

关键从事AI安全工作的员工离职后，OpenAI一直在全面进行危机管理。

上周，负责确保通用人工智能不会失控并危害人类的团队领导者Leike和Sutskever双双辞职。

Leike在辞职后发表了一篇长文，指责前雇主将“闪亮的产品”置于安全之上。他表示，安全团队“在计算资源上挣扎”，而“完成这项关键研究变得越来越困难”。

快速扮演危机管理者角色的Altman分享了Leike的帖子，说：“他说得对，我们还有很多工作要做；我们致力于完成它。”

这些高调的离职事件只是最近离职潮的一部分。

据《The Information》报道，两名安全研究人员Leopold Aschenbrenner和Pavel Izmailov因泄露信息的指控被解雇。

安全与治理研究员Daniel Kokotajlo和William Saunders最近也离开了公司，而政策前沿的研究负责人Cullen O'Keefe在四月离职，据其LinkedIn资料显示。

Kokotajlo告诉Vox，他“逐渐失去了对OpenAI领导层及其负责处理AGI的能力的信任”。

由Leike和Sutskever领导的超级对齐团队去年约有20名成员，现在已经解散。OpenAI的一位代表告诉《The Information》，公司已将剩余员工与其更广泛的研究团队合并，以实现其超级对齐目标。

被沉默的员工

安全团队的崩溃对Altman是一个打击，他一直希望展示自己在开发超级智能AI时是注重安全的。

他去年在Joe Rogan的播客中说：“我们中的许多人非常担心，而且仍然担心安全和对齐问题。关于‘不摧毁人类’的版本，我们有很多工作要做，但我认为我们终于有了更多可能有效的想法。”

一些人认为Leike的指控削弱了Altman在这一问题上的权威，并在更广泛的范围内引起了关注。

负责谷歌DeepMind机械解释团队的Neel Nanda回应了Leike的帖子：“关于OpenAI内部发生的事情，这些故事令人非常担忧。”

星期五，Vox报道说，严格的离职协议实际上让OpenAI员工沉默。

据报道，这些协议包括保密和不贬损条款，如果员工批评前雇主或甚至承认存在保密协议，他们可能会失去已获归属的股权。

Altman在一篇X帖子中回应道：“这是我的责任，这是我经营OpenAI以来少数几次真正感到尴尬的时刻之一；我不知道这件事正在发生，我应该知道。”

他补充说：“过去一个月左右，团队已经在着手修订标准离职文件。”

“她”的声音暂停

尽管OpenAI努力控制混乱，但审查似乎并未结束。

周一，公司表示将暂停ChatGPT的“Sky”语音，最近这种语音被比作斯嘉丽·约翰逊的声音。

公司在一篇帖子中表示：“我们认为AI语音不应故意模仿某个名人的独特声音——Sky的声音不是斯嘉丽·约翰逊的模仿，而是属于另一位职业女演员，使用她自己的自然说话声音。”

这种声音是公司GPT-4o演示的重要部分，被广泛比作约翰逊在电影《她》中饰演的虚拟助手角色。Altman甚至在演示中在X上简单地发布了“她”来承认这种相似性。

一些用户抱怨聊天机器人的新语音，称其在网上流传的演示视频中显得过于性感和调情。

似乎对批评置若罔闻，OpenAI在发布后表现出胜利的姿态。通常沉稳的Altman甚至似乎在影射谷歌，后者在次日演示了新AI产品。

Altman在X上写道：“我尽量不去想竞争对手，但我无法停止思考OpenAI和谷歌之间的美学差异”，并附上了竞争对手演示的图片。

OpenAI没有立即回应Business Insider在正常工作时间外的评论请求。