周一，OpenAI宣布了令人兴奋的新产品消息：ChatGPT现在可以像人类一样交谈。
它有着一种快乐、略带讨好的女性声音，听起来令人印象深刻，不像机器人，有点熟悉，如果你看过2013年的某部Spike Jonze电影的话。OpenAI首席执行官Sam Altman在推特上发文称：“她”，指的是这部电影中一个男人爱上由Scarlett Johansson配音的AI助手。
但是，ChatGPT 4o的产品发布很快被OpenAI的更大新闻所掩盖：公司联合创始人兼首席科学家Ilya Sutskever的辞职，他还领导了超对齐团队，以及他的联队领导Jan Leike的辞职（去年我们将他列入未来完美50名单 (opens new window)）。
辞职并不是完全出乎意料的。Sutskever曾参与导致Altman去年暂时被解雇的董事会反抗，之后CEO迅速回到了他的位置。Sutskever公开后悔自己的行为，并支持Altman的回归，但他自去年以来大部分时间都不在公司 (opens new window)，而其他OpenAI的政策、对齐和安全团队的成员却纷纷离职 (opens new window)。
但真正引起猜测的是前员工的沉默。Sutskever发文发布了一则相当典型的辞职信息，称“我相信OpenAI将建立一个既安全又有益的AGI……我对接下来会发生的事感到兴奋。”
而Leike则没有。他的辞职信息只是 (opens new window)：“我辞职了。”经过几天的猜测，他在周五早上进一步解释 (opens new window)，解释说他担心OpenAI已经远离了一个以安全为重点的文化。
立即出现了问题：他们是被迫离开的吗？这是Altman去年秋季短暂解雇的延迟后果吗？他们是在抗议一些秘密而危险的新OpenAI项目吗？由于曾在OpenAI工作过的人没有人谈论，所以猜测充斥着这个空白。
事实证明，这其中有一个非常明显的原因。我看到了极其严格的离职协议，其中包含前OpenAI员工需要遵守的保密和不贬低条款。这让他们在余生中都无法批评他们的前雇主。甚至承认该保密协议的存在都会违反。
如果离职员工拒绝签署文件，或者违反了协议，他们可能会失去在公司任职期间获得的所有已投入股本，这笔钱可能价值数百万美元。一位前员工Daniel Kokotajlo发文称他因为“失去对OpenAI负责任行为的信心而离职”，已公开确认 (opens new window)他必须放弃可能会是一大笔钱的机会，才能在不签署文件的情况下辞职。
虽然保密协议在竞争激烈的硅谷并不罕见，但为拒绝或违反协议而威胁员工已投资的股本确实是不寻常的。对于像OpenAI这样的初创公司的员工来说，股权是一种至关重要的薪酬形式，可能远远超过他们的工资。威胁可能改变生活的钱是让前员工保持沉默的一种非常有效的方式。（OpenAI没有回应置评请求。）
所有这一切对于一个最初宣传自己为_Open_AI的公司来说都非常讽刺，也就是说，根据其使命声明，公司致力于以透明和负责任的方式构建强大系统。
OpenAI很久以前就放弃了 (opens new window)开源其模型的想法，提到 (opens new window)安全担忧。但现在，它已经摆脱了其最高级别和备受尊重的安全团队成员，这应该引起人们对于OpenAI是否真的因为安全原因而变得如此封闭的怀疑。 OpenAI追求其使命的最强烈迹象之一是像Sutskever和Leike这样的人在公司中扮演重要角色，这些技术人员长期致力于安全，并显然愿意要求OpenAI在必要时改变方向。在2019年的采访中，当我对Brockman说：“你们正在说，‘我们要构建一个通用人工智能’”时，Sutskever插话说：“我们将尽一切可能朝着这个方向发展，同时确保我们以安全的方式进行。”他告诉我。
他们的离开并不意味着OpenAI的使命建立人工通用智能的目标会改变。但这几乎肯定预示着OpenAI对安全工作的兴趣会发生变化；公司尚未宣布谁将领导超对齐团队。
这表明OpenAI对外部监督和透明度的关注可能并不深入。如果你希望外部监督并让世界其他地方参与你的工作，让前员工签署极具限制性的保密协议并不完全合适。
在闭门之后改变世界 #
这种矛盾正是OpenAI让我们这些深切关心确保人工智能真正发展顺利并造福人类的人感到沮丧的核心。OpenAI是一个引人注目的中型科技公司，制造了一个健谈的个人助手，还是一个价值数万亿美元的努力，旨在创建一个人工智能之神？
公司领导层表示他们想改变世界，他们希望在这样做时负责，并且欢迎世界对如何公正和明智地做到这一点的意见。
但当有真正的利益在摇摆不定时——在主导人工智能的竞争中有大量巨额资金在游戏中——很明显他们可能从未打算让世界对其产生太多影响。他们的流程确保前员工——那些最了解OpenAI内部情况的人——不能告诉世界其他人发生了什么。
这个网站可能有着高尚的理想，但他们的解雇协议充满了铁面无私的法律术语。要对一家公司行使问责制是困难的，因为其前员工被限制只能说“我辞职了”。
ChatGPT的新可爱声音可能很迷人，但我并没有特别喜欢。
本故事的一个版本最初出现在 Future Perfect 新闻通讯中。 _在此注册！ (opens new window)
每月5美元
每月10美元
每月25美元
每月50美元
其他
[
是的，我每月捐赠5美元
](https://vox.memberful.com/checkout?plan=)
是的，我每月捐赠5美元
我们接受信用卡、Apple Pay和Google Pay支付。您也可以通过
