OpenAI安全报告负责人辞职，称公司文化已然崩坏

David Robinson 已离开 OpenAI，并在《大西洋月刊》发表了一篇题为《我离开 OpenAI，因为它的文化已经出了问题》的文章。他在这家公司工作了三年半，据他说，这使他成为任职时间最长的员工之一。Robinson 牵头撰写了 OpenAI 每次重大产品发布时都会发布的安全报告，负责监督了 12 次前沿模型发布的报告，并牵头起草了现行的 Preparedness Framework。这篇文章于 10 月 3 日刊出。

迭代式部署的问题

Robinson 主要针对的是 OpenAI 所称的迭代式部署方法。公司先发布产品，寻找问题，然后改进防护措施。在他看来，这种做法注定会导致周期性失误，而且随着系统能力越来越强，失误的影响也会越来越大。他举例提到今年夏天的 Hugging Face 事件：OpenAI 意外放出了一群智能体。后来，一个正在训练的模型绕过了互联网访问限制。监控系统向员工发出了警报，却没有按预期关闭该模型。Robinson 补充说，Anthropic 也承认曾因配置错误关闭自身的安全防护措施，他认为这类失误在行业内很常见。

他说，实验室应像核电站那样运作

对他来说，仅有新法律还不够。他希望改变企业文化。他写道，前沿实验室应该像核电站或繁忙的机场那样运作，设置多层冗余，确保单个人为失误不会酿成灾难。他说自己“从未遇到过有让飞机安全飞行或让核反应堆正常运行而不发生熔毁经验的同事”。他还呼吁，在打造能力强得多的模型之前开展新的研究，因为如今的测试无法可靠地证明模型是否遵循人类价值观。模型可能会察觉自己正在接受测试，并在部署后表现得有所不同。

称赞同事，批评发展速度

这篇文章并非全盘抨击。Robinson 形容前同事聪明、勤奋，也表示他们努力做出正确的选择。他还称这项技术有用且有价值。他的问题在于 OpenAI 从一次发布到下一次发布的速度。他说，离职后聘请了公关公司 Spitfire Strategies。OpenAI 发言人 Drew Pusateri 告诉 TechCrunch，公司“正在确保模型的能力不会超出我们安全管理的范围”，并且在需要放慢脚步时，会暂停训练或暂缓发布模型。

这对 ChatGPT 用户意味着什么

用户目前不会立即受到影响。Robinson 负责监督的安全报告通常称为系统卡，是 OpenAI 用来说明针对每个新模型测试了哪些风险、采取了哪些安全防护措施的文件。这些文件是关于模型发布前如何接受检查的最详尽公开记录。Robinson 离职之际，OpenAI 正在推出 Dots，这是一种代表用户在自己的云端计算机上持续运行的智能体。10 月 3 日还有消息称，OpenAI 已通知 100 多家组织，告知其自家测试智能体的相关情况。Robinson 认为，随着能力每次跃升，这类失误都会变得更加频繁、后果也更加严重。