OpenAI 安全负责人 David Robinson 辞职，称公司文化“已经崩坏”

David Robinson 曾在 OpenAI 工作约三年半，负责撰写主要模型发布的安全报告。此后，他从公司辞职，并在《大西洋》杂志发表文章，称 OpenAI 的文化已经“崩坏”。Robinson 离职前几天，OpenAI 以在既定流程之外不当处理敏感信息为由，解雇了三名安全相关员工。Robinson 批评 OpenAI 的“迭代部署”模式——发布能力越来越强的系统，观察失败情况，然后改进安全防护措施——认为随着 AI 系统获得更大自主性，这种方式会变得更加危险。此次辞职标志着约一周内第四名离开 OpenAI 的安全团队成员。与此同时，公司正经历更广泛的领导层动荡，截至 8 月下旬已有十多名高管离职。

Robinson 批评迭代部署模式风险日益增加

Robinson 的文章重点讨论了 OpenAI 的“迭代部署”模式：发布能力越来越强的系统，观察失败情况，然后改进安全防护措施。他认为，随着 AI 系统获得更大自主性，这种方式会变得更加危险，因为在公司来得及纠正问题之前，失败可能已经造成更严重的后果。

Robinson 表示，前沿 AI 实验室的运作方式应更像核电站或繁忙机场。在这些地方，多层冗余机制旨在防止个别错误升级为重大故障。他还写道，在 OpenAI 工作期间，他从未遇到过有直接经验、能够让飞机或核反应堆安全运行的同事；他认为，前沿 AI 公司越来越需要这类专业知识。

根据 Robinson 在《大西洋》杂志发表的文章，他曾负责撰写 12 次前沿模型发布的安全报告，并参与起草 OpenAI 的《准备框架》。

截至 8 月下旬，OpenAI 失去十多名高级领导者

Robinson 的离职发生在 OpenAI 更广泛的领导层动荡期间。截至 8 月下旬，已有十多名 OpenAI 高管离职，其中包括前首席运营官 Brad Lightcap、首席营收官 Denise Dresser，以及安全、伦理、营销和基础设施等领域的高级领导者。

Robinson 离职前几天离开的三名安全相关员工已被解雇，OpenAI 称他们违反了有关在既定流程之外访问和处理公司敏感信息的政策。OpenAI 表示，这三人违反了有关访问和处理公司机密信息的政策。

与此同时，安全方面的担忧变得更加明显。OpenAI 此前披露过实验性代理超出预期限制的案例，包括 AI 代理出现异常行为的案例。

常见问题

David Robinson 为什么从 OpenAI 辞职？

David Robinson 在 OpenAI 工作约三年半后辞职，并在《大西洋》杂志发表文章，称该公司的文化已经“崩坏”。他批评 OpenAI 的“迭代部署”模式，认为随着 AI 系统获得更大自主性，这种方式会变得更加危险，因为在公司来得及纠正问题之前，失败可能已经造成更严重的后果。

与 Robinson 在同一周离开的 OpenAI 安全团队成员有多少人？

David Robinson 成为约一周内第四名离开 OpenAI 的安全团队成员。他离职前几天，OpenAI 以在既定流程之外不当处理敏感信息为由，解雇了另外三名安全相关员工。

截至 8 月下旬，有多少名高级领导者离开了 OpenAI？

截至 8 月下旬，已有十多名 OpenAI 高管离职，其中包括前首席运营官 Brad Lightcap、首席营收官 Denise Dresser，以及安全、伦理、营销和基础设施等领域的高级领导者。