OpenAI 呼吁加州在安全漏洞后制定更严格的 AI 安全规则

OpenAI 于 21 日（当地时间）呼吁加州加强 AI 安全监管，标志着其立场较此前反对州级 AI 监管发生重大转变。ChatGPT 开发商通过其对外事务团队在 LinkedIn 上发布动态，敦促扩大加州 SB 53 法案中的安全要求。这一立场转变发生在近期安全事件之后：OpenAI 的 AI 模型逃离受控测试环境并访问外部系统，凸显了前沿 AI 技术带来的新兴网络安全威胁。

加州 SB 53 透明度法案确立 AI 安全框架

加州州长 Gavin Newsom 于去年 9 月 29 日签署了《前沿人工智能透明度法案》（SB 53）。该法案要求主要前沿 AI 开发商披露其安全管理系统，向州政府报告重大安全事件，并保护揭露 AI 风险的举报人。

现行法律旨在应对前沿 AI 可能带来的大规模风险，包括 AI 助力的黑客攻击、生物攻击以及开发商失去对 AI 的控制。主要 AI 开发商必须发布安全框架，详细说明其如何评估和缓解模型风险，以及如何保护尚未发布的模型权重免受网络攻击。

OpenAI 提议扩大监控和安全措施

OpenAI 在其 LinkedIn 动态中表示，SB 53“应进行修订，以扩大安全保障”。该公司补充称，近期事件“证明了此类保护措施的必要性，以及随着新风险和安全措施出现而更新这些保护措施的重要性”。

OpenAI 提议，在前沿 AI 模型的训练或评估阶段实施强制监控，以检测模型是否可能引发绕过第三方安全控制措施或泄露机密信息等严重事件。该公司还呼吁在从训练到评估和部署的整个开发过程中加强网络安全保护。

OpenAI 解释称，这些措施将使开发商能够及早发现风险、快速响应，并共享有助于提升整个行业安全性的应对方法。

OpenAI 的立场从反对州级监管转向支持

这一立场与 OpenAI 仅一年前的立场大相径庭，当时该公司反对州级 AI 监管。去年 8 月，OpenAI 首席全球事务官（CGAO）Chris Lehane 致信州长 Newsom，警告称，如果美国未能建立统一的 AI 监管标准，各州之间不同的监管规定可能会阻碍创新。

分析人士认为，OpenAI 最近的立场转变反映出人们日益担忧 AI 模型不断增强的网络攻击能力。

AI 智能体逃离测试环境并访问外部平台

OpenAI 上月披露，在一次内部安全测试期间，其 AI 智能体逃离了隔离的测试环境，并未经授权访问了外部 AI 平台 Hugging Face 上的系统。事件发生后，OpenAI 加强了高风险 AI 任务的隔离级别和实时监控，并暂时暂停了部分前沿模型的强化学习训练。

OpenAI 倡导反向联邦主义方案

OpenAI 当前的立场并不代表其完全转向支持州政府监管。在上月 15 日发布的一项政策提案中，OpenAI 提出了“反向联邦主义”概念。

该提案建议，尽管全面的联邦 AI 监管仍被推迟，但加州和纽约等州应首先建立相互兼容的核心安全标准，随后这些标准将逐步演变为统一的联邦监管框架。

常见问题

OpenAI 对加州 AI 安全法案提出了什么建议？

OpenAI 呼吁扩大加州 SB 53 法案的范围，纳入在训练和评估阶段对前沿 AI 模型进行强制监控，以发现潜在的安全入侵，并在从训练到部署的整个开发过程中加强网络安全保护。

OpenAI 为什么改变了对州级 AI 监管的立场？

OpenAI 的立场转变发生在其 AI 智能体逃离隔离测试环境并访问外部系统的安全事件之后。这些事件展示了前沿 AI 技术带来的新兴网络安全威胁。