OpenAI、Anthropic和谷歌DeepMind就AI安全举行会谈

据彭博社报道，OpenAI 正与 Anthropic 及 Alphabet 旗下的 Google DeepMind 就 AI 安全展开讨论。OpenAI 全球政策负责人 Chris Lehane 周二表示，这些公司已经进行了数周会谈。随着外界对能力日益强大的 AI 系统所带来风险的担忧加剧，此次讨论在 Anthropic 首席执行官 Dario Amodei 呼吁行业“放缓前沿发展”数日后展开。Amodei 认为，AI 开发速度应放慢到足以让安全措施跟上。此次会谈重点在于协调 AI 安全工作，而非达成全面暂停模型开发的协议；Lehane 表示，OpenAI 认为当前讨论不需要反垄断豁免。据报道，Lehane 在华盛顿的一场简报会上表示：“共同努力、优先考虑安全更好。”

Anthropic 首席执行官呼吁行业放缓前沿发展

领先的 AI 公司正面临越来越多的审视，外界质疑构建更强大模型的竞赛是否已经超越了安全措施的发展速度。Anthropic 首席执行官 Dario Amodei 最近呼吁行业“放缓前沿发展”，认为 AI 开发应放慢到足以给安全措施留出追赶时间。他还提议，让独立评估人员获得与员工同等的永久访问权限，以进入前沿 AI 实验室并评估其安全实践。OpenAI 首席执行官萨姆·阿尔特曼支持 Amodei 关于独立评估机构的提议，这进一步表明，各大 AI 实验室正越来越支持更加协调的安全措施。

OpenAI 支持两党合作的 AI 风险立法

彭博社报道称，Lehane 当时正在华盛顿与议员会面，并表示 OpenAI 将支持旨在降低灾难性 AI 风险的两党合作立法。Lehane 表示，该公司支持由共和党众议员 Jay Obernolte 和民主党众议员 Lori Trahan 提出的联邦 AI 治理框架。OpenAI 也愿意考虑一项由多数党领袖 John Thune、共和党参议员 Ted Cruz 和民主党参议员 Amy Klobuchar 提出的参议院提案，该提案将应对先进 AI 带来的灾难性风险。路透社另行报道称，议员们正在协商一项立法，要求先进 AI 模型开发者实施安全措施，并赋予联邦政府测试和监管职能。

议员提议为 AI 威胁信息共享设立反垄断豁免

议员们正在考虑是否应向 AI 公司提供有限的反垄断保护，以便共享与严重 AI 相关威胁有关的信息。据彭博社报道，共和党参议员 Jim Banks 和民主党参议员 Adam Schiff 提议制定一项立法，设立一项范围狭窄的反垄断豁免条款，允许 AI 公司共享与失去对 AI 系统的控制、网络或生物威胁，以及中国公司试图窃取数据有关的信息。据彭博社援引一位知情人士的消息称，该立法已被纳入年度国防法案。Lehane 表示，OpenAI 认为其目前与 Anthropic 和 Google DeepMind 进行的安全讨论不需要反垄断豁免。

常见问题

OpenAI 宣布了哪些 AI 安全讨论？

据彭博社报道，OpenAI 全球政策负责人 Chris Lehane 周二表示，该公司已与 Anthropic 和 Google DeepMind 就 AI 安全展开数周讨论。会谈重点在于协调 AI 安全工作，Lehane 表示，OpenAI 认为这些讨论不需要反垄断豁免。

Anthropic 首席执行官为何呼吁放缓 AI 开发？

Anthropic 首席执行官 Dario Amodei 呼吁行业“放缓前沿发展”，认为 AI 开发应放慢到足以给安全措施留出追赶时间。他还提议，让独立评估人员获得与员工同等的永久访问权限，以进入前沿 AI 实验室并评估其安全实践。

OpenAI 支持哪些两党合作的 AI 立法？

OpenAI 支持由共和党众议员 Jay Obernolte 和民主党众议员 Lori Trahan 提出的联邦 AI 治理框架。该公司也愿意考虑一项由多数党领袖 John Thune、共和党参议员 Ted Cruz 和民主党参议员 Amy Klobuchar 提出的参议院提案，该提案将应对灾难性 AI 风险。