Anthropic 选择埃森哲作为首家嵌入式 AI 评估机构

Anthropic 周五宣布，已选定埃森哲作为其首家嵌入式评估机构，以实施首席执行官达里奥·阿莫代伊于 9 月 12 日发布的 AI 发展放缓提案。该合作将由埃森哲及其旗下 AI 业务 Faculty 负责评估模型、开展红队测试、进行对齐评估，并测试模型的安全防护措施。阿莫代伊的三步提案旨在放缓 AI 的发展并建立安全防护措施。此前已有警告称，不受约束的递归式自我改进可能会超出人类理解和控制 AI 系统的能力。该公告发布前，OpenAI 首席执行官萨姆·阿尔特曼和 SpaceX 首席执行官马斯克均作出了积极回应，但英伟达首席执行官黄仁勋认为此类监管没有必要。两家公司预计将在未来五年内各自向该项目投资至少 10 亿美元。

Anthropic 和埃森哲将在五年内各自投入 10 亿美元

根据周五的公告，Anthropic 和埃森哲预计将在未来五年内各自向嵌入式评估项目投资至少 10 亿美元。该合作并非排他性合作，Anthropic 预计将在未来几周宣布其他评估机构，并与它们展开合作。该公司表示，嵌入式评估的具体运作方式仍在制定中，因为这一实践尚属新兴领域。埃森哲旗下的 Faculty 在为领先 AI 实验室测试和评估模型，以及构建安全且符合伦理的 AI 系统方面拥有专业经验。

Anthropic 将直接资助评估工作，应对紧迫性

Anthropic 指出，目前不存在为独立评估提供资金的现有体系。长期资金应来自资金池或政府来源，但鉴于这项工作的紧迫性，Anthropic 将直接资助埃森哲的工作。阿莫代伊在提案中写道，提案的第一步是让独立评估机构获得类似员工所拥有的访问权限，而 Anthropic 此前已经单方面同意作出这一承诺。

行业领袖回应 AI 发展放缓提案

OpenAI 首席执行官萨姆·阿尔特曼和 SpaceX 首席执行官马斯克对阿莫代伊于 9 月 12 日发布的提案作出了积极回应。英伟达首席执行官黄仁勋不支持放缓 AI 发展，认为没有必要进行此类监管。阿莫代伊在提案中写道：“AI 的发展速度一直快得惊人，主要驱动力是 AI 日益增强的构建下一代 AI 的能力。这种动态被称为递归式自我改进”，并表示，“如果不加以约束，它可能会超出我们理解和控制这些系统的能力。”

埃森哲董事长兼首席执行官朱莉·斯威特表示：“嵌入式评估是一个新兴领域，我们期待与 Anthropic 合作，帮助加快嵌入式评估机构的发展。我们认为，这将是未来安全格局的重要组成部分。”

常见问题

Anthropic 周五宣布了哪些与 AI 评估相关的消息？
Anthropic 周五宣布，已选定埃森哲作为其首家嵌入式评估机构，帮助实施首席执行官达里奥·阿莫代伊于 9 月 12 日发布的 AI 发展放缓提案。该合作包括评估模型、开展红队测试、进行对齐评估以及测试模型的安全防护措施。

Anthropic 和埃森哲将向嵌入式评估项目投资多少？
根据周五的公告，Anthropic 和埃森哲预计将在未来五年内各自向该项目投资至少 10 亿美元。鉴于目前不存在为独立评估提供资金的现有体系，且工作十分紧迫，Anthropic 将直接资助埃森哲的工作。