Anthropic选择埃森哲作为首家嵌入式AI安全评估机构

Anthropic 周五宣布已选定埃森哲担任嵌入式评估员，这标志着该公司首次采取具体措施，落实首席执行官达里奥·阿莫代伊提出的放缓人工智能发展速度的计划。此前一天，阿莫代伊发布了一项三步计划，旨在减缓人工智能公司改进其最先进模型的速度。近几周，在研究人员警告人工智能可能造成灾难性危害后，Anthropic 及其主要竞争对手 OpenAI 都面临着密集审查。

Anthropic 与埃森哲将在五年内各投入至少 10 亿美元

据一份新闻稿称，Anthropic 和埃森哲已同意在未来五年内各自至少投入 10 亿美元，用于建设这一领域的能力。Anthropic 表示，鉴于这项工作的重大意义和紧迫性，将直接为埃森哲开展的工作提供资金。从长远来看，Anthropic 表示，资金应来自共同资金池或政府来源，正如其 6 月发布的《前沿人工智能安全框架》中所要求的那样。由于目前这两类资金来源均不存在，该公司计划在不同的资金安排下与不同的评估机构合作。

Faculty 员工将派驻 Anthropic 进行模型测试和红队测试

Anthropic 周五表示，已初步同意将 Faculty 的员工派驻 Anthropic。Faculty 是埃森哲的专业人工智能业务，这些员工将测试安全防护措施、对模型进行红队测试，并评估模型的行为是否符合人类价值观。该合作并非排他性合作，Anthropic 表示也正在与研究型非营利组织 METR 以及其他第三方进行讨论。该公司强调，模型安全仍由其负责，并表示与嵌入式评估员合作不会减轻其问责责任。

阿莫代伊计划的第一步是授予第三方评估员与公司员工相同级别的访问权限，以核查安全实践并报告事件。阿莫代伊周六表示，Anthropic 已单方面承诺落实该提议的这一部分，并鼓励其他人工智能公司采取同样做法。

行业领导者回应阿莫代伊的提议

本周，一些行业高管对阿莫代伊的提议表示欢迎，其中包括 OpenAI 首席执行官萨姆·阿尔特曼，以及特斯拉和 SpaceX 首席执行官马斯克。其他人则不以为然，例如英伟达首席执行官黄仁勋，他淡化了相关担忧，并认为没有必要出台新的监管规定。许多人质疑阿莫代伊的提议在实践中意味着什么，尤其是在 Anthropic 为外界普遍预期将引发轰动的首次公开募股做准备之际。

常见问题

Anthropic 周五宣布了哪些有关人工智能安全的消息？
Anthropic 周五宣布已选定埃森哲担任嵌入式评估员，这是该公司落实首席执行官达里奥·阿莫代伊提出的放缓人工智能发展速度计划的首项具体措施。

Anthropic 和埃森哲将向嵌入式评估投入多少资金？
Anthropic 和埃森哲已同意在未来五年内各自至少投入 10 亿美元，用于建设这一领域的能力。Anthropic 将直接为埃森哲开展的工作提供资金，但表示长期资金应来自共同资金池或政府来源。

Faculty 员工将在 Anthropic 扮演什么角色？
Anthropic 已初步同意将 Faculty 的员工派驻 Anthropic。Faculty 是埃森哲的专业人工智能业务，这些员工将测试安全防护措施、对模型进行红队测试，并评估模型的行为是否符合人类价值观。