马斯克提议 AI 实验室相互测试彼此的模型，正值安全争议之际

马斯克周一在洛杉矶举行的 All-In 峰会上发言时，呼吁顶尖人工智能公司在公开发布模型前测试彼此的模型。SpaceX 首席执行官提议，他的公司、OpenAI、Anthropic、谷歌、Meta 以及中国的领先公司应允许竞争对手在其模型上运行“测试工具”，以评估安全性。马斯克的提议正值围绕人工智能监管的争论日益激烈之际。此前，Anthropic、OpenAI 及其他人工智能公司的领导人于周末警告该技术的危害，并呼吁放缓模型开发。

马斯克提议对人工智能模型进行竞争对手测试

马斯克在 All-In 峰会上表示，顶尖人工智能公司应允许竞争对手评估其模型。马斯克说：“所以，你知道，与其给自己的作业打分，至少应该让竞争对手给你的作业打分。如果他们发现问题，就发出警报。”该提议涉及 SpaceX、OpenAI、Anthropic、谷歌、Meta 以及“三四家领先的中国公司”。马斯克承认，与 xAI 竞争的人工智能实验室尚未同意他的提议。他说，采用这种同行评审方法，“发现问题的概率会大得多”，但同时指出，这可能并非完美的解决方案。

Anthropic 和 OpenAI 研究人员警告人工智能风险

Anthropic、OpenAI 及其他人工智能公司的领导人在整个周末都警告该技术的危害，并呼吁放缓模型开发，围绕人工智能监管的争论也因此进一步加剧。马斯克和 OpenAI 首席执行官萨姆·阿尔特曼支持 Anthropic 首席执行官 Dario Amodei 关于放缓发展的提议。曾在 Anthropic 和 OpenAI 工作的 Jacob Coxon 上周宣布辞去在 Anthropic 的职务。Coxon 写道，领先的人工智能实验室正在“拿我们的生命赌博”。Anthropic 的对齐研究员 Evan Hubinger 回应了 Coxon 的一句话，写道：“Jacob 在这里说得对——我们确实由衷地相信人工智能可能杀死所有人类！我个人认为，未来十年内发生这种情况的概率超过 10%。”Amodei 在一篇文章中建议，人工智能实验室可以同意接受“嵌入式评估员”开展第三方技术评估，由他们核实安全实践。

特朗普政府拒绝人工智能监管呼吁

特朗普政府反驳了科技界领导人要求对人工智能施加更多限制的呼吁。总统唐纳德·特朗普周一在 Truth Social 上发帖，将人们对人工智能的担忧称为“骗局”和“诈骗”。国家经济委员会主任哈塞特周二告诉 CNBC，私营部门是处理人工智能相关担忧的“正确场所”。哈塞特表示，政府将继续监控该行业，并在必要时“采取执法行动，以确保这些公司负责任地行事”。特朗普表示，试图控制人工智能开发节奏会让中国在开发这项技术方面占据优势。Amodei 周末也表达了对中国的担忧，称其为“最棘手的困境”。

中国称推动放缓人工智能发展是在制造恐慌

据路透社公布的相关发言英文译文，中国外交部一名发言人周一称，人工智能公司推动放缓发展是在“制造恐慌”。马斯克在峰会上表示：“我在这里的建议是，这是朝正确方向迈出的一步，而且是我们应迅速采取的措施。我认为中国可能会同意这样做。”

常见问题

马斯克周一为人工智能公司提出了什么建议？
马斯克周一在洛杉矶举行的 All-In 峰会上提议，包括 SpaceX、OpenAI、Anthropic、谷歌、Meta 以及中国领先公司在内的顶尖人工智能公司，应在公开发布模型前运行“测试工具”，以评估安全性并测试彼此的模型。

为什么人工智能研究人员警告人工智能的危险？
Jacob Coxon 辞去了在 Anthropic 的职务，并写道，领先的人工智能实验室正在“拿我们的生命赌博”。Anthropic 的对齐研究员 Evan Hubinger 表示，他认为未来十年内人工智能杀死所有人类的概率超过 10%。这些警告促使人工智能公司领导人在周末呼吁放缓模型开发。

特朗普政府如何回应人工智能监管呼吁？
总统唐纳德·特朗普周一在 Truth Social 上发帖，将人们对人工智能的担忧称为“骗局”和“诈骗”。国家经济委员会主任哈塞特周二告诉 CNBC，私营部门是处理人工智能担忧的“正确场所”，政府则会监控该行业，并在必要时采取执法行动。