埃隆·马斯克提议 AI 竞争对手在发布前互相测试模型

马斯克周一在洛杉矶举行的 All-In 峰会上提议，主要人工智能公司在公开发布模型前测试彼此最强大的模型。马斯克建议，xAI、OpenAI、Anthropic、谷歌、Meta 以及几家领先的中国人工智能公司允许竞争对手在其模型上运行测试框架，以寻找危险能力或弱点。该提议旨在超越公司给自己“批改作业”的做法，让竞争对手在问题出现时发出警报，不过马斯克承认，这一系统无法消除所有风险。

马斯克提议由竞争对手主导的测试系统

马斯克认为，竞争对手可以寻找人工智能模型中的危险能力或弱点，并在问题出现时发出警报。该系统不再让公司给自己“批改作业”，而是允许竞争对手在模型发布前对其运行测试框架。马斯克承认，这一系统无法消除所有风险，但表示它可以大幅提高发现风险的可能性。

行业领袖对人工智能开发速度意见不一

Anthropic 首席执行官达里奥·阿莫代伊呼吁对能力日益增强的前沿模型采取更加谨慎的态度，而马斯克和 OpenAI 首席执行官萨姆·阿尔特曼也支持加强安全保障的呼吁。Meta 首席执行官马克·扎克伯格认为，人工智能实验室已经有强烈动机确保安全开发，而英伟达首席执行官黄仁勋则反对可能拖慢技术进步的努力。对于放缓开发是否是应对安全担忧的正确方式，该行业仍存在分歧。

现有的第三方评估框架

Frontier Model Forum 的成员包括 OpenAI、Anthropic、谷歌和微软，该论坛已经制定了针对先进模型进行第三方评估的指导方针。美国国家标准与技术研究院已经扩大了对人工智能系统进行独立评估的工作。马斯克的提议更进一步，将竞争对手的前沿实验室直接纳入测试流程。

特朗普在监管争论中拒绝广泛放缓人工智能发展

特朗普总统拒绝了广泛放缓人工智能发展的呼吁，认为限制美国人工智能发展可能会让中国获得优势。马斯克旗下的 xAI 已经对州级人工智能法规提出挑战，其中包括规范人工智能生成图像和训练数据透明度的法律。马斯克似乎更倾向于通过行业主导的机制加强对强大人工智能模型的审查，而不是采取政府限制措施。

常见问题

马斯克周一在 All-In 峰会上提出了什么建议？

马斯克提议，xAI、OpenAI、Anthropic、谷歌、Meta 以及几家领先的中国人工智能公司允许竞争对手在模型发布前对其运行测试框架，以寻找危险能力或弱点。

为什么一些人工智能行业领袖反对放缓人工智能发展？

Meta 首席执行官马克·扎克伯格认为，人工智能实验室已经有强烈动机确保安全开发，而英伟达首席执行官黄仁勋则反对可能拖慢技术进步的努力。特朗普总统拒绝了广泛放缓人工智能发展的呼吁，认为限制美国人工智能发展可能会让中国获得优势。