联邦政府未采取监管行动后，纽森发布AI行政命令

加利福尼亚州州长加文·纽森周五发布了一项行政命令，旨在应对与人工智能相关的潜在危险。此前，本月早些时候，一名 Anthropic 研究人员辞职并在社交媒体发布动态，警告人工智能可能具备终结人类的能力。纽森称，联邦政府未能建立有意义的人工智能监管机制，因此州层面必须采取行动，并表示加州将“在为时已晚之前”加快人工智能监管工作。此举之际，国会似乎不太可能在 2026 年中期选举前通过人工智能立法，而唐纳德·特朗普总统一直拒绝监管呼吁。

纽森要求专家社群在两个月内起草人工智能安全指南

这项行政命令要求一个专家社群召开会议，并在两个月内制定一份指南，帮助该州强化人工智能安全与安保法律。根据纽森办公室发布的公告，这些强化后的法律可能包括要求独立第三方为前沿人工智能公司制定安全计划，或要求公司开发“终止开关”，以便在紧急情况下关闭其模型。

纽森周五在一份声明中表示：“联邦政府完全未能建立任何形式的有意义的人工智能监管或问责机制，这应当让每一位美国人警醒，尤其是在人工智能首席执行官们自己都在恳求监管之际。我们不会等待才采取行动——我们将在为时已晚之前，加快推进实质性且负责任的人工智能监管工作。我们会审慎行事，但也会以紧迫的速度推进；事关重大，我们不能等待或拖延行动。”

联邦政府尚未通过有意义的人工智能立法

国会似乎不太可能在 2026 年中期选举前就人工智能风险采取任何有意义的立法行动。唐纳德·特朗普总统一直拒绝监管呼吁，并称对人工智能安全的担忧是“骗局”。本月早些时候，那名 Anthropic 研究人员发布的社交媒体动态在华盛顿特区引发了一阵骚动，因为议员们正努力思考如何为人工智能建立防护栏。

民主党州长推动第三方人工智能监管和劳动者保护

纽森是 2028 年民主党总统候选人热门人选之一，他们一直呼吁对这项快速发展的技术采取更积极的监管方式。宾夕法尼亚州州长乔什·夏皮罗呼吁对前沿模型实施“第三方”监管，并建立更严格的防护栏。亚利桑那州民主党参议员马克·凯利告诉 Politico，他正在提出一项法案，设立一个由人工智能公司出资的基金，用于帮助因该技术而失业的劳动者。新泽西州民主党参议员科里·布克敦促特朗普召集国会特别会议，以应对人工智能风险。

纽森的加州州长任期将于 1 月 4 日结束，但他尚未宣布参加总统竞选，尽管他曾表示正在考虑这一可能性。

加利福尼亚州于 9 月 9 日签署人工智能审计员框架法案

本月早些时候，纽森于 9 月 9 日签署了一项法律，为第三方人工智能审计员建立框架。纽森表示：“在华盛顿放弃保护美国人的责任之际，加利福尼亚州正在以全美最强大的人工智能监管框架为基础继续建设。加州已经建立了一个全国性范本，我们的政策应当成为全国基准。”

常见问题

加利福尼亚州州长纽森周五在人工智能监管方面采取了什么行动？
加利福尼亚州州长加文·纽森周五发布了一项行政命令，旨在应对与人工智能相关的潜在危险。该命令要求一个专家社群在两个月内制定一份指南，帮助该州强化人工智能安全与安保法律。

纽森为何发布人工智能行政命令？
纽森称，联邦政府未能建立有意义的人工智能监管机制，因此州层面必须采取行动。此前，本月早些时候，一名 Anthropic 研究人员辞职并在社交媒体发布动态，警告人工智能可能具备终结人类的能力。国会似乎不太可能在 2026 年中期选举前通过人工智能立法，而唐纳德·特朗普总统一直拒绝监管呼吁。

根据这项行政命令，加利福尼亚州可能要求采取哪些人工智能安全措施？
根据纽森办公室发布的公告，强化后的法律可能包括要求独立第三方为前沿人工智能公司制定安全计划，或要求公司开发“终止开关”，以便在紧急情况下关闭其模型。