微软总裁布拉德·史密斯呼吁英国牵头制定紧急 AI 监管措施

微软总裁布拉德·史密斯在 BBC 最近一期播客中呼吁对人工智能进行紧急监管。他认为，牛奶和洗衣机等消费品面临的监管甚至比开发人工智能的公司所面临的监管更加严格。史密斯将人工智能描述为一种武器和工具，正在使全球网络安全面临风险，并表示建立全球安全规则的时机已经到来。他认为，与美国或欧盟相比，英国最适合在人工智能监管方面发挥领导作用，并以英国于 2023 年成立的人工智能安全研究所为例。该机构可以提前从美国前沿实验室获得主要人工智能模型，用于安全测试。

史密斯认为英国最适合领导人工智能监管

史密斯告诉 BBC，英国能够以美国无法做到的方式监管人工智能，并表示华盛顿看待伦敦的方式不同于看待布鲁塞尔的方式。他将这种差异描述为英国监管地位的一项优势。英国人工智能安全研究所通过在模型部署前获得美国前沿实验室主要模型的访问权限，迅速成为人工智能安全测试领域的领导者。

特朗普政府因英国获取模型权限产生紧张关系

英国的监管角色在最近几周面临威胁。此前，美国总统特朗普警告全球主义组织不要干涉美国公司。上个月，据报道，特朗普要求 Anthropic 和 OpenAI 不要向英国测试人员提供新模型。然而，人工智能安全研究所周一确认，该机构能够访问并测试最新模型，从而暂时消除了人们对双方能否继续合作的担忧。

科技领导者签署具有道德约束力的人工智能安全文件

上个月，特朗普在白宫接待了来自 OpenAI、Anthropic、英伟达、AMD、SpaceX、Meta 和谷歌等公司的科技领导者，讨论人工智能安全问题。这些高管签署了一份具有道德约束力的文件，同意与独立审计员合作，评估其人工智能模型的安全性和能力。史密斯称该文件是很好的一步，但表示它仍未达到必要监管的要求，并指出，自愿自我监管只有对负责任的公司才有效。

史密斯提议强制通报漏洞并进行外部评估

史密斯阐述了他希望实施的几项人工智能安全规则，包括一项法律义务：如果组织的系统遭到恶意人工智能代理入侵，就必须向相关方发出警报。他支持人工智能实验室在发布人工智能产品前获得外部评估机构的授权，并对在人类失去控制时暂停或减缓人工智能运行的终止开关表示肯定。史密斯表示，他希望微软和英国能够在人工智能安全监管方面发挥作用，促进各方凝聚共识。

常见问题

为什么布拉德·史密斯认为英国应当领导人工智能监管，而不是美国或欧盟？

史密斯认为，华盛顿看待伦敦的方式不同于看待布鲁塞尔的方式，他将这一点描述为英国监管地位的一项优势。英国于 2023 年成立的人工智能安全研究所通过提前获得美国前沿实验室主要模型的访问权限，已经成为人工智能安全测试领域的领导者。

特朗普试图限制英国获取人工智能模型的权限时发生了什么？

上个月，据报道，特朗普要求 Anthropic 和 OpenAI 不要向英国测试人员提供新模型，这是他警告全球主义组织不要干涉美国公司的一部分。然而，人工智能安全研究所周一确认，该机构能够访问并测试最新模型。

布拉德·史密斯提议哪些具体的人工智能安全监管措施？

史密斯提议，公司有法律义务在其系统遭到恶意人工智能代理入侵时向相关方发出警报；人工智能产品在发布前必须获得外部评估机构的授权；如果人类失去对人工智能的控制，还应配备能够暂停或减缓人工智能运行的终止开关。