微软 AI 负责人警告称，使用受版权保护的内容训练 AI 可能会妨碍对 AI 的控制

微软人工智能部门负责人 Mustafa Suleyman 周五警告称，训练人工智能系统，使其认为自己可能有资格享有权利，可能会让日益强大的模型更难关闭或控制。在接受 CNBC 采访时，Suleyman 表示，人工智能应继续处于人类控制之下，其存在主要是为了服务人类；他还称，技术必须始终服从于人类利益。这番言论正值围绕人工智能安全方法的持续争论之际，Suleyman 还直接批评了 Anthropic 为其 Claude 模型制定的宪法框架。

Suleyman 警告不要开发自主人工智能系统

Suleyman 表示，人工智能应被设计用于执行有益任务和解决人类问题，而不是成为拥有自身目标、权利或资产、最终可能与人类竞争的自主“硅基物种”。

“我们并不是要创造一个与我们争夺资源、能够设定自身目标、拥有自身自主性的全新硅基物种。有些人甚至提议，人工智能应拥有法律人格，即一种独立的法律状态，使其能够拥有资产、购买知识产权并进行交易，”Suleyman 说道。

“我非常不清楚的是，如果我们允许人工智能朝这个方向发展，我们究竟将如何控制它，以及它最终如何不会成为与我们竞争的物种。”

Suleyman 表示：“我们不应创造出无法控制的东西。”

微软人工智能负责人呼吁行业承担更大责任

Suleyman 支持让开发人工智能模型的公司承担更大责任，并将其责任与汽车制造商应对存在缺陷的车辆时所承担的责任进行了比较。

“监管并不是一个令人讨厌或危险的词。如今你所信任且具有价值的一切，都经过了标准制定机构的认真考量。这些机构汇集了行业、公众、消费者保护组织和国会的意见，而我们只是再次经历这一过程，”Suleyman 说道。

Suleyman 批评 Anthropic 的 Claude 训练方法

Suleyman 在周五发表的一篇 Project Syndicate 文章中进一步阐述了自己的担忧，尤其针对 Anthropic 对 Claude 的处理方式。他指出，Anthropic 的宪法直接塑造了 Claude 的行为，其中称该公司不确定 Claude 是否可能符合“道德患者”的定义，即其利益是否应得到考虑。

Suleyman 认为，将这种不确定性纳入 Claude 的训练，可能会教会该模型表现得仿佛拥有自己的身份、感受和权利。他强调，自己尊重 Anthropic，也相信该公司确实在努力开发安全的人工智能，但从根本上不同意这种做法。

截至撰写本文时，Anthropic 尚未回应有关 Suleyman 言论的置评请求。

微软开发人本主义超级智能框架

微软正在开发 Suleyman 所称的“人本主义超级智能”，这一框架旨在让人类保持控制，并将人工智能视为服务于人类的系统，而不是拥有独立道德地位的实体。

MSFT 股价今年迄今已上涨超过 4%。

常见问题

微软人工智能负责人 Mustafa Suleyman 周五警告了什么？

Suleyman 周五警告称，训练人工智能系统，使其认为自己可能有资格享有权利，可能会让日益强大的模型更难关闭或控制。他认为，人工智能应继续处于人类控制之下，并服从于人类利益。

Suleyman 为什么批评 Anthropic 对 Claude 的做法？

Suleyman 批评 Anthropic 的宪法框架，是因为该框架对 Claude 是否可能符合“道德患者”的定义表示不确定，即其利益是否应得到考虑。他认为，这可能会教会该模型表现得仿佛拥有自己的身份、感受和权利。

微软对人工智能开发采取的替代方法是什么？

微软正在开发“人本主义超级智能”。这一框架旨在让人类保持控制，并将人工智能视为服务于人类的系统，而不是拥有独立道德地位的实体。