众议院情报委员会在最新报告中警告人工智能的“黑天鹅”风险

众议院情报常设特别委员会敦促美国情报机构为人工智能带来的“黑天鹅”风险做好准备，并在一份新报告中警告称，恐怖分子或对手可能利用这项技术研发更危险的武器，并策划更致命的袭击。该报告旨在评估美国在过去四分之一世纪为应对导致 2001 年 9 月 11 日恐怖袭击的情报失误所作的努力。随着人工智能快速发展并推动大规模经济活动，这一警告发布之际，距离造成数千人死亡、并重塑美国国家安全工作的 9/11 恐怖袭击 25 周年已不到两周。

委员会警告人工智能可能助力恐怖分子研发武器

委员会在报告中表示，情报界和政策制定者必须认真考虑如何防止人工智能工具落入包括恐怖分子在内的恶意行为者手中。“自 9/11 以来，防止恐怖组织获得制造和使用大规模杀伤性武器所需的设备和专业知识，一直是情报界和国家安全机构重点关注的问题，”报告称。

报告特别警告称，前沿大语言模型可能会显著降低包括恐怖分子在内的恶意行为者发动和实施更具破坏性袭击的难度。立法者指出，尽管人工智能实验室正试图防止模型生成可能帮助恶意行为者的信息，例如制造生物武器所需的信息，但模型的底层能力正在迅速发展，而要完全限制模型被用于此类目的十分困难。

立法者建议情报界加快采用人工智能

该报告由众议院情报委员会主席、阿肯色州共和党人 Rick Crawford，委员会首席民主党成员、康涅狄格州民主党人 Jim Himes，以及纽约州共和党人 Elise Stefanik 和新泽西州民主党人 Josh Gottheimer 共同撰写。立法者敦促情报界“加快负责任地采用先进人工智能能力，以确保美国领先于其对手”。

委员会表示，投资于“用于收集、分析和预警的安全人工智能工具，并配以严格测试、人类监督以及强有力的隐私和公民自由保护”，对于应对下一代威胁至关重要。立法者警告称，现有防护措施可能不足以跟上人工智能的发展步伐。

报告发现美国面临与 9/11 后时代同样复杂的威胁环境

委员会总体上认为，美国“面临着自 2001 年 9 月 11 日以来最为复杂和危险的威胁环境之一”。报告称：“我们应对和处理这些漏洞的能力仍存在严重缺口。我们没有做好充分准备来应对和处理自身的漏洞。”

常见问题

众议院情报委员会在新报告中警告了什么？

众议院情报常设特别委员会在一份新报告中警告称，恐怖分子或对手可能利用人工智能研发更危险的武器并策划更致命的袭击。报告敦促美国情报机构为人工智能带来的“黑天鹅”风险做好准备。

委员会为何发布这份关于人工智能风险的报告？

该报告旨在评估美国在过去四分之一世纪为应对导致 2001 年 9 月 11 日恐怖袭击的情报失误所作的努力。报告发布之时，距离 9/11 恐怖袭击 25 周年已不到两周。

委员会向情报界提出了哪些建议？

立法者敦促情报界加快负责任地采用先进人工智能能力，以确保美国领先于其对手。委员会表示，投资于用于收集、分析和预警的安全人工智能工具，并配以严格测试、人类监督以及强有力的隐私和公民自由保护，对于应对下一代威胁至关重要。