谷歌将于 10 月 7 日向公众开放 SynthID AI 检测工具

谷歌于 10 月 7 日向公众开放了 SynthID Detector。这是一款由谷歌 DeepMind 开发的工具，用于验证图像、视频或音频是否由 AI 生成。该系统可以检测媒体中是否嵌入了不可感知的数字水印，这些媒体由谷歌 AI 工具或其合作伙伴（包括 OpenAI、英伟达和 Kakao）生成，苹果也将很快加入。随着生成式 AI 如今能在几秒内生成逼真的图像、视频、音频和文本，此次发布旨在应对区分真实媒体与合成内容的挑战。《自然》杂志于 2024 年 11 月警告称，这项技术“可以轻松生成令人信服的科学数据”；联合国新闻援引的一份联合国报告显示，向美国国家失踪与受剥削儿童中心举报的 AI 生成儿童虐待图像数量从 2023 年的 4,700 起激增至 2024 年的超过 67,000 起。

谷歌向公众开放 SynthID Detector

谷歌于 10 月 7 日宣布，如今全球任何人都可以将图像、视频或音频文件上传至 SynthID Detector，以检查其中是否存在其数字水印。该系统由谷歌 DeepMind 开发，自 2023 年起便将这种不可感知的签名嵌入谷歌 AI 工具生成的媒体中。使用这项水印技术的合作伙伴包括 OpenAI、英伟达和韩国科技公司 Kakao，苹果也将很快加入这一生态系统。在 10 月 7 日之前，该平台仅面向媒体专业人士开放。

AI 水印的规模与影响

谷歌报告称，迄今已有超过 1800 亿张图像和视频被添加水印，音频则相当于 24 万年。该公司称，已内置于谷歌搜索、Gemini 应用和 Chrome 的验证工具每天处理超过 100 万次请求。联合国于今年 1 月发布联合声明，警告犯罪分子正利用 AI 制作真实儿童的虚假露骨图像。联合国新闻援引 Childlight 全球儿童安全研究所 2025 年的一份报告称，向美国国家失踪与受剥削儿童中心举报的生成式 AI 相关举报数量从 2023 年的 4,700 起增加到 2024 年的超过 67,000 起。《自然》杂志于 2024 年 11 月警告称，生成式 AI“可以轻松生成令人信服的科学数据”。

行业领袖辩论 AI 风险权衡

微软联合创始人、现任盖茨基金会主席比尔·盖茨于 8 月 26 日写道，人们在日常生活中最能感受到的危害是“由 AI 驱动的欺诈、虚假信息、深度伪造和监控”。他还警告称，“AI 将赋能那些目前权力相对较小的不法分子”。作为 SynthID 合作伙伴之一的 ChatGPT 开发商 OpenAI 的首席执行官萨姆·阿尔特曼，则在 10 月 4 日发布的 Politico《Decoded》采访中表达了不同看法。他说，“为了这项技术带来的益处，世界应该接受一些坏事发生”，并认为人们将做好事，而且好事的数量会比坏事“多出几个数量级”。

工具局限与验证范围

SynthID 只能识别由谷歌或其合作伙伴的 AI 生成的内容。来自其他生成器的媒体可能不会被标记，因而直接通过检测。该工具目前也仅提供英语版本，谷歌尚未公布准确率。谷歌用一段夜视画面提出了一个简单问题：这是由相机记录的，还是由计算机虚构的？该公司表示，此次发布将一项在后台运行的基础设施交到公众手中，因为辨别真实内容与合成内容正逐渐成为一项日常技能。

常见问题

谷歌于 10 月 7 日宣布了什么？

谷歌于 10 月 7 日向公众开放 SynthID Detector，允许全球任何人上传图像、视频或音频文件，以检查其中是否存在由谷歌 AI 工具或其合作伙伴（包括 OpenAI、英伟达、Kakao 和苹果）嵌入的数字水印。

谷歌为什么推出 SynthID Detector？

谷歌推出 SynthID Detector 是为了帮助用户区分真实媒体与 AI 生成的内容，从而回应《自然》杂志于 2024 年 11 月提出的担忧——生成式 AI“可以轻松生成令人信服的科学数据”，以及联合国今年 1 月关于 AI 生成儿童虐待图像举报数量从 2023 年的 4,700 起激增至 2024 年超过 67,000 起的警告。