谷歌向公众开放 SynthID Detector

谷歌向公众开放了 SynthID Detector，任何人都可以用它检查图像、视频和音频是否由 AI 生成。Google DeepMind 于 10 月 7 日表示，这款检测工具从当天起在全球以英文提供。用户可以在 synthid.com 上传文件，查看它是否由 Google AI 或合作伙伴的工具生成。合作伙伴包括 OpenAI、NVIDIA 和 Kakao，Apple 也将很快加入。

这款工具去年先以早期版本推出。当时，记者和研究人员等媒体专业人士需要通过等候名单才能使用。据报道，此次开放取消了等候名单，用户使用 Google、Apple 或 OpenAI 账户登录即可直接使用。Google DeepMind 负责科学与战略计划的副总裁 Pushmeet Kohli 在发布文章中写道：“随着 AI 工具变得更好、更易用，了解你在网上遇到的内容的清晰背景，有助于你判断该相信什么。”

其基础是 2023 年推出的 SynthID 水印。它在生成时把人眼和人耳无法察觉的信号嵌入图像和视频的像素或音频信号中。由于不依赖可见标记或元数据，据报道它被设计为在裁剪、压缩、色彩调整和音频处理之后依然保留。据谷歌介绍，迄今已有超过 1800 亿张图像和视频以及相当于 24 万年的音频带有这种水印。

METAL 查看的发布文章演示画面，展示了上传一段 10 秒浣熊夜间视频后的结果。在“SynthID was detected”的判定下方，显示该媒体由 Google AI 生成或编辑，视频轨和音频轨分别被标为检测到的片段。同一画面还提示，文件此后可能经过进一步编辑。据报道，检测器不仅给出整个文件的判定，还会指出发现水印的区域或片段。这样就能识别生成式编辑工具只修改照片中某一个物体或某一段音频的情况。

这类检测也已在谷歌产品内部运行。Kohli 表示，这款工具与搜索、Gemini 应用和 Chrome 中内置的验证功能并列，这些功能如今每天处理超过 100 万次请求。他补充说：“这一切都是我们持续工作的一部分，为你在网上看到的媒体提供更多背景，让你能够自信地浏览网络。”Google DeepMind 在官方 X 账号上发布的开放消息，在 METAL 查看时浏览量已超过 6.3 万次。

合作伙伴的扩大是此次开放的另一条主线。只有生成器嵌入了相同的信号，水印检测才能起作用。synthid.com 首页也明确表示，该工具不是通用 AI 检测器，只能识别已采用 SynthID 技术的公司所生成的内容，并建议尽量上传最高画质的文件以提高准确度。正因如此，谷歌之外由 OpenAI、NVIDIA 和 Kakao 工具生成的内容也能在一个入口检查，才显得有意义。Apple 的部分仍处于预告阶段。据报道，谷歌表示用 Apple Intelligence 生成的图像将“很快”带有 SynthID 水印。另据报道，成为合作伙伴并不意味着该公司的所有模型和过往输出都带有水印，Midjourney 以及许多在个人电脑上运行的开源模型仍在这一体系之外。

验证的钥匙掌握在谷歌手中。据报道，文件会上传到谷歌服务器进行分析，此次开放不包括离线验证器或不受限制的 API。若要以程序方式批量检测，需要使用 Google Cloud 的 AI Content Detection API，而该 API 只向选定的合作伙伴开放。谷歌生成的图像还可以附带 C2PA 内容凭证，这是一种经过加密签名的来源记录，其中可以声明存在 SynthID 水印。C2PA 记录在元数据被删除后就会消失，而 SynthID 把信号嵌入内容内部，更能经受复制和编辑。

从法律纠纷的角度看，判定结果中的每一句话都很有分量。阳性结果意味着受支持的系统生成或修改了文件的至少一部分，但它并不说明其中的事件、言论或主张是否属实。阴性结果也不是真实性的证明。不受支持的生成器、旧模型的输出、高强度重新编码以及蓄意篡改都可能得出空结果，而且检测本身是概率性的。因此有观点指出，若要把这些结果用作纠纷或举报处理的依据，就应同时保存检测分数、位置信息、文件历史和 C2PA 记录。METAL 此前曾报道 Google DeepMind 发布了同名的 SynthID Bio。

此次开放让 SynthID 从谷歌产品上的标签，变成了多家公司共同使用的检测窗口。嵌入标记的公司越多，一次上传能核实的范围就越广；反过来，不嵌入标记的生成器所产出的内容，也会更清楚地留作空白。是把一行判定当作结论，还是把它当作叠加来源记录和历史核查的起点，取决于使用检测器的人和平台。