谷歌发布SynthID Detector扩展多厂商水印检测
谷歌DeepMind已面向全球开放SynthID Detector,用于识别带有SynthID水印的AI生成图片、音频和视频。当前支持OpenAI、NVIDIA、Kakao等合作方的生成内容,苹果也预计很快接入。用户可通过网站上传文件,系统会统一返回“是”或“否”的检测结果。
在该工具上线前,用户主要依靠Gemini判断AI生成内容,但范围仅限谷歌自家模型;识别其他厂商内容时,则需要分别使用对应检测工具。SynthID Detector试图将多个合作方的检测入口整合到一起,不过谷歌明确表示,它并不是通用的AI内容鉴别器。
当结果显示“无明确信号”时,并不能据此断定内容不是AI生成。SynthID目前无法检测Meta和微软生成的媒体,因为两家公司采用了不同的水印技术;图片、音频或视频经过大规模编辑后,水印信号也可能减弱,进而造成误判。遇到这类情况,用户仍需结合其他检测手段。尽管存在限制,该技术仍入选《时代》杂志2026年最佳发明榜单。
围绕工具效果,部分Reddit用户持怀疑态度。有用户称,SynthID从一开始就未能可靠工作,甚至在检测自家模型生成的视频时也可能出现难以接受的误报。另一位用户则指出,创建水印移除流程并不困难,对图像进行一次低强度降噪,就可能削弱OpenAI和Gemini生成图像中的水印。
在欺诈场景中,批评者认为SynthID只能构成很小的阻碍,甚至可能让攻击者更容易判断内容是否带有水印。与水印检测互补的方案是C2PA元数据,它能够记录文件的来源、编辑过程等信息,用于辅助验证内容真实性。
不过,C2PA元数据可能在文件上传过程中丢失,截图也不会保留相关信息。LinkedIn用户Harry G认为,C2PA是更具扩展性的路径,因为事后检测合成内容容易演变成持续升级的攻防竞赛。
SynthID由谷歌DeepMind于2023年推出,覆盖图像、音频、视频和文本。其原理是利用密钥调整音频频率概率分布,或改变像素、Token的模式,将不可见水印直接嵌入生成内容,再通过检测算法识别这些信号。
本文基于公开渠道信息整理,内容可能存在不准确或遗漏之处,不代表本站立场,如内容涉及侵权或错误,请联系我们处理。
阅读原文