谷歌宣布开源其AI生成文本水印工具SynthID

10月23日，谷歌通过X平台宣布，其开发的SynthID文本水印技术现已开源，供开发者使用。这一工具旨在帮助检测文本是否由大型语言模型生成，从而提高AI应用的透明度和责任性。谷歌研究副总裁Pushmeet Kohli表示，此举有助于更多开发者负责任地构建AI系统。

SynthID的工作原理

SynthID通过在生成文本时添加不可见的水印来实现检测功能。具体来说，该工具会在生成文本的过程中调整每个预测词的概率分数，使这些调整对人类不可察觉，但可以通过软件检测出来。这种调整不会影响生成文本的质量、准确性和创意性。谷歌声称，SynthID可以在短短三句话的文本中有效工作，即使文本被裁剪、改写或修改，也能保持较高的检测准确性。

水印技术的重要性

随着大型语言模型被广泛用于传播政治虚假信息、生成非自愿性内容等恶意用途，水印技术变得越来越重要。加州正在考虑将AI水印技术纳入法规，而中国政府从去年开始已要求使用此类技术。尽管如此，水印技术仍处于发展阶段，存在一些局限性，如在处理短文本、重写内容和事实性问题的回答时表现不佳。

谷歌的承诺

谷歌在其博客中表示，SynthID并不是识别AI生成内容的万能解决方案，但它为开发更可靠的AI识别工具提供了重要的基础。通过开源SynthID，谷歌希望促进整个行业在这一领域的进步，帮助数百万用户更好地理解和互动AI生成的内容。

参考链接:

https://www.theverge.com/2024/10/23/24277873/google-artificial-intelligence-synthid-watermarking-open-source