AI水印（AI Watermarking）是一种在AI生成内容（文本、图片、音频、视频）中嵌入不可见标识的技术，以便在事后识别内容是否由AI生成，并追溯其来源。
为什么需要AI水印
- AI生成内容大量涌现，深度伪造与虚假信息传播风险加剧
- 用户需要区分真实内容与AI内容，平台需要履行标识义务
- 版权与溯源需求：确认内容的创作者与生成工具
技术思路
- 文本水印：通过扰动词分布或嵌入特定模式，生成含隐蔽标记的文本
- 图像/视频水印：在像素或频域中叠加人眼不可见的信号，可抵御裁剪、压缩等处理
- 元数据标识：在文件头写入来源信息（如C2PA标准），但较易被剥离
- 谷歌DeepMind推出的SynthID等工具是代表性实践
监管背景
- 国内《生成式人工智能服务管理暂行办法》要求对生成内容进行标识
- 《人工智能生成合成内容标识办法》2025年施行，进一步细化显式与隐式标识要求
- 欧盟《人工智能法案》对深度伪造内容提出披露义务
挑战
水印可能被篡改或绕过，检测精度有限；同时要避免过度标记影响内容质量与创作体验。水印是重要缓解措施，但不能单独根治AI造假问题。