深度合成（Deep Synthesis）是我国监管语境下对一类技术的统称，指利用深度学习等生成合成类算法制作文本、图像、音频、视频等数字内容的技术，包括AI换脸、语音合成、虚拟数字人、文生图、文生视频等。
技术范围
- 人脸生成与替换（AI换脸）
- 语音合成与变声
- 文本自动生成与文章撰写
- 图像、视频的生成与编辑
- 沉浸式拟真场景生成
双刃剑效应
- 正面价值：影视特效、虚拟数字人、无障碍服务、创意设计
- 潜在风险：深度伪造（Deepfake）被用于诈骗、诽谤、传播虚假信息，对个人与公共安全构成威胁
监管框架
- 《互联网信息服务深度合成管理规定》2023年起施行，是我国首部专门针对深度合成技术的部门规章
- 要求深度合成服务提供者对生成内容进行标识、健全管理义务，防止深度合成内容被用于违法活动
- 后续出台的生成式AI管理办法与内容标识办法进一步延伸了监管要求
应对思路
- 技术侧：AI检测、内容水印与溯源
- 平台侧：身份核验、内容审核与标识
- 个人侧：提高对“眼见为实”的警惕意识