AI换脸和深度伪造（Deepfake）技术已经达到让人难以分辨真假的水平，由此引发的技术应用争议和伦理问题值得认真讨论。本文梳理这项技术的现状、应用边界和风险。
技术现状：已经「以假乱真」
2024-2025年的Deepfake技术已经能实时换脸（直播时实时替换人脸），生成质量足以欺骗普通观察者。驱动这一进步的是GAN（生成对抗网络）和扩散模型的结合，生成的视频在眼部细节、肤色光影、口型同步方面都达到了相当高的水准。制作成本也从需要专业设备降至普通消费级电脑可运行。
合法的应用场景
有明确正当用途的场景包括：电影特效（演员老化/年轻化效果）、企业培训视频（用数字人代替真人降低制作成本）、个人隐私保护（视频会议中隐藏真实外貌）、语言本地化（让视频中的人物口型与翻译语言匹配）。这些应用在当事人知情同意的前提下没有道德争议。
明确的伦理红线
以下行为在多数国家已有法律约束或正在立法：未经同意生成他人的换脸视频（尤其是色情内容）、用于政治欺骗的虚假视频、针对特定个人的诽谤性合成内容。中国已于2022年出台《深度合成服务管理规定》，明确禁止未经许可对他人进行深度合成并传播。技术本身是中性的，使用者的边界意识决定了它是创作工具还是侵权武器。
