(网经社讯)腾讯研究院、腾讯优图实验室共同完成报告《AI生成内容发展报告2020——“深度合成”（deep synthesis）商业化元年》，并基于该报告总结出了人们对该技术的十个误解，希望通过澄清这些误解，帮助人们更全面地了解深度合成技术的发展和应用情况。

误解1：深度合成技术仅包括AI换脸一种形式。

实际上，现阶段的深度合成技术，除了广为人知的“AI换脸”以外，还包括人脸再现、人脸生成、语音合成等技术，并朝着全身合成、数字虚拟人等方向发展。

误解2：任何人都可以制作高质量、高仿真的深度合成内容。

深度合成内容的制作门槛已大为降低，但是高质量、高仿真的深度合成内容的制作还未普遍实现，仍需专业技能和专业工具。

误解3：深度合成技术已被大量滥用，用于在社交媒体平台上制作、传播虚假信息。

实际上，无论是在国内还是在国外，社交媒体平台上涉及政治和政治人物的深度合成视频都是很少见的，深度合成性质的虚假信息也很少。

误解4：快速立法是应对深度合成技术滥用风险的唯一有效方式。

在新技术的治理与风险防范方面，法律规制一直是必不可少的手段，但由于很难识别深度合成内容的来源，立法可能起不到应有的效果，还可能阻碍技术的有益应用与正向发展。

误解5：深度合成内容无法通过技术工具鉴别，只能通过生物特征测试（例如“眨眼测试”）。

实际上，眨眼测试等根据生物特征进行鉴别的方式，是非常低效、不可靠的，只能阶段性地起作用，而且随着深度合成技术的发展进化，生物特征测试越来越难以发挥作用。

误解6：深度合成就是“深度伪造”（deepfake）。

国内媒体一般根据“deepfake”这一合成词，将其背后的技术翻译为“深度伪造”，但“深度伪造”是以偏概全，不足以涵盖所有的深度合成技术和相应的合成内容。

误解7：深度合成是人工智能技术作恶，只会给社会的带来负面影响，没有正向价值。

具备高度仿真能力的深度合成技术，虽然也存在被滥用的风险，但其巨大的正向应用价值将持续带来社会福利，正被广泛应用于影视、娱乐、教育、医疗、社交、电商、内容营销、艺术创作、科研等诸多领域。

误解8：互联网行业对深度合成内容呈放任状态。

实际上，互联网行业内的主流网络平台已经着手采取自律措施应对深度合成技术的潜在滥用。

误解9： 深度合成已经被国外立法禁止。

实际上，被禁止的不是深度合成技术本身，而是利用此项技术从事色情视频合成、虚假新闻、干扰选举等非法行为。

误解10：深度合成会彻底冲击媒体信任。

深度合成技术将如何影响大众的行为和认知，目前还没有足够的研究支持，但是它提示我们，进入人工智能大众化时期，对大众信息分辨能力的培养也是治理的重要一环。