2022年，国家互联网信息办公室联合工业和信息化部、公安部发布了《互联网信息服务深度合成管理规定》（以下简称《规定》），为蓬勃发展的深度合成技术应用划定了清晰的监管边界，标志着我国在人工智能治理领域迈出了关键一步。本课件旨在对该《规定》的核心内容、出台背景及重要意义进行梳理与解读。
一、 出台背景：技术双刃剑呼唤规范发展
深度合成技术，指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。从“AI换脸”到智能写作，从虚拟主播到数字人，深度合成技术应用场景不断拓展，在娱乐、教育、医疗、商业等领域展现出巨大潜力。技术滥用也带来了诸多风险与挑战：伪造音视频进行诈骗诽谤、制造虚假信息扰乱社会秩序、侵犯个人肖像权与名誉权等事件时有发生，给国家安全、社会公共利益和公民合法权益带来严重威胁。在此背景下，《规定》的出台旨在兴利除弊，促进技术健康有序发展，维护网络空间清朗。
二、 核心要点：明确责任，划定红线
《规定》共五章二十五条，主要内容可概括为以下几个方面：
- 明确定义与适用范围：清晰界定了“深度合成技术”和“深度合成服务提供者”、“深度合成服务使用者”等概念，明确了管理规定适用于利用深度合成技术提供互联网信息服务的行为。
- 压实主体责任：要求深度合成服务提供者（包括技术支持者）落实主体责任，建立健全管理制度，包括：
- 真实身份认证：对深度合成服务使用者进行真实身份信息认证。
- 内容管理义务：采取技术或人工方式对深度合成信息内容进行审核，并建立健全辟谣机制。
- 显著标识义务：对使用深度合成技术生成的图像、视频等内容，进行显著标识（如添加水印、标签等），避免公众误解。
- 数据与技术管理：加强训练数据管理，确保数据合法合规；定期审核、评估、验证算法机制机理。
- 规范服务使用行为：要求深度合成服务使用者（包括组织和个人）不得利用深度合成服务从事法律、行政法规禁止的活动，不得制作、复制、发布、传播违法和不良信息。使用深度合成技术制作、发布信息时，应进行显著标识。
- 强调安全评估与标识：对具有舆论属性或社会动员能力的深度合成服务，以及生成或编辑生物识别信息、可能涉及国家安全与社会公共利益的场景，提出了安全评估的要求。再次强化了对合成内容的标识规定。
- 明确监督检查与法律责任：规定网信、电信、公安等部门的监督管理职责，并明确了违反规定的相应法律责任，为监管执法提供了依据。
三、 重要意义：平衡创新与治理，构建可信生态
《规定》的颁布实施具有深远意义：
- 划定发展轨道：为深度合成技术的研发与应用提供了明确的法律遵循和行为指南，有助于引导技术向善，防范技术滥用风险。
- 保护公民权益：通过标识义务、内容审核等规定，有效保护公民个人信息、肖像权、名誉权等免受深度合成技术滥用的侵害。
- 维护国家安全与社会稳定：通过建立安全评估、内容治理等机制，有力防范和抵制利用深度合成技术制作、传播虚假有害信息，破坏社会稳定、危害国家安全的行为。
- 促进产业健康发展：明确的规则有助于营造稳定、公平、透明的市场环境，增强用户信任，从而推动深度合成技术及相关产业在合规框架下持续创新与繁荣。
四、 与展望
《互联网信息服务深度合成管理规定》是我国网络空间法治化进程中的重要里程碑，是全球范围内较早系统性规制深度合成技术的规范性文件之一。它体现了“技术发展、治理先行”的监管理念，在鼓励技术创新的牢牢守住安全底线。随着技术的不断演进，相关治理规则也需动态调整。需要政府部门、行业企业、技术社群和广大用户共同努力，推动技术伦理、标准体系、检测技术等多方面协同发展，最终构建一个安全、可靠、负责任的深度合成技术应用生态，让技术进步更好地造福社会。
