《生成式人工智能服务管理暂行办法》

一、立法背景

2022 年 11 月 ChatGPT 发布，生成式 AI（AIGC）浪潮席卷全球。中国 AIGC 产业在 2023 年呈现爆发式增长，文生图（Stable Diffusion / Midjourney）、文生文（ChatGPT / 文心一言 / 通义千问）、文生视频（Sora / 可灵）等应用大量普及，但 AIGC 训练数据合规、内容安全、知识产权归属等问题同步出现。

为促进生成式 AI 健康发展和规范应用，国家互联网信息办公室联合国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部、国家广播电视总局共 7 部门，于 2023 年 7 月 10 日审议通过《生成式人工智能服务管理暂行办法》，自 2023 年 8 月 15 日起施行。

本办法是中国首部针对生成式 AI 服务的专门规章，也是国际范围内 AIGC 领域较早的综合性立法之一。办法共 5 章 24 条，采取"发展和安全并重、促进创新和依法治理相结合"的原则，对生成式 AI 服务的训练数据、模型生成、内容标识、用户管理、监督检查等做出系统规定。

二、法条详解：服务提供者 2 大责任

责任 1：训练数据合规责任（第七条）

第七条规定了"提供者"开展预训练、优化训练等训练数据处理活动时应当遵守的 5 项义务：

1. 使用具有合法来源的数据和基础模型：训练数据不得来自非法渠道；基础模型如使用第三方模型，应获得合法授权
2. 涉及知识产权的，不得侵害他人依法享有的知识产权：这是 AIGC 训练数据合规的核心条款，直接对应著作权法、商标法、专利法等知识产权法律的保护要求
3. 涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形：与《个人信息保护法》衔接
4. 采取有效措施提高训练数据质量：真实性、准确性、客观性、多样性
5. 其他法律、行政法规的有关规定：兜底条款，确保与上位法衔接

责任 2：内容生产者责任（第九条）

第九条规定了"提供者"应当承担的网络信息内容生产者责任，履行网络信息安全义务：

• 对使用其服务生成的违法内容（违反法律法规、违反公序良俗等）承担内容生产者责任
• 涉及个人信息的，依法承担个人信息处理者责任
• 应当与注册其服务的使用者签订服务协议，明确双方权利义务

这一规定明确了 AI 服务提供者不再仅是"中立技术提供方"，而是对其平台生成的内容承担与传统内容生产者同等的法律责任。

三、典型案例

案例 1：北京互联网法院"春风送来了温柔"AI 文生图案（2023-11）

原告李某使用 Stable Diffusion 模型生成"春风送来了温柔"图片，被被告平台未经授权转载且抹去水印。北京互联网法院判赔 500 元，首次确认 "用户对 AI 生成内容的智力投入可构成独创性贡献，用户是 AI 作品的著作权人"。该案直接对应本办法第七条对"训练数据" + "知识产权"的规定。

案例 2：广州互联网法院"奥特曼"AIGC 平台侵权案（2024-02）

原告日本圆谷制作起诉国内某 AI 绘画平台长期存在大量含"奥特曼"形象侵权模型。广州互联网法院认定平台未尽注意义务构成帮助侵权，判赔 3 万元。该案直接对应本办法第九条对"内容生产者责任"的规定，以及"通知 - 必要措施"规则。

案例 3：上海金山区法院《斗破苍穹》美杜莎 LoRA 模型案（2025-11）

用户李某使用《斗破苍穹》"美杜莎"角色图片训练 LoRA 模型并公开发布，上海金山区法院认定 LoRA 训练 + 公开分发构成侵权，但模型平台在收到通知后及时下架不构成帮助侵权。该案是上海首例大模型著作权案，与本办法第七条训练数据合规要求直接呼应。

四、合规建议：AIGC 平台 6 步法

1. 训练数据来源审查：建立训练数据来源台账，对每个训练集记录"数据来源 / 授权情况 / 著作权人 / 使用范围"；避免使用未经授权的版权作品作为训练数据
2. 第三方基础模型授权：如使用第三方开源 / 商用基础模型（Stable Diffusion / Llama / 文心等），应获得合法授权并保存授权文件
3. 关键词 + 图像双过滤：建立"知名 IP 黑名单"（奥特曼、漫威、迪士尼、吉卜力等），提示词输入 + 模型上架 + 图像输出三层实时过滤
4. 生成内容标识：依据《互联网信息服务深度合成管理规定》第十二条，对生成的图片、视频等内容添加显著标识
5. 用户协议 + 投诉机制：与用户签订服务协议，明确双方权利义务；建立"通知 - 反通知 - 必要措施"机制，24 小时内处置合格侵权通知
6. 算法备案 + 安全评估：具有舆论属性或社会动员能力的 AIGC 服务，按《互联网信息服务算法推荐管理规定》履行算法备案手续，并按国家规定开展安全评估

五、研究会建议

本办法自 2023-08-15 施行以来，对国内 AIGC 产业的合规发展产生了深远影响。研究会建议：

• 对 AIGC 平台：将"训练数据合规 + 内容生产者责任"作为公司战略级合规事项，建立跨部门（法务 / 技术 / 数据 / 安全）合规委员会
• 对 AIGC 创作者：理解"提示词 + 参数 + 筛选"是 AI 作品的独创性来源，按"春风送来了温柔"案的标准留存创作证据链
• 对版权方：积极运用本办法第七条 + 第九条作为维权法律依据，对未经授权使用作品训练 AI 的平台 / 用户发起维权
• 对监管层：建议尽快出台"训练数据合规指南" + "AI 生成内容标识实施细则"，与《互联网信息服务深度合成管理规定》形成完整规则体系

六、来源与关联

• 法规来源：中央网络安全和信息化委员会办公室（cac.gov.cn）官方发布
• 联合发布部门：国家网信办 + 国家发展改革委 + 教育部 + 科技部 + 工信部 + 公安部 + 国家广播电视总局
• 相关法律：《著作权法》《数据安全法》《个人信息保护法》《科学技术进步法》《网络安全法》
• 关联规则：《互联网信息服务深度合成管理规定》（2023-01-10 施行）；《互联网信息服务算法推荐管理规定》
• 关联案例：北京互联网法院"春风送来了温柔"AI 文生图案；广州互联网法院"奥特曼"AIGC 平台案；上海金山区法院《斗破苍穹》美杜莎 LoRA 模型案