生成式人工智能服务管理暂行办法

生成式人工智能服务管理暂行办法（指国内规范生成式 AI 服务的基础性管理规定）覆盖模型训练、内容生成、服务提供与监督管理等环节。它确立了发展与安全并重的基调，要求服务提供者承担内容安全责任、保护个人信息、对生成内容做必要标识，并对具有舆论属性或社会动员能力的服务提出安全评估与备案要求，为面向公众提供服务划定清晰的合规边界。

对服务提供者的核心要求

提供者需使用合法获取的数据和模型，尊重知识产权，对生成内容承担主体责任，建立用户投诉与应急处置机制；面向公众的服务还需按规定履行算法备案与安全评估。使用他人模型做二次开发时，同样要明确数据与内容的责任划分，不能因为调用外部接口就认为责任已经转移。

合规要点

• 数据合规：训练语料需合法获取，不得包含违法有害信息。
• 内容安全：建立审核、过滤与拒答机制，及时处置违规输出。
• 实名与标识：按规定核验用户身份，并对合成内容加以标识。
• 备案评估：具备舆论属性的服务应完成算法备案与安全评估。
• 个人信息保护：收集与使用个人信息需遵循必要与告知原则。
• 未成年人保护：面向未成年人的场景应采取更严格的内容审核与使用限制。

实践要点

落地时先判断服务对象是公众还是内部使用，这直接决定适用的义务范围。数据处理环节应保留来源、授权与清洗记录；内容环节要把审核、投诉与应急流程写成可执行的机制，而不是纸面制度。面向公众上线前，应确认备案与评估状态，并在用户协议中说明服务能力与使用边界。

此外，服务能力与使用边界应在用户协议与界面提示中写清，让使用者了解生成内容的局限，避免把模型输出直接当作专业结论使用。

常见误区

• 认为调用外部模型就无责任：内容安全责任仍在服务提供者一侧。
• 把备案当上线前的手续：评估与记录需要随服务变化持续维护。
• 忽视生成内容标识：标识要求与内容安全要求并行，不能只做其中之一。
• 以为开源模型免于义务：义务取决于服务形态与面向对象，而非模型来源。
• 把数据审查当成一次性工作：语料与模型迭代后需要重新检查，合规状态会随版本变化。