团队要上换脸、配音、数字人口播这类能力,第一反应往往是查哪条法规、抄一份制度模板。真动手才发现卡住的不是条文,是不知道管控该设在哪一步、谁签字、日志留多久。这篇按生成前、生成中、发布后三段拆开,给能照着摆的措施和几个容易踩空的地方。
团队要上换脸、配音、数字人口播这类能力,第一反应往往是查哪条法规、抄一份制度模板。真动手才发现卡住的不是条文,是不知道管控该设在哪一步、谁签字、日志留多久。抄来的模板通常写得很全,落到具体项目上却没人知道该在哪一格填什么。
这篇按生成前、生成中、发布后三段拆开,给能照着摆的措施和几个容易踩空的地方。核心观点先撂这儿:合规管控真正能救命的不是制度文档,是留痕——裁量口子往往就开在「你能不能说清这一次是谁、用什么、生成了什么」这一格上。
先把管控对象划出来,别把整条产品线都当深度合成
很多团队一上来就把所有 AI 相关功能全塞进同一套审批流,结果审批堆在自己身上,业务等不起就开始绕流程走。先划边界,比先写制度有用得多。
判断标准看三点:是否生成或显著修改人脸、声音、人体动作;是否让外人难以分辨真假;是否对外发布。三条同时成立才按深度合成管。只做文本改写、纯数据图表、内部草稿不对外发布的,不必套同一套流程。拿不准的按最严一档先管,等业务稳定再放宽,反向操作代价更大——先松后紧,中间出的问题没人兜得住。
生成前:把素材来源和数据边界卡死
这一步最容易糊弄过去,也最容易在事后变成说不清的地方。人脸、声音样本要拿到可核查的授权,口头同意不算,得留存授权凭证和取得时间。凭证形式不限,邮件、签署的授权书、系统里的勾选记录都行,关键是能对应到具体的人和具体的素材。
- 人脸、声音样本留存授权凭证和取得时间,口头同意不算数
- 提示词和参考图里不要塞真实身份证件、未公开的内部资料,具体边界去 /safety 页面对照
- 工具端按项目分账号,别一个 Key 全组共用,出问题查不到是谁生成的
- 参考素材的原始文件单独存档,别只留处理后的成品
标识这步最容易做成摆设,两种标识得同时上
显式标识放在用户能看见的位置,别只塞在文件元数据里;隐式标识按平台要求写进文件属性。这两件事经常被理解成二选一,实际用下来是两套都得有——显式管的是观众知情,隐式管的是平台侧可追溯。
标识要能对应到生成记录。只标不存等于没标,事后无法证明是哪一次生成的。另外标识被二次剪辑抹掉是常见情况,发布前要有一次成品复核,不能只信生成端打了标就完事。
审核卡点设几个、谁签,比制度写多厚更管用
对外发布的成品设一道人工复核,复核人要有权直接拦下,不能只是点同意。这条听起来像废话,实际很多流程里复核人是个没有否决权的岗位,签了也白签,出事一起背。
按风险分档比一刀切现实:高风险题材(涉及公众人物、新闻场景、金融医疗说法)升一档审批,普通营销素材走简化流程。复核记录写清谁看、看了什么、结论是什么,别只留一个「已审」——这三个字在争议时什么都证明不了。
| 素材类型 | 审批档位 | 留痕重点 |
|---|---|---|
| 普通营销素材 | 简化流程 | 生成记录 + 发布记录 |
| 含真人声音或形象 | 标准复核 | 授权凭证 + 显隐式标识 + 复核人 |
| 涉及公众人物、新闻、金融医疗说法 | 升级审批 | 以上全留 + 上级签字 + 撤下预案 |
留痕留什么:三段记录缺一段就说不清
这是全文的重点,也是裁量口子真正开着的地方。监管或平台来问的时候,不会先问你制度写没写,会先问你这一次是谁做的、怎么做的、发到哪去了。三段记录能串成一条链,才有话讲。
- 生成记录记清谁、什么时候、用什么工具、什么提示词、生成了哪个文件,文件名带上可检索的编号,别用「最终版」这种命名
- 修改记录记清谁在哪个环节改过、改了什么。二次加工最容易丢这一环,剪辑、转码、换封面都要记
- 发布记录记清发到哪、什么时候发的、什么时候撤下。撤下这一步经常没人补,出事时讲不清传播范围
留存期限按业务风险定,涉及人脸声音的往长里设,普通图文可以短一些。别一刀切定成同一期限,长的那档会压垮存储,短的那档会在真出事时发现已经清掉了。
用外部工具和接口时,责任不会跟着转出去
走第三方生成能力,要在协议里确认对方是否留存、是否用于训练,拿不到明确答复就按最坏情况设计。合同里写「对方负责合规」不等于你的责任没了,对外发布的那一方还是你。
上线前自己验一遍对方的输出有没有标识、能不能拿到生成凭据,别只看接口文档。文档说支持,实际返回里没这个字段的情况不少见,验一次比读十页文档管用。平台方随时可能改规则,做一次固定周期的复测,别一次验收管到底。
出事之后先做什么:撤下、留证、定责的顺序
先停传播再谈原因,撤下链接和缓存,避免影响面继续扩大。这个顺序反了,边查边传,查清楚的时候传播量已经翻了几倍。
把生成记录、授权凭证、复核记录一并固定下来,别急着删文件。定责看的是流程有没有走,不是看结果好坏——流程走全了仍出事,和流程空转是两种处理。前者是能力边界问题,后者是管理问题,内部处理方式完全不同。
哪些情况这套流程不适用
纯内部头脑风暴、不对外输出的草稿,可以简化到只留生成记录。已经有更严行业规范的场景(比如持牌机构对外宣传物料),按更严的那套走,别两套并行互相打架,最后没人搞得清该听谁的。
业务量极小的团队硬套全套审批,反而会让人绕过流程。五个人以下、一个月出不了几条内容的团队,按风险分档更现实:把升级审批留给真正敏感的那几条,其余靠生成记录兜底。流程的目的是留痕,不是制造摩擦。
写制度的时候顺手把这三段记录的字段列出来,比写十页原则管用。字段定死了,工具和表单才好搭;字段不定的制度,落地时每个人填的东西都不一样,汇总起来等于没有。
下一步具体到某个工具或中转服务是不是靠谱、标识和留痕能力怎么样,可以去站内的工具目录和中转站检测页面逐项核对当时的评测结果,别只信官方文档的描述。→常见问题
深度合成的合规管控一定要上系统吗?
不一定。生成量小的团队用表格加命名规范就能撑住,关键是记录能对应到具体文件、具体人。量上来之后人工对不上账,再考虑上工具,别一上来先买系统再想流程。
生成的假人脸只做内部测试,也要走标识吗?
不外发、不进入任何用户可见界面的测试素材,可以不套标识流程,但生成记录和素材来源仍要留。一旦样品发给客户看或者发到群里,就按对外发布处理。
审核卡点设几道比较合适?
常规内容一道人工复核够用,高风险题材再加一道。卡点多了会被人找捷径绕过去,卡点少了又没人真正负责。判断标准是每一道都有人能说得清自己拦过什么。
第三方工具说他们不留数据,可以信吗?
可以听,但别只靠这句话。在合同或条款里找有没有明确写留存和训练的约定,拿不到就按会留存来设计,敏感素材不往那边送。
记录留多久算合适?
没有统一答案。涉及人脸声音的,期限要覆盖内容可能被传播和追责的时间窗;普通营销素材可以短。宁可先定一个能执行的长度,也别定个三年结果没人维护。