很多人写风险评估表时卡在一句话：模型输出编了东西，这到底算内容风险、算法风险还是合规风险？分类填错，后面的整改和备案材料整段跑偏。这篇不讲幻觉怎么产生，只讲它该归到哪几类风险、每类的判断标准是什么，以及怎么把结论对进你手上的框架。
写风险评估表的时候，很多人卡在同一句话上：模型输出编了东西，这到底算内容风险、算法风险还是合规风险？分类填错，后面的整改动作和备案材料会整段跑偏。这篇不讲幻觉怎么产生，只讲它该归到哪几类风险、每类的判断标准是什么，以及怎么把结论对进你手上的框架。
先把结论放前面：大模型幻觉不是单一类目，它同时落在内容与信息准确性、模型与算法、合规与责任这三条线上，只是不同场景下哪条线是主责不一样。你要做的不是选一个唯一答案，而是判断当前这个用途下，哪条线先触发、哪条线兜底。
先别急着下结论：分类错了会连带错什么
风险归属直接决定整改动作。归到内容侧，你要做的是审核流程和引用回查；归到算法侧，你要做的是评测集和版本管理。这两套动作不能互相顶替，内容侧再努力也补不上算法侧缺失的评测记录，反过来也一样。
归属还决定对外口径。备案与自评估材料里按什么类目填，直接决定你要不要补算法相关说明、补到什么颗粒度。填错了，往往不是被驳回，而是返工重写一整段。
- 归到内容侧，整改动作是审核、引用、人工复核，可检查的证据是抽样记录和复核日志
- 归到算法侧，整改动作是评测集、版本管理、变更记录，可检查的证据是评测结果和版本对照
- 归到合规侧，整改动作是对齐行业专门要求，可检查的证据是内部制度和留档
- 同一个幻觉现象在不同场景会落到不同类目：内部草稿辅助和对外自动答复，风险等级完全不是一回事
- 不适用的情况：纯离线做实验、输出不进任何业务流程，一般不按对外风险处理，但仍要留存评测记录
判断时有个简单办法：先问「这个输出会不会被谁当成事实用」。如果答案是会，内容侧一定是主责；如果这个用途本身还有行业规定，合规侧要一起进来；如果换个模型版本现象明显变化，算法侧不能缺席。
三条线各查一遍：内容、算法、合规
内容与信息准确性这条线，看的是输出是否被当成事实用。重点查两件事：有没有人工复核环节，有没有引用来源可回查。两样都没有，这条线就是裸奔状态，无论模型多强都算高风险。
模型与算法这条线，看的是这属于通用能力局限，还是特定场景失效。区分方法很简单：拿同一批问题，在你现在用的模型上跑一遍，看错的是常识类还是你业务里的专业类。前者通常归为通用局限，后者要靠场景化评测暴露。
| 风险线 | 主要看什么 | 可检查的证据 |
|---|---|---|
| 内容与信息准确性 | 输出是否被当成事实用，有无人工复核与来源回查 | 抽样记录、复核日志、引用来源链接 |
| 模型与算法 | 通用局限还是场景失效，有无固定评测集与版本变更记录 | 评测集结果、版本与变更台账 |
| 合规与责任 | 行业有无专门要求，责任能否归到人工审批环节 | 内部制度、审批留档、对外口径说明 |
合规与责任这条线最容易被忽略。金融、医疗、法律这类场景，通常不认「模型说错了」这个理由，责任还是落在使用方身上。所以这类场景下，哪怕内容侧和算法侧的动作都做了，也要额外补一层责任划分说明。
- 固定一批问题从你实际业务里挑出高频问题，构成临时评测集，别用网上的通用题库
- 跑一遍并记录在现用模型上全部跑一遍，逐条标注错的是常识类还是业务专业类
- 按线归类把每条错误对到内容、算法、合规三条线上，标出主责和兜底
- 验证降级的前提如果输出全部走人工审批后才对外，内容风险可以降级处理，但要确认审批环节真的拦得住，而不是走过场
落到表格和材料里怎么写才不返工
只写一个类别名称，过审概率很低。更稳的写法是按五列填：风险类别、具体表现、触发场景、现有控制措施、证据在哪。这样审查的人能顺着往下看，不用反复来问你。
- 控制措施别写「加强审核」这种空话，写成可检查的动作，例如抽样条数、复核人是谁、发现问题怎么回退
- 证据清单优先准备三样：评测集结果、线上抽样记录、用户反馈入口的处理日志，这三样能覆盖大部分追问
- 触发场景要写清是内部用还是对外用，两种场景的整改优先级差很多
- 不适用的情况：团队还没有任何线上用户，先把评测集和抽样流程建起来，材料先写现状与计划，别照抄别家的成稿
还有一点：同一份材料里，别把三条线的控制措施混着写。内容侧的措施解决不了算法侧的质疑，混着写会让审查方觉得你没分清主责，反而多问几轮。具体的类目名称和术语口径会调整，可以到 /guides 按当期口径核对，方法不变。
多久重看一次分类
分类结论不是一次性的。模型换版本、换供应商、换量化档位之后，要重跑一遍评测，因为同一批问题上的表现可能变化，主责线也可能跟着变。不重跑，你手上的分类就只是一张历史快照。
业务用途变了更要重看。比如从辅助写作改成自动回复客户，内容侧的权重会明显上升，原来可以降级的判断可能不再成立。这时候旧材料直接沿用，风险很大。
留档方式建议把分类结论和当时的评测记录绑在一起存，否则过几个月没人说得清当初为什么这么填。各类评测口径与合规术语的对照，可以到 /tools 和 /rankings 看当期资料，数字与版本会变，判断方法不变。
分类的价值不在填对一个词，而在于让整改动作、对外口径和留档证据三者对得上。下一步把三条线的检查表和五列填写模板拿去对照你现有的评估材料，看哪一列还是空的，再到站内指南中心核对当期术语口径。→
常见问题
大模型幻觉到底算不算算法风险？
要看你怎么用。如果幻觉表现为模型在特定任务上稳定出错，属于模型能力边界，按算法与模型风险处理，靠评测集和版本记录管。如果只是偶发编造且输出不进对外流程，一般按内容风险处理更合适。同一现象在两个框架里可能都挂得上，建议两边都写并按主要风险定主责。
是不是只要有幻觉就归到内容合规风险？
不是。判断的关键是输出会不会被当成事实使用、有没有人工复核。内部草稿、头脑风暴这类场景，出错成本低，通常只按内容风险低档处理。真正对外的自动答复、报告生成，才需要按合规要求准备可追溯证据。别一刀切，否则要么过度投入，要么漏掉该做的控制。
填风险分类表时最容易被打回的地方是什么？
最常见的是只写类别名称，没有具体表现和控制措施。评审看的是你有没有识别出触发场景、有没有可检查的动作和留痕。建议按类别加表现加场景加措施加证据的结构填，并且把当时的评测记录一起归档。具体类目名称各框架不一样，可以在站内安全与合规相关页面按当期口径核对。
