AI幻觉和人类犯错原理：判断责任和补救，先分清这两套出错机制

搜「AI幻觉和人类犯错原理」的人，多半是刚在业务里踩了坑：模型编了个不存在的条款，或者同事照着模型的话做错了一步，两边都要有人背锅。问题在于这两类错的机制根本不同，补救动作也不一样。这篇给一套判断标准：怎么认出是哪一类错、先查哪、什么情况下这套判断不适用。

搜「AI幻觉和人类犯错原理」的人，八成是刚在业务里踩了坑：模型编了个根本不存在的条款，或者同事照着模型的话做错了一步，两边都要有人背锅。麻烦在于这两类错的机制根本不同，补救动作也不一样。拿管人的办法去管模型，或者拿调模型的思路去追人的责任，最后都是白费功夫。

这篇不讲大道理，给一套能直接上手的判断标准：怎么认出是哪一类错、先查哪一步、什么情况下这套判断本身就不适用。看完你至少能在下次出事时，五分钟内决定该找谁、该改什么。

两种错，长得像，机制完全不同

人犯错通常有动机和情境。赶时间、信息不全、理解偏了，你追问两句基本能还原出他当时的判断过程。AI幻觉没这层东西，它是在按概率往下接话，接得通顺、细节齐全，但不为真。它没有「当时怎么想的」，因为它没在想。

所以判断的第一问不是「谁错了」，而是「这个错能不能被解释」。能复述出人的思路，是人为失误；输出看起来自信、一查就空，先按幻觉处理。另外别拿「它态度好不好」「它有没有承认错」当依据，模型认错也是生成出来的文本，不代表它真的定位到了问题。

排查顺序：先看输入，再看知识范围，最后才怀疑模型

1. 回看提示词有没有把「不知道就说不知道」写进去，有没有给足上下文和格式约束。很多所谓幻觉，其实是输入太模糊，模型只好自己补。
2. 查知识范围冷门条款、内部制度、实时数据，本来就不该指望它答对。这时候换模型没用，得外挂资料。
3. 做替换对照同一问题换个说法、换个模型再问一遍。稳定复现的，才是模型层面的问题。

顺序反了会白折腾。很多人一上来就换模型，结果只是换了一种编法，问题还在。先确认输入够不够、知识在不在范围内，再谈模型本身的表现，这样每一步都有可验证的结论。

补救动作：对人的和对模型的别混用

对人的处理是流程活：补检查环节、关键结论改成双人复核、把「谁拍的板」记进记录。这套对幻觉一点用没有，因为模型不会因为被复核就变得诚实。

对幻觉的处理是工程活：加引用来源要求、接检索或知识库、输出里强制带出处、拿不准的字段宁可留空也别填满。最常见的误判是拿「培训一下」去解决模型编造，或者拿「换个更贵的模型」去解决同事漏看一步，方向错了，钱和时间都白花。

• 人犯错：改流程、加复核、留记录，追问当时判断依据
• 模型幻觉：加约束、挂资料、强制带出处、允许留空
• 叠加出错：按环节切开，看哪个环节本可以拦住
• 反复同样错：更像知识或规则缺口，按流程缺陷处理
• 零容错业务：别纠结归类，直接上人工闸门

这套判断什么时候不适用

人机协作的场景里，错往往是叠加的：人信了模型的编造又没核对，两边都有份。这时别急着归类，按环节切开看，哪个环节本可以拦住。如果业务本身要求零容错，比如对外承诺、金额、法律表述，讨论「属于哪类错」意义不大，直接上人工复核闸门更实际。

还有一种情况：同一个问题反复出现，每次都错得一样。这更像是知识或规则层面的缺口，不是单次幻觉，按流程缺陷处理比追着模型问更合适。判断标准是给日常用的，不是给极端场景硬套的。