很多人第一次搭知识库问答,文档传上去了,问出来的答案却总是缺一半、串了行、或者干脆找不到。问题多半不在模型,而在切片这一步。这篇不绕术语,先说清切片在整条链路里干什么,再给按文档类型选切法的对照表和调参顺序,最后列几个踩过的坑,让你第一次上手不用来回试错。
文档传上去了,模型也接好了,随口问一句「那份报销制度里住宿标准多少」,返回的答案要么只给半句,要么把两个部门的条款串在一起。第一反应往往是换个更贵的模型,其实换完还是这样。问题多半出在上传和建库之间的那一步:切片。
切片说白了就是把一份长文档拆成若干小段,每段单独转成向量存进库里。用户提问时,系统比对的单位是这些段,不是整篇文档。所以段切得怎么样,直接决定了检索能不能捞到对的东西。这一步没理顺,后面调提示词、换模型都是在补漏。
切片在整条链路里到底干什么
很多人把切片当成预处理里的小杂活,上传时随便填个默认值就过去了。实际用下来,它是整条链路里唯一一个「决定了就改不动」的环节。检索命中哪些段,全看当初怎么切的;模型再强,也只能在检索回来的那几段里找答案。
这里有个容易想拧的地方:切长了和切短了,坏处不一样,但都很难受。一段切得太长,比如把整章塞进一个向量,语义会被平均值拉平,问具体条款时匹配不上;一段切得太短,上下文被切断,模型拿到半句「逾期超过三个工作日的,按」,后面没了,它只能猜。两头都不对,中间那个「刚好」得按文档类型来定。
按文档类型选切法,别一套参数走天下
一套固定字数硬切所有文档,是第一次搭 RAG 最常见的省事做法,也是最容易返工的做法。你手上的资料通常就那么几类,每类的天然边界都不一样,照着边界切最省心。
| 文档类型 | 切法 | 要点 |
|---|---|---|
| FAQ、常见问题、客服话术 | 按问答对切,一问一答为一段 | 一段就是一个完整意思,别把答案和问题拆开 |
| 制度条款、合同、政策文件 | 按条、按款切,条款编号带进段首 | 编号是检索时的重要线索,丢了就分不清是哪一条 |
| 说明书、论文、技术文档 | 按章节和小标题切,小标题文字并入段首 | 小标题本身带着语义,能帮检索缩小范围 |
| 没有结构的纯长文 | 先按自然段切,超长段再二次切分 | 相邻段留一小段重叠,避免答案横跨两段被劈开 |
| 表格、参数清单 | 整表转成结构化文本,或按行切并给每行补表头 | 表头和数字分开存,检索到的只是一堆孤零零的数字 |
表格那一条值得单独说一下。不少人直接把文档里的表格按字符切,结果一行数据和它的表头被送进两个不同的段,检索回来的是「5 年」,你根本不知道这是保修期还是服务期。补表头这事多花十分钟,后面省一晚上的排查。
还有一种情况要提醒:有些文档看起来是长文,其实前面几页是目录、修订记录、版权声明。这些东西切进去不会报错,但会长期占着检索结果的位置。切之前先翻一遍前几页,该删的删掉,比事后调参有效得多。
调参的顺序:先看命中,再看回答
切片参数一多,最容易犯的错是一次改三样:段长调了、重叠调了、清洗规则也加了,然后发现效果好了一点,但不知道是哪一项起的作用。下次换个文档又不行,等于没积累经验。按下面这个顺序走,每步只动一个变量。
- 先拿真实问题测检索准备三五个你确实会问的问题,直接看检索返回的片段里有没有正确答案。没有,就是切法或清洗的问题,先别碰模型。
- 命中但答不全,放宽段边界答案在片段里被截断了,把段长放宽一档,或者把相邻段的重叠加大一点,再测同一批问题。
- 命中一堆无关片段,回头做清洗检索回来的东西风马牛不相及,多半是段太长让向量变糊,或者文档里页眉页脚、目录这类噪声太多,先清再切。
- 每次只改一项,记下结果改一个参数,跑同一批问题,简单记一句「这次命中了几条」。连续几轮下来,你就知道自己这类文档的合适区间在哪。
判断标准其实很朴素:同一批问题,检索返回的前几段里能稳定出现正确答案所在的段,切片就算及格了。回答质量、语气、格式那些,是下一步的事。至于具体用什么段长、重叠多少,各家文档差异太大,没有通用数字,去站内工具目录里挑一个切片预览工具,拿自己的文档跑一遍看实际效果更靠谱。
几个具体到动作的坑
第一个坑是按固定字符数硬切,切点正好落在一句话中间。模型拿到「员工因公出差产生的住宿费用,凭发票在标准内据实报销,超出部分」就断了,它要么答一半,要么自己编个结尾。改法很简单:切分时优先在句号、换行、分号处断开,实在找不到再退回到字符数。
第二个坑是切片时把文档标题和层级全丢了。同一段「提交后三个工作日内完成审核」,在十个文档里长得一模一样,检索回来你分不清是采购流程还是请假流程。把文档名、章节名拼进段首,成本很低,效果立竿见影。
- 切片完一定抽样翻几段,尤其看前几页和最后一页,目录、附录、修订记录经常混进来
- 同一份文档改过切法后,把旧向量删干净再重建,别新旧混在一个库里
- 文档更新是常态,切片方案要能重跑,不要做成只能手工点一次的一次性操作
- 别在切片阶段就追求完美,先跑通检索,拿真实问题验证,再回头细调
这套东西不复杂,麻烦在于它没有标准答案,得拿自己的文档试。第一次搭 RAG 的人最容易在这卡住,不是因为难,是因为不知道卡住了该往哪看。记住那个判断顺序:先看检索命中没有,再看命中得全不全,最后才轮到模型和提示词。
下一步想看看同一份文档在不同切法下的检索效果差别,站内工具目录里有可以上传文档做切片预览的条目,配合各家模型的价格与上下文资料一起看,心里更有数。→常见问题
切片大小到底设多少合适?
没有通用数字,取决于你的文档密度和问题粒度。问细节就切小一点,问总结就留长一点。建议先按段落切,拿真实问题测一遍命中率,再上下调一档,别照搬别人的参数。
中文和英文切片方式一样吗?
不一样。中文没有空格分词,按字符数切容易断词断句,最好按标点和段落切。英文按词切相对自然,但同样要避免切在句子中间。核心是保住语义完整,不是掐字数。
切片做完还要做什么?
抽样翻十几段看有没有断句、串页、混入目录和页脚。再拿几个真实问题跑检索,确认返回的片段里确实有答案。这两步做完再谈换模型或调提示词,否则都是在错的基础上优化。