你大概遇过这种情况:一份长文档、一段长代码或者一圈长对话,塞进 DeepSeek 之后它开始丢前面的内容,或者干脆报超限。这篇不讲原理,只讲怎么绕:什么时候该分块、什么时候该摘要、什么时候该上检索,以及每种做法的代价和失效场景。看完你能按任务类型直接挑一套方案落地。
你大概遇过这种情况:一份长文档、一段长代码或者一圈长对话,塞进 DeepSeek 之后它开始丢前面的内容,或者干脆报超限。这篇不讲原理,只讲怎么绕:什么时候该分块、什么时候该摘要、什么时候该上检索,以及每种做法的代价和失效场景。
把思路先摆正:所谓「增加上下文限制」,大部分时候不是真去改模型的窗口,而是让有限窗口里装的东西更有用。你要做的是把长任务拆开、把无关内容踢出去、把需要的内容按需取回来。看完你能按任务类型直接挑一套方案落地。
先判断你是真超限,还是用法出了问题
先分清两种卡法。一种是请求直接被打回,报错那种,属于硬超限;另一种是请求过了,但模型开始忘事、答案变糊、前后矛盾,这种往往是有效上下文被无效内容挤占了——窗口没满,但有用的东西被淹了。两种问题的药方完全不同,别一上来就想着换模型。
- 历史对话是不是每轮全量重发:多轮里最贵的浪费就是把整段历史反复塞进去,其实只需要最近若干轮加一份滚动摘要
- 系统提示词是不是塞了一堆用不上的说明:长系统提示每轮都占额度,砍到只留真正约束行为的几条
- 有没有把整份文件原样贴进去:大部分场景你只需要其中几段,全贴等于花钱买噪声
- 同一段内容是不是重复发送:模板、示例、规则如果每轮都带,先想办法挪到只发一次的位置
- 判断口径和具体数字到站内 /ai-dict/category/basics 和 /models 对照,别凭记忆估
分块:把长材料切成能独立看懂的小块
分块的核心不是切得小,而是切完之后每一块脱离上下文也能被看懂。按语义切,不按字数切:段落、函数、章节标题天然就是边界,硬切到一半的句子最容易让模型答歪。切完给块做标记,后面无论是顺序处理还是走检索都用得上。
- 找边界先看材料本身的结构,标题、空行、函数定义、表格起止都是好切口;没有结构就按话题切换点切。
- 加头部每块开头补一句来源文件、所属章节、这块讲什么。模型看不到邻居时,全靠这句定位。
- 留重叠块与块之间留一点重叠,防止答案刚好落在切口上;代码和表格要比散文留得多,散文少留点没关系。
- 验一遍随便挑三个块,只看块内容问自己:能不能回答基于这块的问题?答不上来说明切口选错了。
适用范围有限:需要全局比对、跨章节推理的任务,比如找两份文档的矛盾点,靠纯分块做不好,这类要往检索或摘要走。判断标准很简单——如果答案依赖「A 和 B 在哪不一致」,那一块里只有 A 就没法办。
摘要:用滚动摘要换对话长度
做法不复杂:老的内容先压成摘要,新的保留原文,每轮把摘要加固定几条近期原文一起发出去。这样历史再长,进入窗口的也是固定体积。多轮问答、逐步推进的任务都适合,尤其是那种聊了几十轮还不想丢前面结论的场景。
| 保留什么 | 丢掉什么 | 为什么 |
|---|---|---|
| 事实、数字、约定、结论 | 寒暄、过程讨论、试错记录 | 这些是后续推理真正要用的 |
| 用户明确说过的偏好 | 重复确认过的内容 | 重复内容压缩后只留一份 |
| 已生成的代码或结构 | 中间的临时草稿 | 成品要留,过程不必留 |
摘要最大的风险是摘错,而且会一路错下去。要求逐字引用、精确复现原文的任务,摘要会破坏证据链,这类宁可分批处理也别压缩。长任务里建议每个阶段结束就固化一次摘要并落盘,下次直接从摘要起,不用重跑前文。
- 摘要要能回答「这个任务是什么、做到哪了、有什么约束」,答不全说明摘丢了关键信息
- 每轮只追加新内容到摘要,别整段重写,重写容易越改越偏
- 定期抽一个问题,用摘要单独回答,看结论和原文是否一致,不一致就是摘要出问题了
检索:让模型按需去取,而不是一次全给
把材料切块后做嵌入存起来,提问时先召回最相关的几块再拼进提示词。这是目前处理大知识库最省的做法,因为每次进入窗口的只有真正相关的那几块,而不是全库。适合问答、查资料、查代码片段这类反复查询的场景。
- 召回
- 根据问题从块库里挑出可能相关的那几块,挑不准后面全白搭。
- 重排
- 对召回的块再排一次序,把最该看的放前面,能明显改善答案质量。
- 引用
- 让模型回答时标明用了哪块,方便你判断它是不是在编。
检索质量决定上限,召回不准的时候模型答得再顺也是错的。所以先单独验证召回环节,再谈回答效果——随手拿几个真实问题,看召回的块里到底有没有答案。要求通读全文再整体改写的任务不适合检索,那种还是得分批加汇总。站内 /embeddings 和 /stacks/vector-dbs 可以先看模型和库的选型口径,别一上来就自己造轮子。
怎么选,以及做完怎么验收
三条路不是互斥的,按任务类型挑,也可以叠。一次性的长文处理用分块加汇总,长对话用滚动摘要,反复查询的知识库用检索。落地顺序建议是:先砍无效内容,再上分块,还不行才加检索;每加一层复杂度都要有明确收益,否则就是给自己挖坑。
| 任务类型 | 优先方案 | 什么情况下不适用 |
|---|---|---|
| 一次性长文处理 | 分块加汇总 | 要求全局比对矛盾点时不够用 |
| 多轮长对话 | 滚动摘要 | 要求逐字引用时不能用 |
| 反复查询的知识库 | 检索加引用 | 需要通读全文整体改写时不适合 |
| 要求逐字精确的长任务 | 换方案或分批人工核对 | 硬撑任何压缩手段都会丢证据 |
验收看三个指标:答案里关键事实有没有漏、同一个问题多问几次是否稳定、用量有没有真的降下来。用量有没有真降,到 /price-watch 看当时的消耗记录最直接,别凭感觉。三个指标有两个不达标,说明这套方案没吃透任务,回去调切口或召回。
下一步想先确认你手里这套 DeepSeek 的窗口口径和实际消耗,去站内对照当时的数据再决定要不要拆任务。→常见问题
把提示词写长一点,能不能变相突破 DeepSeek 的上下文限制?
不能。提示词变长只会占用更多窗口,可用空间反而更少。真正能省空间的是删掉无效内容、压缩历史对话、按需检索,而不是往提示词里堆字。如果只是想让模型记住规矩,把规矩写短写准,比写长有用得多。
分块、摘要、检索这三个,只做一个的话选哪个?
看场景。单次处理一份长文档,分块最简单、见效最快,但需要全局对比时会吃亏。多轮长对话选滚动摘要,代价是摘要出错会累积。要反复查同一批资料,就上检索,前期搭起来麻烦但后面最省。一次只加一层,效果不够再加下一层。
做完这些之后,怎么知道是真的没超限,还是只是模型没报错?
看行为不看报错。挑几个只有靠前文才能答对的问题去问,答得出来说明前文真的进了有效窗口;答不出或答得含糊,就是被挤掉了。另外对比一下改造前后的用量和延迟,如果没降,说明改动没起作用,得回头检查是不是还在全量重发。