你在做长文档摘要、整本资料问答或者一次塞进大量代码的时候,容易碰上「前面说的它记不住」「塞到一半开始丢内容」这类情况。这篇不背数字,只给一套查证和估算的路子:窗口到底多大去哪核对、什么任务会先撞上限、撞上限前该拆还是该换,最后附一份上手前的自查清单。
你在做长文档摘要、整本资料问答,或者一次把好几个代码文件塞进 prompt 的时候,大概都碰到过这种情况:开头跟它说过的那条设定,聊到后面它就不认了;或者一份不短的资料喂进去,回答里明显漏掉中间几段。这类问题很多时候不是模型「变笨」,而是上下文窗口这条线被碰到了,或者还没碰到但已经很贴边。
这篇不打算给你一个数字让你背,数字会随版本和接入渠道变,背了也很快过期。重点讲三件事:窗口该去哪核对、哪些长文本任务会先撞上限、以及撞上限之前你怎么估算和拆分。理清这套判断方式,比记住某个数有用得多。
窗口大小别背数字,去这几处核对
上下文长度这类规格会随模型版本、接入渠道、计费口径变动,任何写死在文章里的数字都可能已经不对。正确做法是看站内模型库页面当时展示的规格,再对照接口文档里的限制说明。两者不一致时,以你实际调用的那个渠道为准。
- 最大窗口:一次请求里输入加输出总共能占多少,这是最上层的天花板。
- 单次输出上限:就算窗口很大,一次能吐出来的回答也有单独限制,做长输出任务要单独确认。
- 超限行为:超出后是直接报错,还是悄悄截断前面或中间的内容,这个差别极大,必须自己测一次。
- 计费口径:输入和输出怎么算、长输入有没有加成,同样以你所用渠道的页面为准。
长文本任务里,窗口大小到底影响什么
先把两个概念分开:窗口决定「一次能看多少」,不决定「看得多准」。内容即便全塞进去了,模型也可能对中间段落注意力偏弱,这是长上下文里的常见现象,跟窗口够不够大是两码事。所以别以为窗口大就万事大吉。
| 任务类型 | 对窗口的敏感度 | 主要风险 |
|---|---|---|
| 整本文档问答 | 高 | 中间段落被忽略,答案只覆盖首尾 |
| 跨文件代码改动 | 高 | 文件顺序和位置影响引用准确性 |
| 多轮长对话 | 中高 | 早期设定随轮次增加逐渐失效 |
| 单轮短问答 | 低 | 基本碰不到上限,不用特别处理 |
还有一点常被忽略:窗口够用不等于划算。长输入按 token 计费,把整本资料一次塞满,可能比拆成几次、每次只带相关片段更贵。真要算成本,去站内的价格追踪页面核对当时的数字,别凭印象估。
发请求前,先估一遍占了多少
养成发请求前先估算的习惯,能省掉不少撞墙返工。核心是两件事:折算 token 量,以及给输出留余地。下面这套顺序可以照着走。
- 折算输入量把文档页数、代码行数按经验折成 token。中文和代码的信息密度不一样,别用同一个系数硬套,分开估更靠谱。
- 预留输出空间输入占满窗口,模型就没地方写回答了。常见做法是让输入别超过窗口的七八成,剩下的留给输出和推理过程。
- 小样本试跑拿不准就先发一小段,观察返回里有没有截断提示或报错,再决定要不要拆、怎么拆。
- 记录实际占比跑几次后把「页数—token」的对应关系记下来,下次同类任务直接复用,不用每次重新猜。
撞上限怎么办:拆、换、还是改流程
确认内容超限之后,有三条路可选,优先级一般是先拆、再换、最后改需求。判断依据是任务本身要不要全局视野。
- 按结构拆
- 按章节、文件、对话轮次切分,再用摘要把片段串起来,适合内容本身有清晰边界的场景。
- 改成检索
- 拆不动就把长材料做成检索库,用 RAG 按需取片段,适合文档量大但每次只问一小块的情况。
- 换窗口更大的模型
- 任务非要通读全局才能下判断时,先确认目标模型窗口够不够,不够就换,别硬塞。
- 改需求
- 有时候是需求本身可以缩小,比如从「通读整本再总结」改成「按章节分别总结再合并」。
什么情况下这套不适用?如果你的任务本身就是短问答、每次只带几百字上下文,那窗口这条线你根本碰不到,上面这些估算和拆分都是多余的,别为了流程而流程。
上手前的自查清单
把前面几节收敛成一张能直接对照的清单,跑长文本任务之前过一遍,能挡掉大部分「塞到一半开始丢内容」的问题。
- 确认当前用的是哪个接入渠道,窗口口径以该渠道的页面为准,别混用。
- 估算输入占窗口的比例,尽量控制在七八成以内,给输出留空间。
- 提前准备好拆分或检索方案,别等报错才临时想。
- 长任务先跑一次小样本,验证不丢内容再放量。
- 摸不清窗口和费用时,去站内模型库和价格追踪页面核对当时的数据。
窗口决定一次能看多少,拆不拆决定你能不能一直看对。下一步想核对 minimax-m2.7 当前标称的上下文长度、输出上限和计费口径,去站内模型库和价格追踪页面看当时显示的规格,别用文章里的旧数字做决定。→
常见问题
minimax-m2.7 的上下文窗口到底是多少?
这类数字会随版本和接入渠道变,不适合写死。直接到站内模型库页面看该模型当时的规格,或者到 MiniMax 官方接口页面核对标称值;如果你走的是中转站,还要以那家页面标注的为准。
窗口大就能一次塞进整本书吗?
不一定。窗口大只代表放得下,中间内容被忽略、计费变高、输出空间被挤掉都是常见问题。整本书更适合先做检索库再按需取片段,硬塞只在任务明确要求全局通读时才考虑。
任务跑到一半它开始忘前面的内容,是窗口不够吗?
有可能,但不全是。先看是不是已经接近窗口上限被截断,再排查是不是多轮对话里旧内容被挤掉。把长材料挪出对话、改成按需检索,通常比单纯换更大窗口更管用。