deepseek v3.1 terminus 上下文

入门与上手

讲清 DeepSeek V3.1 Terminus 的上下文长度该怎么查、怎么估、怎么治理,避免长文档一塞就爆或白花额度。

你大概遇到过这种场面:手里有一份长文档,想丢给 DeepSeek V3.1 Terminus 一次读完,结果要么中途开始答得含糊,要么直接报超限。这类问题多半不是模型不行,而是上下文没算清、没管住。这篇不重复讲 Token 和上下文是什么,只给一条可执行的路线:先确认这版模型当前的上下文口径,再按输入构成估一遍占用,最后用几个治理动作把长任务拆稳。

你大概遇到过这种场面:手里有一份长文档,想丢给 DeepSeek V3.1 Terminus 一次读完,结果要么中途开始答得含糊,要么直接报超限。这类问题多半不是模型不行,而是上下文没算清、没管住。

这篇不重复讲 Token 和上下文是什么,只给一条能落地的路线:先确认当前这版模型的上下文口径,再按输入构成估一遍占用,最后用几个治理动作把长任务拆稳。全程不给固定数字,数字到站内页面核对当时的版本。

先别背数字,去站内核对当前口径

上下文长度、最大输出、是否区分输入输出上限,这三项都会随版本更新变动。别人文章里写的数字很可能已经过期,你要的是今天能用的那一套。正确做法是每次开工前花一分钟核一遍,把结果写进项目文档,而不是靠记忆。

  1. 第一步:看官方规格页到 /official-api/providers/deepseek 找这家的价格与规格页,重点看上下文长度、最大输出、输入输出是否分开限制这三项,顺手记下页面上标注的更新时间。
  2. 第二步:对模型库条目再到 /models 核对模型库里这条目的规格字段,看它写的和官方页是否一致。模型库有时更新慢半拍,字段可能还是旧值。
  3. 第三步:有冲突以官方为准两个页面对不上时,以官方规格页为准。模型库那条记录可以当作历史参考,不要拿它去顶格设计。
  4. 第四步:落到项目文档把查到的三条信息记在项目 README 或配置注释里,写明核对页面和日期,下次改需求时先看这里再动手。

一次请求到底占多少:按输入构成估一遍

很多人只算自己那段问题,忘了系统提示、历史对话和预留输出空间,结果一到线上就炸。真实的上下文占用是几块加总,哪一块被忽略,估算都会偏小。

构成块典型内容容易被忽略的点
系统提示词角色设定、输出格式约束、工具说明写得越长越挤占,且每轮都重复计一次
历史对话前几轮问答、工具调用返回只清当前问题不够,旧历史还在累积
检索片段知识库命中段落、网页正文命中条数与单条长度都要设上限
本次问题用户真正想让我做什么长贴文档时,这块可能才是大头
预留输出模型要生成的回答空间留太少会中途被截断,留太多又压缩输入余量

中文、代码、表格、JSON 的每字符 Token 比差别很大。同一段内容换个格式,估算结果能差出不少,尤其是带大量符号的代码和表格。保守做法是先估总量再乘一个安全系数,并且把预留输出空间留够,不要顶格塞满。

  • 固定不变的说明放系统提示,易变的放用户消息,方便后续只替换变动部分
  • 想省事就用 /tools/token-price-calculator 或 /tools/model-cost-calculator 走一遍,比手算稳
  • 估算口径的细节参照 /ai-dict/category/basics 里的 Token 与上下文条目
  • 每轮结束记一下实际占用,攒几次就有自己的经验值,比任何文档都准

把长任务拆稳的四个动作

治理的目标不是把窗口塞满,而是让关键信息始终待在模型注意力好的位置。下面四个动作按投入从低到高排,前两个几乎零成本,后两个要改一点流程。

分层
固定说明、格式约束、工具定义放系统提示;每次变化的内容放用户消息,改需求时只动后者
裁剪
历史对话只留与当前问题相关的几轮,其余压缩成一段短摘要带进去
外挂
资料总量远超窗口时改成先检索后拼接,只把命中的片段送进去,不整本塞
分段
长文档按章节切开,先逐段出中间结果,再用一次短请求做汇总收口

分段做的时候,中间结果要落盘存好,别只留在内存里。汇总那一步的输入就是这些中间结果加上原始问题,通常占不了多少空间,出错也容易重跑某一段而不必全量重来。

出问题的排查顺序

先分清是「超限报错」还是「没报错但答得含糊」,这两者处理方式完全不同。报错是硬约束,答得含糊往往是信息被挤在中间位置,模型注意力没抓住。

  1. 看报错类型明确超限的直接按裁剪加分段处理,把输入砍到安全线以内再试。
  2. 查信息位置没报错但答得含糊,先把关键段落挪到开头或结尾再跑一次,看结果是否改善。
  3. 量延迟基线怀疑性能问题时用 /tools/speed-test 跑一次,别把慢当成上下文问题,两件事要分开看。
  4. 横向对比上下文长度只是承载能力的一项,稳定性、并发、限速要一起看,到 /rankings 和 /sites 对一遍再决定是否换方案。

什么情况下这套思路不适用

这套思路的前提是任务可以拆、信息可以裁。有些场景不满足这个前提,硬套只会把问题搞复杂,该换方案就换方案。

  • 任务需要模型记住几十轮细节做连续推理,裁剪会丢信息,这类更适合换长上下文方案或外挂知识库
  • 输入本身就是大量图片、音频时,占用计量方式不同,得单独看多模态那条线的口径
  • 只是偶尔问一两个短问题,做估算和分层纯属浪费时间,直接问就行
  • 对延迟极度敏感且必须一次性长输入的场景,先确认当前口径是否够用,不够就别硬上
下一步把当前这版模型的上下文口径、最大输出和是否分输入输出三项查清楚,再回来设计你的输入结构。

常见问题

DeepSeek V3.1 Terminus 的上下文到底有多长?

这个数字会随版本和上线口径变,本文不写死。去站内 /official-api/providers/deepseek 看规格,再和 /models 里的条目对一下,两处一致就以官方规格页为准,记进自己的项目文档。

为什么我明明没到上限,模型还是答得含糊?

多半不是长度超了,而是关键信息被夹在长文本中间。把最要紧的那段挪到开头或结尾,或者先让模型复述一遍要点再提问,通常能改善。也别忘了确认你实际发出去的文本是不是比你以为的长。

长文档处理,该选长上下文还是做检索?

看资料规模和复用频率。一次性读完一份文档,直接塞进去更省事;同一批资料要反复问、还要更新,就搭检索,只把命中的片段送进窗口。两者也能混用,先用检索缩小范围,再把结果交给长上下文模型。具体取舍到 /tools 里先估一遍用量再定。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。