上下文长度1m是什么意思

入门与上手

把「上下文长度 1m」翻译成人话:一百万 token 到底能塞进多少字、多少页、多少代码,以及什么时候这个数字根本用不上。

很多人第一次看到模型标着「上下文长度 1m」,第一反应是「那我能把整本书丢进去」。真上手才发现:传进去的东西没处理完、答到一半开始忘开头、费用也比想象中高。这篇不解释架构,只做一件事——把 100 万 token 换算成你手边的材料,再告诉你哪些场景别指望它。具体参数和单价去站内对应页面核对当时的数字。

很多人第一次看到模型标着「上下文长度 1m」,第一反应是「那我能把整本书丢进去」。真上手才发现:传进去的东西没处理完、答到一半开始忘开头、费用也比想象中高。这篇不解释架构,只做一件事——把 100 万 token 换算成你手边的材料,再告诉你哪些场景别指望它。

先纠正一个常见误会:1m 是能力上限的标称值,不是「你每次都能用满」的承诺。实际能用多少,取决于平台单次请求的体积限制、文件解析方式、以及你提问的方式。具体参数和单价去站内对应页面核对当时的数字,本文只给判断标准和动作顺序。

先把「1m」这个单位说清楚

1m 指的是 100 万 token,不是 100 万个字、也不是 100 万次对话。token 和汉字、英文单词的换算比例不一样,中文里一个常用字大致对应一到两个 token,别拿字数直接等号。换算方法、中文和英文的差异、图片和 PDF 怎么折算,站内 token-count-estimation 那篇讲得比较细,这里不重复。

更关键的是口径:上下文长度是「一次性装进去的总量」,你的提问、附件、历史对话、模型自己写出来的答案,全都从这个额度里扣,不是只算你粘贴的那一段。所以一个 100 万 token 的窗口,扣掉模型长回答和历史消息之后,留给材料的实际空间可能明显缩水。

标称长度
模型宣传里写的上限,通常指单次请求能承载的总 token 数,口径各家可能不同
实际可用空间
标称长度减去你的提问、历史对话、模型输出预留之后的余量
输入输出合计口径
有的厂商把输入和输出加在一起算,有的分开算,选型前要确认清楚

不同厂商对「长度」的口径可能不同:有的按输入算,有的输入输出合计算。选型前先去 /models 看它标注的口径,再去 /official-api 对一遍规格,别只看宣传页的大字。

100 万 token 大概能装下什么

用日常素材的量级去感受:一整本长篇小说、几十份百页级报告、一个中等规模代码仓库的主要文件,量级上是有机会一次性放进去的。但具体多少要看你材料的实际 token 数,别凭页数猜——同样一百页,纯文字和满是表格的 PDF,token 数能差出好几倍。

材料类型量级直觉主要变数
长篇小说一本到几本排版、注释、章节标题
百页级报告几十份表格、图注、页眉页脚
代码仓库中等规模主要文件注释密度、重复样板代码
聊天记录很多轮对话时间戳、表情、系统消息

想知道自己的文件到底占多少,先把待处理内容丢进 /tools/token-price-calculator 或 /tools/model-cost-calculator 跑一遍,比拍脑袋准得多。这两个工具也能顺带看到按你实际用量估算出的花费区间。

能不能真的装进去,还要看两个隐形门槛:单次请求的体积上限,以及平台是否支持文件上传形式的解析。光有长度不够——有的接口对单文件大小、文件数量另有约束,超了直接报错。这类限制去 /official-api 的规格说明里核对当时的数字。

什么时候 100 万 token 帮不上忙

材料里有大量表格、扫描件、图注,或者需要精确引用页码时,长上下文不保证「读得准」。模型塞得进去,不等于找得出来、引得住。这种情况该做检索还是做检索,思路见站内 rag-one-sentence-guide,别指望把整库倒进去就万事大吉。

  • 只问一个小问题却塞进整库材料,等于用大炮打蚊子:慢、贵、还容易被无关内容带偏;判断标准是「有效信息占比」,低于一两成时优先切片或先摘要再问
  • 任务需要跨很多轮不断回头改,聊长了照样会丢前面的细节;这时该做的是把结论沉淀成文档再开新一轮,机制层面的原因见 context-window-management
  • 材料里有强结构(表格、表单、代码缩进)时,塞进去不如切成块逐段处理,再让模型汇总
  • 同一个问题在超长材料和精简材料下答案可能不一致,重要结论建议做一次对照,方法可参考站内讲输出稳定性的既有文章
  • 需要严格引用出处、页码、条款号的场景,长上下文单独用不够,要配合检索或人工校对

长度大不等于质量高。同一个问题,超长材料和精简材料给出的答案可能不一致,尤其是需要精确引用的场景。重要结论别只看一次输出,做一次对照更稳妥,方法可参考站内讲输出稳定性的既有文章。

上手前的四步动作

  1. 算清楚把你的材料复制到本地工具或 /tools/token-price-calculator 量一遍 token,得到真实数字再决定要不要用长上下文路线。验证方式:数字和你的页数直觉差出好几倍就说明该重新评估。
  2. 选对口径到 /models 和 /official-api 比一下标注的长度、是否支持文件上传、以及超出后的行为是报错还是截断。验证方式:拿一份略超标的材料试一次,看返回的是错误还是残缺答案。
  3. 先切后塞把材料按章节或主题切块,先让模型做一次结构化摘要,再带着摘要问问题,通常比一次性全塞更省更准。验证方式:同样的问题分别用「全塞」和「先摘要」跑一遍,比较答案一致性和响应时间。
  4. 留后路把关键结论当场抄下来存到自己的文档里,别指望下一次对话还能原样复现。验证方式:换一个模型或换一个中转站再问同样的问题,看结论是否稳定;到 /price-watch 核对当时的单价变化,评估成本。

这四步里最容易被跳过的是第一步。很多人凭「一本书大概多少字」估算,结果实际 token 数远超预期,请求直接被截断,还以为是模型不行。先量再决定,能省掉大部分返工。

下一步把你的典型材料丢进站内计算器量一遍 token,再对照模型规格页确认口径和上限,心里就有数了。

常见问题

1m 上下文是不是就等于能记住 100 万个字?

不是。1m 指 100 万 token,中文里一个字通常要占一到两个 token,所以实际能装的中文字数往往明显少于 100 万。而且提问、附件、模型回答都算在同一个额度里,装进去和「记住」也不是一回事,长材料里靠后的细节依然可能被忽略。

我是不是应该优先挑上下文最长的模型?

不一定。要看你的任务里有效信息有多密:如果只是问一个小问题,长上下文意味着更慢更贵,还容易被无关内容干扰;只有当材料本身确实需要整体对照、跨章节推理时,长度才是关键优势,否则切片加检索往往更划算。

同样的材料,为什么两次回答不一样?

长材料会稀释注意力,模型每次挑重点的侧重点会浮动,输出本来就不是完全确定的。想稳定一点,就把材料切小、把要求写死(比如指定输出格式和引用范围),重要结论再手动核对一遍,别把一次输出当成定论。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。