很多人第一次用API,输入框里粘几千字,以为按字数算钱,结果账单对不上;或者聊到一半模型开始失忆,以为是模型不行。这类问题多半出在Token的计数口径和计费位置上。这篇不重复Token是什么,只讲你在实际使用中要盯住的几个点:哪些东西会被算进去、哪些参数会悄悄放大用量、什么情况下这套判断不适用。
第一次用 API 的人算错账,通常不是数学差,而是把「字数」和「Token」当成了一回事。往输入框里粘几千字,心里估摸着按字数除一除,出账单却发现对不上。另一头的问题是聊到一半模型开始失忆,把前面的要求忘了,还以为是模型不行。这两件事根子都在 Token 的计数口径和它被花在哪儿。
这篇不解释 Token 是什么,只讲实际用起来要盯住的几个点:你数的到底是什么、哪些参数和调用方式在悄悄放大用量、上下文卡住时怎么判断、账单对不上从哪查起。最后会给一张上手前的对照清单,照着过一遍能省不少返工。
先分清你数的到底是什么:字数、Token还是账单
最常踩的坑是拿字数除以一个固定系数去估。中文在不同模型里的切法不一样,同一个句子切出来的数量能差出一截,你用的那个系数多半是从某篇文章里抄来的,跟你实际调的模型未必对得上。估一次两次还行,量大起来误差会累积,最后就是你看着账单发愣。
图片、PDF、音频这类东西更要注意,它们不是按「一个文件」计价。文件进模型之前会先被切成若干片段,页数多、分辨率高,吃的量就大。有人传一份几十页的 PDF 问问题,文字部分只占小头,真正的大头在那些被切开的页面里。
- 对账时先看账单上的输入和输出两栏,分开看,别混着算
- 再把你这侧实际提交的内容摊开,逐项对上,不要拿字数当依据
- 估数量时用你实际要调的那个模型去试一段真实内容,而不是套通用系数
- 附件类的输入单独记一笔,别和纯文本混在一个估算里
用量悄悄变大的几个地方,参数和调用方式都算
输出长度上限这个参数,设大了本身不直接扣钱,但它决定了单次回复最长能到哪儿。写代码的时候图省事,把上限写成一个很大的数当默认值,平时没事,一旦模型话多起来,输出那栏就往上走。这事儿麻烦在于你不看账单根本感觉不到。
多轮对话是另一个大头。每一轮请求都要把之前的历史重新发一遍,聊得越久,单次请求的输入越大。有人一个会话开一整天,前面几十轮的内容每轮都在重复付费,自己还觉得「就问了一句话」。实际用下来,这是新手最常忽略的一笔。
还有系统提示、模板前缀、工具调用的返回内容,这些全都算输入。一个看起来只有一句话的请求,外面裹着系统指令、格式模板、几个工具的返回结果,实际喂进去的可能多出好几倍。排查用量的时候,先把请求的实际组成打出来看一眼,比猜有用。
| 容易漏的地方 | 为什么会放大用量 | 上手时怎么处理 |
|---|---|---|
| 输出上限设得过大 | 不直接扣钱,但放开了单次回复的长度空间 | 按实际需要的长度设,别拿一个大数当默认 |
| 多轮会话历史 | 每轮重发一遍,越聊越大 | 不必要的历史定期清掉,或只带最近几轮 |
| 系统提示与模板 | 全是输入,短请求背后可能裹着一大坨 | 把模板精简,别什么都往系统提示里塞 |
| 工具返回内容 | 返回的原文也进上下文算输入 | 返回前先截断或摘要,别原样全塞回去 |
Token和上下文不是一回事,但卡住的时候往往是同一个原因
上下文窗口是容量上限,Token 是计量单位,两个东西不能互相换算成一个数。很多人卡住的时候第一反应是「模型不行了要换」,其实多数情况是这次请求的输入加上预期输出超了窗口。判断标准很简单:把这次要发的内容和你要它回的长度加起来,跟窗口比,而不是看你历史总共聊了多少字。
逼近上限时也不一定要换更贵的模型。先砍重复的历史、去掉跟当前问题无关的附件、把长文档换成摘要,往往比换模型划算。换模型解决的是能力问题,砍内容解决的是容量问题,这两件事别混。
上手前先估一遍:三步走的粗算顺序
- 定输入把实际要发的文本、附件、历史条数摊开,按最坏情况估,附件单独列一行
- 定输出按你要求的长度和格式估,JSON 和表格通常比自由文本长,别按短回复估
- 乘单价核对拿当时的单价去站内价格页核对,不要在脑子里用旧数字算,各模型的单价会变
这三步不需要多精确,目的是让你在动手前知道钱大概花在哪儿。估算的意义不在准,在于发现「原来大头在这儿」。
账单对不上时的排查顺序
对不上先别急着怀疑平台。第一步确认是不是多轮累积,把一次会话里的单轮请求单独拎出来看,输入量是不是比你想的大一截。第二步看附件和图片,文字部分可能只占小头,大头在被切开的文件里。第三步看输出长度,是不是你要求的格式把回复撑长了,比如逐条展开、带解释、带示例。
还有一个容易漏的点:中转站的计价倍率和官方口径可能不同。比价要在同一口径下进行,否则你拿官方的单价去算中转站的账,怎么算都对不上。倍数和规则去站内对应页面看当时写的是什么,别凭印象。
下一步想核对你正在用的模型单价和计费口径,去价格追踪页看当时的数字,比在记忆里翻旧价格靠谱。→哪些情况下这套判断不适用
走订阅套餐或额度包的时候,你看的不是 Token 单价,而是额度怎么折算成可用量,规则得去套餐页看当时的口径。本地部署的模型没有按量账单,这时候该算的是显存占用和推理速度,不是钱。这两种场景硬套上面的估法,只会白费功夫。
还有一种情况:你只是偶尔问几句、量很小,那没必要把上面的流程全走一遍,直接跑起来看账单更省事。这套判断适合量上来之后、或者你准备把调用写进产品里的时候用。
一张上手前的对照清单
- 内容里有没有图片、PDF、音频这类会被切片的输入,有就单独估
- 是不是多轮长会话,历史有没有必要每轮都带上
- 输出格式会不会把回复撑长,JSON、表格、逐条展开都要按长的估
- 系统提示和模板有没有塞进太多用不上的东西
- 单价和倍率是在站内哪一页核对的,记下来,下次直接复用
- 这套判断适不适用你当前的场景,走套餐还是按量,先分清
清单不长,但每一条背后都是一次账单上的意外。第一次用 API 的人把它过一遍,基本能避开大部分「明明没问几句怎么花了这么多」的情况。剩下的,交给实际跑起来之后的账单去校正,比事前算到小数点后两位有用得多。
常见问题
为什么我按字数估的Token和账单差很多?
中文在不同模型里的切分粒度不同,拿一个固定系数换算必然有偏差;再加上系统提示、历史消息、附件切片都会计入输入,估出来的数通常比实际小。想估得准,用站内的换算工具按具体模型试一遍,再对照价格页当时的单价。
多轮对话是不是每一轮都重新扣一次钱?
是,每一轮请求都要把历史内容作为输入重新提交,所以聊得越久单次输入越大。控制办法是定期开新会话、把结论摘要成一段再带过去,而不是把整段历史一直挂着。
上下文窗口大是不是就不用心疼Token了?
两件事。窗口大只代表一次能塞进去,不代表便宜,塞得越多输入扣得越多;而且大窗口下长输入的单价规则可能和短输入不同。先看窗口够不够,再看这一轮划不划算。
图片和PDF到底怎么算Token?
不是按文件个数算,而是先转成文本或视觉切片再计数,页数、分辨率、是否OCR都会影响结果。同样一份文档,转成纯文字发和直接传原文件,消耗可能差不少,批量处理前先拿一份试算。
用中转站的时候,Token注意事项和官方一样吗?
多数注意事项一样,但计价倍率和计费口径要以中转站页面为准,和官方单价直接比容易得出错误结论。比价时把倍率、最低消费、是否计缓存这些条件摆在同一张表上再看。