大模型 api token教程:第一次接最容易卡在这三处

成本与用量

从申请 key 到看懂第一笔账单,把大模型 API 的 token 链路走一遍,给出每一步该看哪页、哪一步最容易返工。

很多人第一次接大模型 API,代码跑通了,账单却看不懂:明明只发了一句话,怎么扣的钱比预期多。问题通常不在模型选错,在于没搞清 token 从哪来、算到哪、在哪一页核对。这篇按实际接入顺序走一遍,每一步都标出该去站内哪一页对数字,以及什么情况下这套流程不适用。

很多人第一次接大模型 API,代码跑通了,账单却看不懂:明明只发了一句话,扣的钱比预期多。问题通常不在模型选错,在于没搞清 token 从哪来、算到哪、在哪一页核对。这篇按实际接入顺序走一遍,每一步都标出该去站内哪一页对数字。

先说清楚适用范围:下面这套走的是「文本类接口、按 token 计费」的链路。如果你接的是图像、语音、视频,或者只是月底瞟一眼总额的小脚本,后面有专门一节说明为什么不适用,别硬套。

动手前先把三个概念分开放

第一次接最容易犯的错,是把 token 当成字数。它其实是切分单位,中文一个字经常占不止一个 token,标点、空格、换行也各算各的。与其背换算系数,不如拿你自己的真实句子去试:到 /tools/token-price-calculator 粘一句你业务里最常见的话,看它切出多少,比看任何教程都直观。

第二个容易混的是三件事:上下文窗口、单次输出上限、账户额度。窗口是模型一次能看多少,输出上限是这次最多吐多少,额度是你账上还剩多少。报错时先分清是哪一类,把「超长」误判成「欠费」然后去充值,是新手最常见的白跑一趟。

token
模型处理文本的切分单位,不是字数也不是字节,具体换算用站内计算器实测
上下文窗口
单次请求里输入加输出能容纳的总量上限,超了直接报错
单次输出上限
这一次调用最多生成多少,和窗口不是同一个数
计费方式
按量计费和订阅额度是两本账,订阅侧的口径去 /coding-plans 看

还有一件事得提前定:你到底走按量计费,还是用订阅里带的额度。这两者的账本不在同一页,混着看会一直对不上。订阅相关的规则在 /coding-plans,先确认自己属于哪一类再往下走。

第一通请求要盯的不是结果,是返回里的用量

代码刚跑通的时候,人的注意力全在「输出对不对」。但这时候更该看的是返回结构里的用量字段——通常分输入和输出两块。建议第一版请求别急着加温度、系统提示、few-shot 这些花活,参数越多,出问题时越难判断钱花在哪一段。

  1. 发最朴素的请求只带模型名和一句用户消息,跑通,确认返回正常
  2. 把用量抄进表从返回里取出输入、输出两个用量数字,记到一张两列表里,标上这次请求的用途
  3. 跑三次同类任务同样的话发三遍,看用量是否稳定。波动大说明你的提示词里有随机成分,后面算成本会失真
  4. 量一次延迟基线顺手到 /tools/speed-test 跑一次,记下当时的结果,以后判断「是慢还是卡住」就有参照

这里有个常见误判:有人看到输出用量比输入小很多,就以为计费算错了。其实输出上限和实际输出是两回事,前者是天花板,后者是这次真吐了多少。真要核对,用上面那张表,别靠感觉。

账单对不上,八成是缓存和倍率在中间改了数

代码没问题、用量也记了,账单还是对不上,通常卡在两个地方。第一个是缓存:命中缓存和未命中的单价不一样,如果你的系统提示是一大段固定文字、每次请求都原样带上,那命中与否的差别会很明显。这块的口径细节去 /ai-dict/category/basics 对照,别拿自己的理解硬套。

第二个是走中转站时的倍率系数。你付的钱是官方单价乘上对方标的倍率,所以拿官方单价直接和中转账单比,永远比不平。中转站的可信度和计费口径可以到 /sites 翻对应条目,价格波动则看 /price-watch 的追踪记录。

核对顺序看什么看错会怎样
第一步用量日志的请求条数条数对不上,后面单价算得再细也没用
第二步输入与输出是否分开计拆错会误以为某一段特别贵
第三步有没有缓存命中标记忽略缓存,长提示词场景会一直对不平
第四步中转倍率是否已乘进去拿官方价直比,差距看着像被多收

顺序别反。我见过有人一上来就抠单价,来回改参数,最后发现是日志里多了几条测试请求。先把条数和拆分对齐,再谈单价,绕的圈会少很多。具体数字到上面几个页面按当时的口径核对,这里不写死。

这套流程什么时候不适用

先说清楚,别把 token 链路当成万能钥匙。做图像、语音、视频这类按张、按秒计费的接口,token 这套基本用不上,计费单位根本不同。这类去 /official-api 看对应厂商标的计费单位,按那个单位建你的核对表。

  • 按张按秒计费的接口:token 链路不适用,去 /official-api 看计费单位
  • 团队多人共用一个 key:个人那套核对方法会失效,得先做用量归属再谈省钱
  • 一次性小脚本、用量极低:花时间搭核对表不如直接看月末总数
  • 纯订阅额度场景:账本在 /coding-plans,不要拿按量那套表去对

多人共用 key 这条值得多说一句。一个 key 下所有请求混在一起,你没法分清是谁花的,这时候先做归属——给每人单独发 key,或者至少在日志里打上调用方标识——否则后面所有成本分析都是糊涂账。

先分清是哪本账,再谈哪一步贵。顺序错了,努力全打在空气上。
下一步把你要接的那家厂商和中转站先在站内对上号,再去试算和核对,比直接开写代码省返工。

常见问题

token 和字数到底是什么关系,能不能直接换算?

不能固定换算。中文、英文、标点、代码符号的切分密度都不一样,同一段话不同模型的切法也可能有差别。想估个大概,拿你自己最常发的那段文本去站内换算工具跑一遍,比背一个系数靠谱。

代码跑通了但返回报额度不足,是先充值还是先查?

先查。额度不足可能是余额见底、单 key 限额、并发被限三种情况,处理方式完全不同。先看控制台的用量与限额页,确认是哪一项卡住,再决定充不充,盲目充值经常解决不了限速问题。

为什么同样一段提示词,两次调用花的钱不一样?

常见原因是缓存有没有命中、输出长度不同、或者中途改过参数。把两次请求的输入输出用量字段摆在一起看,差异通常立刻就能定位,凭感觉猜很容易归错因。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。