第一次接 gpt 5.2 pro api,代码能跑通不代表账算得对。很多人调完发现输出格式跑偏、同样的活花了两倍钱,回头一看都是几个默认值没动。这篇按「先改默认设置、再对齐计费口径、最后管住重试」的顺序,把该动的地方一条条列出来,也写清哪些情况不适用。
第一次接 gpt 5.2 pro api,代码能跑通,不代表账算得对。常见的情况是:输出格式跟你想要的差一截,同样的活跑两遍花的钱却翻倍,回头查半天,发现是几个默认值压根没动过。这篇按「先把默认设置改掉、再对齐计费口径、最后管住重试」的顺序,把该动的地方一条条列出来,顺手写清哪些情况其实不用这么折腾。
先说个前提:下面讲的都是「你已经拿到 key、能发请求」之后的动作,注册、鉴权、网络连通这些不在这里展开。判断标准也很简单——你打开一次请求的返回,用量字段跟你预期的能对上,就说明当前配置是干净的;对不上,就顺着下面三节往下查。
先别写业务逻辑,把默认值改掉
接完 key 的第一件事不是写业务逻辑,是发一次最小请求,把返回里的用量字段和你预期对一遍。这一步花不了几分钟,但能把后面一半的坑提前暴露。temperature、最大输出长度、超时时间这三个默认值最容易埋雷,尤其是最大输出长度,你以为不填就没事,实际它可能比你想的长得多。
- 发一次最小请求,只给一句话输入,看返回的用量字段里输入、输出各占多少,记下来当作基线
- 把最大输出长度按任务实际上限填死,不要留默认;摘要类任务和生成类任务的上限本来就该不一样
- 系统提示里把输出结构写清楚:给谁看、要多长、不能出现什么,这三件事写进开头,比拿到跑偏结果再修省事
- 长上下文任务别默认开满,历史对话按需要裁掉,多塞进去的上下文会实实在在进账单
这里有个反直觉的点:temperature 调低不等于输出就稳定。如果你的提示词没交代清楚结构,温度再低也可能跑出你不想看的格式。实际用下来,先把「不能出现什么」写进系统提示,比纠结温度数值有用得多。
计费口径对不上,预估和账单永远差一截
输入、输出、缓存命中是分开计价的。很多人做预算时只按一个笼统的单价乘 token 数,结果预估和账单永远差一截。当期单价和倍率别用记忆里的数字,到站内页面核对当时的数字,页面上的口径才是你该拿来算预算的。
| 你看到的差异 | 先去哪里核对 |
|---|---|
| 预估比账单少一截 | 到 /official-api 看当期输入输出单价 |
| 输出侧花得比预期多 | 到 /tools/token-price-calculator 套实际输入输出比例 |
| 缓存相关差异对不上 | 到 /official-api/providers/openai 核对缓存命中口径 |
| 请求超时后账单还在涨 | 查重试逻辑,见下一节 |
用 /tools/token-price-calculator 把你实际的输入输出比例套进去,再跟账单对一次,看差在输入侧还是输出侧。这个动作做一次就够,之后按任务类型区分着算。另外提醒一句:流式返回被打断、请求超时后重发,都可能产生你看不到的用量,这类差异不会自己出现在对账单上,只能靠日志自己记。
重试策略没设好,钱是悄悄花掉的
重试这块最容易出问题,因为失败的任务你往往看不到结果,只看到账单在涨。一个 while 循环无脑重发,一次失败的任务重发三次,成本就是原计划的三倍,而且你很难在事后定位到是哪几次请求多花的。
- 给重试设次数上限别写死循环。上限设成两到三次,超过就记日志、走人工介入,不要让它自己一直撞。
- 加重试间隔每次重试之间退避一段时间,短间隔连续重发除了多花钱,还容易被限流。
- 按任务长度设超时超时时间按任务实际长度来,别为了保险设成几分钟。模型吐不出来的部分不会退钱。
- 中间结果落盘关键中间结果保存下来,断了从断点续,比整段重跑便宜得多,批量任务里尤其明显。
排查顺序建议这样:先看日志里有多少次重试、每次重试之间隔了多久,再看超时设置是不是明显过长,最后看有没有把已经拿到的中间结果丢掉重跑。三步走完,多数「钱悄悄花掉」的问题都能定位到具体那行配置。
这些做法什么时候不适用
上面这套不是每个场景都值得做。小规模试跑阶段,纠结缓存和上下文裁剪意义不大,先跑通再优化,一上来就做复杂的分层策略只会拖慢进度。如果你只是偶尔手动调用几次,重试和落盘那套工程化做法可以跳过,重点放在看返回里的用量字段,确认每次调用的消耗跟预期对得上就行。
还有一种情况:你的任务对延迟敏感、对成本不敏感,那超时和重试的策略要反过来设计,优先保证拿到结果,成本放到第二位。判断标准是你自己清楚这个任务一次失败值多少钱,值不值得为它加工程化手段。
先核对一遍当期数字单价和倍率会变,别拿记忆里的数字做预算。去站内官方 API 页面把当期口径对一遍,再回来调你的参数和重试策略。→常见问题
gpt 5.2 pro api 的输出格式总是不稳定,是模型的问题吗?
大多数情况不是。先把约束写进系统提示:要什么结构、字段有哪些、禁止出现什么。再把输出长度上限收紧,别放任它自由发挥。这两处改完再看结果,通常就稳了。
为什么我的账单比按 token 数算出来的高?
先分清是输入侧还是输出侧超了。输入侧多半是上下文没裁;输出侧常见于重试和流式中断。用站内的用量日志字段清单去对,能定位到具体哪一次调用异常。
这个模型的单价去哪看才不会过期?
别记数字,到 /official-api 和 /price-watch 看当期口径。中转站的价格再叠加一层倍率,两者要分开对齐,混在一起比容易得出错误结论。