很多人第一次看账单会懵:明明对话量没涨,钱却多了一截。或者反过来,觉得 Embedding 便宜就使劲灌,结果向量库那头在偷偷涨。这两类模型的计费单位根本不是一回事,混在一起看就永远算不清。下面把两套口径拆开讲,给一份能直接照着对的清单。
很多人第一次看大模型账单会懵:对话量没涨,钱却多了一截;或者觉得 Embedding 便宜就放开灌,结果向量库那头在悄悄涨。问题不在用量失控,在于这两类模型压根不是一本账。计费单位、计费方向、统计口径都不一样,混在一起看,怎么对都对不上。
下面把两套口径拆开讲,给一份能直接照着对的清单。核心就一句:对话模型按输入输出双向收,Embedding 只按输入收,产出不是文字而是一段向量。先把这条钉住,后面的账才谈得上算。
先分清两套计价单位,不然永远对不上账
对话模型是双轨的:你发过去的内容算输入,模型吐回来的算输出,两边单价不同,通常输出那头更贵。所以同一句话问三遍和答三遍,不是一笔钱。很多人估成本只算提问量,最后被输出侧超了。这个习惯得改。
Embedding 是单轨的:只按输入计费,没有输出概念,返回的是一串向量。它按条数和字符折算,单价看着低,但一条长文档切出来可能是几十上百条,条数一多总价就上来了。低单价不等于低总价,这是最常见的误判。
| 对比项 | 对话大模型 | Embedding 模型 |
|---|---|---|
| 计费方向 | 输入 + 输出,双向计费 | 只算输入,无输出计费 |
| 计量单位 | 按 token 分别计输入、输出 | 按条数或字符折算,看平台口径 |
| 产出物 | 文本回复 | 一段向量,用于检索和比对 |
| 容易失控的点 | 历史上下文越堆越长 | 文档改版后全量重跑 |
判断自己该按哪类看账单,三步就够
- 先看接口占比翻调用日志,看 chat/completions 和 embeddings 哪个占大头。比例搞反了,后面分析全跑偏。日志里没有分接口统计的,先补上。
- 再看单次输入长度长文档切块灌库的那类,单价低但条数密,很容易在总价上反超对话调用。按真实输入长度估,别拿平均值糊弄自己。
- 最后查重复调用同一段文本反复 embed 是纯浪费。向量存一次就够,除非内容变了。查一下有没有对没改动的文档反复重跑。
这三步的顺序不能换。先定接口占比,才有分析对象;再看长度,才知道量从哪来;最后查重复,才是省钱动作。跳过前两步直接去优化,往往是优化了个寂寞。
账单突然变高的几个常见出处
- 知识库重建:文档改一版就全量重 embedding,条数翻倍没人察觉
- 上下文越堆越长:对话模型每轮把整段历史塞进去,输入侧按轮数累加
- 检索链路串联:先检索再喂给对话模型,两笔费用串在一条链路上,看总数容易归错类
- 多试几版模型做对比,测试流量忘下线,按正式量在计费
- 切块规则改了一次,老向量没清,新旧两套并存,库里条数虚高
这里最容易踩的坑是归错类:账单涨了,第一反应是对话模型贵了,实际是 Embedding 那头全量重跑。不把两类分开统计,你永远在错的地方找原因。给 Embedding 单独建一个统计维度,这事现在就该做。
能落地的动作清单
先说最该做的一件事:去站内模型库和官方价格页,把两类模型的计价维度各自记一行,分开写。对话的记「输入/输出单价」,Embedding 的记「计量单位和折算方式」。具体数字不用背,到站内对应页面核对当时的数字就行。
长文档处理上,先定切块规则再动手。规则定好,改文档只重跑受影响的那几块,不要一键全量。切块大小、重叠长度这些参数写进配置,别每次靠手调。上量前用站内成本计算器按真实输入长度跑一遍,均值估出来的数字和实际能差出一截。
还有一条容易漏:给调用报表加一个按接口拆分的视图,Embedding 和对话各看各的趋势。哪边涨、涨多少,一眼能看出来,不用等月度账单来了才追。
这套算法什么时候不适用
按订阅制或包月额度的渠道,单价不按 token 走,这套拆分只能看调用趋势,算不出绝对值。硬套只会得出错误结论。自建推理的场景也一样,成本压在卡和电上,调用次数不影响账面,得换算力口径来算。
还有一种:平台活动期的价格不能当基线。活动一结束,你按活动价做的预算全部作废。要估长期成本,用常规价格页的数字,别拿促销价当锚。这些情况不是这套方法错了,是用错了地方。
下一步两类模型的单价和折算方式在站内价格与模型库都有记录,先去把这两行分开记下来,再回来看自己的调用日志对不对得上。→常见问题
Embedding 是不是比对话模型便宜很多,可以随便用?
单价通常是低,但它是按条数和字符累加的,重建一次知识库就是全量重跑。便宜不等于可以不管调用次数,尤其文档经常改的场景,重 embedding 的量很容易超过对话本身的费用。
为什么我的对话调用量没变,账单却涨了?
多半是输入侧变长了。对话模型按输入加输出算,历史上下文每轮都重发一遍,轮数一多输入量是累加的。也可能是测试用的对比调用没下线,或者检索链路里多了一次模型调用。
两类模型要不要选同一家?
不一定。对话看的是输出质量和价格,Embedding 看的是检索效果和条数成本,两个维度可以分开挑。只是分开后账单更碎,得自己把统计口径统一到一个地方看,不然容易漏。