Embedding模型与对话大模型收费标准,两笔账别记在一本上

模型与算力

把 Embedding 和对话大模型的收费口径分开算,给出判断该按哪类计价、账单为什么会跳的对照方法和排查顺序。

很多人第一次看账单会懵:明明对话量没涨,钱却多了一截。或者反过来,觉得 Embedding 便宜就使劲灌,结果向量库那头在偷偷涨。这两类模型的计费单位根本不是一回事,混在一起看就永远算不清。下面把两套口径拆开讲,给一份能直接照着对的清单。

很多人第一次看大模型账单会懵:对话量没涨,钱却多了一截;或者觉得 Embedding 便宜就放开灌,结果向量库那头在悄悄涨。问题不在用量失控,在于这两类模型压根不是一本账。计费单位、计费方向、统计口径都不一样,混在一起看,怎么对都对不上。

下面把两套口径拆开讲,给一份能直接照着对的清单。核心就一句:对话模型按输入输出双向收,Embedding 只按输入收,产出不是文字而是一段向量。先把这条钉住,后面的账才谈得上算。

先分清两套计价单位,不然永远对不上账

对话模型是双轨的:你发过去的内容算输入,模型吐回来的算输出,两边单价不同,通常输出那头更贵。所以同一句话问三遍和答三遍,不是一笔钱。很多人估成本只算提问量,最后被输出侧超了。这个习惯得改。

Embedding 是单轨的:只按输入计费,没有输出概念,返回的是一串向量。它按条数和字符折算,单价看着低,但一条长文档切出来可能是几十上百条,条数一多总价就上来了。低单价不等于低总价,这是最常见的误判。

对比项对话大模型Embedding 模型
计费方向输入 + 输出,双向计费只算输入,无输出计费
计量单位按 token 分别计输入、输出按条数或字符折算,看平台口径
产出物文本回复一段向量,用于检索和比对
容易失控的点历史上下文越堆越长文档改版后全量重跑

判断自己该按哪类看账单,三步就够

  1. 先看接口占比翻调用日志,看 chat/completions 和 embeddings 哪个占大头。比例搞反了,后面分析全跑偏。日志里没有分接口统计的,先补上。
  2. 再看单次输入长度长文档切块灌库的那类,单价低但条数密,很容易在总价上反超对话调用。按真实输入长度估,别拿平均值糊弄自己。
  3. 最后查重复调用同一段文本反复 embed 是纯浪费。向量存一次就够,除非内容变了。查一下有没有对没改动的文档反复重跑。

这三步的顺序不能换。先定接口占比,才有分析对象;再看长度,才知道量从哪来;最后查重复,才是省钱动作。跳过前两步直接去优化,往往是优化了个寂寞。

账单突然变高的几个常见出处

  • 知识库重建:文档改一版就全量重 embedding,条数翻倍没人察觉
  • 上下文越堆越长:对话模型每轮把整段历史塞进去,输入侧按轮数累加
  • 检索链路串联:先检索再喂给对话模型,两笔费用串在一条链路上,看总数容易归错类
  • 多试几版模型做对比,测试流量忘下线,按正式量在计费
  • 切块规则改了一次,老向量没清,新旧两套并存,库里条数虚高

这里最容易踩的坑是归错类:账单涨了,第一反应是对话模型贵了,实际是 Embedding 那头全量重跑。不把两类分开统计,你永远在错的地方找原因。给 Embedding 单独建一个统计维度,这事现在就该做。

能落地的动作清单

先说最该做的一件事:去站内模型库和官方价格页,把两类模型的计价维度各自记一行,分开写。对话的记「输入/输出单价」,Embedding 的记「计量单位和折算方式」。具体数字不用背,到站内对应页面核对当时的数字就行。

长文档处理上,先定切块规则再动手。规则定好,改文档只重跑受影响的那几块,不要一键全量。切块大小、重叠长度这些参数写进配置,别每次靠手调。上量前用站内成本计算器按真实输入长度跑一遍,均值估出来的数字和实际能差出一截。

还有一条容易漏:给调用报表加一个按接口拆分的视图,Embedding 和对话各看各的趋势。哪边涨、涨多少,一眼能看出来,不用等月度账单来了才追。

这套算法什么时候不适用

按订阅制或包月额度的渠道,单价不按 token 走,这套拆分只能看调用趋势,算不出绝对值。硬套只会得出错误结论。自建推理的场景也一样,成本压在卡和电上,调用次数不影响账面,得换算力口径来算。

还有一种:平台活动期的价格不能当基线。活动一结束,你按活动价做的预算全部作废。要估长期成本,用常规价格页的数字,别拿促销价当锚。这些情况不是这套方法错了,是用错了地方。

下一步两类模型的单价和折算方式在站内价格与模型库都有记录,先去把这两行分开记下来,再回来看自己的调用日志对不对得上。

常见问题

Embedding 是不是比对话模型便宜很多,可以随便用?

单价通常是低,但它是按条数和字符累加的,重建一次知识库就是全量重跑。便宜不等于可以不管调用次数,尤其文档经常改的场景,重 embedding 的量很容易超过对话本身的费用。

为什么我的对话调用量没变,账单却涨了?

多半是输入侧变长了。对话模型按输入加输出算,历史上下文每轮都重发一遍,轮数一多输入量是累加的。也可能是测试用的对比调用没下线,或者检索链路里多了一次模型调用。

两类模型要不要选同一家?

不一定。对话看的是输出质量和价格,Embedding 看的是检索效果和条数成本,两个维度可以分开挑。只是分开后账单更碎,得自己把统计口径统一到一个地方看,不然容易漏。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。