长文档与 RAG 成本规划器

CONTEXT & RAG PLANNER上下文与月费测算

把「知识库多大、每次带几段、对话多长」翻译成 token 占用与每月费用,并回答 RAG 与长上下文直塞该怎么选。模型价格与上下文窗口取自本站模型库。

纯本地测算模型库同源RAG 对比月费预估
INPUTS

文档与请求规模

不知道精确值时,填一个量级也能看趋势。

PER CALL

每次请求的 token 构成

占比越高的那块,就是最该优化的地方。

系统提示词检索片段 对话历史输出预留
输入 token0系统 + 检索 + 历史
总占用0含输出预留
窗口占用—按所选模型窗口
单次成本—按所选模型牌价
每日成本—按每日请求数
每月成本—按 30 天
按当前参数测算。
RAG VS LONG CONTEXT

检索增强还是整篇直塞

同一个问题两种喂法:带片段,与把命中的整篇文档全塞进去。

方案每次输入 token窗口占用单次成本每月成本适用

填完参数后给出建议。

ALTERNATIVES

换更便宜的模型要多少钱

同一份用量下,按单次成本从低到高取前 8 个。

模型厂商输入 $/1M输出 $/1M单次成本每月成本
HOW IT WORKS

怎么测算

  1. 填规模填知识库文档数与平均字数、每次带几个片段与片段长度,以及系统提示词、历史轮数与输出预留。
  2. 选模型选一个参考模型(取自本站模型库,含输入 / 输出牌价与上下文窗口),窗口占用与成本会立即重算。
  3. 看构成顶部构成条告诉你钱花在哪:检索片段占大头就提高检索精度,历史占大头就做滚动摘要。
  4. 比方案在「检索增强 vs 整篇直塞」表里对比两种喂法的成本与可行性,再决定要不要上大窗口模型。
FAQ

长文档与 RAG 成本常见问题

「1 字 ≈ 0.65 token」这个口径准吗?

这是中文为主的粗算系数:cl100k 类词表约 1 token / 字,o200k 与国产词表约 0.6–0.7,英文为主时约 0.28。要更精确,可以先用 Token 计数器量一小段样本文本,再按量出的比例回填这里的口径。

检索增强和整篇直塞到底怎么选?

决定因素不是模型能力而是成本与稳定性:整篇直塞的 token 随文档长度线性上涨,超窗口就直接失败;检索增强每次只带命中片段,成本可控但依赖检索质量。文档短(几千字)、问题需要通读全文时直塞更省事;知识库成千上万篇时必须走检索。

prompt 缓存能省多少?

如果上游支持缓存(OpenAI、Anthropic、Gemini 与多数中转站都支持),重复发送的检索片段按缓存价计费,通常只有输入价的 10%–25%。把「缓存命中率」调到实际水平再看月费,差距通常在一半以上。

填的数字和实际账单差很多?

常见的三个偏差源:① 检索片段实际长度比估计长;② 输出不止预留的那点(长回答会被 max_tokens 截断,但截断前已经计费);③ 上游按请求计费或另有倍率。建议用一周真实用量反推。

支持按「用户数 × 每人每天几次」估算吗?

把「每日请求数」换成总量即可:例如 200 个活跃用户、每人每天 15 次,就填 3000。页面不区分并发与用户维度,只按总请求数线性外推。

模型价格是实时的吗?

价格与上下文窗口取自本站模型库,与模型库、榜单页是同一份数据;厂商调价后这里会跟着变,下单前请以厂商官网当前价格为准。页面不保存你填的任何参数,也不会上传。

RELATED

模型价格与上下文窗口取自站内模型库;估算只按你填的用量线性计算,实际账单以站点计费口径为准。