长文档与 RAG 成本规划器
CONTEXT & RAG PLANNER上下文与月费测算把「知识库多大、每次带几段、对话多长」翻译成 token 占用与每月费用,并回答 RAG 与长上下文直塞该怎么选。模型价格与上下文窗口取自本站模型库。
文档与请求规模
不知道精确值时,填一个量级也能看趋势。
每次请求的 token 构成
占比越高的那块,就是最该优化的地方。
检索增强还是整篇直塞
同一个问题两种喂法:带片段,与把命中的整篇文档全塞进去。
| 方案 | 每次输入 token | 窗口占用 | 单次成本 | 每月成本 | 适用 |
|---|
填完参数后给出建议。
换更便宜的模型要多少钱
同一份用量下,按单次成本从低到高取前 8 个。
| 模型 | 厂商 | 输入 $/1M | 输出 $/1M | 单次成本 | 每月成本 |
|---|
怎么测算
- 填规模填知识库文档数与平均字数、每次带几个片段与片段长度,以及系统提示词、历史轮数与输出预留。
- 选模型选一个参考模型(取自本站模型库,含输入 / 输出牌价与上下文窗口),窗口占用与成本会立即重算。
- 看构成顶部构成条告诉你钱花在哪:检索片段占大头就提高检索精度,历史占大头就做滚动摘要。
- 比方案在「检索增强 vs 整篇直塞」表里对比两种喂法的成本与可行性,再决定要不要上大窗口模型。
长文档与 RAG 成本常见问题
「1 字 ≈ 0.65 token」这个口径准吗?
这是中文为主的粗算系数:cl100k 类词表约 1 token / 字,o200k 与国产词表约 0.6–0.7,英文为主时约 0.28。要更精确,可以先用 Token 计数器量一小段样本文本,再按量出的比例回填这里的口径。
检索增强和整篇直塞到底怎么选?
决定因素不是模型能力而是成本与稳定性:整篇直塞的 token 随文档长度线性上涨,超窗口就直接失败;检索增强每次只带命中片段,成本可控但依赖检索质量。文档短(几千字)、问题需要通读全文时直塞更省事;知识库成千上万篇时必须走检索。
prompt 缓存能省多少?
如果上游支持缓存(OpenAI、Anthropic、Gemini 与多数中转站都支持),重复发送的检索片段按缓存价计费,通常只有输入价的 10%–25%。把「缓存命中率」调到实际水平再看月费,差距通常在一半以上。
填的数字和实际账单差很多?
常见的三个偏差源:① 检索片段实际长度比估计长;② 输出不止预留的那点(长回答会被 max_tokens 截断,但截断前已经计费);③ 上游按请求计费或另有倍率。建议用一周真实用量反推。
支持按「用户数 × 每人每天几次」估算吗?
把「每日请求数」换成总量即可:例如 200 个活跃用户、每人每天 15 次,就填 3000。页面不区分并发与用户维度,只按总请求数线性外推。
模型价格是实时的吗?
价格与上下文窗口取自本站模型库,与模型库、榜单页是同一份数据;厂商调价后这里会跟着变,下单前请以厂商官网当前价格为准。页面不保存你填的任何参数,也不会上传。
相关工具
模型价格与上下文窗口取自站内模型库;估算只按你填的用量线性计算,实际账单以站点计费口径为准。