API费只是零头:AI功能真正烧钱的四项成本
很多产品经理看一眼API账单,就觉得AI成本控制得不错。其实API费只是最小的一块——标注、人工兜底、知识库维护加起来,通常是API费的3到5倍。Klarna裁掉700人又招回400人的教训就在眼前:把四项成本算清楚,再决定要不要做AI。 我见过不少产品经理,大部分人只在心里默认"成本 = API 费"。看一眼账单上的
不少产品经理扫一眼API账单,就认定AI成本已经控住了。可API费在总盘子里只占最小一块,标注、人工兜底、知识库维护几项加到一起,往往达到API费的3到5倍。Klarna先裁700人、后来又招回400人的教训还摆在那儿:四项成本先算明白,再决定上不上AI。
我接触过的产品经理里,多数人心里默认「成本 = API 费」,账单上那个数看着还行,就觉得「控制得还可以」。其实API费只是整个成本中最小的那一块。
数据标注得投钱,人工审核得安排专人盯,知识库需要持续维护,流程要反复调整,坏案例还得靠人兜底……这些开销加总,远远超过API费。

下面把AI功能的成本拆成四项,逐项说清每项到底花多少钱、坑在哪里。
成本一:API 调用费——你唯一能看见的成本
算法本身最简单:每天会话数 × 平均单条 Token 数 × 单位价格
比如:
按日均 1000 会话、平均每条对话 400 个 Token(输入200,输出200)、使用 Claude 计算,输入 0.3 元/百万 Token,输出 1.2 元/百万 Token。
那么:1000 × (200 × 0.3/100 万 + 200 × 1.2/100 万) ≈ 30 块/天,月成本 900 块
不过这是理想状态。真实情况里,输出 Token 常比预期多,原因是 Prompt 不够精准,所以实际花销一般是预估的 1.5-2 倍。
坑一:输出 Token 比输入贵 4 倍
拿 DeepSeek 来说,输入 2 元每百万 Token,输出 8 元。道理不复杂:输入能并行处理,输出只能一个一个生成,价格自然高。

也就是说,看着省钱的操作未必真省。比如想靠「缩短 Prompt」省输入 Token,Prompt 一不清楚,模型输出反而变长,整体成本不降反升。
坑二:缓存优化能降成本 95%
如果 Prompt 是固定的,比如同一套系统提示词、同一个知识库前缀,在 Claude 或 Gemini 上用缓存技术能把成本压低 95%,每天 100 块降到 5 块。可多数团队压根不知道有这回事,钱就这么白花了。
算一下:
1 万汉字 ≈ 1 万~1.5 万 Token。生僻字、冷门词费 Token;常见字、高频词组省 Token。
一个 AI 客服系统,日均 10 万条咨询,每条 200 Token,月成本近 5000 元(按 8 元/百万 Token 计)。若是知识库问答,消耗能到一般对话的 3-5 倍。
成本二:数据标注成本——一次性投入但金额不小
这笔钱带有很强的「一次性」色彩:初期投入之后,后续维护开销相对较低。
怎么算?
具体花多少,看功能复杂度:
简单分类或标签,一条 1-3 块钱,10000 条差不多 1-3 万块;医疗、法律、财务这类专业领域的数据标注,一条 10-20 块,10000 条得 10-20 万块;复杂的多标签标注,一条 20-50 块。
通用型知识库功能,起步阶段的标注开销一般在 5-10 万块;这笔投入后面还得继续掏,只是没那么频繁了。比方说一个季度又冒出 1000 条新数据,那就得再投 1-3 万块重新标一遍。

OpenAI 在 2023 年底做过一个研究项目,方向是理解 Linux 内核源码。上千条内核代码片段被逐条标注,每条都涵盖功能描述、依赖关系、潜在风险点。干这活的全是内核开发者,时薪 50-100 美元。算下来,整个项目的标注花费超过 50 万美元。这能说明什么?
专业领域的数据标注,花掉的钱很可能比 API 费高出不少。
成本三:人工兜底成本——真正的大头
AI 功能上线,绝不是“挂上去就完事”。质检和审核就得跟上:AI 生成的结果出现 3-8% 的错误率属于正常范围,可这些错必须揪出来,不然用户一投诉就麻烦了。流程编排和优化同样少不了,AI 的输出未必一次到位,得补规则、补判断、补降级方案。还有些情况 AI 拿不准,只能转给人工兜底。
合力亿捷的调研显示,日均 200-500 会话的 Agent,运营上需要 0.3-0.5 个等效人力。
合力亿捷给出了一个 ROI 三笔账的框架:第一笔是替代人工量,算法是自主解决率乘以人工处理时长;第二笔是效率增益,来自响应速度提升、时长覆盖扩展和人工释放效应;第三笔是质量风险,错误回复率 3-8% 算正常,一旦超过 10%,就说明知识库或流程出了毛病。
我们拿一组数据来模拟:月 Agent 会话数 6000,自主解决率 75%,人工单次处理 6 分钟,那么月替代人工工时为 450 小时,约等于 2.5 人。
再算钱:月替代人工成本 1.8 万 + 月效率增益 4500 元 − 月运营人力成本 4000 元 = 1.85 万÷(月系统成本 0.8 万 + 月运营人力成本 0.4 万)= 1.54。也就是说,每投 1 元能产出 1.54 元。
案例:Klarna 的失败
瑞典支付公司 Klarna 在 2023 年下半年猛推 AI 客服,打算用 AI 顶掉 700 个人工客服。账面上很划算:700 个人,按平均月工资 4000 块算(瑞典的人力成本恐怕还更高),一个月就能省下 280 万块。
可一年之后,情况变了。他们发现 AI 确实能自主搞定 80% 的简单问题,但剩下 20% 的复杂问题还得人工上,而且人工还得替 AI 收拾烂摊子。最终 Klarna 不得不重新招回 400 人,专门处理 AI 的错误、做质检、优化流程。

最讽刺的地方在于,他们恰恰把人工兜底这项关键成本算错了。
初期估算时,他们觉得"人工兜底就是接个转移,不用多少人"。可真做起来,每条咨询人工处理要花 10 分钟,包括读懂上文、纠正 AI 的理解、再重新回复。这 20% 的工作量,实际需要接近原来 50% 的人力。再加上质检、知识库维护、系统优化,总人数其实是原来的 60%,而不是 0%。
成本四:维护迭代成本——看不到尽头的投入
AI 功能并非一锤子买卖。用户需求在变,业务规则在变,模型也在升级,你得持续做下面这些事:
更新知识库,内容增删改
调整 Prompt 和规则
把旧模型换成新模型
应对新的业务流程变化
做性能和成本上的优化
阿里云的数据显示,企业级知识库 RAG 系统初期开发要 5-15 万块,后续每个月的维护和优化还得再掏几千到万把块钱。
字节跳动内部拿 AI 做内容审核,成本结构就健康得多。
原因在哪?他们一开始就把成本预期算对了。日均审核 100 万条内容,他们心里清楚:
AI 自主审核能搞定 70% 的明显违规
剩下 30% 得人工复审,一个人每天 8 小时最多审 500 条
于是需要 100 万 × 30% ÷ 500 ÷ 8 ÷ 21 ≈ 180 个人
另外再配 50 个人做知识库维护、规则优化、模型升级
合计 230 个人
要是这 100 万条全靠手工,则需要 100 万 ÷ 500 ÷ 8 ÷ 21 ≈ 1200 个人。
两相比较,字节的 AI 方案省下 1000 个人。成本没降 100%,但省了 80%。更关键的是,他们一开始就知道能省 80%,而不是误以为能省 100%,到头来落空。
小团队的生存法则
小团队该怎么办?我的建议是:别一上来就追求全自动化,先做"渐进式人工兜底"。