Caveman

AI TOOL PROFILE工具资料

降低智能体每一轮开销的令牌优化栈，开源免费，本地运行。

官网地址 https://caveman.so

访问官网

价格免费 + 付费

平台Web / CLI / SDK

归类AI 智能体

收录2025-01-01

复核2025-01-01

编辑评分 4.5 / 5

Caveman编辑总结

EDITOR REVIEW编辑评测

Caveman 是一套面向智能体的令牌优化栈，核心思路是让智能体读得更少、说得更少、并按任务挑最便宜的模型。它既能用在开发者已经在跑的 Claude Code、Codex、OpenCode 等 30+ 编码智能体上，也能通过 TypeScript 或 Python 的 SDK 与中间件接入自己构建的应用。的效果包括整段会话输入令牌减少 33.2%、长周期编码任务中可读输出减少 65%、单任务成本降至 0.46 倍。项目以 Apache-2.0 协议开源，基础版永久免费、无需账号、在本机运行。短板是自适应模型选择与可复用脚本仍在早期或即将推出，托管云版本只有私有预览，企业版需要年度合同。

Caveman是什么？

Caveman 是一套针对 AI 智能体的令牌优化栈，由开发者社区以 Apache-2.0 协议开源发布。它解决的问题是：智能体每一轮对话都要把日志、测试输出、JSON、diff 等大量内容塞进上下文，再让模型生成冗长回复，账单因此被推高。Caveman 的思路是在这些内容进入模型之前先做压缩，并让每一轮任务交给最便宜但能答对的模型。

它有两个使用面。一是「你在用的智能体」，支持 Claude Code、Codex、OpenCode、Gemini CLI 等 30+ 编码智能体，装上 CLI 后可按压缩模式启动。二是「你构建的智能体」，提供 TypeScript 与 Python 的中间件和 SDK，接入 LangChain、Vercel AI SDK、OpenAI、Anthropic 等框架，包括 21 个适配器。Caveman 位于工具结果变成模型输入的那一层，框架、供应商、密钥和已保存的历史都不变，原始文件仍留在磁盘上，模型需要时可以请求原文。

不同角色的用法不同。个人开发者装 CLI 就能在现有编码智能体上省钱，不要求有任何 Caveman 使用经验；应用开发者通过 SDK 在自己的调用链里加一层压缩；团队和企业则可以用托管云版本做成本观测、评测与自动调优，企业版还能部署在自己的 VPC 里。

Caveman核心功能

CAPABILITIES工具标签

内容感知压缩

日志、JSON、代码、diff 和页面各用各自的压缩器，整个会话输入令牌减少 33.2%，18 个问题里 18 个答对。原始内容留在磁盘，模型可请求原文。

输出压缩

让智能体的回答去掉填充词，代码、命令和错误信息按字节原样返回。10 个提示测试下输出令牌减少 65%，长周期编码任务总量约降 10%。

自适应模型选择

每一轮根据任务挑最便宜且能答对的模型和推理力度，难活仍交给前沿模型。SWE-Interact 与 SWE-Together 的 85 组配对任务中，成本为始终用 Opus 的 0.46 倍，解出率相同。

字节级还原

在支持的智能体循环里，压缩掉的内容模型仍可按需取回精确原文，避免因压缩丢失关键信息。

工具目录压缩

面向 SDK 场景，缩小工具目录的体量，但保持同样的工具选择结果，减少每轮注入的工具描述令牌。

浪费定位与修复

智能体找出自己最严重的浪费点，并以一次一个 diff 的方式给出修复；可复用脚本会把写过的脚本保留下来并在每个 PR 上校验。

Caveman值不值得用？

VERDICT工具标签

当你的智能体账单主要花在重复读取日志、测试输出和冗长回复上时，Caveman 的免费开源版值得先装上试一轮，它在本地运行、不改框架和密钥，压缩效果有具体数字支撑。当你需要跨多个智能体和运行做成本观测、自动评测并要一份可审计的节省证明时，再看托管云与团队版本。不建议把自适应模型选择和可复用脚本当作现有能力来规划，这两项为早期访问或即将推出；企业版要求年度合同并按管理的 AI 支出计价，也不适合小规模或不确定用量的团队。

建议选它的情况

已经在用 Claude Code、Codex、OpenCode 等编码智能体，希望直接压低每轮账单的开发者
在自己的 TypeScript 或 Python 应用里接了 LangChain、OpenAI、Anthropic，想加一层压缩而不换框架
需要把日志、JSON、diff 这类大块内容在进入模型前缩小的团队
数据必须留在自有云环境的组织，可用企业版部署在自己的 VPC

不建议选它的情况

想立刻用上自适应模型选择或可复用脚本的用户，这两项仍在早期访问或即将推出
不愿部署本地运行时、只想要纯托管服务的团队，托管云目前是私有预览
用量很小、按席位付费更划算的团队，企业版按管理的 AI 支出计价且需年度合同

Caveman使用建议

HOW TO USE工具标签

入门先把路子走对

先用 CLI 装一遍执行 npm i -g @caveman-ai/cli && caveman setup --install 完成安装，再用 CAVEMAN_MODE=compress caveman start 以压缩模式启动现有编码智能体。
从你已在用的智能体开始Claude Code、Codex、OpenCode、Gemini CLI 等 30+ 编码智能体都支持，先保留原来的智能体不动，只加上压缩这一层。
接自建应用先装中间件TypeScript 或 Python 项目执行 npm i @caveman-ai/middleware，接入点选在工具结果变成模型输入的那一层。

进阶省时间也省钱

按任务而不是按令牌看成本官网建议把花费按人认识的任务分组，比如一个工单关闭、一个 PR 合并，而不是看每百万令牌的价格，因为便宜模型重试四次可能比贵模型一次做对更贵。
一次只改一个变量同时换模型、缩短系统提示、打开缓存，账单会下降但无法判断是哪一个起作用，也无法回滚伤害质量的那一项。
利用提示缓存的实际收益官网指出，当供应商已经在复用 30,000 令牌提示里的 28,000 时，这个大提示并不贵，判断是否需要压缩要看实际复用率。

Caveman适合谁用？

WHO IS IT FOR工具标签

编码智能体重度用户

自建智能体的开发者

关注成本可观测的团队

有条件

需要按任务看每个智能体和每次运行的成本，并用自己流量配置评测，团队版走 app.caveman.so 托管。

数据必须留在自有云的机构

有条件

企业版可用一个 Helm chart 部署在 AWS 或 GCP 的 Kubernetes，密钥、追踪与产物留在自己的云账号，但需年度合同。

只想开箱即用的纯托管用户

不推荐

托管云目前为私有预览，免费版需在本机运行 CLI 或 SDK，不接受本地部署的团队暂时不合适。

Caveman优点和缺点

PROS & CONS工具标签

优点

整段会话输入令牌减少 33.2%，18 个问题全部答对
输出令牌减少 65%，长周期编码任务总量约降 10%
单任务成本降至始终用 Opus 的 0.46 倍，解出率相同
Apache-2.0 开源，基础版 $0 永久免费且无需账号
支持 30+ 编码智能体与 21 个框架适配器
本地运行，框架、供应商与密钥均不变

缺点

自适应模型选择标注为早期访问或即将推出
可复用脚本功能同样尚未正式开放
托管云版本仅为私有预览，未公开定价
企业版需年度合同，按管理的 AI 支出计价

Caveman常见问题

FAQ工具标签

Caveman 免费吗，要花钱的地方在哪？

基础版 $0 永久免费，不需要账号，运行在本机，也没有信用卡要求。免费版包含输出压缩、内容感知压缩、浪费修复，以及面向 LangChain、Vercel AI SDK、OpenAI 和 Anthropic SDK 的中间件。团队版与企业版价格均为 Custom，团队版按需预约沟通，企业版为年度合同并按 Caveman 管理的 AI 支出计价，而非按席位。

它和直接在提示里写「少说废话」有什么区别？

Caveman 做的是三层事：进入模型前压缩日志、JSON、代码、diff 和页面；输出端去掉填充词但按字节保留代码与错误；再按任务挑最便宜且能答对的模型。三项都有量化结果——输入令牌减少 33.2%、输出令牌减少 65%、单任务成本 0.46 倍，且解出率不变。单纯的提示词改写通常只能影响输出风格这一层。

接入会不会改动我的框架或 API 密钥？

不会。Caveman 位于工具结果变成模型输入的那一层，框架依旧运行流程，供应商依旧收到调用，密钥与已保存的历史都不变。自建应用需要装本地运行时，TypeScript 或 Python 均可，包括 21 个适配器，覆盖 Vercel AI SDK、OpenAI、Anthropic、Google GenAI、LangChain、Strands、Mastra 和 MCP。

压缩后模型还能拿到原始内容吗？

可以。日志、JSON、diff 和文档在模型调用前被缩小，原始文件仍留在磁盘上。在支持的智能体循环里，模型可以请求精确的原始内容，这就是字节级还原功能。这也意味着压缩不会让模型永久失去细节，只在不需要时才不占用上下文。

支持哪些编码智能体和编程语言？

编码智能体方面支持 Claude Code、Codex、OpenCode、Gemini CLI，覆盖 30+ 编码智能体。自建应用方面提供 TypeScript 与 Python 两种语言的中间件和 SDK，并列出 21 个适配器，可接入 Vercel AI SDK、OpenAI、Anthropic、Google GenAI、LangChain、Strands、Mastra 和 MCP。

Caveman竞品对比

COMPARISON工具标签

工具	编辑评分	价格	核心功能	平台
Caveman本工具	4.5	免费 + 付费	内容感知压缩；输出压缩；自适应模型选择；字节级还原	Web / CLI / SDK
Oasis HQ	—	官网未公开具体价格与免费额度，标注为需联系获取报价并含免费档	支持团队与 AI 智能体共享上下文和记忆的协作工作空间	Web
Honcho	—	从 $0.001/次起计费，完整价格档位官网未公开	面向有状态智能体和持续上下文的 AI 原生记忆平台	Web / API / CLI
HydraDB	—	提供免费注册入口，可联系销售咨询。	用于关联型、有状态 AI 上下文和智能体记忆的图数据库	Web / API
Voker	—	未标价	用于监控和优化 AI 智能体的智能体分析平台	Web / API
Salad AI	—	未标价	支持多模型 AI 协作与共享上下文的工作空间	—

继续浏览AI 智能体

返回分类目录