Karpo Decision 31B开源:2.6秒跑完任务,36题全对
文婷 发自 凹非寺 量子位 | 公众号 QbitAI 2026年了,居然还有年轻团队专门训练决策模型,而且一出手,就把Gemini甩在了身后?! 同样一场《城市扫描仪》....
文婷 发自 凹非寺 量子位 | 公众号 QbitAI
2026年了,还有年轻团队专门训练模型来干这件事。
同一场任务(平均消费50美元之内、通勤距离仅5km),它只用2.6秒就跑完,对比对象花了14.96秒,快了将近6倍。各种筛选条件一个没漏,36道题准确率100%。
这个新晋决策高手,是MachinePulse AI刚开源的Karpo Decision 31B。
它专门为
浏览网页时下一步点哪个按钮、任务有没有完成、几十个工具里该调哪个最合适,它都能直接给出判断,干活相当麻利。
一张RTX PRO 6000就能让它上岗。面对公开集14万多次请求,中位响应时间只有94毫秒,眨眼工夫都用不着。
在足足300个模型同台厮杀的场子里,Karpo Decision 31B还拿到73.9的成绩,候选选项255个,差距2.3%。
更进一步,MachinePulse把已经用在自家Personal Agent产品Karpo上的浏览器操作框架,正式向开发者开源了。方案采用System 1 + System 2架构,包含karpo-browser、专门针对网页动作决策训练的Karpo Decision 27B Act模型,以及配套的网页动作决策评测集KBB。
平均成功率89%,平均耗时201秒,单任务模型成本只需0.096美元(约0.64元)。对比榜首Claude Fable 5.2 + Claude Code,完成任务速度快了约1.9倍,模型成本只有对方的十三分之一。
团队观察到,把成功率要求放宽到80%,同时限定用户真正可用的体验速度为250秒内、成本0.15美金内,整个榜单全部91条记录没有一条做到,只有Karpo达标且大幅领先,算是把准、快、便宜三样都占了。Karpo在表中特意备注不参加排行,但自测用的是102道全集题、3次跑取平均的苛刻要求,远超榜单其他模型38题只跑1次的标准。
围观网友不禁感叹:这正是每一个技术栈都需要的东西!
好家伙,这位专门替Agent拿主意的AI军师,究竟还有多少本事?
你还在等大模型回话,Karpo已经把活干完了
说起来,自今年9月起,短短24天工夫,Jev背后的估值就到了75亿美元(约500亿元)。
一时间,
为啥大家突然都盯上了这门生意?原因也很简单。
Agent越来越能干,可每次选个工具、筛个结果都得调用通用大模型逐字生成答案,多少有点杀鸡用牛刀。不光慢,Token还哗哗烧,钱包跟着瘪。
于是,专门替Agent处理这些高频、琐碎判断的决策模型,就有了用武之地。
不过,眼下已有的做法也都各有各的麻烦。
像最近很火的Jev,还有谷歌刚推出的
已经开放权重的决策模型(比如某些方案),也未必能做到速度和判断力两头都顶满。
所以Karpo Decision 31B多迈了几步:它不用现场写一大段话,只跑一次前向推理,就能在刹那间把整组选项的概率算出来,而且完全开源。
拿我在Karpo官网上试玩的《十张胃口,菜单就一张》来说吧。
这是个真人和AI同场比拼的点餐小游戏。10位客人要同时由我和Karpo Decision 31B来点餐,各自的预算、口味、忌口都得照顾到,还得看谁上菜更快、更准。
看着挺简单,可谁橙想,我光标刚点到第一位客人的需求,第一行字都没读完,Karpo Decision 31B就已经用1.3秒的速度,把10道菜火速全端上了桌。
而且10位客人的要求,它一个都没搞错!
被……被秒杀了?!哦不,稳住稳住,应该不会差太远吧...
可等我终于读完第二位客人的需求、准备接着选菜时一瞄表盘,整整13秒已经过去了。
好家伙,换Karpo早交卷10轮了,我竟还在第二题打转...
这下我可急了。从第三道题起,我干脆悄悄作弊,它点啥我就跟着点啥。
可就算抄作业,还是追不上。
最后我索性死马当活马医,直接乱点一通,心想说不准能撞个好运。
可就算这么连蒙带猜、半抄作业地折腾下来,我完成整套任务还是花了足足83.9秒。
再看看通用大模型这边。
同样的10道题,我把截图交给GPT-6.2 Astra(High档)来做,转了足足34秒才拿到答案。
这么一比,Karpo不仅比已经偷偷开挂的我快了64.5倍,比GPT也快了约26倍!
这类判断活儿放到开发者平时搭Agent的工作里,用处就更明显了。
开发一个自动处理GitHub Issue的Agent,光决定该调哪个工具、检索到的代码文件怎么排序、任务算不算完成,就可能牵扯出一连串判断。
要是每一步都去调通用大模型、等它慢慢生成答案,工作流容易被拖慢,Token账单也会跟着往上涨。
Karpo则能把多个判断塞进一次请求,直接返回各个候选选项的概率,省掉逐字生成答案的开销,让Agent有机会跑得更快、更省钱。
更关键的是,按约0.025美元(0.17元)算,相当于只花1美元(折合人民币约6.67元)就能让它跑完近4万次决策!
和动不动就调通用大模型相比,成本简直暴降啊。
这套决策能力被Karpo搬到了浏览器里,网页任务的使用体验因此改善不少。
MachinePulse团队最新开源了karpo-browser浏览器Agent方案,做法是把System 1与System 2的快慢双模型分工引进来,让通用大模型和专门的决策模型配合干活。
怎么分?
动脑的活归System 2,动手的活归System 1。
以用户预订餐厅为例。
理解需求、拆解任务、备好要填的信息,由通用大模型DeepSeek V4.1 Flash承担;
在页面上挑输入框、点按钮、决定下一步执行哪个操作,则交给专门针对网页操作训练的Karpo Decision 27B Act,其单次决策时延中位数为931毫秒(0.93秒)。
读取网页、执行操作、应对网页变化和执行异常,这些由背后的karpo-browser框架处理。
△图片系AI绘制
这套分工跑出来的效果,确实有些看头。
团队在Browserbase Benchmark v2全部102道任务上做了三轮实测,结果发现:
网页上约78%的操作由Karpo决策模型完成。
可这些操作只占整个Agent运行耗时的14%、模型成本的13%。
原本要靠通用大模型反复调用、逐字生成答案的网页操作,现在可以交给决策模型快速处理,大模型则腾出手来负责规划、核对和更复杂的任务。
另外,MachinePulse这次把整套开发工具链也一并开放了。
开放的内容包括Karpo Decision 27B Act模型权重,以及用TypeScript编写的karpo-browser框架。
该框架能够灵活适配不同的开源大模型与决策模型。
开发者不用从头搭建浏览器Agent,通过
配套还有KBB(Karpo BrowserBench)网页动作决策评测集,覆盖584个真实网站、23,075步网页操作,借助真实网页录制与离线回放,开发者可以测试模型每一步的动作选得对不对。
模型权重、浏览器执行框架、配套评测工具都已就位,开发者现在能把这套System 1+System 2方案真正装进自己的Agent里。
△四个部署入口
它带来的价值,也不只是省下一笔模型调用费。
MachinePlulse团队表示,与使用昂贵的顶尖模型相比,这套方案在保持出色任务成功率的同时,有机会让开发者用同样的运营预算支撑原来5-30倍的用户规模。
对想把Agent做成真正面向大量用户的产品的人来说,这或许是更让人兴奋的一点。
挑项目快准狠,听人话也有一手!Karpo有点东西啊
看着挺不错,我自然也要上手跑一轮。
于是给Karpo Decision 31B出了两道题:先看它筛选技术资料够不够快、够不够准,再试试它听不听得懂我的阴阳怪气。(doge)
实测一:8条技术搜索结果摆面前,Karpo能又快又准地挑出真正有用的吗?
先测搜索结果筛选。假设咱们要找的是一个开源、支持本地部署、还能主动点击、填写和导航网页的浏览器Agent。
我一口气甩给Karpo 8条技术搜索结果。乍一看个个都沾边,但里面混进了只能看不能动的工具、只能云端运行的Agent,还有功能齐全却不开源的项目。
题目如下:
就看它能不能把真正符合要求的项目揪出来。
结果只用了308毫秒(约0.3秒),Karpo就把符合要求的A、D、E、G四条结果准确挑了出来。另外四个混在里面的干扰项,也一个没漏。
实测二:我各种阴阳怪气,Karpo能听得出弦外之音吗?
不过,做决策往往不只是筛选结果。中华文化博大精深,有时候咱可不能只信字面意思。(doge)
比如这句:太好了,这个Agent又把我的文件删光了,真是帮了大忙!
好评?反讽?要是只盯着前半句的“太好了”,或者后半句里的“帮了大忙”,绝对要翻车。
于是我又给Karpo搬出6道语气判断题,从直白称赞到反讽吐槽,再到褒贬混合的中性表达,看它能否读出言外之意、能读到什么程度。
任务如图:
结果还真挺不错。仅过了232毫秒(约0.23秒),Karpo Decision 31B就把6道题全判完了,藏在字里行间的吐槽、称赞和复杂情绪都被它揪了出来。
连第四句“页面加载慢了一些,但结果准确,整体还可以。”这种不夸不骂、好坏参半的评价,它也拿捏住了,给出了91%的中性概率、8%的认可,还有隐约0.2%的不满。
最有意思的是第六句:不错嘛,今天终于没把线上服务弄崩。开头明明是一句“不错嘛”,Karpo却给负面态度分配了足足88%的概率,正面态度10%,中性或褒贬混合2%。
合着这句表扬背后的意思,它全听出来了——对这次任务的肯定之外,还藏着对过往翻车经历的怨气。放到开发者的实际应用里,这种本事挺管用。
客服Agent要判断用户是不是真满意,开发工具要分析用户反馈,都得透过字面表达去识别真实态度,免得把投诉当成表扬。
告别逐字生成,还要避免偏科,Karpo怎么炼成的?
看到这里,估计大家也好奇:Karpo Decision 31B究竟怎么把这么多判断压进一次推理,还能直接给出概率?秘密之一,就在它专门设计的Readout Head里。
以往通用大模型做一道选择题,往往要逐个Token生成答案,再由程序从文字里解析出最终选项。Karpo干脆把这道工序省了。
它给候选选项安排了专门的编码,每道题后面再放一个用于读取结果的标记。模型读完输入,Readout Head就在这个位置为各个选项打分,再把分数转成概率。整个过程只需一次前向推理,不用逐字生成答案,输出Token数直接降到0。
△Readout Head机制
而且这套设计能一口气应付三种不同类型的决策。比如,Agent下一步该调用哪个工具?
这可以交给Choice,让Karpo在最多255个候选选项之间分配概率,Agent就知道哪个更值得选。
要是Agent忙活半天,需要判断任务到底完成没有呢?那就交给Noul,直接返回任务完成的概率。
打分这活儿可以交给Score:模型对各个评分等级分别输出概率,系统据此算出分数、调整排序。内容与用户口味到底有多匹配,由此判断。
三种题型,共用同一个Readout Head。
不过,一次能答一道题还不够。Agent真正干起活来,可能要同时筛选几十条搜索结果、比较几十种工具,背后还跟着一大段网页内容或任务上下文。
难不成每判断一个候选,都得把同一份材料重新算一遍?Karpo可不想干这种重复劳动。
于是团队又设计了Branch Attention机制。它支持256K上下文能力,会把输入分成两部分。一部分是大家共用的
大家共用的那部分只算一遍,各道题照样分开作答,彼此不打架。
△Branch Attention架构示意图
效果能有多直观?一张RTX PRO 6000上,请求长度在1K-4K Token之间时,Karpo单独回答一道题,中位耗时只有371毫秒;一次请求里塞进16-63道题,中位耗时也不过653毫秒。
几十道判断堆在一起,时间并不随题目数量翻倍往上涨。Agent跑高频决策,开销就有望压下来一大截。对开发者而言,这确实够香。
可判断得快,还得清楚自己几斤几两。Agent下一步究竟是直接自动执行,还是老老实实把决定权交回人类,常常就看模型对自身把握有多大。
明明只有六成胜算,却张口就是99%,这种自信就有点吓人了。(doge)
为此,Karpo还用上了RLCD。它除了奖励模型选对答案,还会按整组预测概率来算奖励,鼓励模型如实说出自己的把握。训练数据里的标签即使存在分歧,它也尽量把这种不确定性留着,而非硬压成唯一答案。
效果如何?
在JevBench公开题上,Karpo的预期校准误差(。这样一来,开发者可以试着给Agent设不同的执行阈值,让它该出手时果断出手,该收手时也知道把判断交还给人类把关。
RSI登场,Karpo把训练中的偏科问题扳回来了
速度和概率都解决了,Karpo面前还横着一个更棘手的问题:千万别练着练着就偏科。Agent每天碰到的决策需求千奇百怪。
今天帮你筛开源项目,明天可能要看代码有没有安全漏洞,后天又得替某份合同或采购文件把关。模型要是只擅长训练时见过的题目,一换场景就掉链子,那就很难堪了。
这样的苗头,Karpo团队在训练中还真发现了。训练一步步推进,模型的公开测试成绩从73.1涨到75.1,可13个陌生领域的评测里,准确率反倒从72.1%掉到了70.7%。
为了破解这个问题,Karpo团队把泛化能力列为训练重点,并引入了RSI(递归自我改进)训练框架。
训练时先产出多个候选模型逐个评估,只有融合后的版本赢过当前模型,才算过关并进入下一轮迭代。
团队这次挑出5个候选,3个源自全参数微调,另2个来自另一路,再用权重平均把早期模型较好的泛化能力与后期模型更强的专精能力捏在一起。
结果挺管用:融合后公开测试成绩稳在75.1,陌生领域准确率从70.7%升到72.3%,回升了1.6个百分点。
而且融合完它还是标准31B参数模型,结构、参数量、推理开销都没涨。
团队自组的同一套13领域测试里,Karpo拿到72.3%的准确率,压过此前Decision Index Full榜单前三的KnowLine 31B Gen1(71.5%)、Sieve 31B v3(70.4%)和GLiDE 1.2(69.1%)。公开题没掉分,陌生题反倒考得更好。
对一个要嵌进各种Agent工作流、随时接手不同判断任务的决策模型来说,这种不偏科的本事,或许比多刷几分更值得看。
让Agent少一点犹豫,让开发者多一点自由
实测一圈下来,最让人记住的还是Karpo处理高频小判断时那股利落劲儿。
决策正在变成AI系统里能单独分工的一层能力。
今年4月,AWS CEO Matt Garman在Stratechery访谈中就预见过类似走向:以后各种模型会共存,一些小模型甚至能做到最新OpenAI模型还做不到的事,并且会越来越小、越来越便宜、越来越快。
Jev的创始人Diogo也讲过相近的判断:未来AI不必事事都靠大模型生成答案,快速决策交给专门模型,复杂推理由别的模型扛,各管一摊。
而Karpo的出现,让开发者在这套思路之外又多了一个开源选项。
Karpo发布时,LeahW曾这样概括它的设计理念:选下一个工具,不该费一整段话。
判断够快、成本够低,开发者就有机会在Agent的搜索、推荐和任务执行流程里安排更多细致的筛选与检查,不必事事都依赖生成式大模型。
更有意思的是名字。Karpo取自拉丁语Carpe Diem,意思是“把握当下,及时行乐”。
开发它的MachinePulse团队长期深耕Personal Agent(个人智能体)方向,解决的恰好也是日常生活里那些真实又琐碎的小纠结。比如今天喝点什么?下班后想怎样放松?周末附近有什么好玩的?
脑子里常常只有一个说不清的念头,连自己究竟想要什么都讲不明白。Karpo 要做的,是把这种模糊的念头落成具体选项,让人少些犹豫,早点出门去过日子。
△外出游玩时轻点两下手机背面,就能瞬间召唤出Karpo帮咱们检索周围娱乐好去处
Karpo 想做的,是把模糊的念头变成看得见的选择,帮人少纠结一点,早点出门享受生活。对开发者来说,Carpe Diem 如今似乎又多了层新意思。琐碎的决策交给 Karpo,宝贵的时间留给自己真想干的事。
说到底,技术进步的意义,不就是让人能更自由地做自己想做的事吗?
MachinePulse 团队现在已经把 Karpo Decision 全尺寸模型开源,0.8B、2B、4B、9B、12B 和 31B 共 6 款,按实际需求调用即可。
这一回,专门负责网页动作决策的 Karpo Decision 27B Act、浏览器 Agent 框架 karpo-browser,还有配套评测集 KBB,也一起向开发者开放了。
从替 Agent 拿主意,到让 Agent 真正上手干活,Karpo 把决策模型快、准、省的本事用在了刀刃上。
体验链接:https://karpo.ai/models/decision/ten-appetites
仓库指路:
[1]https://huggingface.co/MachinePulseAI/karpo-decision-31B
[2]https://github.com/machinepulse-ai/karpo-browserbench
[3]https://huggingface.co/MachinePulseAI/karpo-decision-27B-act
[4]https://github.com/machinepulse-ai/karpo-browser