Anthropic IPO曝算力缺口:决策模型大战开打,开源黑马登顶
开源决策模型Karpo多项硬刚谷歌闭源夺冠
硅谷这条最卷的新赛道,冒出了一匹开源黑马。即将敲钟的
Anthropic在IPO材料里曝出天价算力缺口,给狂卷参数的AI行业泼下一盆冷水。
通用大模型在编程、数学上确实能打,可真替人干活时,算力账单就成了无底洞。生成文本已经够耗Token,长链推理更费,而比推理还烧钱的是操作浏览器——单次平均开销比复杂推理贵出4.8倍。

焦虑之下,硅谷的「决策模型」大战全面开打。初代标杆Jev率先趟出「不写字、只判断」的快思考路线,OpenAI、微软、亚马逊与Cloudflare等巨头随后纷纷下场。
前两天,谷歌CEO劈柴亲自站台,高调发布闭源决策模型Gemini Decision 1。

巨头混战之中,一匹开源黑马Karpo Decision 31B强势杀出。在300个模型同台厮杀的Decision Index权威评测总榜上,它直接冲到榜首,拿下全球第一。

https://huggingface.co/spaces/multimodalart/jev-decision-index
这次开源的Karpo Decision家族覆盖0.8B到31B全尺寸。夺冠的31B旗舰单卡中位延迟低至94毫秒,校准误差压到0.023,单题最多可同时评估255个选项。

硬刚谷歌闭源王牌,开源黑马三局连胜
传统大模型逐字生成,Karpo Decision不一样,它是专为AI智能体的高频拍板设计的。输入当前状态和问题,一次前向推理就能直接算出所有选项的概率,全程不生成任何Token。
靠这套极速判断机制,Karpo开源即登顶总榜第一,多项评测中正面击败谷歌闭源王牌Gemini Decision 1。更有戏剧性的是,这匹夺冠黑马是用谷歌自家开源底座Gemma 4 31B后训练出来的。

在目前公认最权威的Decision Index与JevBench两大独立榜单上,Karpo把闭源与开源对手赢了个遍。Decision Index横跨37项公开基准与未公开的私有题库,吸引全球300个模型同台打榜。
JevBench则由独立机构在自有显卡上全程断网盲测,1500道考题中有1200道永久封存。
在这份Decision Index总榜上,Karpo以73.9分夺魁,远超初代标杆Jev 1.14的60.2分。分数领先之外,它的中位延迟只有94毫秒,比Jev 1.14的196毫秒快了一倍。
真正拉开差距的,是防刷榜的私有题库盲测。公开榜前十名的模型一旦进入同技能私有盲测,成绩平均暴跌6.8分。
唯独Karpo只掉了4.3分,在前十名里抗跌能力最强,到了全新领域私有题上更是拿下78.6分。

与谷歌Gemini Decision 1正面交手,Karpo连赢多场。JevBench公开集上双方同拿92.2%,打成平手;可一进真实Agent考场,差距立刻显出来。
头一场比的是Agent最要紧的行动判断。权威基准When2Call专盯这点——对话里该调工具、该追问,还是该停手。
这项测试Karpo拿下90.4%,谷歌79.9%,相差10.5个百分点。看网页截图点按钮的Mind2Web多模态测试里,Karpo以90.0%压过谷歌的86.2%。
第二场转到言外之意和细粒度分类。纽约客漫画配文测试考的是读懂隐含语气,Karpo飙到90.5%,谷歌79.7%,被甩开10.8个百分点。
商品意图极其细碎的Amazon ESCI电商分类中,Karpo以64.7%稳胜谷歌的58.7%。

第三场是37项公开基准的全面摸底。Decision Index的37项公开基准同台实测,Karpo得75.0分,谷歌60.9分,差距14.1分。
细分到陌生领域(72.3%)、知识准确率(56.0%)和安全判断(93.4%)三个维度,Karpo同样全线占优。原榜单前三的开源对手KnowLine、GLiDE、Sieve,也被它悉数甩在身后。

JevBench刚出炉的1500道题官方断网盲测,Karpo的成绩同样亮眼。这场大考由榜单维护方独立运行,标准很严,Karpo拿下当期能力分89.53分。
更难得的是封存私有题的表现:1200道题上拿到85.67分,反倒超过公开题的80.45分,校准分冲到96.00分。

换算到榜单统一标尺,261个开源模型中,Karpo以87.2分的折算能力分进入全球前三。和同场参测的谷歌相比,综合总分(77.4)、决策智力(80.2)、校准度(94.1)三项核心指标全部领先。
成本方面,Karpo每千次决策只要0.025美元,做4万次判断才花1美元。

31B旗舰登顶的同时,MachinePulse把同一套训练配方搬到0.8B至12B五个中小尺寸上。端侧轻量模型也好,单卡主力也罢,每个参数量级都进了同阶第一梯队。

1秒筛完36场活动,眨眼配齐10人点餐
跑分夺冠之外,Karpo在真实场景里究竟有多快?传统大模型碰到问题,总要一个Token一个Token地生成长篇分析。
概率怎么算?Karpo不写半个字,只做一次前向推理,毫秒之间就把所有选项的概率给出来了。
官网新挂出的两个实时互动擂台,正好把这种「一次前向答完几十题」的速度差摆到了台面上。
「城市扫描仪」挑战要求AI从全城36场活动里帮用户挑周末去处。假如周五晚上约朋友出门,条件设成「今晚、2个人、人均50美元以内、5公里内、能聊天」。
模型得照这些要求逐场判断,每场活动归入「匹配、淘汰还是信息不足」。系统把同一个请求同时发给Karpo和通用大模型(Gemini 3.5 Flash),同场掐表对决。
结果点了开始,Karpo只用1.12秒就把36道题全部答完,还准确分出10个匹配、23个淘汰、3个信息不足,36道题与规则100%一致。
右边那个逐Token往外蹦字的通用大模型呢?计时器跳到5秒以上,还在转圈干等。

另一场「10个胃口,一张菜单」挑战,把多条件权衡的难度推到了极限。餐厅里坐着10位顾客,卡路里上限、预算、过敏原、口味偏好各不一样。
左侧由我们亲自上手点菜,盯着忌口和预算连点10道菜,忙活5秒还误踩了两处忌口。
右侧的Karpo把整张菜单和10位顾客装进一次请求,916毫秒就同时端齐10道菜,硬约束与软偏好拿满分。
就算某道菜突然售罄,它也只需几百毫秒,针对受影响的顾客重新调配好菜品。

互动擂台之外,官网试玩台上还实测了浏览器Agent自动订座。这项测试里,Agent要替用户订Lumen餐厅周五晚7点半的两人桌。
面对真实的订座网页,Karpo每一步都瞬间给出概率最高的操作,依次选中「7:30 pm」、「Find a table」并确认预订。每步都在130多毫秒内一次算完,整个订座流程不到半秒跑完,指令明确时不必反复追问用户。

砍掉逐字生成过程,一次前向算出答案
Karpo能在几百毫秒内一次答完几十道题,关键在于改掉了大模型「逐字生成」的底层机制。架构上,这款支持256K上下文的原生多模态决策模型彻底抛弃了传统文本生成链路。

它直接砍掉逐字解码环节,在60层底座末尾接上一个轻量级的线性读出头(Readout head)。
题目输入模型后,所有候选答案被浓缩成独立的单Token标号,这个读出头一次性为最多255个选项同步打分,再直接换算成校准概率。
无论多选题(choice)、是非题(noul)还是打分题(score),模型都能在一次前向推理里全部算完,也永远不会吐出格式错误的废话。
单题推理提速之后,Karpo还把长网页里连问几十道题的开销压到了极低,办法是设计了一套分支注意力机制(Branch Attention)。
做法是:全部问题清单先排在最前面,模型「带着问题」去读后面的长网页,问题和网页合成一个共享块,整个过程中KV缓存只计算一次。
共享块末尾随后并行分出每道题各自的答题分支,各分支的位置编码都从同一处重新起算,几十道题因此彼此隔离,不会互相干扰。
效果是:面对数千Token的复杂网页,只问1道题时中位延迟为371毫秒,一口气连问16到63道题也只要653毫秒。
靠RSI自我进化越用越聪明
训练决策模型最头疼的地方,是它很容易沦为只会「背格式」的刷榜机器。
Karpo团队在实验中发现,光做全参数微调,公开榜成绩能推到75.09分,可陌生领域的准确率却掉了2.3个百分点。
更讽刺的是,「正反读取选项再取平均」这类刷榜技巧对真实泛化能力没有半点帮助,延迟反倒翻倍到162毫秒。
公开集分数上涨,不等于模型进了真实业务还能打——这类拖慢速度的刷榜套路,被团队果断砍掉。
那怎么在不牺牲泛化能力的前提下持续进化?团队搭起了一套RSI(递归自我改进)闭环。
闭环里,团队用公开数据集加定向合成数据补短板,每轮候选模型按「公开集占60%、陌生领域占40%」综合考评,只有真正赢过上一代才能晋升。
到了多模型融合阶段,团队照样不玩花哨套路:复杂搜索算法极易过拟合,反而是经典的Model Fusion(权重均匀平均)最稳。
最终夺冠的Karpo,把全参数微调早、中、晚期的3个检查点,和另一条LoRA训练线上的2个检查点直接做了均匀平均。
逻辑很巧妙:早期权重泛化好,后期权重更专精,正好和LoRA「学得少、忘得也少」的特点互补。
五个权重合而为一后,推理开销仍只有单模型的1倍,陌生领域准确率却比单模型终点高出1.6个百分点。
靠这套抗过拟合打法,在覆盖临床医学、法院裁判等10个大类、283个小类的陌生领域评测中,Karpo对Jev 1.14打出10比0,全面零封。
决策模型不光要选得准,还得「有自知之明」。Karpo为此引入校准决策强化学习(RLCD),激励模型如实评估自己的把握度。
经过强化校准,Karpo在JevBench上的校准误差(ECE)被压到了极低的0.023水平,表现远好于谷歌和Jev 1.14。
也就是说,它报出「80%把握」时,10次判断里大约有8次确实准确。
碰到信息缺失的是非题盲测,Karpo对92.0%的题目能果断拍板,剩下8.0%拿不准时主动弃权,交给人类兜底。
一张显卡装上「最强决策大脑」
模型练成后,要让31B模型在单卡上跑出极致速度,工程师针对Gemma 4底座的全局注意力层用Triton手写了专属算子,单卡推理快了近2倍。
有了这套底子,再加上无Padding打包、FP8量化和CUDA图回放,一张RTX PRO 6000显卡的显存占用稳定落在60GB上下,评测分数一点没掉。
基准测试抽了2000条请求来跑,单卡中位延迟压到73毫秒,吞吐量达到7100 Token/秒;最吃算力的长网页推理,耗时也减半到3.6秒。
真实场景才是练兵场,个人智能体的红利正在到来
不少人可能会问:一家初创团队,凭什么能正面赢下谷歌?
答案其实就在他们一直扎根的Personal Agent(个人智能体)这块战场上。
海外市场上,MachinePulse长期在做本地生活智能体Karpo。
全城找餐厅、搜周末活动,或者打开网页比房型、勾时段、把座位订下来,这些动作背后每一步都是高频判断。
放到日常生活里,这类微决策随处可见。
超市货架前,从一排牛奶里挑出合自己口味、也合身体需求的那一盒。
夜里走进一家对味的酒吧,聊上几句,把疲惫的一天轻轻收个尾。
这些看上去不假思索的瞬间,落到Agent身上,都是一次次毫秒级的权衡和拍板。
可通用大模型动不动就卡几秒,判断偶尔跑偏,每次还多烧Token,到了真实用户手里,体验落差就是致命的。
AI实验室可以专心刷Benchmark,冲在一线的团队却天天要面对真实的交互痛点。
从实战看,垂类Agent产品本身就是最好的模型训练场。
真实业务里要多条件权衡、连续操作网页、出错还得回退,这些逼着团队离开纸面跑分,去啃实验室里见不到的延迟、成本和校准问题。
现在决策延迟已经压进毫秒级,单次成本降到几美分,高频快思考给各类Agent打开了新的想象空间。
MachinePulse把这套原生具备网页操作判断力的0.8B到31B全尺寸决策模型全部开源,给Personal Agent的创作者们送来一批趁手弹药。
通用大模型只管深度思考,毫秒级的高频拍板交给Karpo决策模型。
一张显卡就够,给你的Agent装上这颗击败谷歌闭源新王的「全球第一决策大脑」,去探索个人智能体的下一波浪潮。