基元律动OpenSquilla实测:任务分级路由如何省下模型调用费
一个很明显的感觉是, Agent 的能力越来越强之后,成本也越来越扛不住了。 举个最明显的例子是,Codex的额度缩水缩到爆炸。以前200刀的额度我可以用一周,现在超过3天没用完....
有个感觉越来越明显,
Agent 越做越强,成本却越来越顶不住。
最直观的例子是
Codex 的额度缩得厉害。以前 200 刀的额度我能用一周,如今超过 3 天还没用完,只可能是我闲得去刷红果了。
这里头就冒出个挺有意思的问题:
“每个任务是不是真都得用最好、最强的模型?”
当然不是,就算开发,任务难度也分三六九等。
可我发现,平时用一些 Coding Agent 的时候,脑子里常冒出来的念头是:
“给老子顶满”。
不用则已,用就用最好的。结果账单一出来,人傻了。
冷静下来其实都明白,不少任务的需求挺简单,比如“帮我把字号调大一点”“帮我把颜色换成蓝色”这类。只是我们平时不太在意。
很明显,中间缺了一层路由,来帮我们判断任务难易。
所谓路由,就是让 Agent 按任务难度来,在保证质量的同时把成本压到最低。
于是我拿这个问题问 Grok:开源的 Agent 里,哪家做模型智能路由做得比较好?它推荐了 OpenSquilla。
这也是之前介绍过的基元律动的项目,现在已经有 7.1k star。
它的本地路由器把任务分成四个档位:C0、C1、C2、C3。每个档位对应不同模型,具体选哪个,由基元律动每月的模型推荐榜单决定。
十一月的配置是这样:
C0 档位用 Qwen-3.8-flash,C1 档位用 DeepSeek-V4.1-Flash,C2 档位配 GLM-5.3,C3 档位配 Kimi K3。
客户端下载好,直接在设置里就能配置。
我手上正好有两个项目,可以拿来试试这套路由的深浅。
第一个是我的知识库网站,界面上有些样式要改。
比如这一处:搜索弹窗按下 esc 之后会出现黑框选中的样式,我觉得挺丑,想把它去掉。
换平时,这种活儿一般直接上 Opus 5.5。
但 OpenSquilla 替我做了决策,认为 Qwen-3.8-flash 应付这种问题足够了。
也确实,一下就把问题解决了。
还有个习惯,平时用起来挺奢侈、也挺懒的,同样得益于这套路由分类。
还是拿我这个知识库网站的开发来说。
刚改完代码,想看看效果,可我又懒得在本机起服务端口,就让agent替我启动。这活儿平时是opus 5.5在干。
但这种事哪用得着opus 5.5,纯属杀鸡用牛刀。
OpenSquilla还是毫不犹豫地选了Qwen-3.8-flash来跑。
那有没有任务会被派给更高一层的模型?
当然有。
我有个用rust+gpui写的Markdown笔记应用,就拿它举例。
现在提了个需求。
侧边栏有搜索功能,我希望搜索时能跳到对应搜索词所在文档的那一行,再把那个词短暂高亮一下,用起来会舒服些。
这一回,它直接挑了glm-5.3来干。
顺带还发现了另一个问题,干脆一起让它fix掉。
这次直接给到最高档,由K3出手解决。
全部搞定之后,来看下效果:
一遍就把任务做完了。
再看这几个任务的花费。
几个任务加起来,花了不到6刀。
要是按我以往什么都上Claude的路子,我估摸着费用起码贵6-7倍。
话说回来。
不同难度档位配不同模型,那这份档位会一直固定不变吗?
显然不会。
基元律动每个月都会评测一次模型。
内部有两个Benchmark:Claw-SWE-Bench专门测模型的代码修复任务,App World则专门测跨应用任务。
按它们给出的推荐配置,同一套Benchmark下,得分比之前高32%,费用反倒低了22%。
好刀用在刀刃上,说的就是这个道理。用的时候我还碰上个彩蛋。
当时OpenSquilla上线了一个神秘模型,叫Egg Alpha。可惜那会儿看到没截图,等写稿写到这儿,它已经下线了。
这信号再明显不过:新模型马上就到。
这也让人想起海外openrouter上匿名模型测试的场面。国内如今也有了这种味道。
鱼和水互相依赖,模型也一样。水要干净、合鱼的脾性,模型则得有个足够真实、足够开放的环境,才清楚自己到底几斤几两。
基元律动这边,Agent产品经验有,模型训练上的积累也有。什么样的任务能测出模型本事,他们心里有数,也就能更好地帮用户做选择。
往后Agent之争,未必看谁接入了最强模型,而是看谁更懂在合适的时候用合适的模型。毕竟不是所有任务都得上Opus 5.5。