张博开源Linger:本机Agent零token费,邮件日历文件可读
DeepSeek前成员张博开源Linger项目,主打零token费,显卡,内存,token,deepseek,张博(1982年)
11月19日,张博在X上宣布将个人Agent Linger开源。他是
DeepSeek-VL项目的前负责人,这次的开源主体为本人创办的SIMPLEX AI TECHNOLOGIES PTE. LTD.(下称“Simplex AI”),代码已经放到GitHub上。

项目文档写明,Linger能读取本机的邮件、日历与文件,并在用户已登录的浏览器里执行操作。涉及外部应用的读取动作直接放行;发邮件这类写入动作则先弹出确认卡,用户随时可以接手。
官方文档同样划定了权限边界:Agent在用户授权的运行环境里干活,可以访问这台电脑上的文件、已登录应用以及命令行。Linger靠确认卡加服务端校验来约束Agent行为,并未采用沙箱隔离。
零token费是Simplex AI主推的卖点,README和官网都写着本地推理不会产生云端账单与token费用。Simplex AI公布的实验室测试数据显示,在12GB显存加64GB内存的配置下,阿里千问Qwen3.8-Flash-Next的生成速度为45.5 tokens/秒;这一数字是模型开始生成后的稳态速度,首token等待没有算进去。
不过,这组性能数字的测试口径并不统一,实际用起来效果如何还要再看。
把125B模型塞进12GB显卡的,是MoE推理引擎PolyStrata。文档对它的原理描述是:专家权重分层管理,一部分专家驻留显存,剩下的放到系统内存或SSD,需要时再调度。Qwen3.8-Flash-Next的2-bit量化文件约39GB,这些权重依靠分层调度运转,不会一次性全部载入显存。
官网信息显示,PolyStrata已经适配12个开源模型,Qwen、DeepSeek、Gemma、Qwen3.8-Flash-Next、Qwen3.8-27B和Spark-X2.6-4B都在其中,还有更多模型列在名单上。发布会拿来演示的千问模型只是其中一个,DeepSeek同样在支持列表里。对本地推理用户而言,模型选择不被单一厂商绑住,可以按硬件条件切换,也不用为某一家模型的云端调用单独订阅。

算成本账,硬件是绕不开的前提。45.5 tokens/秒这组数字对应的就是12GB显卡加64GB内存。
官方还有一组硬件规划测试:12GB显卡配32GB内存的模拟配置下,同一模型跑出21.3 tokens/秒,首字延迟约3分钟。该数据是在96GB显卡上限制显存预算模拟出来的,并非真实12GB显卡实测;这一档默认推荐的模型其实是Qwen3.6-35B-A3B。两组数据出自不同测试,没法直接对照。
8GB显卡档标称38.1 tokens/秒,脚注也注明是在96GB显卡上把预算限制到8GB测得的,不是真实的8GB显卡。
官方文档写明,工作数据保存在用户自己运行的服务器与电脑上,但有几类数据会离开本机:使用远程模型时,模型调用会把提示词和上下文发送给模型服务商;连接Gmail、Slack等应用、语音识别和实时语音,分别调用了Composio、Soniox和xAI;后台记忆和Wiki生成则依赖Claude Code或Codex等运行时。
所以Linger省下的账,仅限于本地模型推理不用付token费。硬件、电力以及上面这些外部服务的开销,得另外算。
商业模式上,Linger把本地部署开放给个人使用,云端托管权则留在自己手里。眼下不少个人AI助手和Agent产品走的是云端模型或托管服务路线,用户通过订阅、按用量付费或者自备API额度来使用;云端模型通常需要把任务所需的上下文发给模型服务商。
开源版本可以免费在本地使用,Linger另有一个hosted版本,目前仅开放等候名单,定价尚未公布。截至11月20日,该项目GitHub仓库星标约1.8k。
许可证方面,项目以Apache 2.0为基础,额外附加了商业限制。