DeepSeek V1作者Tony Zhang创业做Linger:12GB显存本地跑125B模型
前DeepSeek核心成员Tony Zhang公布新项目Linger,主打本地部署的个人AI助理。通过PolyStrata引擎优化,普通游戏本也能流畅运行125B参数大模型。系统开源,强调数据隐私与主动学习能力,能自动整理知识库并操作电脑应用。
本地跑智能,而不是租智能
AI圈流传一句话,聚起来是一团火,散开是满天星。这一回散出来的星里,有一颗挺扎眼。

DeepSeek V1的作者、DeepSeek-VL项目负责人Tony Zhang,拿出了一个新创业项目Linger。它不做什么套壳聊天机器人,而是冲着本地部署去的个人智能体(Personal Agent)。

眼下多数AI创业都往手机App和网页端挤,Linger偏把落脚点放在你的电脑上。这样一来,浏览器里已经登录的邮箱、日历和各类SaaS工具,它能直接接管,密码不用一遍遍输,API密钥也不怕外泄。它卡住的时候,你随时能接手;干得顺的时候,它就在后台自己忙活。

更硬的一点在于,这套系统全部开源。

官宣时Tony Zhang讲了一个看法:1960年代算力攥在大型机手里,直到PC问世,权力才回到个人手上。今天的AI同样是中心化的——模型在数据中心训练,智能按Token租着用。Linger想干的事,是让智能以分布式的方式回到你的硬盘,数据、上下文、跑它们的模型,统统归你。

技术硬核、态度开放,这很符合DeepSeek系那套“大肥鲸”的路子。

它想当的不是问答机器,是「另一个我」

Linger的核心组件取名「Another Me」。光看名字就明白,它不满足于只做问答,目标是当你的数字分身。

头一件事,它是记忆中枢。Linger在本地读你的邮件、聊天记录、会议摘要,每天晚上把这些零散信息梳理成个人知识库(Wiki)。LoCoMo基准测试里,它的长期记忆准确率做到95%,高过Mem0、MemOS这些主流记忆增强系统。

有了记忆,它才谈得上主动。普通AI是你问一句它答一句,Linger则会盯着你的工作流看。周一客户来信要周五报价,它不会当场弹窗烦你,而是压到周三早上再提;可要是明天的会议时间改了,它立马通知。哪件事紧急、哪件事重要,它靠学你的工作习惯来判断。

这种学习有个说法,叫「隐式强化」。打个比方:它提醒你发票快到期,你回一句“上周就收到了,早该告诉我”。系统把这个反馈记下来。下回再碰上类似情形,你要是又表示不满,它就自动生成一条规则:“供应商发票→立即提醒”。反过来,快递提醒你连着忽略两次,它就学会闭嘴。
当然,直接下指令调教它也成:“客户回复要立刻通知我”,或者“晚上9点后别拿会议变更烦我”。交互越多,这个Agent越像你自己。
记忆和主动提醒之外,Linger还带两个实用功能:
其一是操作桌面和浏览器。点击、输入、切换标签页,它做得和人一样,用的还是你现有的登录状态。
其二是组Agent团队。任务复杂时,主Agent先把目标拆开,再调用或新建不同职能的子Agent一起干。你只消在一个会话窗口里等结果,不必来回换角色。
语音交互它也支持,会议内容能实时转录。散会后你直接问它:“刚才老板提到的待办事项有哪些?”它答得上来,还能顺手把任务条目建好。
有人拿它跟DeepSeek此前的DS-Bot比。Tony Zhang说得很清楚:DS-Bot偏重Bot之间的协作,Linger偏重人与自己的Agent、Agent与本地环境的深度绑定。重点是把本地体验做顺,让12GB显存的显卡也跑得动千亿参数模型,不按Token收费,数据不出本机。
125B模型跑在12GB显存上,靠的是什么?
让消费级硬件扛住超大模型,是Linger最大的技术卖点。官方数据摆在这里:一台装12GB显存RTX 3060、64GB内存的电脑,跑125B参数的Qwen3.8-Flash-Next模型,速度45.5 tokens/秒。
搁以前这没法想。这么大的模型,一般得上多张A100或H100。Linger的杀手锏是一个叫PolyStrata的MoE(混合专家)推理引擎。
MoE模型有个特点:每次推理只唤醒一部分“专家”模块。PolyStrata就顺着这点做了一套智能分层存储:
- GPU显存:放最常用、最活跃的专家模块,速度有保障。
- 系统内存:放使用频率中等的模块。
- 存放极少使用冷数据的,是SSD硬盘。
模型一旦要调用某个专家,数据就在GPU、内存和SSD之间被动态搬来搬去。几百GB的模型不用整块塞进显存,硬件瓶颈也就被绕开了。
实际表现呢?RTX 5090(32GB显存)上能跑到179 tokens/秒。配置更低的8GB显卡加32GB内存,性能评分也有35.4,大致相当于Gemini 2.5 Pro。Mac用户同样有份,24GB统一内存的MacBook跑出的性能可以媲美Claude Opus 4.5。
门槛还在往下压,Linger加了「模型自动驾驶」:自动识别硬件配置,再从49种语言模型、两种推理引擎和多种量化方案里挑出最合适的组合,推荐并安装好。量化是什么、上下文窗口是什么,用户不用懂,装完直接能用。换句话说,游戏本或办公Mac转眼就成了7×24小时待命、不交月费、隐私留在本地的超级大脑。
浙大博士与18岁天才少年
这支队伍来自Simplex AI,阵容不简单。创始人Tony Zhang本科读浙江大学,博士毕业于港科大,在微软亚洲研究院(MSRA)深耕计算机视觉和生成模型,VQ-Diffusion、Rodin 3D数字人这些知名项目他都是核心作者。2023年他加入DeepSeek担任AI科学家,主导了DeepSeek-VL项目的研发,这款模型在图文理解、图表分析上的表现业内口碑不错。
从DeepSeek离开后,Tony Zhang回浙大任教,做百人计划研究员,同时创办了Simplex AI。Linger正是这家公司的首款产品。
核心的PolyStrata推理引擎来头有点特别。据Tony Zhang透露,它是团队里一位18岁天才少年构建的。高中刚毕业就能做这种底层系统优化,现在的年轻开发者确实让人感叹。
目前Linger已经开源。开发者可以拿它当研究本地Agent架构的样本;普通用户则可能借此摆脱云端依赖,真正把自己的数据握在手里。
当然,本地部署不是没有门槛:一台还过得去的电脑,加上愿意折腾环境配置的耐心。不过工具链在成熟,这道坎正快速变低。AI不再按次收费、而是像电一样插在家里随时可用的时候,我们用它做事的方式,或许真会不一样。