张博开源Agent项目Linger:本地推理零token费,12GB显卡跑125B模型

资讯 华尔街见闻 全文 1478 字 · 约 4 分钟读完 配图 3 张 分类DeepSeek深度求索开源Deepseek智能体

11月19日,前DeepSeek-VL项目负责人张博在X宣布开源个人Agent Linger,开发主体是张博创办的Simplex AI。零token费是Simplex AI主打的卖点,README与官网均写明本地推理不产生云端账单和token费用。

所属频道 智能体与 Agent开源生态

11月19日,张博在X上宣布把个人Agent Linger开源。他是DeepSeek-VL项目的前负责人,这次的开源主体为本人创办的SIMPLEX AI TECHNOLOGIES PTE. LTD.(下称Simplex AI),代码已经传到GitHub。

张博开源Agent项目Linger:本地推理零token费,12GB显卡跑125B模型(配图 1)

项目文档给出的运行方式是:Linger会读取本机的邮件、日历和文件,并操控用户已登录的浏览器。凡是连接外部应用做读取,直接执行;发邮件这类写入动作,则会先弹一张确认卡,用户随时可以接手。

官方文档同样划定了权限边界:Agent在用户授权的那套运行环境里干活,能碰这台电脑上的文件、已登录应用和命令行。对Agent行为的约束靠确认卡加服务端校验,沙箱隔离并未采用。

Simplex AI公布的实验室测试数据是:12GB显存加64GB内存的配置下,阿里千问Qwen3.8-Flash-Next跑到45.5 tokens/秒。这一速度指模型开始生成后的稳态值,首token等待不计在内。零token费被Simplex AI当作主打卖点,README和官网都写明:本地推理不会产生云端账单,也没有token费用。

不过,这组性能数字的测试口径并不统一,真实使用中的表现还有待验证。

能把125B模型塞进12GB显卡的,是MoE推理引擎PolyStrata。文档对它的原理是这样说的:专家权重分层管理,一部分专家留在显存,剩下的搁在系统内存或SSD里,需要时再调过来。Qwen3.8-Flash-Next的2-bit量化文件约39GB,这些权重靠分层调度跑起来,不会一股脑全载入显存。

官网信息显示,PolyStrata已经适配12个开源模型,Qwen、DeepSeek、Gemma、Qwen3.8-Flash-Next、Qwen3.8-27B和Spark-X2.6-4B都在其中,还有更多模型列在名单上。发布会拿来演示的千问模型只是其中之一,DeepSeek同样在支持列表里。对本地推理用户而言,模型选择不被单一厂商绑住,可以照硬件条件切换,也不用为某一家的云端调用单独订阅。

张博开源Agent项目Linger:本地推理零token费,12GB显卡跑125B模型(配图 2)

算成本账,绕不开硬件这个前提。45.5 tokens/秒对应的就是12GB显卡加64GB内存。

官方另一组硬件规划测试里,模拟12GB显卡配32GB内存的配置,同一模型速度为21.3 tokens/秒,首字延迟约3分钟。这组数据是在96GB显卡上限制显存预算模拟出来的,并非真实12GB显卡实测;该档默认推荐的模型其实是Qwen3.6-35B-A3B。两项数据分属不同测试,不能直接对照。

8GB显卡档标的是38.1 tokens/秒,脚注也注明:这是在96GB显卡上把预算限制到8GB测得的,不是真实8GB显卡。

官方文档写明,工作数据存放在用户自己运行的服务器与电脑上,但有几类数据会离开本机。用远程模型时,模型调用会把提示词和上下文发给模型服务商。连接Gmail、Slack等应用、语音识别和实时语音,分别调用的是Composio、Soniox和xAI。后台记忆和Wiki生成,用的则是Claude Code或Codex等运行时。

说到底,Linger省下的账只限于本地模型推理不用付token费。硬件、电力以及上面那些外部服务的开销,得另外算。

商业模式上,Linger把本地部署开放给个人使用,云端托管权则握在手里。眼下不少个人AI助手和Agent产品走的是云端模型或托管服务路线,用户靠订阅、按用量付费或自备API额度来用;云端模型通常要把任务所需的上下文发给模型服务商。

开源版本可以免费在本地使用,Linger另有一个hosted版本,目前只开放等候名单,定价还没公布。截至11月20日,该项目GitHub仓库的星标约1.8k。

许可证方面,项目以Apache 2.0为基础,附加了商业限制。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 张博开源Linger:零token费本地跑125B模型,12GB显卡够用

    11月19日,前DeepSeek-VL项目负责人张博在X宣布开源个人Agent Linger,开发主体是张博创办的SIMPLEX AI TECHNOLOGIES PTE. LTD.(以下简称“Simplex AI”),代码已上传GitHub。按项目文档,Linger读取本地邮件、日历和文件,操作用户已登录的浏览器;连接

    来源 腾讯网
  2. 唐飞虎穿女仆装现身云桥大会:Kimi 工程师造型似 DeepSeek“大肥鱼”

    人工智能圈的跨界整活再添一桩趣闻。11月19日,2026云桥大会在杭州拱墅大运河杭钢公园举办,大会圆桌讨论环节的一张现场照片在网络上引发热议。照片中,月之暗面 Kimi 高级研发工程师、开发者关系负责人唐飞虎戴着银蓝色假发,身穿蓝白配色的女仆装手持话筒发言。 圆桌造型引围观:Kimi 工程师疑似扮成

    来源 AI 开发者社区
  3. DeepSeek限额免费用户:梁文锋曾称用户赶都赶不走

    (本文作者为 识礁Farsight,钛媒体经授权发布)文 | 识礁Farsight“去别的地方玩,不要耽误AGI训练。” 这句针对DeepSeek的调侃,如今正变成现实。近日,DeepSeek收紧了网页版和App免费用户的使用额度,超过7天不活跃的长对话无法继续使用,新对话单次输入的文字上限被压缩到4万字左右,连续使用

    来源 腾讯网
  4. 宁德时代投资DeepSeek:电池帝国的隐秘扩张

    1000亿,中国AI融资的天花板,终于落地了。 11月19日,DeepSeek运营主体杭州深度求索完成工商变更,31家出资方正式进入股东名册。就在四个月前,DeepSeek刚完成510亿元融资。 两轮融资的投资人名单,不乏腾讯、京东和网易等科技公司。但有一个颇为突兀的名字,出现了两次:宁德时代。 这份突兀不难理解。腾讯

    来源 AI 行业观察
  5. 蓝耘Automodel:5模型塞进1个API,混合任务能靠路由解决吗?

    蓝耘推出 Automodel,将 Gemma3、Qwen3-VL、DeepSeek-V3.2 等五个主流模型整合为单一接口。本文通过逻辑推理、代码生成及混合任务三道测试题,验证其路由调度能力,并结合 Next.js 项目实战,分析其在生产环境中提升回答多样性的实际效果,探讨模型路由技术的实用价值。

    来源 AI 应用前沿
  6. DeepSeek二轮融资新增出资方,注册资本增至1991.87万

    市场关注已久的DeepSeek第二轮融资近日有了新的工商登记线索。这是一份横跨互联网、通信、消费电子和制造业的出资名单,也让外界得以窥见,围绕一家大模型公司产业资本是如何集结的。 据企查查App,DeepSeek的工商主体杭州深度求索人工智能基础技术研究有限公司近日完成注册资本及投资人变更,注册资本由约1645万元增至

    来源 AI 行业观察
  7. 压力给到梁文锋一边了

    出品|虎嗅科技组作者|宋思杭编辑|苗正卿头图|视觉中国DeepSeek第二轮千亿融资,落地了。近日,DeepSeek已完成工商变更,新增股东杭州程砚。这家持股平台同期新增31家合伙人,背后包括腾讯、宁德时代、中国移动、中国电信、vivo、小红书等产业资本,以及砺思、博裕、IDG等投资机构。自从DeepSeek开放融资之

    来源 腾讯网
  8. 聚焦个人知识与成长领域,「Akasi」要做更垂直的Personal Agent|早期项目

    毋庸置疑,PA(Personal Agent,个人智能体)已经是当下最热闹的AI产品方向。 2026年9月,Meta 发布 Muse,希望它能主动替用户处理邮件、安排旅行、推进长期目标;10月,国内的 Today AI 宣布累计融资超过 2 亿美元。能记住一个人、持续替他办事的 AI,吸引了大公司和创业者同时入场。 但

    来源 AI 行业观察
  9. 国产大模型的算力阵痛期

    ► 文 观察者网心智观察所 2026年11月16日,不少用户在打开DeepSeek客户端或网页版时,意外收到了一条弹窗提示。系统告知用户,受算力约束,平台不再支持存续超过7天且无活跃交互的长对话,单次输入文字上限被缩短到约4万字,连续使用不到2小时的免费用户甚至会直接触发每日使用额度上限。 无独有偶,就在20天前的10

    来源 AI 行业观察
  10. 上海AI Lab开源Sage S2.1 Flash报告:320B模型四基准SOTA

    只需一个指令,Agent 就能从 12,487 张 CT 图像中,重建一个三维骨骼模型?Sage S2.1 Flash 做到了,它的答案是找出属于目标扫描序列的切片,整理好,再操作医学影像软件 3D Slicer,重建立体可见的骨骼模型。近日,上海人工智能实验室联合复旦大学、中国科学院软件研究所、中国人民大学、中国科学

    来源 腾讯网
  11. 腾讯、宁德时代都来了,DeepSeek第二轮千亿融资阵容有多豪华?

    11月19日据《科创板日报》报道,DeepSeek运营主体杭州深度求索近日完成股权变更,新增杭州程砚企业管理咨询合伙企业为股东,注册资本增至1991.8707万元,增幅约21.1%。杭州程砚同期新增31名合伙人,登记出资额增至34.38979亿元,新增合伙人包括腾讯、中国移动、中国电信、宁德时代、兆易创新、小红书、vi

    来源 凤凰科技
  12. 谷歌Gemini 4 Neon发布:100万token上下文,速度达Carbon三倍

    谷歌11月18日发布新AI模型Gemini4Neon,聚焦复杂推理与多步骤任务自动化,重点覆盖复杂编程、科学研究和企业工作流,力求平衡推理能力、响应速度与运行成本。该模型已向开发者、企业及部分付费订阅用户开放,核心亮点是支持100万token超长上下文,并具备多智能体协同能力。

    来源 AI 产业速递
  13. Salesforce推CLIFT:网页智能体靠自问自答给自己打分

    你有没有想过,一个能帮你订机票、填表格、逛淘宝的网页智能体,是怎么知道自己做对了没有?这个问题比听起来复杂得多。2026年的今天,开源网页智能体已经能够在真实浏览器里点击、输入、滚动,完成相当复杂的任务了。但训练它们变得更聪明这件事,卡在了一个很尴尬的地方:你用来告诉AI"这次做得好不好"的反馈信号,要么太...

    来源 腾讯网
  14. 苹果招聘曝光AI Agent计划:Siri要从动嘴变动手?

    苹果招聘信息透露,公司正开发可跨应用操作、独立规划并执行多步骤任务的 AI Agent,并强调隐私与权限管理。据彭博社报道,项目仍处早期阶段。面对已积累用户与收入的竞争对手,苹果正争夺下一代计算入口。

    来源 爱范儿
向下滚动自动加载更多