Jomy再谈企业AI转型:老板先上手,Token用量成新指标
或许,老板们最终需要的,是一家很多工作不必等他推动的公司。 作者: GaKi 编辑: Koji 排版: NCon「老板」这个词,放在 AI 时代听,多少有些陌生。但 Zleap 智跃创始人 Jomy,却已经是第二年为老板做 AI 了。过去两年的 AI 发布会上,大家更习惯称呼其为「创始人」,员工则互称「同学」,很少有
作者 GaKi,编辑 Koji,排版 NCon。
放到 AI 时代来听,「老板」这个称呼多少有点别扭。可 Zleap 智跃创始人 Jomy 给老板做 AI,已经干到第二年。
过去两年那些 AI 发布会上,台上的人更常被叫「创始人」,同事之间互称「同学」,老板这个角色反倒很少有人盯着看。
不过 Jomy 的看法是,企业做 AI 转型,得从老板起头,自上往下推。买资源、掏钱、改工作方式,拍板的都是老板。
老板这群人,身上有几个共性:
Jomy 最早挑的产品方向,恰好是老板们最在意的那个问题:
一年前,「十字路口」跟他对谈过一次。那会儿他的想法是,靠「CEO 管理盒子」让老板先用上 AI,再带着企业迈出转型第一步。
一年过去,他对企业 AI 转型有了新的看法。
下面不打算细抠产品概念,更想把 Zleap 当成一个样本,看看这一年企业 AI 到底变了什么。
全文围绕三个问题来谈:
去年那场对谈里,Jomy 对 CEO 管理盒子的构想并不复杂:
CEO 管理盒子
这个 Agent 主要出现在群聊和内部系统里,负责收集、整理工作信息。
Jomy 后来也认了,真推起来,组织上的阻力不小。员工会主动绕开它,不肯交出工作信息。信息本身又散在聊天软件、文档、邮件和项目工具里,每个渠道都得单独接。
老板的需求没变,可信息收集这一步就是推不动。
具体的工作信息收不全,老板通常先去找能算数的指标。2026 年,Agent 铺开带来了新机会。员工越来越多借助 Agent 干活,Token 用量就成了老板看团队状态的新指标。
说到底,Token 用量好统计,比来比去也方便。
企业动手把 AI 使用情况纳进管理,也是从这时候开始的。
2025 年 4 月,Shopify CEO Tobi Lütke 在一封内部信里提出,员工得把用 AI 当成日常习惯,这件事还算进绩效评估。
微软、Meta、Coinbase 后来也提了差不多的要求。Coinbase CEO Brian Armstrong 在播客中说过,公司买下 AI 编程工具之后,有工程师没按规矩用,也讲不出原因,人就被他开掉了。
Brian Armstrong 播客对谈切片
跟着,按 Token 用量排座次的榜单也冒了出来。
今年 4 月,Meta 有位员工自己搭了个排行榜,把 8.5 万多名员工拉进去排名,消息传开两天,榜就关了。Amazon 员工自建的那个榜同样没撑住,原因是有人为了刷名次去做没意义的任务。
这种成心烧 Token 的做法,被叫作 tokenmaxxing。Amazon 在 10 月的内部备忘录里说,这类指标「有严重缺陷」,改成看真正上线了多少功能。
不过 Jomy 从中看到了新机会:
员工干活越来越依赖 AI,老板能不能从管 AI 这一头入手,把他们正在做的事看清楚?
老板要管的,其实是员工用 AI 的整条链路:
这些环节,常常散落在不同平台。
员工自己买 AI 工具,把合同、客户资料发给外部模型,公司这边根本摸不清使用情况。
微软 2024 年的调查显示,工作中用 AI 的人里,78% 用的是自带工具。IBM 2025 年的报告则显示,五分之一的组织发生过员工私下使用 AI 导致的数据泄露。
IBM 报告 《Cost of a Data Breach Report 2025》
就算公司拍板统一采购,成本和供应商筛选这两关也躲不开。
Jomy 的看法是,OpenRouter 模型是齐全,性价比却不算高;市面上做中转的服务商水平参差,企业想挑出靠谱的也有门槛。
要是挨家去接模型厂商,开账号、配密钥一样不能少,费用还散在各处,模型怎么路由同样棘手。
Zleap 选的路子,是给企业一个统一的管理入口:
这套产品软硬一体,开箱就能用。硬件在内网里充当统一接入点,软件管的是模型资源的分发和调度。
大模型和小模型的自动路由、敏感信息脱敏、预算管控以及工作内容总结,这些功能都打包进了这套产品。
由于Token属于付费资源,Zleap会先筛选出优质的模型资源供应商并向企业推荐,随后由路由器统一接入、统一供给,企业不必自己逐家甄别、逐个对接。
员工如今自己装上客户端就行,客户端会自动发现内网的路由器并完成连接,不用再一个个手动配置,个人也无需掏钱付费。
接入环节被大幅简化之后,自上而下推动就顺畅多了。员工消耗这些Token时,调用自然要经过公司的网关。
不过,这类产品有个前提:「员工知情,并且乐意将上下文分享给企业 AI」。
官网展示的客户端用量情况
Jomy 说,这些能力都来自他过去三年运营 302.AI 模型中转平台攒下的经验。
从中转服务里打磨出来的模型供给和调用管理能力,被他整合成了一套企业开箱即用的软硬件产品。
海外同样在长「AI 网关」这类东西,它夹在企业与模型之间,负责分配模型、记录用量、控制预算、过滤敏感信息。
去年 10 月,Gartner 就为这个品类出过专门的市场指南。
今年 5 月,Palo Alto Networks 把 AI 网关公司 Portkey 收入囊中。AI 用量管理正逐渐被纳入企业安全采购的范围。
收购完成后 Prisma AIRS AI Gateway 的架构图,一头连着应用和 Agent,另一头连着 3000 多个模型
海外的网关大多以软件形式交付,部署和配置往往要靠企业自己的技术团队。Zleap 走的是软硬一体路线,瞄准的正是缺专门技术团队的企业,硬件形态更容易做到开箱即用。
Zleap 披露,路由器已在今年 11 月开售并交付客户,市场反馈不错。
把 AI 的使用统一管起来之后,Token 路由器实现了 CEO 当初做管理盒子时定下的目标:让老板看清员工在做什么。
员工从统一入口调用模型,工作记录也就跟着集中起来。Zleap 再用自研的 SAG2 信息处理技术,从海量记录里挑出关键内容,总结进展。
基于 SAG2 的开源项目 SAG-Wiki,一天之内 GitHub Star 数就突破了 1000:
这些记录里,任务要求和模型生成的内容都有,能帮老板掌握实际工作的进展。
靠工作记录来理解公司,海外也有人在做类似讨论。
今年 3 月,Block 创始人 Jack Dorsey 和 Sequoia 合伙人 Roelof Botha 联合发文,提出公司层级主要起的是信息传递作用。
Sequoia「From Hierarchy to Intelligence」中层级树演变为环形网络
一旦决策、讨论、代码和进展都留下记录,AI 就能维护一份「公司世界模型」,不少中层管理工作随之减少。
Jomy 本人就在用 Token 路由器,很快就能了解各部门的进展。
用他的话说:
把供给和接入统一起来,让员工真能用上 AI,这是企业 AI 转型的头一步。
员工提需求,Agent 交代码、文档或者方案,一次任务收尾就结束。Jomy 管这种干活方式叫创建时(Build-Time)。
照他的判断,眼下绝大多数 AI 工具都只服务这一段,工作循环还得靠人去推。国内多数企业才刚走到这一步。
那再往后呢?
Jomy 的看法是,AI 转型的第二步,是让工作慢慢不再受"由人反复发起任务"的束缚。
他把这叫作运行时(Run-Time):
海外 AI 圈聊这个方向,已经聊了快两年。
LangChain CEO Harrison Chase 在 2025 年初提出 ambient agents,说的是监听业务事件、自己动手的 Agent。a16z 今年 10 月的一篇文章写道:新一代 Agent 会按事件或截止日期自己醒来,干活过程中还在持续学习。
黄仁勋今年 8 月的财报会上说,未来的 Agent 会一直跑着,还会跟其他一直跑着的 Agent 协作。
产品侧往这个方向走的迹象也很明显:Claude Code、Codex、Cursor 都把编码 Agent 放到了云端,用户关掉电脑,Agent 还在服务器上干活。
Cursor Cloud Agents 在云端运行
不过换个角度看,这些产品大多还卡在中间状态。定时也好、事件也好,都能自动触发,但每次仍旧只做完一个任务、只交付一次。
围着目标长期跑、靠反馈持续变好,这类能力大多还在预览阶段。前 OpenAI 创始成员 Andrej Karpathy 更保守,他觉得这会是「Agent 的十年」。
Jomy 的理论是,现在的公司就像人和 Agent 共存的 harness。
在 Agent 领域,harness 指的是模型之外的运行环境,工具、数据、权限、反馈机制都算在内,市面上优秀的实践已经很多了。
要是把公司看成一套更大的 Harness,那也能借 Agent Harness 的设计思路,把企业的目标、数据、执行环境和反馈机制串起来,让人和 Agent 在同一套体系里配合。
顺着这套理论,Zleap 在做第二个产品—— Zleap OS。定位是给企业 Agent 持续运行用的服务器操作系统:
Jomy 给它列了几项要求,可以分成三组:
【1】Agent 能在应用之间连续工作
应用全都为 Agent 而设计,Agent 跑在服务器上,员工下班、电脑关机,它照样在干。
Agent 工作界面
【2】组织协作是有边界的
员工、Agent 与部门之间可以互相配合、交接任务。谁能读信息、谁能执行动作,由权限说了算;上下文和知识只在授权范围内互通。
团队网盘
【3】人和 Agent 都能上手,也能自我迭代
人可以在界面上定目标、看进展、中途插手。Agent 则不停执行、接收反馈,并判断调整有没有让业务结果变好。
桌面工作区
这条路上已经挤了不少玩家。Anthropic、OpenAI、微软、Kimi 今年都拿出了企业 Agent 托管服务。
但前一阵子,这类服务的市场反应偏冷。业内常见的说法有四条:Agent 表现不够稳定、企业数据难以接入、权限和治理没想清楚、成本难以预估。
Zleap OS 提的几项要求,大体对着上面这些问题去。真正难的地方在于,怎么把这些能力攒到一起,做成企业开箱即用的产品。
Zleap OS 基础框架目前已全部完成,正在内测,同时按垂直领域打磨,计划今年 12 月底正式发布。
眼下,Token 路由器负责模型资源、路由和管理,Zleap OS 提供的是 Agent 持续运行的完整系统。
Jomy 还预测,Agent 一旦开始持续自主运行,Token 需求会大幅增长。
OpenRouter 的数据显示,今年 8 月,Agent 消耗的 Token 约为人类用户的 5 倍。Goldman Sachs 预计,2026 年至 2030 年,Token 消耗量将增长 24 倍。
这些数据没有区分 Build-Time 和 Run-Time 的消耗。
Jomy 判断:
用他的话说:
帮企业转型成 AI 原生组织,是 Zleap 一直以来的愿景。
最早是从 CEO 的管理需求出发,如今落到员工的日常工作上,往后还要进一步改变整个组织的运作方式。
在 Jomy 看来,企业得有自己的 AI 运行时,并让它持续扛起核心业务,才算真正成了 AI 原生组织。
不过,从他那个宏大愿景里,我们似乎瞧出一点小小的私心: