Jomy再谈企业AI转型:老板先上手,Token用量成新指标

资讯 腾讯网 作者:腾讯网 全文 5174 字 · 约 13 分钟读完

或许,老板们最终需要的,是一家很多工作不必等他推动的公司。 作者: GaKi 编辑: Koji‍ 排版: NCon「老板」这个词,放在 AI 时代听,多少有些陌生。但 Zleap 智跃创始人 Jomy,却已经是第二年为老板做 AI 了。过去两年的 AI 发布会上,大家更习惯称呼其为「创始人」,员工则互称「同学」,很少有

说到底,老板们想要的公司,可能是很多事不用等他们开口就能自己转起来的那种。

作者 GaKi,编辑 Koji,排版 NCon。

放到 AI 时代来听,「老板」这个称呼多少有点别扭。可 Zleap 智跃创始人 Jomy 给老板做 AI,已经干到第二年。

过去两年那些 AI 发布会上,台上的人更常被叫「创始人」,同事之间互称「同学」,老板这个角色反倒很少有人盯着看。

不过 Jomy 的看法是,企业做 AI 转型,得从老板起头,自上往下推。买资源、掏钱、改工作方式,拍板的都是老板。

老板这群人,身上有几个共性:

【1】时间不多,看重结果,一旦认准一件事,推起来很快。【2】习惯靠层层汇报摸清公司情况,又怕信息在中间被筛掉。新工具得先看到效果,才肯掏钱。

Jomy 最早挑的产品方向,恰好是老板们最在意的那个问题:

整家公司眼下到底在发生什么?

一年前,「十字路口」跟他对谈过一次。那会儿他的想法是,靠「CEO 管理盒子」让老板先用上 AI,再带着企业迈出转型第一步。

一年过去,他对企业 AI 转型有了新的看法。

🚥

下面不打算细抠产品概念,更想把 Zleap 当成一个样本,看看这一年企业 AI 到底变了什么。

全文围绕三个问题来谈:

【1】老板要看清公司,思路为什么变了?【2】老板怎么管员工手里的 AI?【3】老板怎么让 AI 一直干活?
老板想看清公司,为何换了思路?

去年那场对谈里,Jomy 对 CEO 管理盒子的构想并不复杂:

让 AI Agent 自己去收集公司内部信息,老板一打开,就知道每个人在忙什么。

CEO 管理盒子

这个 Agent 主要出现在群聊和内部系统里,负责收集、整理工作信息。

Jomy 后来也认了,真推起来,组织上的阻力不小。员工会主动绕开它,不肯交出工作信息。信息本身又散在聊天软件、文档、邮件和项目工具里,每个渠道都得单独接。

老板的需求没变,可信息收集这一步就是推不动。

具体的工作信息收不全,老板通常先去找能算数的指标。2026 年,Agent 铺开带来了新机会。员工越来越多借助 Agent 干活,Token 用量就成了老板看团队状态的新指标。

说到底,Token 用量好统计,比来比去也方便。

企业动手把 AI 使用情况纳进管理,也是从这时候开始的。

2025 年 4 月,Shopify CEO Tobi Lütke 在一封内部信里提出,员工得把用 AI 当成日常习惯,这件事还算进绩效评估。

微软、Meta、Coinbase 后来也提了差不多的要求。Coinbase CEO Brian Armstrong 在播客中说过,公司买下 AI 编程工具之后,有工程师没按规矩用,也讲不出原因,人就被他开掉了。

Brian Armstrong 播客对谈切片

跟着,按 Token 用量排座次的榜单也冒了出来。

今年 4 月,Meta 有位员工自己搭了个排行榜,把 8.5 万多名员工拉进去排名,消息传开两天,榜就关了。Amazon 员工自建的那个榜同样没撑住,原因是有人为了刷名次去做没意义的任务。

这种成心烧 Token 的做法,被叫作 tokenmaxxing。Amazon 在 10 月的内部备忘录里说,这类指标「有严重缺陷」,改成看真正上线了多少功能。

光盯着用量,老板手里只有数字,员工活干得怎么样,还是看不见。

不过 Jomy 从中看到了新机会:

老板如何管理员工的 AI?

员工干活越来越依赖 AI,老板能不能从管 AI 这一头入手,把他们正在做的事看清楚?

老板要管的,其实是员工用 AI 的整条链路:

模型打哪儿来,钱怎么结,数据流到哪儿去,这些调用最后又干成了什么活。

这些环节,常常散落在不同平台。

员工自己买 AI 工具,把合同、客户资料发给外部模型,公司这边根本摸不清使用情况。

微软 2024 年的调查显示,工作中用 AI 的人里,78% 用的是自带工具。IBM 2025 年的报告则显示,五分之一的组织发生过员工私下使用 AI 导致的数据泄露。

IBM 报告 《Cost of a Data Breach Report 2025》

就算公司拍板统一采购,成本和供应商筛选这两关也躲不开。

Jomy 的看法是,OpenRouter 模型是齐全,性价比却不算高;市面上做中转的服务商水平参差,企业想挑出靠谱的也有门槛。

要是挨家去接模型厂商,开账号、配密钥一样不能少,费用还散在各处,模型怎么路由同样棘手。

Zleap 选的路子,是给企业一个统一的管理入口:

Token 路由器

这套产品软硬一体,开箱就能用。硬件在内网里充当统一接入点,软件管的是模型资源的分发和调度。

大模型和小模型的自动路由、敏感信息脱敏、预算管控以及工作内容总结,这些功能都打包进了这套产品。

由于Token属于付费资源,Zleap会先筛选出优质的模型资源供应商并向企业推荐,随后由路由器统一接入、统一供给,企业不必自己逐家甄别、逐个对接。

员工如今自己装上客户端就行,客户端会自动发现内网的路由器并完成连接,不用再一个个手动配置,个人也无需掏钱付费。

接入环节被大幅简化之后,自上而下推动就顺畅多了。员工消耗这些Token时,调用自然要经过公司的网关。

不过,这类产品有个前提:「员工知情,并且乐意将上下文分享给企业 AI」。

官网展示的客户端用量情况

Jomy 说,这些能力都来自他过去三年运营 302.AI 模型中转平台攒下的经验。

从中转服务里打磨出来的模型供给和调用管理能力,被他整合成了一套企业开箱即用的软硬件产品。

海外同样在长「AI 网关」这类东西,它夹在企业与模型之间,负责分配模型、记录用量、控制预算、过滤敏感信息。

去年 10 月,Gartner 就为这个品类出过专门的市场指南。

今年 5 月,Palo Alto Networks 把 AI 网关公司 Portkey 收入囊中。AI 用量管理正逐渐被纳入企业安全采购的范围。

收购完成后 Prisma AIRS AI Gateway 的架构图,一头连着应用和 Agent,另一头连着 3000 多个模型

海外的网关大多以软件形式交付,部署和配置往往要靠企业自己的技术团队。Zleap 走的是软硬一体路线,瞄准的正是缺专门技术团队的企业,硬件形态更容易做到开箱即用。

Zleap 披露,路由器已在今年 11 月开售并交付客户,市场反馈不错。

把 AI 的使用统一管起来之后,Token 路由器实现了 CEO 当初做管理盒子时定下的目标:让老板看清员工在做什么。

员工从统一入口调用模型,工作记录也就跟着集中起来。Zleap 再用自研的 SAG2 信息处理技术,从海量记录里挑出关键内容,总结进展。

基于 SAG2 的开源项目 SAG-Wiki,一天之内 GitHub Star 数就突破了 1000:

这些记录里,任务要求和模型生成的内容都有,能帮老板掌握实际工作的进展。

靠工作记录来理解公司,海外也有人在做类似讨论。

今年 3 月,Block 创始人 Jack Dorsey 和 Sequoia 合伙人 Roelof Botha 联合发文,提出公司层级主要起的是信息传递作用。

Sequoia「From Hierarchy to Intelligence」中层级树演变为环形网络

一旦决策、讨论、代码和进展都留下记录,AI 就能维护一份「公司世界模型」,不少中层管理工作随之减少。

Jomy 本人就在用 Token 路由器,很快就能了解各部门的进展。

用他的话说:

这样一来,公司层面的上下文就齐了。
那老板怎么让 AI 一直干下去?

把供给和接入统一起来,让员工真能用上 AI,这是企业 AI 转型的头一步。

员工提需求,Agent 交代码、文档或者方案,一次任务收尾就结束。Jomy 管这种干活方式叫创建时(Build-Time)。

照他的判断,眼下绝大多数 AI 工具都只服务这一段,工作循环还得靠人去推。国内多数企业才刚走到这一步。

那再往后呢?

Jomy 的看法是,AI 转型的第二步,是让工作慢慢不再受"由人反复发起任务"的束缚。

他把这叫作运行时(Run-Time):

Agent 盯着业务目标一直干,拿到反馈就攒经验、调动作、改结果。人负责定目标,需要的时候再插手。

海外 AI 圈聊这个方向,已经聊了快两年。

LangChain CEO Harrison Chase 在 2025 年初提出 ambient agents,说的是监听业务事件、自己动手的 Agent。a16z 今年 10 月的一篇文章写道:新一代 Agent 会按事件或截止日期自己醒来,干活过程中还在持续学习。

黄仁勋今年 8 月的财报会上说,未来的 Agent 会一直跑着,还会跟其他一直跑着的 Agent 协作。

产品侧往这个方向走的迹象也很明显:Claude Code、Codex、Cursor 都把编码 Agent 放到了云端,用户关掉电脑,Agent 还在服务器上干活。

Cursor Cloud Agents 在云端运行

不过换个角度看,这些产品大多还卡在中间状态。定时也好、事件也好,都能自动触发,但每次仍旧只做完一个任务、只交付一次。

围着目标长期跑、靠反馈持续变好,这类能力大多还在预览阶段。前 OpenAI 创始成员 Andrej Karpathy 更保守,他觉得这会是「Agent 的十年」。

Jomy 的理论是,现在的公司就像人和 Agent 共存的 harness。

在 Agent 领域,harness 指的是模型之外的运行环境,工具、数据、权限、反馈机制都算在内,市面上优秀的实践已经很多了。

要是把公司看成一套更大的 Harness,那也能借 Agent Harness 的设计思路,把企业的目标、数据、执行环境和反馈机制串起来,让人和 Agent 在同一套体系里配合。

顺着这套理论,Zleap 在做第二个产品—— Zleap OS。定位是给企业 Agent 持续运行用的服务器操作系统:

Jomy 给它列了几项要求,可以分成三组:

【1】Agent 能在应用之间连续工作

应用全都为 Agent 而设计,Agent 跑在服务器上,员工下班、电脑关机,它照样在干。

Agent 工作界面

【2】组织协作是有边界的

员工、Agent 与部门之间可以互相配合、交接任务。谁能读信息、谁能执行动作,由权限说了算;上下文和知识只在授权范围内互通。

团队网盘

【3】人和 Agent 都能上手,也能自我迭代

人可以在界面上定目标、看进展、中途插手。Agent 则不停执行、接收反馈,并判断调整有没有让业务结果变好。

桌面工作区

这条路上已经挤了不少玩家。Anthropic、OpenAI、微软、Kimi 今年都拿出了企业 Agent 托管服务。

但前一阵子,这类服务的市场反应偏冷。业内常见的说法有四条:Agent 表现不够稳定、企业数据难以接入、权限和治理没想清楚、成本难以预估。

Zleap OS 提的几项要求,大体对着上面这些问题去。真正难的地方在于,怎么把这些能力攒到一起,做成企业开箱即用的产品。

Zleap OS 基础框架目前已全部完成,正在内测,同时按垂直领域打磨,计划今年 12 月底正式发布。

眼下,Token 路由器负责模型资源、路由和管理,Zleap OS 提供的是 Agent 持续运行的完整系统。

Jomy 还预测,Agent 一旦开始持续自主运行,Token 需求会大幅增长。

OpenRouter 的数据显示,今年 8 月,Agent 消耗的 Token 约为人类用户的 5 倍。Goldman Sachs 预计,2026 年至 2030 年,Token 消耗量将增长 24 倍。

这些数据没有区分 Build-Time 和 Run-Time 的消耗。

Jomy 判断:

现在两者的 Token 消耗规模大致是 100:1,开发阶段仍占绝大部分。未来 Run-Time 会达到 Build-Time 的 10 倍。按 Build-Time 规模不变来估算,Run-Time 的 Token 用量长期有 1000 倍量级的增长空间。

用他的话说:

Agent scaling 起来比人容易太多了
🚥

帮企业转型成 AI 原生组织,是 Zleap 一直以来的愿景。

最早是从 CEO 的管理需求出发,如今落到员工的日常工作上,往后还要进一步改变整个组织的运作方式。

在 Jomy 看来,企业得有自己的 AI 运行时,并让它持续扛起核心业务,才算真正成了 AI 原生组织。

不过,从他那个宏大愿景里,我们似乎瞧出一点小小的私心:

或许,老板们最终想要的,是一家很多工作不必等他推动的公司。
加入会员群
评论有奖
本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 盖茨再谈AI风险:比核武器更危险,呼吁提前建机制

    “AI当然比核武器更危险。”近日,比尔·盖茨在美国哥伦比亚广播公司(CBS)的播客《好问题》中警告,过去一年,AI模型已经跨过一些危险门槛,社会和政府却还没有做好准备。从2023年宣告“AI时代已经开始”、强调风险可以管理,到今年8月发文提醒世界为动荡做准备,盖茨的警告越来越急迫。“达到人类的智能水平之后,它也不会停下

    来源 腾讯网
  2. 美联航给AI代理订票立规矩:柯比称不想再添中间商

    财联社11月12日讯(编辑 史正丞)当一众科技公司试图让AI代理包办搜索、比价和下单时,航空公司也开始加入“给AI定规矩”的队伍中。当地时间11月11日,美国联合航空宣布,将采取措施限制未经授权的第三方个人AI代理或助手访问其服务,涉及自有数字平台,以及通过旅行社和聚合平台进行的间接访问。美联航称,此举旨在保护旅...

    来源 腾讯网
  3. 双十一主播性价比之争:李佳琦卖Token,贾乃亮单日5.7亿

    文/厚码双十一这场从十月就开跑的超长马拉松,终于迎来尾声。消费者可能最先崭露出疲态。看直播、领券、算赠品、比较到手价,为了少花一点钱,要先投入难以量化的时间。大主播们倒还在制造新闻。先是贾乃亮10月21日被报道单日带货突破5.7亿元,刷新自己近三年的单日纪录,再是李佳琦则在11月2日卖起了Token,0.01元的千问办

    来源 腾讯网
  4. 罗永浩双十一直播带货TRAE:AI Coding从开发者工具变消费品

    时代变化有多快?双十一的直播间最先知道。 前脚,李佳琦刚把 Token 卖上热搜,后脚,罗永浩就带着 AI Coding 来了。 2026年的双十一,头部主播们不约而同卖起了AI。 如果说 Token 还是AI时代的原材料,那么 AI Coding 则更像是 AI 时代的商品。对普通人来说,从 Token 到AI Co

    来源 AI 行业观察
  5. 双11十八岁:从囤货到囤服务,AI硬件与Token成新货架

    11月11日,“双11”迎来了它的18岁。回望来时路,“双11”是低价清库存的代名词,是消费者熬夜蹲守、做优惠“数学题”的肌肉记忆,也是快递从业者网点爆仓的深夜崩溃。18年来,大促带来的剧变不只是千万到千亿销售额的惊人一跃,还彻底改变了线上消费从支付到履约的全链路网络,从一场购物节,演变为商业消费的时代印记。然...

    来源 腾讯网
  6. AI搞开放式科研也会“躺平”,CURIO给模型装上好奇心

    你有没有过这样的经历:学一项新技能的时候,一旦找到一种"够用"的方法,就很难再逼自己去尝试别的路子?比如学做菜,第一次把番茄炒蛋炒成功了,之后你大概率会一直用同一种火候、同一个顺序,很少再去试试先放糖还是先放盐会不会更好吃。因为你已经有一个"能吃"的答案了,探索新做法的动力反而消失了。现在把这个场景换成...

    来源 腾讯网
  7. 美联航限制第三方AI代理订票,柯比称不想再添中间商

    【环球网消费综合报道】当科技公司竞相让AI代理包办搜索、比价和下单时,航空公司开始给AI“立规矩”了。美国联合航空周三宣布,将限制未经授权的第三方个人AI代理或助手访问其服务,范围既包括自有数字平台,也覆盖通过旅行社和聚合平台进行的间接访问。美联航称,此举旨在保护旅客账户、敏感信息及交易安全,并防范自动化...

    来源 腾讯网
  8. Signal加密协议完成AI数学验证:形式化验证成本能降多少

    Signal的端到端加密协议完成了一项为期四周的AI辅助形式化验证,用数学方法检验其核心加密逻辑的正确性。这项实验的意义不止于Signal本身:它显示AI有望大幅降低形式化验证的门槛与成本,让这种过去只有少数专家才能驾驭的“数学体检”逐步走向工程实践。

    来源 AI 科技快讯
  9. Radical Numerics推离线模型:断网也能识别AI工程病原体

    WIRED报道,初创公司Radical Numerics开发了一种可在无互联网连接环境下识别自然与AI工程病原体的模型。本文梳理其潜在价值、技术挑战与生物安全治理议题,并分析离线AI为何可能成为生物防御体系的重要补充。

    来源 AI 科技快讯
  10. AI学会猜你在想什么:加州大学团队给智能体装上心理建模模块

    你有没有遇到过这样的场景:和同事谈判加薪的时候,对方说"公司今年压力也挺大的",你心里立刻开始盘算,他是真的没钱,还是在试探我的底线?他知不知道我已经拿到了别家的offer?人和人打交道的时候,大脑其实一直在悄悄运转一套系统,猜测对方知道什么、想要什么、下一步会怎么做。这套系统心理学家叫它"心智理论",而现在...

    来源 腾讯网
  11. AI生图为何要在噪声空间反复迭代?数据空间迭代给出新解法

    你有没有想过,AI生成一张图片,到底是怎么从一堆随机噪点,变成一只蓝色小鸟的?现在主流的生成模型,比如Flow Matching流匹配模型,走的是一条看起来很优雅的路:从纯噪声出发,沿着一条数学上连续的"流",一步步走到真实图片。这条路理论上无限平滑,但现实很骨感,想走完它往往需要几十次甚至上百次计算。这就像从北京走.

    来源 腾讯网
  12. 淘宝双11AI主播泛滥:深夜满屏数字人,用户直呼恐怖谷

    今年双11,不少消费者深夜刷淘宝时,正在遭遇一种微妙的不适感:镜头里的主播只有循环的话术。很多人后知后觉,顿感脊背发凉,屏幕对面根本不是真人,而是AI主播。 《BUG》栏目实测发现,凌晨1点后打开淘宝,3分钟内平台即推送了4个AI主播带货视频。这些直播镜头里的主播五官规整、持续带货,却眼神僵硬,对于“支持退换货吗?”“

    来源 AI 行业观察
向下滚动自动加载更多