联想切入词元经济:智能体时代Token消耗失控怎么破
Token经济迎来新一轮供给侧变革。作者|刘杨楠编辑|栗子今年上半年,不少硅谷科技公司都落入一场名为“Tokenmaxxing”的陷阱。为鼓励员工多用AI,亚马逊特意打造AI用量排行榜,按AI用量给员工排名。一些员工为了提高排名,开始让AI执行低价值任务、并行运行多个智能体、故意发送巨型Prompt塞满上下文窗口等。亚
今年上半年,硅谷不少科技公司都掉进了“Tokenmaxxing”的坑里。亚马逊专门做了个AI用量排行榜,按使用量给员工排座次。结果有人为了名次,让AI去干低价值的活,同时开多个智能体,还故意发超长Prompt把上下文窗口塞满。
亚马逊没拖多久就察觉了不对劲,排行榜随即叫停,内部也明确表态“不要为了用AI而用AI”。榜撤了之后,考核员工AI用量的方式改成追踪AI带来的“实际业务价值”。Uber内部同样有过类似的榜单,也碰上同一类Tokenmaxxing造假,后果是全年AI编程预算在2026年前4个月就花光了。
布局AI的企业,多少都撞上过这种难堪。管理者原本想让AI在公司里铺开、把整体效率提上去,最后却适得其反:员工陷进无效内卷,活越干越累,效率没见涨,Token消耗反倒离奇飙升,预算被吞得更快。
说到底,这是智能体浪潮带来的副作用。智能体应用围着同一个目标反复迭代,系统提示、工具说明、前几轮的结果会一次次进入后续请求。高盛在5月的报告里算过,智能体模式下模型的词元消耗量能达到普通问答的1000倍。
Token调度缺少计量标准,让企业的处境更难看。调用量异常上涨时,企业只看得到Token成本在涨,却分不清哪些消耗来自正常业务,哪些来自低效设计,甚至是被恶意盗用。Akamai同样在5月发布的《2026年AI推理现状报告》显示,77%的受访企业没有一致的推理成本计量标准。智能体就这样陷进越用越亏的怪圈。
风向很快又摆向另一头,Tokenminimizing(词元最小化)的潮流在硅谷冒了出来。企业开始尽量砍掉不必要的Token开销,把消耗压到最低。
但Tokenmaxxing也好,Tokenminimizing也罢,都没碰到根本。企业真正要的,是用最划算的方式把AI的业务价值放到最大。想明白这点,拿到更多“有效词元”就成了全球范围内比较通行的共识,也牵出了眼下Token市场供需对不上的症结:真实业务里,各行业、各业务对“有效”的界定并不一样,不同模型、芯片、算力体系产出的Token质量也高低不齐;中间偏偏少了关键一环,让需求方没法迅速对上自己业务要的“有效词元”。
11月10日,联想在张家口发布万全混合词元工厂,同时签约落地业内首个混合词元母本工厂。这一手是想补上有效词元供需链条里缺的那一环,从供给侧改动Token经济。
走到今天这个阶段,AI对Token的需求量还在往上涨,词元工厂跑得快不快,分量越来越重。
联想集团执行副总裁兼中国区总裁
1.混合供给为何成为必答题?
翻看全球产业史,能改换一个时代的供给侧变革,往往从定下新的计量单位起步。电力改用千瓦时计价之后,发电、输电、配售电才慢慢拆成各自独立的生意;原油改成按桶计量、按期货定价之后,从勘探、炼化到贸易的整条产业链才长了出来。
计量单位定下来之后,上下游那些原本各有各干法的从业者就有了共同的参照。大家开始一层层追问:这种新的生产要素该从哪里来、怎么高效地组合、按什么口径结算。一条分工清楚的产业链,也就这么慢慢磨了出来。
眼下这轮AI浪潮,正卡在供给侧变革的节点上。词元已经是新一轮智能浪潮的度量衡,把智能产业链的各个环节串在了一起。
今年3月,全国科学技术名词审定委员会推荐把Token的中文名定为“词元”,并已面向全社会发布试用。
单志广是国家信息中心信息化和产业发展部主任,他进一步说明了这件事。在他看来,大模型思考时最小的原子就是Token,智能经济最基本的度量衡也是它。上游大模型API调用的定价、中游智能体协作之间的结算、下游AI应用按场景付费,都拿它当产品和服务全链路的计量与结算单位。他形容说,“可谓是AI时代的新石油”。
拿词元和基础能源作类比,其实不算夸张。南方电网测算过,生成100万个词元的平均耗电量大约是15到20度电。每一个词元生成出来,背后都对应着确定的算力与电力投入。
词元的消耗成本迅速占据企业AI预算之后,它就不可避免地从技术指标泛化成了经营指标。企业各业务线的成本报表里,这个词出现得越来越频繁,经营层每个月都要追问。
前文提到的Tokenmaxxing与Tokenminimizing之间的拉锯,正是这一转变的副产物。越来越多的企业已经意识到,真正需要的生产要素是“有效词元”。
什么叫“有效词元”?就是剔除掉无效与低质量的输出,综合考察单位有效词元成本、吞吐、任务完成精准度、绿色可持续与全链路安全。
联想集团高级副总裁、中国方案服务业务群总经理戴炜直言,市场上百万Token几块钱的报价之所以会误导企业的AI决策,就是因为其中混杂了大量小模型产出的低质词元。若按有效口径折算,真实成本和纸面成本会差得很远。
问题是,眼下词元工厂的生产、调度和交付模式,并没有围绕“有效词元”来打造。词元工厂这一模式提出至今,行业里的实践大体沿四条路径展开:
平台与生态型:以智能体工厂、数据知识工厂、TokeNexus等形态,把词元工厂定义为生态入口;
硬件与能效型:以DSX POD、Tokens per kWh等指标,把词元工厂定义为一场能效竞赛;
运营管控这条线,讲的是把算力、模型、任务与Token放在一个平台上统一纳管,词元工厂由此被理解成一套管控平台;标准化供给那条线,则把异构算力做成标准化的Token服务,词元工厂相当于算力的度量转换器。
这四条路径上都有代表性玩家,可各家擅长的东西不一样,一般只能重点接住某一类企业的某一类需求。企业的真实负载却多元又复杂,若仍按不同负载分别找不同供应商,AI部署的选型和运维成本就会被明显推高。
联想集团副总裁、全球基础架构和智能云总经理姚振宇讲了一个让不少IT负责人头疼的场景:“IT系统一旦出错,就要找根因,分散的采购模式下,数据库厂商、硬件厂商、应用平台厂商大多会极力证明自己的环节没有问题,最后报告堆了一桌,问题却没解决。”
核心数据要留在本地可控,算力资源又得能弹性伸缩,这两个难题从云计算时代一直留到今天。
芒果传媒战略投资部投资总监肖文强讲了亲身经历:芒果的核心资产是IP和版权素材,这类资产往往出不了园区;内容生产又有固定档期,有波峰也有波谷。自建算力按年规划、按机房落地,供需经常对不上。
上海武桐树高新技术有限公司总经理陈少平也有同感。他负责的平台覆盖600多所中小学,集中备课、批改和考试期间需求猛增,寒暑假则回落。高峰期怎么保住Token供给,又不至于按峰值配资源造成浪费,是最现实的问题。另一边,未成年人数据对隔离、权限和审计有要求,负载不能随便迁出去。
于是,行业理想的词元供给方式要能同时兼顾成本、安全与弹性这个“不可能三角”,还得看懂客户不同业务对“有效词元”的不同要求,按需给到“有效词元”,并具备全周期运维能力,少浪费不必要的Token,把企业规模化部署AI的风险和成本整体管住。再往下一层,这套范式还要借不同区域的绿电体系,尽量压低Token工厂运行时的能耗。
眼下,词元成本正长期向电力成本靠拢。中信建投证券计算机行业首席分析师应瑛判断,电价是卡住AI基础设施发展的关键一环。词元产量一旦以万亿计,绿电供给和算电协同就不再是加分项,而成了词元工厂的准入条件。
11月10日,联想在张家口发布万全混合词元工厂,给有效词元定下一套混合供给的新范式;张家口母本工厂就是这套范式的第一个区域样本。
2.拆开词元供给的“不可能三角”
提到混合供给,不少人会想到云计算时代的“混合云”,或者近两年常被提起的AI全栈部署。可细究下去,混合词元工厂的内涵跟它们完全不是一回事。混合云回答的是算力资源怎么分配;AI全栈部署重在展示AI厂商的能力版图,站在厂商立场把自家能力体系推给客户。这两者都答不了词元经济时代那个核心问题:词元以什么方式被生产、调度和交付。
混合词元工厂的“混合”,则覆盖词元生产、调度、交付的整条链路。供给方得同时读懂算力、模型和任务语义,站在用户角度替企业琢磨:什么样的算力和模型搭配最经济、最有效。
姚振宇举了个例子。联想从自己的内部实践中发现,模型未必挑最大的才合适。复杂场景用大参数模型保住输出质量,简单问题和交互交给小模型,性价比才最高。
这套模式对建造者的能力要求也更苛刻:既要有AI全栈厂商那样的能力版图,又得会分配模型和算力资源,还得拿得出多元化的交付手段。联想万全混合词元工厂的长处正在这里。
拆开看,万全混合词元工厂有两大板块。一块是智算中心的端到端建设、运营和运维;另一块是用XCloud联想智能云统一纳管调度,并对私有云和公有云做智能运维。
有了这个底子,万全混合词元工厂能拿出三大混合供给能力:
词元供给上,企业私有词元与公共词元协同供给,且以私有为主:高敏感业务和核心数据留在本地私有域,通用推理和流量波动大的业务则调度到外部算力。算力资源上做端边云协同混合:轻量任务放到端侧,时延敏感任务就近执行,弹性负载交给云侧资源。模型选择上,开源权重模型与专有闭源模型能力互补。
混合供给之下,私有词元守住安全底线,公共算力接住弹性需求,端边云加多模型的组合调度把综合成本压下来。Token工厂成本、安全、弹性这个“不可能三角”,也就有了突破口,不必再三选二。
再往深看,支撑三重混合供给的,是联想内部一套三级优化技术,从算力设备、智算中心一直贯通到词元中枢。
头一级盯的是算力效率。问天异构智算平台把不同架构的算力统一纳管,再叠上超节点、多芯多模训推引擎和算子优化,算力效率提升30%以上。国内算力走多条技术路线并存,这层优化能力对联想来说,在中国市场基本是道必答题。
第二级落在全周期成本上。模块化预制、一体化全液冷、绿电直流智控这些技术被用进来,配上建设、运营、运维一体化的服务,目标是压低智算中心的能源效率与运营成本。
第三级对准企业业务场景里的词元效能。词元中枢会做智能模型路由,推理资源池动态调配,把任务语义、模型质量、数据边界、响应时效和成本一并纳入考量,自动挑出最优的供给路径。
姚振宇强调,联想的词元中枢在技术层面没有太大差异,PD分离、KV Cache这些常见的推理优化技术同样在用。真正见功底的地方,是多年攒下的工程优化能力——能不能把有效词元的综合成本和调用效能都调到最优。
这套三级优化体系里,万全混合词元工厂的位置承上启下,工厂要靠它给客户供上“多、快、好、省”的绿色词元。
所谓“多”,指开放的多模型生态。不同应用对模型有不同需求,这里都能满足,再配合超节点和模算动态混部,把词元规模化地输出。
“快”说的是产出速度。万全混合词元工厂最高每秒2亿个词元,能撑住10万个用户同时并发。换算一下,联想全球8万多名员工可以同一时刻调用公司的几百个智能体,上万份合同、整个供应链计划、生产质检、营销内容同时在线处理,不用排队。
“好”对应词元质量。联想在业内首创“词元良品率”这一概念,并承诺万全词元混合工厂产出的词元良品率保持在99.9%以上,低质词元会被持续过滤掉。
安全是高质量词元绕不开的红线。据姚振宇介绍,联想词元中枢外面加了三层防护:
模型这一层设白名单,模型要经过测试认证才允许上载;内容这一层,有专门的模型在传输链路上识别敏感内容并主动拦截;最核心的是隐私计算与可信执行环境(TEE),最敏感的内容放在加固环境里,只有特定权限的业务人员能看到,用户后台的系统管理员、数据库管理员等均可用不可见。
联想这套严密的安全体系,本身也是被内部合规要求逼出来的。过去两年,联想在IT安全评级中排在中国厂商前三。
“省”说的是成本可控。万全混合词元工厂产出的词元,综合成本大约降了70%。姚振宇补充说:“我们不会拿客户当小白鼠,70%的综合成本优化是联想内部跑通的成果,正因如此我们才有底气向客户介绍这个数字。”再加上全栈液冷、绿电直联的架构,工厂PUE会低于1.1。未来在张家口落成的母本工厂,就是万全混合词元工厂的第一个区域样本。
绿电在张家口是实打实的富余:可再生能源装机已经超过4500万千瓦,占当地电力总装机的比重接近89%,一年往外送绿电700亿度以上。数据中心建成了55个,投运的标准机架有107万架,智算规模达到31万P,阿里、腾讯等21家头部企业陆续落地。戴炜讲的母本工厂蓝图是这么排的:2027年要在当地搭起1.5万P的异构算力集群,智算中心约100MW,词元年产量超过2000万亿个;到2030年,超节点算力集群、智算中心规模、词元年产量三项都翻10倍,目标是做成世界级的词元生产基地。
母本工厂旁边,还会同步建一条算力设备回收与再制造产线,把存量算力设备回收再制造后继续用起来,进一步摊薄词元的综合成本。其实“母本”这个词是从制造业借来的,联想在硬件制造时代就有母本工厂的传统,核心意义在于复制。接下来,联想会结合不同区域的产业特色,在各地复制出面向不同推理场景的混合词元工厂。
联想透露,混合词元工厂的下一站是湖南长沙。
联想将和湖南广电展开深度合作,面向电影和短剧制作场景,通过全模态词元混合路由和多芯多模推理加速,为AI创作的各个环节供给差异化词元。戴炜解释说:“文本、图像、视频、渲染,是完全不同的词元,对应着不同的投入产出比。”
按测算,混合词元工厂能把湖南广电的内容制作成本压下去50%以上,生产周期砍掉60%以上,一个月产出的成片超过1200小时;同时还会聚起一个OPC平台,上面有1万多名内容创作者。
在「甲子光年」的观察里,从硬件制造到Token生产,母本工厂差不多成了联想同新业态、新区域打交道的基本套路。联想先在这类工厂里试水,再把经验和教训提炼成一套能跨行业复用的落地办法,往别的区域、别的行业迅速移植。
顺着这套模式往源头捋,联想其实早把自己做成了一座体量庞大的母本工厂。PC时代它领跑,穿越周期之后又赶上Token工厂遍地开花的AI时代,能率先把混合词元工厂定下来,根子就在这里。
3.联想从不打无准备的仗
眼下AI行业最不缺的就是定义。技术、产品、战略,各种说法搅在一起,需求方看得眼花,挑起来反倒多了一层决策负担。
混合词元工厂这套打法要真管用,前提是联想自己的技术布局和业务形态足够完整,能让新范式先在内部跑通。拿着验证过的结果去面对市场,定义才站得住脚。
说得严格些,混合词元工厂不是为了迎合市场凭空造出来的说法,它是联想内部数字化、智能化转型的成果向外延伸的产物。
大约20年前启动国际化那会儿,联想就是中国乃至全球最早部署混合云架构的企业之一,多云资源统一纳管和调度,早就是它IT体系的日常操作。
2017年,联想开启智能化转型,定下“联想 智慧中国”的愿景,提前在AI上落子,随后在个人智能和企业智能两块持续推新、迭代AI产品、解决方案和服务。九年下来,企业智能领域长出了今天的三层混合动力,这也是联想此刻能率先定义混合词元工厂的底气。
打磨新产品的过程中,联想常拿自己当“小白鼠”。公司内部日常跑着上百个不同场景、不同功能的智能体,其中有三个超级智能体和上千个Skills,研产供销服整条价值链都覆盖到了;内部智能IT引擎擎天也从平台化的1.0走到AI原生的5.0。
联想从2018年开始向政企客户输出AI能力,此前内部转型已有初步成果,如今服务对象数以万计。混合词元工厂用到的模型路由、负载均衡、安全合规、建设运维等能力,无一不是在联想自身真实负载上跑过多年的。
服务器这边同样在往前走,海神液冷技术让联想服务器产品在全球和中国高性能计算市场稳居前列多年。
数智化时代攒下的家底,如今被联想摊成一张完整的AI能力版图:端侧设备、云侧算力、跨云调度、建设运维、行业交付,哪一环都少不了。放到国内市场看,大部分厂商只占其中一到两项,能把这些环节全兜住的企业并不多。
版图补齐的同时,联想的身份也在变。它不再只是一家硬件厂商,而是转向Token运营厂商,直接向客户交付一套能持续运营、可计量、又能落到业务价值上的服务。
客户需求不一样,交付方式也就分了层,联想给出的组合是“算力底座+词元服务+行业方案”。具体看:大型政企走投建运一体化方案;已有算力在手的客户做词元化改造;需求轻的则用词元订阅服务。
不过联想把边界划得很清楚。它可以一体化交付,也能把算力基建、平台调度、安全运营、运维服务拆成标准化模块,行业模型和场景应用则留给客户自己做。
技术产品版图、交付链路,再加上区域样本的落地,联想这次借万全混合词元工厂推的是词元经济供给侧的新一轮变化。词元工厂的比拼重心,也从产能规模和单价,挪到了有效词元与全周期价值上。
拉长时间看,这轮供给侧重组的价值会随着AI周期走深慢慢放出来。
Token调用的涨势还没停。中国电信研究院在《智能体时代AI基础设施发展研究报告(2026)》中预计,中国词元消耗量会从2026年的10亿亿次升至2030年的3500亿亿次。
投资和政策两头也在加码。工信部《信息通信行业发展“十五五”规划》提出,2030年智能算力规模要达到9800 EFLOPS。
供需之间的缺口还在扩大,Token工厂的价值也就继续释放。应瑛的判断是,2023至2026年是AI产业的基础建设期,往后三年,产业价值会从底层算力芯片一点点挪向词元运营和应用环节。芯片供给受限、国产先进制造还需突破,这个窗口期里怎么用有限的硬件产出更多词元,是中国AI产业绕不开的现实问题。
这么看,联想万全混合词元工厂承载的东西已经超出商业布局本身,它有可能成为国内AI产业用Token生产效率去补算力缺口的一个共同解法。