百度智能云词元所上线:模型交易按信用分级,日均调用Token超7000亿
作者 | 褚杏娟百度智能云词元所平台上,DeepSeek-V4.1-Flash 同时有 5 家供应商提供调用服务,价格、首 Token 延迟、吞吐等各不相同。这对于开发者而言并非新鲜事。选择 DeepSeek、Qwen 还是 GLM 只是第一步,接下来困扰开发者的是需要判断:同一家模型,不同供应商提供的服务究竟有什么区
百度智能云词元所平台上,
对开发者来说,这算不上什么新问题。挑
DeepSeek、
这也不是凭空设想出来的场景。海外模型聚合平台
今年 9 月,开发者 Mo Moustafa 拿
OpenRouter 上不同供应商的 DeepSeek V4 Flash 0731 做了对照。同样是 GPQA Diamond 测试,得分约 90%,
模型还是那个模型,供应商一换,实际交付的能力就可能差出一大截。说到底,模型权重只占最终服务的一部分。
这场讨论在开发者社区里引来大量关注,OpenRouter 随后也开始调整
模型 API 市场正在起变化:模型供给越来越丰富,接入和调用不再难,难的是判断服务质量,难的是确认供应商能不能长期兑现承诺。百度这类科技巨头盯上模型交易市场,原因也在这里——调用不再稀缺之后,可信的服务交付才撑得起竞争壁垒。
词元所的做法,是把模型验真、持续监测和信用评级合到一起,将过去难以横向比较的模型服务塞进一套统一的评价体系,让企业和个人在挑选、购买、使用 Token 时看得更清楚。官方给出的数据是,试运行一个月,入驻供应资源超过 100 个,日均调用次数突破 5000 万,日均调用 Token 超过 7000 亿。开发者的真实需求,从这里能看出一些。
大模型商业化拿 Token 当计费单位,背后是 AI 使用规模在快速膨胀。
国家数据局披露的数据显示,2024 年初我国日均词元调用量约 1000 亿,到 2025 年底已经涨到 100 万亿。2026 年 3 月,日均调用量突破 140 万亿,6 月又突破 500 万亿。两年多时间,调用规模翻了几千倍。
提供模型调用服务的角色越来越多,模型厂商、云计算平台、独立推理服务商、API 聚合平台都在其中。IDC 的市场观察同样显示,国内
供给变多,交易却谈不上成熟。目前,
中国信通院 10 月发布的
模型服务不能只盯着模型名称和 Token 单价了。同样一百万 Token,最终拿到多少有效输出、要等多久、任务能不能跑完,这些都该算进成本里。
还有一个问题是模型版本和资源配置的透明度。量化本身是正常的推理优化手段,能压低显存需求,也能降低推理成本。可供应商如果把经过
采购方最难办的地方在于,只看 API 名称和报价,判断不了供应商实际给的是什么模型、用了什么配置,也判断不了承诺的服务质量能不能长期维持。
Token 有了计量方式,也有了计费方式,统一的质量评价和履约记录却还缺着。商品化要满足三个条件:可比价、可验证、可追责。买得到只是第一步,出了事有人担责、换了版本效果不会莫名其妙地变、同样的价钱能买到可比较的服务,这些才是规模化交易的门槛。
词元所就是在这个产业节点上出现的。
2026 年 3 月,国家数据局把 Token 的中文名定为“词元”,并把它定义为智能时代的
从定名到质量评价,再到市场分发和服务采购,词元正从技术计费单位变成产业交易要素。模型交易长期缺的那部分机制,正是词元所要补的。
对企业来说,模型 API 的成本不止 Token 账单一项。
一家企业同时接多家模型供应商,技术评测、商务询价、接口适配、服务验证都得分别做一遍。模型升级要重新测,供应商出故障,还得排查问题出在模型、推理平台还是业务集成商身上。
而且,一个请求走完中转平台之后,去向未必只有一条路——它可能被转到官方模型 API,也可能落进供应商自家的推理集群,甚至穿过好几个服务节点。整条链路对用户基本是不透明的,碰上多级转售的服务,实际是谁在供模型,用户往往说不清楚。供应商换了部署节点、推理配置或模型版本,用户也未必能及时察觉。
这也是
责任划分更让人头疼。模型输出不合预期,模型厂商可能把原因推给提示词设计,平台可能说是模型本身的行为,集成商又可能归咎于数据质量。链条越长,出事之后越容易扯不清责任。结果是一些企业明明做完了 AI 项目试点,也不敢把模型服务放进核心业务系统。
财务层面的影响来得更直接。
项目制采购一般靠专项预算,一年一议,验收后结算;持续运行的 AI 服务则要进年度运营预算,按量计费,还得接受成本审计和效果评估。企业想把 AI 从一次性项目变成长期运营的业务能力,费用可计量、效果可追溯、责任可划分这三件事至少要解决。
国研新经济研究院创始院长朱克力认为,词元带来的变化还包括模型服务商业形态的转变。以前企业买模型多是一单一议,费用记在具体项目里;有了统一计量标准和可比较的信用记录,模型调用才有条件变成按量计费的经常性支出,进而纳入企业年度预算管理。
朱克力表示:“产业化程度越高,采购决策越依赖公开指标而非销售承诺,这正是第三方交易基础设施的价值所在。”
这三条,恰好对上词元所的计量、验真和征信机制。
对预算有限、又不得不用 AI 的中小企业来说,统一入口能压低接入和选型成本;对靠模型能力提供行业解决方案的
以前,企业通常得自己搭一套模型测试和供应商评估体系。各部门的测试方法可能不一样,采购结果也没法横向比较。
模型服务如果有了统一的计量口径、可核验的质量指标和持续更新的履约记录,企业做选型、预算和采购就会省事不少。有指标可查、有记录可追,采购部门把 AI 写进年度预算也更有底气。
从目前公开的产品设计看,词元所的核心能力可以概括成“验真”和“征信”,平台运行分为准入、监测、评级和交易四个阶段。
先是准入验真。供应商进平台之前,资质来源要核验,提供的模型资源也要测试,包括
模型指纹比对,主要看实际调用的模型和供应商声明的是不是一回事;能力测试,验证模型的实际表现对不对得上标称能力;性能和可用性测试,则盯着响应速度、吞吐量、调用成功率和服务承载能力。这套机制针对三类风险:
接着是持续监测。过了准入测试,不代表后续服务质量一直不变。供应商可能调模型版本、推理配置和底层资源,服务质量也会随并发负载起变化。
所以词元所不只在模型上架时测一次,还会定期抽检、
在此基础上,词元所建立了
质量分从模型能力、服务性能、服务质量和成本四大维度,综合评估模型 API 服务的实际质量与能力水平。它回答的是:这项服务表现到底怎么样,价格和能力是否匹配。
信用分看的则是供应商声明与实际测评结果之间的差距,从模型真实性、性能、能力、安全合规及商业履约等维度,评价供应商兑现承诺的程度。它回答的是:供应商有没有持续兑现对客户的承诺。
两套评分评的对象并不完全一样。一家供应商的模型服务性能可能不错,但要是经常换配置、服务质量波动明显,信用表现就可能受影响。反过来,长期稳定履约的供应商,有机会靠持续积累的记录建立市场信誉。
某供应商的报告
词元所采用模块化技术架构,测评与评价体系围绕统一测评、基准管理、异常检测、持续监测、信用评价和
整个系统形成“数据采集—指标计算—评测分析—可视化展示”的闭环,单次测试结果也能和长期调用记录结合,慢慢沉淀出可查询的履约历史。
这跟传统模型评测有个重要区别:传统评测更关注某个模型在特定测试集上的能力,词元所还要评价具体供应商在真实调用环境中的持续交付表现。说到底,模型本身的能力是一回事,供应商能不能稳定地把这种能力交付给用户,是另一回事。
Token交易平台想做的,显然不只是一个模型目录。模型验真要靠技术判断,持续监测离不开算力和推理工程能力,多供应商接入考验平台的分发经验,信用评价最后还得进到企业采购流程里。
百度手里不只有模型,它已经攒下一整套AI技术体系,从芯片、云基础设施一直盖到模型和应用平台。
先看模型能力。模型指纹比对要回答“这是不是它宣称的那个模型”,能力测试要回答“标称能力和实际能力是否一致”。这靠的是长期做模型训练、评测和推理优化攒下的底子,接几个第三方API办不到。
再看算力和推理工程。定期抽检拨测、全链路实时监测都是持续性的活,得有算力资源和推理工程能力撑着。供应商越多、调用规模越大,平台要处理的测试请求和监测数据就越多。
第三是模型分发经验。百度智能云
落到企业服务这一层,信用评级若真要左右采购决策,前提是摸清企业在合规、运维、结算和服务上的具体诉求。百度给出的数据是,百度智能云已服务近80%的央企客户,并在2025年央国企大模型市场份额上排第一。靠着这批客户,它得以触达规模各异、采购要求不同的模型买方。
不过百度自己也是模型服务提供商,文心模型同样在模型市场里参与竞争。词元所要想获得长期信任,还得靠一致的测评规则、公开的指标和可追溯的评价结果,证明不同供应商在平台上能按同一套标准竞争。
交易平台的核心竞争力,不光看手里有多少模型资源,还要看供需双方信不信平台给出的评价结果。
词元所还有一个容易被人忽略的产业价值:它可能给存量算力打开新的变现渠道。
眼下国内算力市场有个明显反差。一头是高端智算资源持续紧张,部分头部大模型公司因算力接近承载上限而暂停新用户订阅;另一头,根据中国信通院数据,2025年我国智能算力供应量约38亿卡时,实际使用量约14亿卡时,使用率约36.8%。这不代表全国算力总量不够,而是供给和需求之间存在结构性错配。
头一个问题是层级对不上。通用算力存在阶段性过剩的可能,可大模型训练和高并发推理所需的高端智能算力依旧吃紧。芯片之间架构、软件栈、适配能力各不相同,手里有GPU,并不代表什么模型任务都能直接接。
第二个问题是区域对不上。算力需求大量集中在京津冀、长三角和粤港澳,成本偏低的算力资源则有一部分落在西部。实时推理对网络时延和跨区域调度卡得很严,西部多出来的算力未必接得住东部的业务。拿京津冀来说,北京数据中心的峰值负载率已接近饱和,张家口、廊坊等地虽已形成规模化算力集群,当地产业需求却比较有限。
第三个问题是运营能力对不上。部分地方算力项目立项时没想清楚客户是谁,建成后又缺推理优化、模型适配和市场运营的本事,设备是投用了,稳定收入却迟迟形不成。经济日报此前也提过,有的项目请原厂技术团队驻场调优之后,整体算力利用率可以拉到80%以上。
可见设备建成只是开头。做好模型适配、推理优化和专业运维,能让更多算力真正用起来。可要形成稳定收入,服务产品化和市场对接这两关还得过。
一块GPU要真正变成收入,中间至少得走三道“工序”:
第一道,把算力变成可售的模型服务,包括模型部署、推理优化和运维保障,这是技术活;第二道,把模型服务变成可比较的商品,需要统一计量口径、可核验的质量指标和可追溯的履约记录,这是市场规则;第三道,把商品卖出去,让有需求的开发者和企业能找到供应商,并完成调用、交易和结算,这是渠道能力。
中小算力中心和地方国资算力平台,短板往往在第二道和第三道工序上。它们可能有GPU,也能部署开源模型,却缺少向客户证明服务质量的手段,更缺少稳定的客户渠道。词元所想补的正是这两道。
计量口径统一了、质量可以核验了、履约记录能查了,一家有模型服务能力但缺品牌的供应方,就有机会把自己的模型服务摆到公开市场上,让开发者比价、选择和调用。
这也意味着,存量算力不必只靠自建团队和固定客户消化,还能通过标准化模型服务进入更大的供需市场。
词元当然解决不了算力跨区域调度、异构硬件适配、底层推理优化这些全部问题。它干的事,主要是给已经具备服务能力的算力资源套上更标准化的商品形态,并提供一个市场入口。
成本、性能都要算,开发者越来越不愿意长期绑死在一家模型供应商身上。交易平台可以按任务类型、实时性能、价格和服务稳定性,把请求动态分给多家供应商。OpenRouter已在试这条路,词元所建立的质量评价和信用体系,也为类似机制打了底。
这可能进一步改变模型服务商的竞争方式。过去,供应商主要靠模型性能、Token价格和算力规模抢客户。以后,推理优化、工具调用成功率、版本稳定性和长期履约记录,可能直接影响平台的流量分配。能稳定完成任务的服务商,即使价格略高,也有机会拿到更多订单。对于缺品牌、缺销售渠道的中小型推理服务商,这种基于服务质量的竞争机制尤其重要。
企业采购的思路也可能慢慢变。过去是逐家对比每百万 Token 的报价,往后则要看完成一项业务任务总共花多少钱。一次 Agent 执行成功,背后烧掉多少 Token、重试了几轮、调用了哪些模型、由哪家供应商跑完,这些都可能成为将来模型服务计量和结算的关键依据。
不过想走到那一步,平台还有几道坎要过:评价标准够不够透明、跨平台怎么统一计量、服务能不能实时监测、履约责任怎么划分。尤其是平台开始拿质量分和信用分左右供应商流量之后,评价规则公不公平,直接影响整个市场的竞争秩序。
这套机制成熟以后,词元所这样的交易平台就有望把更多分散的推理资源串起来。算力供应商靠服务质量拿客户,企业也不用每次换模型都重新走一遍复杂的采购流程。