要接国内大模型 API,搜出来一堆名字:有的自己训模型,有的只是把别家模型转卖一遍,还有云厂商顺手捎带。名字看花了眼,真正要判断的是——这家是模型源头还是中间商、文档和计费口径清不清楚、换模型时能不能少改代码。这篇给一套按来源分类的清单和核对顺序,价格和规格一律到站内对应页面看当时的数字。
先分清三条线:模型厂、云平台、聚合商
很多人搜「国内大模型api有哪些公司」,一上来就想要一份名单。但名单本身没什么用,因为同样叫「提供 API」,背后的角色差别很大。先按谁在训模型、谁在卖算力、谁在转手,把供应方分成三条线,后面比价格、比稳定性才不会串味。
- 模型厂
- 自己训模型、自己开 API,接口风格和版本节奏由自己说了算
- 云平台
- 机房和算力是自家的,模型可能自研也可能上架别家的,走云账号统一结算
- 聚合与中转
- 把多家模型包成一套接口,切模型方便,代价是多一层依赖、多一次转手
这三条线没有绝对优劣,只有适不适合你当前阶段。判断的时候看两个问题:你要的是「最贴原厂的模型行为」,还是「一套代码随便换模型」;你能接受的结算方式是单独的模型账号,还是云上那张统一的账单。下面这张对照表可以先用来给自己归类。
| 维度 | 模型厂 | 云平台 | 聚合与中转 |
|---|---|---|---|
| 模型来源 | 自研为主 | 自研 + 上架别家 | 转卖多家 |
| 接入风格 | 各家自成一套 | 跟着云 SDK 和鉴权走 | 统一成一套接口 |
| 结算方式 | 单独开通、单独计费 | 并入云账号账单 | 在聚合方充值扣费 |
| 切换成本 | 换家要改代码 | 换家要改云配置 | 改个模型名就行 |
| 主要风险 | 版本节奏被原厂牵动 | 绑定云生态 | 多一层依赖和转手 |
有个常被忽略的点:聚合和中转里,还分「正规授权的聚合」和「纯转手中转」。前者通常有自己的定价页和明确的模型清单,后者可能连用的是哪个版本都说不清。想区分,别只看首页宣传语,去看它有没有公开的模型列表、限流说明和故障公告,这些才是可核对的东西。
- 先问自己:是长期固定用一两个模型,还是频繁对比多家?固定用优先看模型厂,频繁对比优先看聚合。
- 再看团队现状:已经在用某家云,走云平台的结算和权限最省事,但会被云生态绑住。
- 然后看容灾:只靠一条线,原厂限流或故障时你没有任何退路,至少留一条备用线。
- 最后看账:三条线的计费口径不一样,别拿聚合的单价直接和原厂比,先对齐计费单位和限流规则。
- 什么情况下不适用:如果业务对延迟极度敏感、对模型行为要求完全可复现,聚合和中转这条线大概率不适合你。
- 列出你实际要调的模型别按公司列,按模型列。写清楚每个模型用在哪个功能上,是主力还是兜底。
- 给每个模型标一条线回填它是模型厂、云平台还是聚合中转。同一个模型可能三条线都能拿到,标出你实际走的那条。
- 核对结算和限流口径到站内价格与限流相关页面看当时的数字和规则,确认三条线的计费单位、限流维度是否一致,不一致就先换算再比。
- 留一条备用线主力线之外至少准备一条不同角色的线,验证方式是真跑一次切换,而不是只看文档说明。
自研模型厂商:这条路适合什么人
自研模型厂商指的是自己训练模型、自己开 API 的那类公司,接口和能力都由它一家说了算。适合什么人?愿意跟着一家的版本节奏走、对某类任务已经摸出明确偏好的团队。比如一家 5 人小团队,长期做中文长文摘要,试过几家后认定某一家的输出风格最顺,那就没必要每月折腾迁移。
反过来说,如果你的项目需要在一个流程里横向对比多家模型,比如让 A 写初稿、B 做审校、C 兜底,那把某一家锁死反而更麻烦:接口协议、鉴权方式、限速口径都不一样,胶水代码越写越厚,换一次模型就要动一次主流程。这种情况更适合走聚合层或统一网关,而不是死磕单家。
决定之前先核对三件事
- 看官方文档完整性重点翻四块:鉴权方式、错误码表、流式返回格式、有没有可运行的示例。文档只给一段 curl、没有错误码表的,接入后出问题只能靠猜。核对时顺手翻一下更新日志,看它是不是长期在维护。
- 看是否提供兼容通用协议的接口问清楚有没有兼容 OpenAI 风格那种通用协议的入口。有的话,现有 SDK 和工具链大概率能直接复用,迁移成本低;没有的话,你得自己包一层适配器,后面每加一个功能都要单独适配。
- 看限速与并发怎么算限速按 RPM 还是 TPM 算?并发是按账号还是按 Key?超额是排队还是直接报错?这些通常写在控制台的配额说明或限速章节里,别只看首页宣传。不确定就直接提工单问,把回答截图存档。
| 核对项 | 要看什么 | 不达标会怎样 |
|---|---|---|
| 文档完整性 | 错误码表、流式格式、可运行示例 | 排障靠猜,定位一次故障要半天 |
| 协议兼容 | 有无通用协议入口 | SDK 要重写,工具链全部重接 |
| 限速口径 | RPM/TPM、按账号还是按 Key | 压测正常、上线被限流打回 |
| 版本节奏 | 更新频率与弃用公告 | 某天接口悄悄变了,主流程报错 |
- 团队规模小、任务类型集中,认准一家能把效果调透,适合走自研厂商路线
- 已有明确偏好、且短期内不打算换模型的项目,跟着一家的版本节奏走最省事
- 需要在一个流程里横评多家、做 A/B 对比的项目,锁死一家反而增加改造成本
- 对合规、数据落地区域有硬要求的,先确认这家能不能满足,再谈别的
- 只是想快速验证一个想法,别急着绑定,先用统一入口试出方向再说
以上三类信息里,价格和具体额度是会变的,别照抄别人的截图。要对比当下各家的接口能力与报价,到站内的模型资料库与价格页核对当时的数据;要横向看哪些自研厂商被收录、各自支持什么协议,走导航目录逐条点进去看官方文档原文,比任何二手总结都准。
下一步先把候选缩到两三家,用同一段真实业务文本各跑一遍,重点看错误处理和限速表现,再决定锁哪家。→云厂商平台:买的是模型,还是账号体系
云厂商平台(阿里云、腾讯云、华为云、百度智能云这类)卖的大模型 API,本质上是两样东西叠在一起:一层是模型本身,一层是账号与结算体系。很多团队选它,不是因为模型多强,而是因为发票、合同、工单、子账号、预算告警这些企业流程已经现成,采购不用再走一遍新供应商入库。所以先想清楚你要的是哪一半。
- 账号体系
- 指子账号、权限分组、配额分配、审批流、对账单一整套,通常跟云上其他资源共用一套控制台
- 模型上架
- 平台里能调到的模型有一部分是第三方厂商放上去的,平台只是分发和计费通道
- 计费口径
- 同一个模型,平台侧的计费单位、token 统计方式可能与原厂自己卖的不完全一样
- 限流口径
- 每分钟请求数还是每分钟 token 数、按账号还是按子账号,各家定义不同
最容易踩的坑就在这里:你按原厂文档写了重试和退避逻辑,接上平台后发现错误码对不上、限速单位也不一样。同一批调用,平台返回的错误码可能是云网关那套通用码,跟模型原厂文档里写的不是一回事;限速可能是按账号整体算,而不是按单个 API Key 算。这时候排查事故会非常费劲,因为两边的文档各说各话。
| 核对项 | 平台文档要看到什么 | 对不上时的后果 |
|---|---|---|
| 错误码 | 返回码含义与可重试标记 | 重试逻辑失效,白跑或误熔断 |
| 限速单位 | 是按请求数还是 token、按账号还是按 Key | 并发一上来就批量报错,且找不到原因 |
| 计费粒度 | 输入输出是否分开计、缓存是否计 | 对账单和预估差一截,预算控不住 |
| 模型来源 | 是否标注第三方上架 | 出问题时找平台还是找原厂说不清 |
| SLA 与工单 | 工单响应级别、是否覆盖该模型 | 故障时只能等,没有升级通道 |
- 先拿同一批请求跑两边用同一段代码分别打平台的接入点和模型原厂的接入点,记录返回的错误码、耗时、限流触发条件,做成一对照表。
- 逐项比对文档口径重点看错误码表、限速说明、计费说明这三处,两边不一致的地方标红,这些就是以后事故的源头。
- 确认模型来源与责任方查平台文档里这个模型是不是第三方上架,出故障时工单找谁、SLA 覆盖不覆盖,写进内部记录。
- 验证子账号与配额能否落地实际建一个子账号,试试能不能单独配模型配额和预算告警,别只看文档说有。
- 用一段时间再定去留先小流量跑,拿真实账单和限流日志回来核对,再决定是不是把主流量迁过来。
- 什么情况下适合用云厂商平台:团队已经在用这家的云资源,采购、发票、对账想合并成一条线
- 什么情况下不适合:你需要模型的原厂特性和最新能力,且对限速、错误码有精细控制要求
- 模型能力本身要以平台文档为准,因为上架版本和你以为的可能不是一回事
- 具体哪家便宜、哪家模型全,去站内的价格与模型资料库按当时数据核对,别听人转述
- 如果只图账号体系方便、模型随便调调,那云厂商平台是省事的;如果要压成本做规模化,就得把计费口径抠细
聚合与中转渠道:便宜和稳不稳是两件事
自己一家家去开账号、配密钥、写适配层,确实累。聚合或中转渠道就是把这一步替你包了:一个入口、一套鉴权,背后挂多家模型。做快速试错、拉几家做 A/B 对比、或者团队里没人愿意维护多套 SDK 的时候,它省事。但「便宜」和「稳」在这类渠道上不是同一件事,得分开看。
- 聚合平台
- 自己对接多家官方接口,对上层暴露统一格式,相当于帮你写好了适配层。
- 中转站
- 再转一手,你调它、它调上游,中间多了一层,价格和稳定性都由这层决定。
- 版本滞后
- 上游换了新模型或改了参数默认值,中间层不一定同步,你拿到的可能还是旧行为。
- 参数改写
- 为了兼容多家,中间层可能悄悄改温度、截断长度、重排系统提示词,输出和你预期不一致。
- 责任边界
- 出错时你只能找中间层,它再去和上游扯,排查链条变长。
| 对比项 | 直连官方 | 走聚合/中转 |
|---|---|---|
| 接入成本 | 每家一套鉴权、一套 SDK | 一套鉴权通吃,起步快 |
| 模型时效 | 上游一发你就能用 | 可能滞后,取决于中间层同步节奏 |
| 参数控制 | 完全自己说了算 | 可能被中间层改写或兜底 |
| 故障排查 | 直接对上游 | 先过中间层,链路更长 |
| 价格 | 按官方当时价 | 中间层自己定价,得单独核对 |
- 先跑站内探测接入前用站内工具对目标渠道打一轮探测,别直接上生产。重点看响应延迟的波动和返回结构是否稳定,而不是看某一次快不快。
- 做返回一致性对比拿同一段固定输入,分别走官方和走渠道各跑几次,比对输出结构、字段、截断行为是否一致。不一致就说明中间层动过参数。
- 核对模型是不是你要的别只看渠道页写的名字,用固定问题探一下实际行为特征,确认拿到的是目标模型而不是被降级或替换的版本。
- 小流量灰度再放量一致性没问题就先切一小部分流量观察,别一次性把生产全迁过去。出现异常能快速切回官方。
- 留好回退路径代码里把官方直连和渠道做成可切换的配置,别把渠道地址硬编码死,否则中间层一挂你没法快速恢复。
- 适合:快速试多家、做 A/B 对比、内部工具和 Demo、团队没人维护多套鉴权。
- 不适合:对模型版本和参数有严格要求的生产核心链路、合规审计要求高的场景。
- 接入前必做:延迟波动、返回一致性、实际模型行为三项探测,缺一项都别急着上生产。
- 长期看:渠道只是过渡,关键业务最好保留官方直连作为回退。
选之前先跑一遍这张核对清单
挑供应商别只看模型名字。三家都能调通、都能出字,但上线之后谁让你半夜爬起来,差别往往在接口层和账目层的细节上。下面这张清单按「接口—账目—工程」三层走一遍,十分钟能筛掉大部分坑;如果贵司只是内部做个小工具、没有外部用户,工程层那几条可以放松,但接口层和账目层还是建议过一遍。
| 层 | 要核对的点 | 怎么验证 |
|---|---|---|
| 接口 | 请求/返回是不是通用格式(能不能直接套用 OpenAI 风格的 SDK) | 拿现成 SDK 改个 base_url 跑一次,能通说明迁移成本低 |
| 接口 | 有没有流式输出 | 写个最小 demo,看是不是边生成边返回,还是一次性吐完 |
| 接口 | 错误码有没有文档 | 故意传错 key、超长输入、不存在的模型名,看返回信息能不能看懂 |
| 账目 | 计费单位怎么算 | 去站内价格页核对输入和输出是不是分开计价 |
| 账目 | 有没有最低充值或起充门槛 | 注册后看充值页的最小金额选项 |
| 工程 | 并发上限、超时行为、能不能提额 | 读文档 + 提工单问,这三条决定上线后稳不稳 |
- 接口层看的是「换一家要改多少代码」:协议是通用格式、有流式、错误码有文档,这三条齐了,将来换供应商可能就是改个地址和一个 key。
- 账目层看的是「账单会不会失控」:输入输出分开计价还是合并算,直接决定你优化提示词的方向;有没有最低充值,决定试错成本。
- 工程层看的是「出事谁来扛」:并发上限、超时行为、提额流程,这三条不搞清楚,流量一涨就是深夜告警。
- 这三层不是并列关系,是过滤顺序:接口层不过关的直接放弃,账目层算不清的先放一边,最后才在工程层做取舍。
- 第一步:用最小 demo 打通接口拿官方示例或通用 SDK 改一个请求,确认能收到返回;再切到流式模式跑一次,确认是逐字返回。失败就记下报错原文,去文档里找对应说明。
- 第二步:故意制造错误用错的 key、超长输入、不存在的模型名各请求一次,看错误信息是否给出可读的原因和定位线索。返回一堆无法理解的错误码又没有文档的,后面排查会很痛苦。
- 第三步:翻价格页算一笔账去站内价格页核对计费口径,按你们真实场景估算:输入多还是输出多?有没有最低充值门槛?把两个候选方案的估算值并排放,不要凭印象选。
- 第四步:提一个问题给客服或工单直接问并发上限、超时怎么处理、能不能提额。回复速度和回答是否具体,本身就是信息;答不上来或只会甩文档链接的,要留个心眼。
最后提醒一句:清单是帮你排除明显不合适的,不是替你打分排名。同样是并发限制,做内部工具和做面向 C 端的产品,容忍度完全不一样。把你们的真实场景先写清楚,再拿这份清单去对照,结论才有意义。价格和具体参数这类会变的东西,一律以站内页面的当时数据为准。
试的顺序:先小样本,再谈迁移
筛完一圈公司名单之后,别急着比参数、比谁家宣传页漂亮。真正能区分高下的动作只有一个:拿你自己的数据去跑一遍。官方案例都是整理过的干净样本,跑通不代表你的业务跑得通,脏数据才会把字段缺失、超长文本、奇怪标点、多轮上下文截断这些问题一起逼出来。
- 第一步:用自己的脏数据跑通从线上日志或数据库里抽一批真实请求,保留原始格式,不要人工清洗。重点看三件事:超长输入会不会被悄悄截断、结构化输出的字段是否稳定、异常输入返回的是报错还是硬编一段敷衍内容。跑完把失败样本单独存一份,换下一家时复用同一批,这样才可比。
- 第二步:压一压并发用同一批数据把并发逐步加上去,观察是直接返回限速错误,还是请求被排队、延迟慢慢拉高。前者说明你得自己做退避重试,后者说明高峰期体验会变差但不会断。两种都要在代码里留出超时和重试的位置,别等上线才发现。
- 第三步:再评估迁移改动量把模型名、接口地址、鉴权方式、调用封装全部抽到一个配置层,业务代码只调你自己的内部函数。这样换家时改的是配置和适配器,不是满仓库搜字符串。抽不干净的地方,就是将来迁移的真实成本。
| 验证项 | 怎么测 | 什么情况下结论不成立 |
|---|---|---|
| 脏数据表现 | 直接灌线上原始样本 | 样本量太小,只反映个别极端情况 |
| 截断与结构化 | 看超长输入和字段完整性 | 你的输入本来就短、输出本来就自由 |
| 并发行为 | 阶梯式加并发看报错与延迟 | 只在本地单机压,没覆盖跨地域网络 |
| 迁移改动量 | 统计需要改的调用点数量 | 早期原型代码本来就没封装,成本被高估 |
- 抽一份固定的回归样本集,换一家就跑同一份,避免每次换数据得出不同结论
- 并发测试同时记录错误码分布,区分「限速」和「服务异常」
- 把三个步骤的结论写成一句话结论,方便和同事对齐,而不是甩一堆日志
- 任何一家的结论只在你的数据分布下成立,业务形态差别大时不要直接照搬
这三步走完,你手里的就不是一张公司名单,而是一份带条件的小结论。下一步再去比价格和配额才有意义——到站内价格与模型资料库页面核对当时的数字,结合你实测出来的调用量估算月成本,才不会出现「单价看着便宜、实际因为重试和排队更贵」的情况。
什么情况下这套排序不成立
前面那套排序思路,默认了一个前提:你能把数据交给第三方公有 API,任务量稳定且不算太大,团队也有精力做横向对比。只要这三个前提里有一个不成立,排序就得推翻重来,硬套只会浪费时间。
- 合规要求数据不出内网:公有 API 整条路直接排除,再便宜、文档再好也和你无关
- 延迟极敏感且调用量大:自建推理的账可能反而更划算,得先把量对齐
- 只是临时跑脚本做验证:挑一家文档最顺、能最快跑通 demo 的就够了
- 预算被卡死且对价格极度敏感:应该盯着站内的价格对比页,而不是按名次选
- 团队没人维护、只想省心:稳定性与文档完整度的权重远高于其他维度
先判断数据能不能出内网
这一步不是可选项,而是筛掉一大半候选的门槛。只要有监管、客户合同或内部安全策略要求原始数据不出你的网络边界,公有 API 就没法用,后面所有的价格、模型能力比较都失去意义。这种情况下先把方向切到私有化部署或本地推理,再谈具体选谁。不适用的情况是:内部没有硬性合规约束,只是团队心理上不放心——那属于可协商范围,别当成硬门槛。
大调用量 + 低延迟容忍度:把账算清楚再决定
公有 API 按调用量付费,自建推理按租卡或买机器付费,两条曲线交叉点在哪,只有把量、并发和延迟要求摆到一起才能看清。别凭感觉说「自建肯定便宜」或「API 肯定划算」,这两种结论都只在特定区间成立。建议按下面的顺序排查,最后一步必须回到站内页面看当时的真实数字。
- 估算日调用量与峰值并发用过去一段时间的日志或业务预估,得出日均 token 消耗和峰值 QPS,这两个数决定了自建需要几张卡才能扛住。
- 列出延迟硬指标确认哪些场景是硬性低延迟(比如在线交互),哪些可以接受排队或异步。延迟要求越硬,需要的冗余越多。
- 对齐租卡成本把自建所需的卡数、租用时长和运维人力折算成月度支出,和公有 API 按量计费对比。具体单价到站内价格与模型资料库页面核对当时的数字,不要用旧印象。
- 做小范围验证再定先用一小部分流量跑自建,观察实际利用率,很多团队会发现自己算的卡数偏高或偏低。
只是临时验证:别走完整清单
如果目标只是临时跑个脚本、验证一个想法、做个内部 demo,那完整的多家对比清单是过度投资。这时候的评判标准只有一个:谁的文档能让你在最短时间内跑通第一段代码。文档结构清晰、示例可直接复制、报错信息能看懂,就足够了。不适用的情况是:这个脚本后面会变成正式业务——那就别图快,回到完整评估流程。
| 你的实际约束 | 该走哪条路 | 先去看什么 |
|---|---|---|
| 数据不能出内网 | 私有化部署 / 本地推理 | 部署方案与硬件要求相关页面 |
| 量大且延迟敏感 | 先对齐自建与 API 的账 | 价格与模型资料库页面 |
| 临时验证、跑一次就完 | 挑文档最顺的一家 | 模型资料库与上手文档 |
| 团队无人维护、求省心 | 优先稳定性和文档 | 中转站与官方渠道的可靠性说明 |
排序是给「一般情况」用的,你的约束只要有一条不一般,就该先处理那条约束,再回头看排序。
常见问题
国内大模型 API 是不是都兼容同一套协议?
大部分对外提供兼容通用协议的接口,但兼容通常只覆盖基础对话和流式,函数调用、多模态输入、结构化输出这些扩展能力各家实现差别很大。接之前拿一个你真实用的高级参数去试,能过再算兼容。
大厂平台和自研模型厂商,价格差在哪?
价格差更多来自计费口径而不是单价本身:输入输出是否分别计费、缓存命中怎么算、思考型模型的推理过程算不算 token。具体数字各页面都在动,到站内的官方 API 价格页核对当时的写法。
聚合渠道能直接上生产吗?
看你的容忍度。它适合做灰度、比价和临时补充额度,但模型版本可能滞后、参数可能被中间层改写,出问题时排查链条会长一截。上生产前至少跑一段时间的在线探测,把可用率量出来。
换一家 API 大概要改多少代码?
如果一开始就把模型名、鉴权、重试和超时封装在一个适配层里,换家通常只改配置和少量参数映射。真正要重写的是依赖了某家独有能力的部分,比如特有的函数调用格式或文件上传方式。
公司采购流程要求合同和发票,是不是只能选云厂商?
不是,但云厂商在这块确实省事。自研模型厂商和聚合平台也有能开票的,差别在开票主体、账期和支持力度。先问清能不能对公、能不能签数据处理协议,再谈技术接入。