个人开发做小工具或做原型,最怕的是接口免费额度看着多、跑起来各种限流断供,换一家又得重写调用代码。这篇不讲哪家最强,只给一套筛平台的顺序:先看调用形态和额度口径,再看限速与稳定性怎么验证,最后确认迁移成本,并列出接入前必须先在本地跑通的几件事。
个人开发者做小工具、做原型,最容易踩的坑不是找不到免费接口,而是找到之后发现额度看着多、跑起来各种限流,或者用着用着突然断供,换一家还得把调用代码重写一遍。这篇不讲哪家最强,只给一套按顺序筛平台的判断标准,以及接入前在本地必须跑通的几件事。
筛的顺序建议固定下来:先看调用形态和额度口径,再看限速与稳定性怎么验证,最后算迁移成本。顺序反过来容易吃亏——先被免费两个字吸引,写了一半才发现协议是私有的,或者免费档不允许商用。每一项的当前数值都以站内页面为准,这里只给判断方法。
筛免费平台先看这五个维度
这五个维度不是并列的,而是有优先级的。调用形态排第一,因为它决定你以后换平台的改动量;额度口径排第二,因为它决定你能不能用它做正经事,而不只是跑个 demo。身份门槛和服务条款可以往后放,但商用之前必须回头看一遍。
- 调用形态
- 是标准 HTTP 接口、兼容某套主流协议,还是只能走它自己的 SDK,直接决定换平台时改多少代码
- 额度口径
- 分清按请求次数、按 token、按天还是按月重置,是否区分模型档位,具体数字去 /official-api 和 /ai-nav/category/ai-model-platform 核对当时的说明
- 限速与并发
- 免费档通常卡并发和每分钟请求数,先确认它给的是硬上限还是可排队,概念对照 /ai-dict/category/infra
- 身份门槛
- 是否要绑手机、实名或企业认证,决定你能不能长期用同一个账号
- 服务条款
- 免费档是否允许商用、是否要求署名,这条最容易被忽略,商用前一定翻一遍
什么情况下这套维度不适用?如果你的需求只是本地跑一次脚本验证想法,那身份门槛和服务条款可以先不管,调用形态也不用挑,能出结果就行。但只要打算做成给别人用的东西,五个维度一个都不能省,尤其是条款。
写业务代码之前先做三步验证
很多人拿到 Key 就直接封装 SDK,结果后面出问题,连是网络问题还是服务端问题都分不清。正确的做法是先别写业务代码,把基础验证跑完再动手。
- 打通最小请求拿 Key 后先用 curl 或最简脚本发一条最小请求,确认返回结构和文档一致,把原始响应存一份,别急着封装
- 量本地延迟基线用 /tools/speed-test 测一遍你的网络到该平台的实际延迟,免费平台慢到底是你的网络还是服务端,有基线才分得清
- 压自己的真实节奏按你真实的调用频率连打几十次,看第几次开始报错,把触发点的次数和报错原文记下来,这就是你的实际可用上限
- 核对返回身份对照 /tools/verify 的探针思路,理解「能返回」和「返回的是这个模型」是两回事,敏感场景要单独验证
把免费额度写进代码的护栏里
免费档和付费档最大的差别不是能不能用,而是抖动的概率高。护栏不是可选项,是接入当天的必做项。下面这几件事做完,后面出问题至少能定位,不用靠猜。
- 超时、重试、退避三件套先配好,重试要带指数退避,不要原样重打,否则只会把限流触发得更快
- 把平台地址和 Key 收进配置或环境变量,别散落在业务代码里,换源时只改一处
- 给每次请求加日志:至少记录调用时间、耗时、状态码、用量字段,出问题才有复盘依据
- 想清楚断供预案:是切备用平台、降级到更小的模型,还是直接给用户提示,别等挂了才临场决定
| 护栏项 | 判断标准 | 不适用的情况 |
|---|---|---|
| 超时设置 | 比本地延迟基线的正常值留出余量,超出即判失败 | 流式输出场景要按首字和整体分别设 |
| 重试策略 | 只对可重试的错误码重试,带退避和次数上限 | 写操作类请求不能盲目重试 |
| 配置外置 | 地址与 Key 不在业务代码里出现 | 本地一次性脚本可以放宽 |
| 日志字段 | 能还原出时间、耗时、状态码、用量 | 涉及用户隐私的字段不要落盘 |
留好退路:怎么判断迁移成本高不高
迁移成本高不高,接入第一天就能判断出来。方法很简单:把调用层单独写一个薄适配,所有平台相关的东西都从这里过。等你真要换源,需要动的只有这一个文件,而不是满仓库搜索。
- 优先选兼容主流协议形态的平台,调用代码基本不用改,只换地址和 Key
- 如果用了平台私有字段或专属返回结构,把这些用法单独包一层适配函数,别直接铺满业务代码
- 给关键调用写一份对照清单:哪些参数是平台特有、哪些是通用,换源时按清单逐条核对
- 小团队常见的做法是主用一家、备一家,定期跑一次备用平台的连通性,确认它还能用
什么时候不必纠结迁移成本?如果你做的就是一次性的实验脚本,跑完就扔,那直接调私有 SDK 最快,不用绕适配层。但只要这个项目打算活过几周,适配层的这点前期投入迟早会赚回来。
下一步把你正在用的免费接口按上面五个维度过一遍,缺哪项补哪项;另外到站内工具页跑一次延迟基线,有数字在手再谈选型。→常见问题
免费额度用完了会直接停掉吗?
多数平台是用完就报错,直到额度重置;有的会转成按量计费继续跑。接之前先确认它是硬停还是自动扣费,硬停的要在代码里兜住错误分支,别让用户看到裸报错。具体重置周期和计费口径去站内平台目录页对当时说明。
免费平台能不能直接上生产?
不建议当唯一来源。免费档普遍在并发和稳定性上有限制,适合原型、内部工具和低峰期任务。真要用在生产,至少配一家备用源和降级逻辑,并接受偶发的失败率,把重试和提示做扎实。
同一个 Key 在多个项目里用会出问题吗?
会。免费额度通常按账号算,多个项目共享会更快触发限速,日志里也分不清是谁打的。建议按项目拆 Key,或者至少在请求里带上项目标识,方便出问题时定位来源和用量。