做小工具或跑原型时,最怕接口刚接好就撞上额度用尽、限流或突然收费。这篇不罗列具体哪家免费多少,而是教你先分清免费额度有哪几种形态,再按一套固定顺序去站内核对当时的数字,最后给出被限流时的降级与替换动作。
做小工具、跑原型、自己写点自动化脚本的时候,最怕的情况是接口刚接通、逻辑刚跑顺,第二天就撞上额度用尽或者限流报错。更要命的是有些渠道一开始看着免费,过一阵悄悄开始计费,你代码里没留退路,只能临时改结构。
这篇不打算给你一份「谁家免费多少」的清单——那种东西每隔一段时间就变,写死了反而误导。这里讲的是:先分清免费额度到底有哪几种形态,再按固定顺序去站内核对当时的数字,最后给出一套被限流、被断供时可以照着走的降级与替换动作。
先分清「免费」有哪几种形态
很多人把「免费」当成一个统一概念,其实差别很大。同样是不要钱,有的是给你一笔用量、用完就停;有的是某个模型长期免费但随时可能调整;有的是不按量算、只卡你每分钟能请求多少次。搞混了形态,后面排错方向就全错。
| 免费形态 | 典型特征 | 适合场景 | 主要风险 |
|---|---|---|---|
| 按量赠送 | 注册给一笔调用量 | 短期验证、跑 demo | 用完即停,或自动转付费 |
| 限时免费模型 | 平台上特定开源权重模型长期免费 | 博客、内部工具 | 随时下架或改计费口径 |
| 免费档速率限制 | 不限总量但卡 RPM / 并发 | 轻量线上服务 | 批量任务直接卡死 |
| 自建本地接口 | 本地跑开源模型 | 长期高频、数据敏感 | 要算硬件和电费成本 |
判断边界时别只看「免费」两个字。自建本地接口这一类的真实成本不在接口费上,而在硬件折旧和电费上,是否划算要看你的调用频率和数据敏感程度,这类测算站内有部署成本相关的页面可以参考,具体数字到站内对应页面核对。
- 按量赠送额度:适合短期验证,别把核心链路压在上面
- 限时免费模型:写进配置别写进代码,随时准备切走
- 免费档速率限制:先量清楚 RPM 和并发上限再设计调用节奏
- 自建本地接口:长期高频才划算,低频用反而更贵
动手前先核对四件事
接入之前花十分钟核对,比接完再返工省事得多。同一个平台上不同模型的计费口径经常不一样,有的免费有的收费,光看平台首页的宣传没用,要落到具体的模型清单上。
- 确认模型是不是真免费到站内的模型资料页和官方 API 页面,对照当时的清单,看你选的那个模型在不在免费范围内,别用平台整体印象代替具体模型。
- 看清额度单位是按 token、按调用次数,还是按分钟计。单位不同,你的优化方向也不同:按 token 就要压输入长度,按次数就要合并请求。
- 查限流三个数RPM(每分钟请求数)、TPM(每分钟 token 数)、并发数,三个都要看。只盯一个数,很容易出现「请求数没超但 token 超了」的误判。
- 确认使用条款边界免费档常附带数据用途或商用限制。涉及真实用户数据时,先确认能不能用,别等上线了才发现不合规。
这四件事里,最容易忽略的是额度单位。举个通用场景:一个 5 人小团队做内部问答工具,单次输入很长但调用次数很少,那按 token 计费的免费额度可能几天就用完,按次数计费的反而能撑很久——判断依据是你的调用画像,不是额度表面大小。
写代码时就为「换一家」留好口子
免费渠道的共同点是会变。与其等它变了再手忙脚乱,不如一开始就把「换渠道」设计成改配置而不是改代码。这件事做起来不复杂,但省下的是后面几小时的返工。
- 用 OpenAI 兼容格式包一层薄封装,换渠道只改 base_url 和 key
- 模型名、限流参数、重试次数抽成配置文件,不硬编码在调用处
- 设计降级顺序:主渠道失败退备选免费渠道,再退本地小模型兜底
- 每次调用打上渠道标记并写日志,方便回看是哪家在什么时候开始不稳
# 配置文件示意:把渠道和模型抽出来
# config.yaml
providers:
- name: primary
base_url: "<填当前主渠道地址>"
model: "<填当前免费模型名>"
rpm_limit: 0 # 填核对后的实际值
- name: fallback
base_url: "<填备选渠道地址>"
model: "<填备选模型名>"
retry:
max_attempts: 3
backoff_base_seconds: 1降级顺序不要只写两层。主渠道挂掉时切备选,备选也限流时切本地小模型,本地跑不动就降级到「只返回缓存结果」或者「提示用户稍后再试」。每一层都能跑通,整条链路才不会因为某一家的策略调整而整体瘫掉。
被限流或额度用尽时的排查顺序
报错出现时别急着换渠道,先分清是额度耗尽还是速率触发。这两种情况的处理方式完全不一样:前者是你真的没量了,后者是你请求得太快,盲目换渠道往往换个地方继续撞墙。
| 现象 | 大概率原因 | 先做什么 |
|---|---|---|
| 报错提示余额/额度不足 | 额度耗尽或已转付费 | 核对站内计费页,确认当前口径 |
| 偶尔成功、批量必挂 | 触发 RPM 或并发限制 | 把同步调用改成批处理,错峰跑 |
| 响应突然变慢、没报错 | 可能是网络或上游拥堵 | 用站内测速工具量延迟基线再判断 |
| 持续超限、加退避也没用 | 选型与实际用量不匹配 | 算真实用量,判断要不要转付费档 |
加退避重试时,别用固定间隔。指数退避加上随机抖动,能把一堆同时失败的请求错开,避免「一起重试、一起再撞墙」。另外一个常见误判是把网络慢当成限流——先到站内的测速工具页面量一遍延迟基线,有个参照再下结论。
- 额度耗尽:换渠道,或把非关键任务切到更小的模型
- 速率触发:指数退避重试 + 批处理 + 错峰执行
- 没报错但变慢:先测速,排除网络因素
- 反复撞墙:回去算真实用量,别再硬扛
免费额度是用来验证方案的,不是用来长期扛生产流量的;想清楚这一点,后面的取舍就简单了。
还有一个容易漏的动作:记录每次故障的时间和渠道。攒上几次之后,你就能看出哪家渠道在什么时段容易不稳,这比临时换一家拍脑袋决定靠谱得多。日志不用复杂,记时间、渠道、错误类型三样就够。
下一步先到站内的模型与官方 API 页面核对当前可免费调用的模型清单和额度口径,再用测速工具量一遍延迟基线,最后按上面的排查顺序把降级链路配好。→常见问题
免费额度能撑住正式上线的小产品吗?
看两个数:每天真实调用次数和单次平均 token 量。日调用在几百次以内、又不需要高峰并发,免费档通常够跑;一旦有批量任务或多人同时在线,限流会先于额度成为问题,这时该按量付费或换本地部署。
同一个平台为什么有的模型免费有的收费?
常见原因是平台在推某个开源权重模型,用免费位换调用量和使用反馈。这类免费位通常随时调整,所以不要把它当成长期承诺,代码里留好替换路径,具体清单去站内模型库核对当时的标注。
免费渠道的响应速度和付费一样吗?
不一定。免费档经常排在低优先级队列,高峰期延迟和排队时间都会拉长。如果任务对延迟敏感,先用测速工具量一遍,把免费渠道放在非实时路径上,实时路径另做安排。