有 哪些 免费 的 大 模型 api

模型与算力

盘点能免费调用的大模型 API 渠道类型、额度形态与限流坑,给预算有限的开发者一套自查与替换顺序。

做小工具或跑原型时,最怕接口刚接好就撞上额度用尽、限流或突然收费。这篇不罗列具体哪家免费多少,而是教你先分清免费额度有哪几种形态,再按一套固定顺序去站内核对当时的数字,最后给出被限流时的降级与替换动作。

做小工具、跑原型、自己写点自动化脚本的时候,最怕的情况是接口刚接通、逻辑刚跑顺,第二天就撞上额度用尽或者限流报错。更要命的是有些渠道一开始看着免费,过一阵悄悄开始计费,你代码里没留退路,只能临时改结构。

这篇不打算给你一份「谁家免费多少」的清单——那种东西每隔一段时间就变,写死了反而误导。这里讲的是:先分清免费额度到底有哪几种形态,再按固定顺序去站内核对当时的数字,最后给出一套被限流、被断供时可以照着走的降级与替换动作。

先分清「免费」有哪几种形态

很多人把「免费」当成一个统一概念,其实差别很大。同样是不要钱,有的是给你一笔用量、用完就停;有的是某个模型长期免费但随时可能调整;有的是不按量算、只卡你每分钟能请求多少次。搞混了形态,后面排错方向就全错。

免费形态典型特征适合场景主要风险
按量赠送注册给一笔调用量短期验证、跑 demo用完即停,或自动转付费
限时免费模型平台上特定开源权重模型长期免费博客、内部工具随时下架或改计费口径
免费档速率限制不限总量但卡 RPM / 并发轻量线上服务批量任务直接卡死
自建本地接口本地跑开源模型长期高频、数据敏感要算硬件和电费成本

判断边界时别只看「免费」两个字。自建本地接口这一类的真实成本不在接口费上,而在硬件折旧和电费上,是否划算要看你的调用频率和数据敏感程度,这类测算站内有部署成本相关的页面可以参考,具体数字到站内对应页面核对。

  • 按量赠送额度:适合短期验证,别把核心链路压在上面
  • 限时免费模型:写进配置别写进代码,随时准备切走
  • 免费档速率限制:先量清楚 RPM 和并发上限再设计调用节奏
  • 自建本地接口:长期高频才划算,低频用反而更贵

动手前先核对四件事

接入之前花十分钟核对,比接完再返工省事得多。同一个平台上不同模型的计费口径经常不一样,有的免费有的收费,光看平台首页的宣传没用,要落到具体的模型清单上。

  1. 确认模型是不是真免费到站内的模型资料页和官方 API 页面,对照当时的清单,看你选的那个模型在不在免费范围内,别用平台整体印象代替具体模型。
  2. 看清额度单位是按 token、按调用次数,还是按分钟计。单位不同,你的优化方向也不同:按 token 就要压输入长度,按次数就要合并请求。
  3. 查限流三个数RPM(每分钟请求数)、TPM(每分钟 token 数)、并发数,三个都要看。只盯一个数,很容易出现「请求数没超但 token 超了」的误判。
  4. 确认使用条款边界免费档常附带数据用途或商用限制。涉及真实用户数据时,先确认能不能用,别等上线了才发现不合规。

这四件事里,最容易忽略的是额度单位。举个通用场景:一个 5 人小团队做内部问答工具,单次输入很长但调用次数很少,那按 token 计费的免费额度可能几天就用完,按次数计费的反而能撑很久——判断依据是你的调用画像,不是额度表面大小。

写代码时就为「换一家」留好口子

免费渠道的共同点是会变。与其等它变了再手忙脚乱,不如一开始就把「换渠道」设计成改配置而不是改代码。这件事做起来不复杂,但省下的是后面几小时的返工。

  • 用 OpenAI 兼容格式包一层薄封装,换渠道只改 base_url 和 key
  • 模型名、限流参数、重试次数抽成配置文件,不硬编码在调用处
  • 设计降级顺序:主渠道失败退备选免费渠道,再退本地小模型兜底
  • 每次调用打上渠道标记并写日志,方便回看是哪家在什么时候开始不稳
# 配置文件示意:把渠道和模型抽出来
# config.yaml
providers:
  - name: primary
    base_url: "<填当前主渠道地址>"
    model: "<填当前免费模型名>"
    rpm_limit: 0   # 填核对后的实际值
  - name: fallback
    base_url: "<填备选渠道地址>"
    model: "<填备选模型名>"
retry:
  max_attempts: 3
  backoff_base_seconds: 1

降级顺序不要只写两层。主渠道挂掉时切备选,备选也限流时切本地小模型,本地跑不动就降级到「只返回缓存结果」或者「提示用户稍后再试」。每一层都能跑通,整条链路才不会因为某一家的策略调整而整体瘫掉。

被限流或额度用尽时的排查顺序

报错出现时别急着换渠道,先分清是额度耗尽还是速率触发。这两种情况的处理方式完全不一样:前者是你真的没量了,后者是你请求得太快,盲目换渠道往往换个地方继续撞墙。

现象大概率原因先做什么
报错提示余额/额度不足额度耗尽或已转付费核对站内计费页,确认当前口径
偶尔成功、批量必挂触发 RPM 或并发限制把同步调用改成批处理,错峰跑
响应突然变慢、没报错可能是网络或上游拥堵用站内测速工具量延迟基线再判断
持续超限、加退避也没用选型与实际用量不匹配算真实用量,判断要不要转付费档

加退避重试时,别用固定间隔。指数退避加上随机抖动,能把一堆同时失败的请求错开,避免「一起重试、一起再撞墙」。另外一个常见误判是把网络慢当成限流——先到站内的测速工具页面量一遍延迟基线,有个参照再下结论。

  • 额度耗尽:换渠道,或把非关键任务切到更小的模型
  • 速率触发:指数退避重试 + 批处理 + 错峰执行
  • 没报错但变慢:先测速,排除网络因素
  • 反复撞墙:回去算真实用量,别再硬扛
免费额度是用来验证方案的,不是用来长期扛生产流量的;想清楚这一点,后面的取舍就简单了。

还有一个容易漏的动作:记录每次故障的时间和渠道。攒上几次之后,你就能看出哪家渠道在什么时段容易不稳,这比临时换一家拍脑袋决定靠谱得多。日志不用复杂,记时间、渠道、错误类型三样就够。

下一步先到站内的模型与官方 API 页面核对当前可免费调用的模型清单和额度口径,再用测速工具量一遍延迟基线,最后按上面的排查顺序把降级链路配好。

常见问题

免费额度能撑住正式上线的小产品吗?

看两个数:每天真实调用次数和单次平均 token 量。日调用在几百次以内、又不需要高峰并发,免费档通常够跑;一旦有批量任务或多人同时在线,限流会先于额度成为问题,这时该按量付费或换本地部署。

同一个平台为什么有的模型免费有的收费?

常见原因是平台在推某个开源权重模型,用免费位换调用量和使用反馈。这类免费位通常随时调整,所以不要把它当成长期承诺,代码里留好替换路径,具体清单去站内模型库核对当时的标注。

免费渠道的响应速度和付费一样吗?

不一定。免费档经常排在低优先级队列,高峰期延迟和排队时间都会拉长。如果任务对延迟敏感,先用测速工具量一遍,把免费渠道放在非实时路径上,实时路径另做安排。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。