脚本一批量跑就报错,单条手动测又好好的——多半不是 Key 坏了,而是撞上了并发限制。这篇不堆概念,只说清并发限制到底卡的是什么、报错里哪句话在提示你、以及怎么自查是不是自己的调用节奏出了问题。看完你至少能分清:是被限并发、被限频率,还是额度已经见底。
脚本一批量跑就报错,单条手动测又好好的,这种反复横跳最容易让人怀疑是不是 Key 被人盗了或者账号被风控了。实际上很多情况下,问题根本不在账号本身,而是你同时把太多请求推到了同一个接口上,撞到了对方设的并发限制。它跟余额够不够、Key 有没有填错完全不是一回事。
这篇不堆概念,只说清并发限制卡的是什么、报错里哪句话在提示你,以及怎么快速自查是不是自己的调用节奏出了问题。看完你至少能分清三件事:是被限并发、被限频率,还是额度已经见底。
并发限制到底限制的是什么
并发指的是同一时刻还在处理中的请求条数,不是一天发了多少条,也不是每秒发几条。你可以把它想象成一个柜台同时只能接待几位客人,前面的人没办完,后面的人就得站着等。哪怕你一天只发了很少的请求,只要它们挤在同一秒一起冲进去,一样会被挡住。
- 并发数
- 同一时刻还在处理中、还没返回结果的请求条数,这是并发限制真正卡的东西
- 频率限制
- 单位时间内允许发起的请求数量,跟并发是两条独立的线,报错措辞通常不一样
- 额度上限
- 账户余额或配额用完,跟并发无关,但报错有时也会被误认成并发问题
这三条线是独立生效的,撞哪条报错措辞不一样。同一个模型,不同渠道、不同账号等级给的并发额度可能完全不同,换一家就用另一套规则。关键前提是:串行发、等上一条返回再发下一条,几乎永远不会触发并发限制。所以你单条手测能过、批量就挂,恰恰是并发问题的典型特征。
触发时你会看到哪几种提示
不同平台对并发的表达方式差别很大,但大致能归成几类。认得出这几类,你就能少走很多弯路,不用一看到报错就急着换 Key 或换站。
| 报错表现 | 字面含义 | 更可能是 |
|---|---|---|
| 服务端返回「请求过多」类状态码 | 你发太快了 | 并发或频率超限 |
| 请求挂住不返回,直到超时 | 排队中,轮到才处理 | 并发已满,在等空位 |
| 明确写着「并发超限」字样 | 同时处理数超过上限 | 确认是并发限制 |
| 认证失败或模型不存在 | 身份或模型有问题 | 跟并发无关,别往这靠 |
- 最常见的是服务端返回「请求过多」类的状态码,字面偏「你发太快了」,而不是「你没权限」;
- 有的平台不报错,直接给排队提示,请求挂住不返回直到超时,这类不报错但更难受;
- 少数渠道会用明确的「并发超限」字样,比笼统的限流提示好判断得多;
- 如果是认证失败或模型不存在,报错长得完全不一样,别往并发上靠,分类看站内报错速查表。
光看措辞还不够稳,最好把当时的请求时间、并发数、返回原文一起记下来。各渠道的具体报错文案和状态码对照,到站内报错速查相关页面核对,那里会随渠道变动更新。
三步自查:是不是你的调用方式出了问题
- 改成一条一条发把批量任务改成串行,等上一条返回再发下一条。如果全过,基本可以确认是并发问题而不是账号问题;如果还报错,问题在别处。
- 看并发到底从哪来多线程、多进程、批量脚本、客户端后台预热都会产生并发。很多人根本没写多线程,是客户端自己帮你开了并发,先去配置里把它关掉或调小。
- 数一数同一把 Key 有几个地方在用团队共用、多个工具同时挂同一把 Key,额度是叠加消耗的。你以为自己只发了一条,实际后台还有好几处在同时跑。
排查顺序建议从本地并发数查起,再怀疑渠道侧限制,最后才考虑换站。反过来一上来就换站,很可能换了还是同样的报错,因为问题根本没在对方那边。
确认是并发限制之后能做什么
确认是并发问题之后,处理思路其实不复杂,核心就是别在同一时刻堆太多请求。先降下来,再谈优化。
- 先降并发再谈优化:把同时进行的请求数砍到原来的一小半,通常立刻见效;
- 给重试加等待,别一失败就立刻重发,否则只会把限制撞得更狠;
- 把任务分批,跑一批等一批,比一口气全推出去稳;
- 如果确实需要高并发,去站内渠道相关页面看当前额度说明,换一个额度更适合的渠道,而不是硬顶。
要注意的是,降并发并不总是越高越好,有些任务本来就该慢下来跑,比如批量生成内容、批量翻译。如果你的场景对延迟敏感,那并发限制带来的排队等待可能就是硬伤,这时候要么换渠道,要么把任务拆到更长的时间窗口里跑。具体降并发、排队、退避的实现细节,另有专文展开,这里只负责让你认清现象。
下一步想确认自己踩的是不是并发这条线,可以到站内渠道与报错相关页面核对当时的说明和数字,不同渠道规则差别不小。→常见问题
并发限制和「每秒钟只能发几条」是一回事吗?
不是。频率限制管的是单位时间内的请求总量,哪怕你一条一条发,发太快照样被拦;并发限制管的是同一时刻还没返回的请求有多少条。慢慢发但一直不等人返回,两个都可能撞上,报错提示也能区分。
为什么我单条测试没问题,一跑脚本就报错?
因为单条测试时你只有一个请求在飞,脚本默认会并发。多数客户端和批量工具会帮你开若干并发,你以为在顺序执行,其实已经同时发出去好几条了。把脚本改成串行再跑一遍,就能验证。
被限流是不是说明这个站不行?
不一定。并发限制是平台保护自己的常规手段,便宜的渠道给得少些也正常。真正要看的是:它有没有提前写清楚额度、报错时提不提供退避时间、失败重试会不会额外扣费。这些比单看一个限制数字重要得多。