第一次撞上限流,多数人第一反应是加钱升档,结果升完照样被拦。因为限流不是一个地方发的:供应商有每分钟请求和 token 两套口径,中转站自己还有并发上限,账号里的额度又是另一本账。这篇不讲定义,只给一条排查顺序:先看是谁在拒你,再决定改代码还是换档位。
第一次撞上限流,多数人的第一反应是加钱升档,结果升完照样被拦,白花一笔。原因很简单:限流不是一个地方发的。供应商那边有每分钟请求数和 token 两套口径,中转站自己还有并发上限,账号里的额度又是另一本账。你看到的 429 可能来自任何一层。
这篇不讲定义,只给一条排查顺序:先看是谁在拒你,再决定改代码还是换档位。顺序搞反了,改的力气全花在没毛病的那一层上。
先弄清楚这次是谁在拒你
第一步不是翻文档,是看响应。供应商自己拦的时候,错误体通常带它自己的结构,响应头里也会有跟限流相关的字段;中转网关拦的时候,格式往往更简陋,甚至只是一句笼统的拒绝。把这个差别记下来,比对着猜有用得多。
- 同一个 Key 换直连地址试一次能通,说明卡在中转层;不通,再往上游查。这一步花不了一分钟,却能省掉半天排查。
- 对比两次的响应体看字段名、看有没有 limit 相关的头、看错误信息是平台风格还是网关风格。格式不同基本就能定性。
- 确认这一层有没有限流说明中转站一般会在站内写清并发和频率规则,去对应页面核对当时的数字,别按记忆里的老规则调参。
请求数和对 token,是两套独立的闸
很多人以为限流就是「一分钟能发几次」,其实还有一套按 token 算的闸。前者关心请求密度,后者关心你一次塞进去多少上下文。两套闸独立生效,任何一套顶满都会拒你,而且报错长得差不多。
长上下文请求最容易踩这个坑。一次请求就顶掉别人几十次的名额,你自己却觉得「我才发了一条」。所以判断顺序是先看单次请求的体量,再看请求密度。体量超了就去拆上下文,密度超了才去降频。
| 现象 | 多半是哪套闸 | 先改哪里 |
|---|---|---|
| 请求不多但频繁被拒 | 按 token 限的那套 | 压缩单次输入,拆长文档 |
| 短请求密集发送被拒 | 按次数限的那套 | 降并发、加间隔 |
| 换直连就正常 | 中转层 | 查中转的并发规则 |
| 隔一段时间能跑一阵再被拦 | 账号层额度 | 看站内额度页的当前状态 |
客户端最容易犯的三个错
定位到不是额度问题之后,八成毛病在自己代码里。这三个错我见过太多次,改起来都不难,难的是先意识到它们存在。
- 循环里直接发请求,不做队列也不做退避,失败立刻重试,越重试越挤,最后把自己堵死
- 并发数按机器核数设,没按对方的并发上限设,看起来像被限流,其实是被掐断连接
- 重试写成无上限,日志里全是同一条请求在刷,账单跟着一起涨
还有一种更隐蔽的:把批量任务塞进一个请求里,单个请求体量巨大,看着只发了一次,实际每次都踩 token 闸。这种在日志里完全看不出异常,只有拆开算才知道。
按这个顺序改,通常一趟就能通
顺序很重要。先限并发,再谈退避,然后拆批量,最后才考虑升档换源。前三条没做完就去升档,通常只是把撞墙的时间往后推一点。
- 限并发把同时在飞的请求压到一个明确数字,宁可慢也不要堆。改完跑一轮,看错误率有没有下来。
- 加退避失败后等一会儿再发,等待时间递增,设总次数上限。验证方法是看日志里同一条请求是否只出现有限次。
- 拆批量大批量任务改成小批分批跑,记录每批的完成位置,中断了能续跑。这一步做完,token 闸的报错会明显减少。
- 再谈升档和换源前三条都验证过还不行,再去站内价格页对比档位,或者换一个中转源试。
哪些情况这套顺序不适用
这套顺序有个前提:对方至少给了你一点限流信息。如果报错含糊到看不出是哪层,先别自己猜,去站内该平台的资料页对比一下口径,很多时候答案就在那。
另外两种情况也得换思路。免费额度类的限制往往按天或按月算,日内退避对它没用,只能等周期重置或者换档。团队共用一个 Key 时,问题多半出在别人身上,得先做用量归属,不然你调一晚上参数,墙还是那堵墙。
说白了,限流排查的本质是分清责任在谁。责任没分清,改代码和加钱都是碰运气。
下一步想确认某家中转的并发规则和当前价格档位,去站内导航和价格追踪页核对当时的数字,再去测速工具跑一次,比对着猜快得多。→常见问题
报 429 就一定是被限流了吗?
不全是。429 是对方明确告诉你请求太密,但有些网关超时、鉴权失败也会被包装成相似的状态码。先看错误体里有没有限流关键字,再看响应头有没有剩余额度字段,两样都没有,就先按网络和鉴权方向查一遍。
提高并发数能不能绕过限制?
只会更糟。限流是对方按你的账号或 IP 记账,你并发开得越大,撞线越快,重试风暴也越大。正确做法是把并发压到明确数字,失败后按递增间隔重试,设总次数上限。
换一个中转站会不会好一点?
要看限的是哪一层。卡在中转层,换站确实可能缓解;卡在供应商层,换站只是换了个人替你去撞同一堵墙。先在站内看各站检测结论和口径,再决定要不要换。