限速与并发
平台的限制分三层:账户并发、Key 级限制、团队成员限额。触发限制返回 429(限流)或 403(团队限额),本页说明每层怎么查、怎么调、怎么提。
三层限制一览
另有仪表盘的 RPM / TPM 性能指标(每分钟请求数 / Token 数),是观测值不是限制值,用来评估自己的负载水平。
触发限制时的表现
完整清单见错误码清单。
会被自动降优先级的行为
以下模式不违规,但系统会自动降低优先级或临时限流(见使用政策):
- 短时间异常高并发、无退避策略的密集重试;
- 持续发送明显无效的请求(连续大量 4xx)。
给重试逻辑加指数退避即可避开,正常业务高峰不受影响。
怎么提升额度
降低限流概率的实践
- 控制客户端并发数:用信号量 / 连接池限制同时在途请求;
- 失败退避:429 / 5xx 按 1s → 2s → 4s 退避,最多 3 ~ 5 次;
- 削峰:批量任务用队列匀速下发,不要瞬时打满;
- 拆分 Key:不同业务用不同 Key,互不挤占限额,也便于按 Key 观测用量(Key 用量查询)。