出海与架构 / TOKEN WIKI
限流 / Rate Limit
一句话理解
限流是控制一段时间内请求量、Token 用量或并发的机制，常用于管理资源与服务稳定性。
为什么与业务相关？
不同配额可能同时生效，不能只根据请求次数估算可承载业务量。
应用时如何判断？
读取供应商返回信息，实施有上限的退避重试和应用侧并发控制。
常见问题
收到429错误应该一直重试吗？
不应无限重试，应按配额和退避策略处理，并设置总超时。
限流是控制一段时间内请求量、Token 用量或并发的机制，常用于管理资源与服务稳定性。
不同配额可能同时生效，不能只根据请求次数估算可承载业务量。
读取供应商返回信息，实施有上限的退避重试和应用侧并发控制。
不应无限重试，应按配额和退避策略处理，并设置总超时。
一起出海 ↗