限流

保护用户的限流，不只是保护上游

• Sam Wilson
• 可靠性 , 限流
• 14 May, 2026

LLM 应用里的限流是一次解三个问题，多数实现只解一个。上游问题：模型 API 有配额，你不能超。成 ...