Límites de solicitudes
Cómo funciona la limitación de solicitudes, qué significa un 429 aquí y cómo crear un cliente que no lo provoque.
Los límites garantizan un reparto equitativo de la capacidad compartida del proveedor. Se aplican por cuenta, no por clave, por lo que añadir claves no aumenta tu límite.
Qué se limita
| Dimensión | Comportamiento |
|---|---|
| Solicitudes simultáneas | Solicitudes en curso por cuenta. La causa habitual de un 429. |
| Solicitudes por minuto | Frecuencia sostenida de llamadas. |
| Tokens por minuto | Volumen combinado de tokens de entrada y salida. |
Los planes ilimitados aplican límites de uso razonable en lugar de un saldo de créditos: eliminan el cobro por token, no el límite de concurrencia.
Gestionar 429 correctamente
- Aplica una espera exponencial con variación aleatoria: 1 s, 2 s, 4 s, 8 s, cada intervalo más o menos una fracción aleatoria.
- Limita la concurrencia en el cliente con un semáforo en lugar de enviar todas las solicitudes y reintentar las rechazadas.
- Pon el trabajo por lotes en una cola en lugar de paralelizarlo al máximo; el rendimiento está limitado por los tokens por minuto, no por la cantidad de sockets que abras.
- Trata
529de forma distinta a429— eso se debe a la capacidad del proveedor, no a ti, y suele resolverse en segundos.
import asyncio
sem = asyncio.Semaphore(8) class=class="s">"c"># ceiling on concurrency, tune to your plan
async def ask(client, body):
async with sem:
return await client.post(class="s">"/v1/messages", json=body)Las herramientas con agentes como Claude Code ejecutan muchas operaciones en paralelo por diseño. Si ves errores 429 durante un uso intensivo de agentes, reduce el paralelismo de la herramienta antes de pasar a un plan superior.
Reducir la carga en lugar de reintentar
- Dirige las tareas de bajo coste a
claude-haiku-4-5— los modelos más pequeños terminan antes y ocupan una plaza durante menos tiempo. - Activa el almacenamiento en caché de prompts: los prefijos en caché reducen los tokens de entrada y, por tanto, la presión sobre el límite de tokens por minuto.
- Recorta el historial de la conversación; consulta Gestión del contexto.
- Agrupa el trabajo sin conexión en lotes y ejecútalo en periodos de baja demanda.