Limites de débit
Comment fonctionne la limitation du débit, ce que signifie un 429 ici et comment concevoir un client qui ne le déclenche pas.
Les limites assurent un partage équitable de la capacité en amont. Elles s’appliquent par compte, et non par clé : ajouter des clés n’augmente donc pas votre plafond.
Ce qui est limité
| Dimension | Comportement |
|---|---|
| Requêtes simultanées | Requêtes en cours par compte. La cause habituelle d’une erreur 429. |
| Requêtes par minute | Fréquence soutenue des appels. |
| Tokens par minute | Débit cumulé des tokens d’entrée et de sortie. |
Les forfaits illimités appliquent des limites d’utilisation raisonnable plutôt qu’un solde de crédits — ils suppriment la facturation par token, pas le plafond de requêtes simultanées.
Gérer correctement les erreurs 429
- Augmentez exponentiellement le délai entre les tentatives avec une variation aléatoire — 1 s, 2 s, 4 s, 8 s, chacun augmenté ou diminué d’une fraction aléatoire.
- Limitez les requêtes simultanées côté client avec un sémaphore au lieu de tout lancer puis de réessayer les requêtes rejetées.
- Mettez les traitements par lots en file d’attente plutôt que de les paralléliser au maximum ; le débit est limité par les tokens par minute, pas par le nombre de sockets que vous ouvrez.
- Traitez
529différemment de429— il s’agit de la capacité en amont, pas de votre utilisation, et le problème se résout généralement en quelques secondes.
import asyncio
sem = asyncio.Semaphore(8) class=class="s">"c"># ceiling on concurrency, tune to your plan
async def ask(client, body):
async with sem:
return await client.post(class="s">"/v1/messages", json=body)Les outils agentiques tels que Claude Code lancent de nombreuses opérations en parallèle par conception. Si vous rencontrez des erreurs 429 lors d’une utilisation intensive d’agents, réduisez le parallélisme de l’outil avant de passer à un forfait supérieur.
Réduire la charge plutôt que réessayer
- Orientez les tâches peu coûteuses vers
claude-haiku-4-5— les modèles plus petits terminent plus vite et occupent un créneau moins longtemps. - Activez la mise en cache des prompts : les préfixes mis en cache réduisent les tokens d’entrée et donc la charge sur la limite de tokens par minute.
- Réduisez l’historique de conversation ; voir Gestion du contexte.
- Regroupez les tâches hors ligne en lots à exécuter pendant les périodes creuses.