正常に動作していた連携が本番環境で突然失敗し始める原因として、最も多いのがレート制限です。各制限が実際に何を制約するのか、また制限を考慮して実装する方法を説明します。
429 は、いずれかの制限に達したことを意味します。サービス障害でも、請求の問題でもありません。| 制限 | カウント対象 | 上限を超えた際の典型的な症状 |
|---|---|---|
| RPM — 毎分のリクエスト数 | 直近の毎分の期間内に開始できるリクエスト数。 | 安定したトラフィックは成功する一方、リクエストが集中すると失敗します。 |
| TPM — 毎分のトークン数 | 直近の毎分の期間内の入力トークンと出力トークンの合計。 | 小さなリクエストは多数成功しても、大きなコンテキストを持つ呼び出しは少数で失敗します。 |
| 同時実行 | 同じ時点で処理中のリクエスト数。 | 並列のワーカーやエージェントが停滞し、ストリーミングによってさらに悪化します。 |
ストリーミングレスポンスは、最初のトークンから最後のトークンまで同時実行枠を占有します。60秒の生成処理はその枠を丸々毎分の期間にわたって占有するため、同時実行数が1の場合、RPMにどれほど余裕があっても、長いリクエストはほぼ逐次処理に制限されます。Claude Code、Cline、Aiderなどのエージェント型ツールは複数のストリームを同時に開くため、最初に同時実行数の制限に達します。
指数バックオフとジッターを使って再試行してください。試行ごとに待機時間を倍にし、少量のランダムなずれを加えることで、再試行するクライアントが再び同期してリクエストを集中させるのを防ぎます。存在する場合は、 retry-after ヘッダーに従ってください。試行回数の合計に上限を設け、無限に再試行するのではなく、明確なエラーを表示してください。クライアント側でキューに入れ、上限に達して初めて限界を知るのではなく、自分でトラフィックを制御してください。
新規アカウントでは、暴走したスクリプトが他の利用者全員のサービス品質を低下させないよう、同時実行数とRPMを控えめに設定しています。利用履歴ができた後は、申請に応じてどちらも引き上げます。ワークロードの簡単な説明を添えてサポートにお問い合わせください。定額の 無制限プラン には、トークン単位の課金ではなくフェアユースの制限が適用されます。また、従量課金のクレジットは額面の7.69231xでチャージできます。
毎分のリクエスト数、毎分のトークン数、または同時リクエスト数のレート制限に達したことを意味します。請求の失敗でも、サービス障害でもありません。指数バックオフを使って再試行し、retry-afterヘッダーが返された場合はそれに従ってください。
エージェント型ツールは、複数のストリーミングリクエストを同時に開始します。ストリーミングはレスポンス全体を通して同時実行枠を占有するため、毎分のリクエスト数がまだ少なくても、長い生成処理をいくつか並列に実行するだけで同時実行枠を使い切ります。
ある程度の利用履歴ができたら、ワークロードと必要な同時実行数の簡単な説明を添えてサポートにお問い合わせください。共有リソースを保護するため、初期の制限は控えめに設定していますが、実際のワークロードに応じて通常は引き上げています。
はい。フェアユースの制限として適用されます。無制限プランではトークン単位の課金はなくなりますが、上流サービスの処理容量に関する物理的な制約はなくならないため、同時実行数やバーストの制限は引き続き適用されます。
AI Prime Techは独立したAPIゲートウェイであり、Anthropicとの提携関係はなく、同社の承認や後援も受けていません。「Claude」および「Anthropic」はAnthropicの商標です。比較用に掲載しているAnthropicの公式標準料金は、同社が公開している料金に基づいており、変更される場合があります。当社の料金は、当社の最新カタログから取得しています。見積もりは入力されたトークン数から算出され、実際の使用量とは異なります。