사용 한도는 정상적으로 작동하던 연동이 프로덕션 환경에서 갑자기 실패하기 시작하는 가장 흔한 원인입니다. 각 한도가 실제로 무엇을 제한하는지, 이를 고려해 어떻게 구현해야 하는지 알아보세요.
429 는 이 중 하나의 한도에 도달했다는 뜻이며, 서비스 장애나 결제 문제가 아닙니다.| 한도 | 집계 대상 | 초과 시 나타나는 일반적인 증상 |
|---|---|---|
| RPM — 분당 요청 수 | 최근 일 분 동안 시작할 수 있는 요청 수입니다. | 요청이 급증하면 실패하지만 일정한 트래픽은 정상 처리됩니다. |
| TPM — 분당 토큰 수 | 최근 일 분 동안의 입력 및 출력 토큰 합계입니다. | 컨텍스트가 작은 요청 여러 개는 통과하지만 컨텍스트가 큰 요청 몇 개는 실패합니다. |
| 동시 처리 | 같은 순간에 처리 중인 요청 수입니다. | 병렬 워커나 에이전트가 멈추며, 스트리밍을 사용하면 문제가 심해집니다. |
스트리밍 응답은 첫 토큰부터 마지막 토큰까지 동시 요청 슬롯을 점유합니다. 60초 동안 생성되는 응답은 슬롯을 1분 내내 점유하므로, 동시 요청 한도가 1이면 RPM 한도가 아무리 넉넉해 보여도 긴 요청은 사실상 한 번에 하나 정도만 처리할 수 있습니다. Claude Code, Cline, Aider 같은 에이전트 도구는 여러 스트림을 동시에 열기 때문에 동시 요청 한도에 먼저 도달합니다.
지수 백오프와 지터를 적용해 재시도하세요. 시도할 때마다 대기 시간을 두 배로 늘리고 작은 무작위 시간차를 추가하여, 재시도하는 클라이언트들이 다시 동시에 요청을 몰아서 보내지 않도록 하세요. retry-after 헤더가 있으면 이를 준수하세요. 총 시도 횟수를 제한하고, 무한히 재시도하는 대신 명확한 오류를 표시하세요. 한도에 부딪혀서야 상한을 파악하는 대신, 클라이언트 측에서 요청을 큐에 넣어 트래픽을 직접 조절하세요.
새 계정은 동시 요청 수와 RPM이 보수적으로 설정되어 시작하므로, 단일 스크립트가 폭주하더라도 전체 사용자에게 영향을 주지 않습니다. 사용 이력이 쌓이면 요청에 따라 두 한도를 모두 높일 수 있습니다. 워크로드에 대한 간단한 설명과 함께 지원팀에 문의하세요. 정액 무제한 요금제 에는 토큰당 과금 대신 공정 사용 한도가 적용되며, 사용량 기반 크레딧을 충전하면 결제액의 7.69231x에 해당하는 액면가가 적립됩니다.
분당 요청 수, 분당 토큰 수 또는 동시 요청 수 한도에 도달했다는 의미입니다. 결제 실패나 서비스 장애가 아닙니다. 지수 백오프를 적용해 재시도하고, retry-after 헤더가 반환되면 이를 준수하세요.
에이전트 도구는 여러 스트리밍 요청을 동시에 보냅니다. 스트리밍은 응답이 완료될 때까지 동시 요청 슬롯을 점유하므로, 긴 응답을 몇 개만 병렬로 생성해도 분당 요청 수는 낮아 보이는 상태에서 동시 요청 한도가 소진됩니다.
사용 이력이 어느 정도 쌓이면 워크로드와 필요한 동시 요청 수에 대한 간단한 설명을 첨부해 지원팀에 문의하세요. 공유 처리 용량을 보호하기 위해 초기 한도는 보수적으로 설정되며, 실제 워크로드에 대해서는 통상적으로 한도를 높여 드립니다.
네, 공정 사용 한도가 적용됩니다. 무제한 요금제는 토큰당 과금을 없애지만 상위 서비스 처리 용량의 물리적 제약까지 없애지는 않으므로, 동시 요청 수와 순간 요청량 한도는 계속 적용됩니다.
동일한 모델과 컨텍스트 윈도우를 기본 URL만 바꿔 사용하세요. 사용량 기반 요금제 또는 정액 무제한 요금제를 선택할 수 있습니다.
API 키 발급받기 무제한 요금제 보기AI Prime Tech는 독립적인 API 게이트웨이이며 Anthropic과 제휴 관계가 없고, Anthropic의 보증이나 후원을 받지 않습니다. “Claude”와 “Anthropic”은 Anthropic의 상표입니다. 비교를 위해 표시한 Anthropic 공식 정가는 Anthropic이 공개한 가격을 기준으로 하며 변경될 수 있습니다. 당사 요금은 당사의 실시간 카탈로그에서 가져옵니다. 예상 비용은 입력한 토큰 수를 기준으로 계산되며 실제 사용 비용과 다를 수 있습니다.