Лимиты — самая частая причина, по которой работающая интеграция внезапно начинает давать сбои в рабочей среде. Ниже объясняется, что именно ограничивает каждый лимит и как учитывать их при разработке.
429 означает, что достигнут один из них — это не сбой сервиса и не проблема с оплатой.| Ограничение | Что учитывается | Типичный признак превышения |
|---|---|---|
| RPM — запросы в минуту | Сколько запросов можно начать за скользящий минутный интервал. | Всплески запросов приводят к ошибкам, а равномерный поток проходит успешно. |
| TPM — токены в минуту | Суммарное количество входных и выходных токенов за скользящий минутный интервал. | Несколько вызовов с большим контекстом завершаются ошибкой, тогда как множество небольших проходят успешно. |
| Параллельная обработка | Запросы, выполняющиеся одновременно в один момент времени. | Параллельные обработчики или агенты приостанавливаются; потоковая передача усугубляет ситуацию. |
Потоковый ответ занимает слот параллельного выполнения от первого до последнего токена. Генерация длительностью 60 секунд занимает этот слот на целую минуту, поэтому лимит параллельных запросов 1 ограничивает вас примерно одним длительным запросом за раз, каким бы высоким ни казался RPM. Агентные инструменты, такие как Claude Code, Cline и Aider, открывают несколько потоков одновременно, поэтому они первыми достигают лимита параллельных запросов.
Повторяйте попытки с экспоненциальным увеличением задержки и случайным разбросом: удваивайте время ожидания при каждой попытке и добавляйте небольшое случайное смещение, чтобы клиенты с повторными запросами не синхронизировались снова и не создавали очередной всплеск. Учитывайте заголовок retry-after при его наличии. Ограничьте общее количество попыток и выводите понятную ошибку вместо бесконечных повторов. Организуйте очередь на стороне клиента, чтобы управлять собственным потоком запросов, а не узнавать предел, упираясь в него.
Для новых аккаунтов устанавливаются невысокие лимиты параллельных запросов и RPM, чтобы один вышедший из-под контроля скрипт не ухудшал работу сервиса для всех. Оба лимита повышаются по запросу после накопления истории использования — обратитесь в поддержку с кратким описанием своей нагрузки. Безлимитные планы с фиксированной оплатой регулируются ограничениями добросовестного использования вместо оплаты за токены, а при пополнении баланса для оплаты по мере использования зачисляется 7.69231x от номинала.
Она означает, что достигнут лимит запросов в минуту, токенов в минуту или параллельных запросов. Это не ошибка оплаты и не сбой сервиса. Повторяйте попытки с экспоненциальным увеличением задержки и учитывайте заголовок retry-after, если он присутствует в ответе.
Агентные инструменты запускают несколько потоковых запросов одновременно. При потоковой передаче слот параллельного выполнения занят на протяжении всего ответа, поэтому несколько параллельных длительных генераций исчерпывают лимит параллельных запросов, хотя количество запросов в минуту всё ещё кажется небольшим.
После накопления некоторой истории использования обратитесь в поддержку с кратким описанием нагрузки и необходимого количества параллельных запросов. Изначально лимиты невысокие, чтобы защитить общие ресурсы, и их регулярно повышают для реальных рабочих нагрузок.
Да, в виде ограничений добросовестного использования. Безлимитные планы отменяют оплату за токены, но не физические ограничения ресурсов поставщика, поэтому лимиты параллельных запросов и всплесков нагрузки продолжают действовать.
Те же модели, те же контекстные окна — достаточно заменить базовый URL. Платите по мере использования или выберите безлимитный план с фиксированной оплатой.
Получить API-ключ Посмотреть безлимитные тарифыAI Prime Tech — независимый API-шлюз, который не связан с Anthropic, не одобрен и не спонсируется этой компанией. «Claude» и «Anthropic» — товарные знаки Anthropic. Официальные прейскурантные цены Anthropic, приведённые для сравнения, взяты из опубликованных тарифов Anthropic и могут изменяться; наши тарифы загружаются из собственного актуального каталога. Оценки рассчитываются на основе введённого вами количества токенов и будут отличаться от фактических расходов.