Глоссарий

Точные определения терминов, используемых в этой документации.

СрокЗначение
ТокенЕдиница, которую модели читают и записывают, примерно равная ¾ английского слова. Оплата рассчитывается за миллион токенов.
Число входных токеновВсё, что вы отправляете: системный промпт, полная история сообщений, схемы инструментов, изображения. Объём растёт с каждым шагом диалога.
Выходные токеныТо, что генерирует модель. Во всех передовых моделях стоит в 4–5 раз дороже входных токенов.
Контекстное окноМаксимальное количество токенов, которое модель может учитывать одновременно, включая входные и выходные токены. При превышении возникает ошибка, а не незаметное усечение.
Базовый URLАдрес сервера, на который клиент отправляет запросы. Самая распространённая ошибка конфигурации — см. Базовые URL.
API сообщенийФормат запросов Anthropic. POST /v1/messages, ответы в content[] массиве.
Chat CompletionsФормат запросов OpenAI. POST /v1/chat/completions, ответы в choices[].
Потоковая передача / SSEСобытия, отправляемые сервером, которые передают ответ токен за токеном, а не единым телом.
stop_reasonПричина завершения генерации: end_turn, max_tokens, stop_sequence или tool_use.
Кэширование промптовПовторное чтение неизменного префикса по сниженной ставке для входных токенов. См. Кэширование промптов.
Использование инструментовМодель запрашивает выполнение функции, а затем продолжает работу с полученным результатом.
MCPModel Context Protocol — стандартный способ предоставлять агенту доступ к инструментам.
КредитыПредоплаченный баланс, расходуемый по ставкам за токены. Срок действия не ограничен.
Безлимитный планДоступ по фиксированной цене на определённый период с ограничениями добросовестного использования вместо оплаты за токены.
ШлюзСервис, предоставляющий доступ к одному или нескольким поставщикам моделей через единый API и ключ.