Используйте Claude с OpenAI SDK: совместимая с OpenAI конечная точка, потоковая передача, инструменты и ограничения

Код, написанный для OpenAI SDK, может вызывать Claude без переработки: укажите в base_url адрес шлюза /v1, используйте ключ шлюза и идентификатор модели Claude. Конечная точка принимает запросы Chat Completions, передаёт потоковые ответы в том же формате и поддерживает вызов функций. Некоторые возможности Claude доступны только в нативном формате Anthropic; в последнем разделе объясняется, когда стоит перейти на него.

Сведения о конечной точке

Python

pip install openai

import os
from openai import OpenAI

client = OpenAI(base_url="https://aiprimetech.io/v1", api_key=os.environ["AIPRIME_API_KEY"])

resp = client.chat.completions.create(
    model="claude-sonnet-5",
    max_tokens=1024,
    messages=[
        {"role": "system", "content": "You are a concise assistant."},
        {"role": "user", "content": "Explain idempotency keys in two sentences."},
    ],
)
print(resp.choices[0].message.content)
print(resp.usage)

base_url должен заканчиваться на /v1: SDK добавляет /chat/completions к нему. Без /v1 запрос попадает на сайт и возвращает HTML; при /v1 дважды возвращает 404 page not found.

Node.js

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://aiprimetech.io/v1", apiKey: process.env.AIPRIME_API_KEY });

const resp = await client.chat.completions.create({
  model: "claude-sonnet-5",
  max_tokens: 1024,
  messages: [{ role: "user", content: "Write a haiku about retries." }],
});
console.log(resp.choices[0].message.content);

Потоковая передача

stream = client.chat.completions.create(
    model="claude-sonnet-5",
    max_tokens=2048,
    stream=True,
    stream_options={"include_usage": True},
    messages=[{"role": "user", "content": "Outline a zero-downtime migration."}],
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
    if chunk.usage:
        print("\n", chunk.usage)

Используйте потоковую передачу для длинных ответов: обычный запрос должен завершиться до истечения тайм-аута клиента, а потоковый — нет. include_usage добавляет финальный фрагмент с количеством токенов. Подробнее о том, почему это важно, — в потоковой передаче ответов LLM.

Вызов функций

tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Current weather for a city",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]

resp = client.chat.completions.create(
    model="claude-sonnet-5", max_tokens=512, tools=tools,
    messages=[{"role": "user", "content": "What is the weather in Paris?"}],
)
call = resp.choices[0].message.tool_calls[0]
print(call.function.name, call.function.arguments)   # get_weather {"city": "Paris"}

Ответ приходит с finish_reason: "tool_calls" и в стиле OpenAI tool_calls. Выполните функцию, добавьте tool сообщение с результатом и соответствующим tool_call_id, затем выполните повторный вызов — точно так же, как с моделями OpenAI.

Рассуждения и размышления

reasoning_effort соответствует настройке усилий Claude и принимает low, medium, high, xhigh или max. Значение none отклоняется. Когда модель размышляет, её рассуждения поступают в отдельном reasoning_content поле рядом с content, поэтому код, который читает message.content продолжает работать без изменений.

resp = client.chat.completions.create(
    model="claude-opus-5-5", max_tokens=4096, reasoning_effort="high",
    messages=[{"role": "user", "content": "Find the bug in this function: ..."}],
)

Модели

Используйте эти идентификаторы в точности как указано. Старые идентификаторы с датами, такие как claude-3-5-sonnet-20241022 по-прежнему встречаются в некоторых списках моделей, но не обслуживаются и возвращают ошибку о неподдерживаемой модели.

Когда стоит использовать нативный API Anthropic

Формат OpenAI поддерживает чат, потоковую передачу, инструменты и изображения. Используйте собственный формат Messages от Anthropic на том же шлюзе, если вам нужны явные точки разделения для кеширования промптов, блоки размышлений, передаваемые между ходами диалога, PDF-документы или ссылки на источники. руководство по Anthropic Python SDK и настройка Руководство по Vercel AI SDK описывают этот вариант.

Устранение неполадок

Часто задаваемые вопросы

AI Prime Tech — независимый API-шлюз. Он не связан с Anthropic, не одобрен этой компанией и не является её реселлером. Claude и названия связанных моделей — товарные знаки их соответствующих владельцев.