Roteie com LiteLLM. Um painel de conexões refinado que recebe vários cabos finos e envia uma única rota organizada para uma janela de código, representando um proxy unificador de modelos.

Roteando LiteLLM para Claude

LiteLLM é a camada de proxy que muitas equipes colocam à frente de tudo, expondo uma única API compatível com OpenAI para todos os seus aplicativos. Aponte seu model_list para AI Prime Tech e esse único endpoint dará acesso a Claude — além de GPT e Gemini pelo mesmo gateway multimodelo.

model_list e o prefixo do provedor

Em config.yaml, cada entrada de model_list tem um model_name exposto ao cliente e litellm_params. O campo model contém um prefixo de provedor que determina o protocolo de comunicação: anthropic/<model> envia pela API Messages nativa, e openai/<model> envia por Chat Completions.

Defina api_base como o gateway e api_key via os.environ/<VAR>. Como AI Prime Tech oferece uma interface compatível com OpenAI, openai/<claude-model> com um api_base terminado em /v1 é a rota mais simples.

A pegadinha do sufixo da URL

Com anthropic/<model>, LiteLLM acrescenta automaticamente /v1/messages à raiz de api_base. Para controlar um caminho incomum, defina LITELLM_ANTHROPIC_DISABLE_URL_SUFFIX=true e forneça o caminho completo. Com openai/<model>, forneça a base com /v1, e LiteLLM acrescentará /chat/completions.

O prefixo também determina o formato do corpo JSON, portanto uma incompatibilidade com o que o gateway espera retorna erros 400 — mantenha o prefixo alinhado à interface do gateway.

LiteLLM como camada unificadora

O padrão clássico é usar LiteLLM como um proxy local para o qual Claude Code, scripts e outras ferramentas enviam suas solicitações. Você troca os modelos ou gateways de destino em config.yaml sem alterar cada cliente e obtém logs, roteamento e alternativas de contingência unificados.

Com AI Prime Tech como serviço de destino, um único endpoint LiteLLM distribui as solicitações para Claude, GPT e Gemini, de modo que toda a sua stack usa uma única API, enquanto você mantém plena liberdade de escolha dos modelos.

Onde o volume se concentra

LiteLLM é o ponto de convergência de muitos aplicativos, por isso concentra o fluxo mais intenso de solicitações da stack. Isso faz dele o lugar onde a previsibilidade de custos mais importa.

Um gateway multimodelo por trás dele permite direcionar tarefas em massa para modelos baratos e as tarefas difíceis para Claude, com tudo medido em um só lugar.

# config.yaml
model_list:
  - model_name: claude-sonnet-4-5
    litellm_params:
      model: openai/claude-sonnet-4-5
      api_base: https://aiprimetech.io/v1
      api_key: os.environ/AIPRIME_KEY
# litellm --config config.yaml

Perguntas frequentes

Como aponto LiteLLM para AI Prime Tech?

Adicione uma entrada de model_list com model: openai/claude-sonnet-4-5, api_base https://aiprimetech.io/v1, e api_key via os.environ. Ou use anthropic/<model> com a raiz em api_base.

Prefixo anthropic/ ou openai/?

openai/ para a interface compatível com OpenAI (base com /v1). anthropic/ envia pela API Messages nativa para a raiz + /v1/messages.

LiteLLM continua acrescentando /v1/messages — como impedir isso?

Defina LITELLM_ANTHROPIC_DISABLE_URL_SUFFIX=true e forneça o caminho completo.

Um único endpoint LiteLLM pode acessar vários modelos?

Sim — AI Prime Tech é multimodelo, então LiteLLM pode direcionar solicitações para Claude, GPT e Gemini pelo mesmo gateway.

Comece a usar o Claude em minutos

Obtenha uma chave de API — sem precisar de conta na Anthropic nem de lista de espera.

Obtenha sua chave de API

AI Prime Tech é um gateway de API independente. Não tem afiliação com a Anthropic, não é endossado por ela e não é seu revendedor. Claude e os nomes dos modelos relacionados são marcas comerciais de seus respectivos proprietários.