Enrutamiento con LiteLLM. Un panel de conexiones refinado que recibe varios cables finos y envía una única ruta clara a una ventana de código, representando un proxy unificador de modelos.

Enrutar LiteLLM a Claude

LiteLLM es la capa de proxy que muchos equipos sitúan delante de todos sus servicios, exponiendo una única API compatible con OpenAI a todas sus aplicaciones. Apunta su model_list a AI Prime Tech y ese único endpoint accede a Claude, además de GPT y Gemini a través de la misma pasarela multimodelo.

model_list y el prefijo del proveedor

En config.yaml, cada entrada de model_list tiene un model_name de cara al cliente y litellm_params. El campo model incluye un prefijo de proveedor que determina el protocolo de comunicación: anthropic/<model> envía solicitudes a la API nativa de Messages; openai/<model>, a Chat Completions.

Configura api_base con la pasarela y api_key mediante os.environ/<VAR>. Como AI Prime Tech ofrece una interfaz compatible con OpenAI, openai/<claude-model> con un api_base terminado en /v1 es la vía más sencilla.

El problema del sufijo de la URL

Con anthropic/<model>, LiteLLM añade automáticamente /v1/messages a la raíz de api_base. Para controlar una ruta atípica, establece LITELLM_ANTHROPIC_DISABLE_URL_SUFFIX=true y proporciona la ruta completa. Con openai/<model>, proporciona la base con /v1 y LiteLLM añade /chat/completions.

El prefijo también determina la estructura del cuerpo de JSON, por lo que una discrepancia con lo que espera la pasarela devuelve errores 400: mantén alineados el prefijo y la interfaz de la pasarela.

LiteLLM como capa unificadora

El patrón clásico consiste en usar LiteLLM como proxy local al que apuntan Claude Code, los scripts y otras herramientas. Puedes cambiar los modelos o las pasarelas de destino en config.yaml sin modificar cada cliente, y obtener registros, enrutamiento y alternativas de respaldo unificados.

Con AI Prime Tech como servicio de destino, un único endpoint de LiteLLM distribuye las solicitudes a Claude, GPT y Gemini, de modo que toda tu infraestructura utiliza una sola API mientras conservas plena libertad para elegir el modelo.

Dónde se concentra el volumen

LiteLLM es el punto donde convergen muchas aplicaciones, por lo que concentra el flujo de solicitudes más intenso de la infraestructura. Eso lo convierte en el lugar donde más importa la previsibilidad de los costes.

Una pasarela multimodelo detrás de LiteLLM permite dirigir los trabajos masivos a modelos económicos y los difíciles a Claude, con todas las métricas en un solo lugar.

# config.yaml
model_list:
  - model_name: claude-sonnet-4-5
    litellm_params:
      model: openai/claude-sonnet-4-5
      api_base: https://aiprimetech.io/v1
      api_key: os.environ/AIPRIME_KEY
# litellm --config config.yaml

Preguntas frecuentes

¿Cómo apunto LiteLLM a AI Prime Tech?

Añade una entrada de model_list con model: openai/claude-sonnet-4-5, api_base https://aiprimetech.io/v1, y api_key mediante os.environ. O usa anthropic/<model> con la raíz de api_base.

¿Prefijo anthropic/ u openai/?

openai/ para la interfaz compatible con OpenAI (base con /v1). anthropic/ envía solicitudes nativas de Messages a la raíz + /v1/messages.

LiteLLM sigue añadiendo /v1/messages: ¿cómo lo evito?

Establece LITELLM_ANTHROPIC_DISABLE_URL_SUFFIX=true y proporciona la ruta completa.

¿Puede un único endpoint de LiteLLM acceder a varios modelos?

Sí: AI Prime Tech es multimodelo, por lo que LiteLLM puede enrutar solicitudes a Claude, GPT y Gemini a través de la misma pasarela.

Empieza a usar Claude en minutos

Obtén una clave de API: no necesitas una cuenta de Anthropic ni estar en una lista de espera.

Obtén tu clave de API

AI Prime Tech es una pasarela de API independiente. No está afiliada a Anthropic, no cuenta con su respaldo ni es un distribuidor de Anthropic. Claude y los nombres de los modelos relacionados son marcas comerciales de sus respectivos propietarios.