Router LiteLLM vers Claude

LiteLLM est la couche proxy que de nombreuses équipes placent devant tous leurs services pour exposer une API unique compatible avec OpenAI à l’ensemble de leurs applications. Faites pointer son model_list vers AI Prime Tech et ce point de terminaison unique donne accès à Claude, ainsi qu’à GPT et Gemini via la même passerelle multimodèle.

model_list et le préfixe du fournisseur

Dans config.yaml, chaque entrée de model_list comporte un model_name présenté aux clients et des litellm_params. Le champ model porte un préfixe de fournisseur qui détermine le protocole utilisé : anthropic/<model> envoie les requêtes à l’API Messages native, openai/<model> à Chat Completions.

Définissez api_base sur la passerelle et api_key via os.environ/<VAR>. Puisque AI Prime Tech expose une interface compatible avec OpenAI, openai/<claude-model> avec un api_base se terminant par /v1 est la voie la plus simple.

Le piège du suffixe d’URL

Avec anthropic/<model>, LiteLLM ajoute automatiquement /v1/messages à la racine api_base. Pour contrôler un chemin atypique, définissez LITELLM_ANTHROPIC_DISABLE_URL_SUFFIX=true et fournissez le chemin complet. Avec openai/<model>, fournissez la base avec /v1 et LiteLLM ajoute /chat/completions.

Le préfixe détermine aussi la structure du corps JSON ; une incompatibilité avec ce qu’attend la passerelle renvoie donc des erreurs 400. Veillez à faire correspondre le préfixe et l’interface de la passerelle.

LiteLLM comme couche unificatrice

Le schéma classique consiste à utiliser LiteLLM comme proxy local vers lequel pointent Claude Code, les scripts et les autres outils. Vous changez les modèles ou les passerelles en amont dans config.yaml sans modifier chaque client, et bénéficiez d’une journalisation, d’un routage et de mécanismes de repli unifiés.

Avec AI Prime Tech en amont, un seul point de terminaison LiteLLM distribue les requêtes vers Claude, GPT et Gemini. Toute votre pile utilise ainsi une seule API, tout en vous laissant le libre choix des modèles.

Où se concentre le volume

LiteLLM est le point de convergence de nombreuses applications ; il transporte donc le flux de requêtes le plus dense de la pile. C’est ainsi l’endroit où la prévisibilité des coûts compte le plus.

Une passerelle multimodèle en amont permet de router les tâches en volume vers des modèles économiques et les tâches difficiles vers Claude, avec un suivi centralisé.

# config.yaml
model_list:
  - model_name: claude-sonnet-4-5
    litellm_params:
      model: openai/claude-sonnet-4-5
      api_base: https://aiprimetech.io/v1
      api_key: os.environ/AIPRIME_KEY
# litellm --config config.yaml

Questions fréquentes

AI Prime Tech est une passerelle API indépendante. Elle n’est ni affiliée à Anthropic, ni approuvée par Anthropic, ni revendeuse d’Anthropic. Claude et les noms de modèles associés sont des marques de leurs propriétaires respectifs.