LiteLLMでルーティング。洗練された配線盤が複数の細いケーブルを受け入れ、コードウィンドウへ整然とした経路を送り出し、モデルを統合するプロキシを表しています。

LiteLLMからClaudeへのルーティング

LiteLLMは、多くのチームがあらゆるサービスの前段に配置し、すべてのアプリに単一のOpenAI互換APIを公開するプロキシ層です。model_listの接続先をAI Prime Techに設定すれば、その単一のエンドポイントからClaudeにアクセスできます。さらに、同じマルチモデルゲートウェイを通じてGPTやGeminiも利用できます。

model_listとプロバイダープレフィックス

config.yamlでは、model_listの各エントリにクライアント向けのmodel_nameとlitellm_paramsがあります。modelフィールドには、通信プロトコルを決定するプロバイダープレフィックスを指定します。anthropic/<model>はネイティブのMessages APIを送信し、openai/<model>はChat Completionsを送信します。

api_baseをゲートウェイに設定し、api_keyをos.environ/<VAR>経由で指定してください。AI Prime TechはOpenAI互換インターフェースに対応しているため、openai/<claude-model>と末尾が/v1のapi_baseを使うのが最も簡単な方法です。

URL末尾の注意点

anthropic/<model>を使う場合、LiteLLMはルートのapi_baseに/v1/messagesを自動追加します。特殊なパスを指定するには、LITELLM_ANTHROPIC_DISABLE_URL_SUFFIX=trueに設定し、完全なパスを指定してください。openai/<model>を使う場合は、/v1を含むベースURLを指定すると、LiteLLMが/chat/completionsを追加します。

プレフィックスはJSONのボディ形式も決定するため、ゲートウェイが想定する形式と一致しないと400エラーが返されます。プレフィックスとゲートウェイのインターフェースを一致させてください。

統合レイヤーとしてのLiteLLM

典型的な構成では、LiteLLMをローカルプロキシとして配置し、Claude Code、スクリプト、その他のツールすべての接続先にします。各クライアントを変更せずにconfig.yamlで上流のモデルやゲートウェイを切り替えられ、ログ、ルーティング、フォールバックを統一できます。

上流にAI Prime Techを配置すると、単一のLiteLLMエンドポイントからClaude、GPT、Geminiに振り分けられます。スタック全体で単一のAPIを使用しながら、モデルを自由に選択できます。

リクエスト量が集中する場所

LiteLLMには多くのアプリからのリクエストが集まるため、スタック内で最も密度の高いリクエストストリームを処理します。そのため、コストの予測可能性が最も重要になる場所です。

その背後にマルチモデルゲートウェイを配置すれば、大量処理には低コストのモデルを、難しい処理にはClaudeを割り当て、すべてを同じ場所で計測できます。

# config.yaml
model_list:
  - model_name: claude-sonnet-4-5
    litellm_params:
      model: openai/claude-sonnet-4-5
      api_base: https://aiprimetech.io/v1
      api_key: os.environ/AIPRIME_KEY
# litellm --config config.yaml

よくある質問

LiteLLMの接続先をAI Prime Techに設定するにはどうすればよいですか？

model: openai/claude-sonnet-4-5、api_baseにhttps://aiprimetech.io/v1,、api_keyにos.environ経由の値を指定したmodel_listエントリを追加してください。または、anthropic/<model>とルートのapi_baseを使用してください。

anthropic/とopenai/のどちらのプレフィックスを使うべきですか？

OpenAI互換インターフェースにはopenai/を使用します（ベースURLに/v1を含めます）。anthropic/は、ルート + /v1/messagesにネイティブのMessagesを送信します。

LiteLLMが/v1/messagesを追加し続けます。止めるにはどうすればよいですか？

LITELLM_ANTHROPIC_DISABLE_URL_SUFFIX=trueに設定し、完全なパスを指定してください。

単一のLiteLLMエンドポイントから複数のモデルにアクセスできますか？

はい。AI Prime Techはマルチモデルに対応しているため、LiteLLMは同じゲートウェイを通じてClaude、GPT、Geminiにルーティングできます。

数分でClaudeの利用を開始

APIキーを取得 — Anthropicアカウントもウェイトリストへの登録も不要です。

APIキーを取得

AI Prime Techは独立したAPIゲートウェイです。Anthropicとの提携関係はなく、同社の承認を受けておらず、同社の再販業者でもありません。Claudeおよび関連するモデル名は、それぞれの所有者の商標です。