Claude avec Vercel AI SDK : baseURL de createAnthropic, streaming et corrections

Le fournisseur Anthropic de l’AI SDK, @ai-sdk/anthropic, communique avec la Messages API. Son baseURL a pour valeur par défaut https://api.anthropic.com/v1, donc, pour une passerelle, vous remplacez ce préfixe entier, y compris /v1. OpenCode, Kilo Code et de nombreux frameworks d’agents utilisent ce même fournisseur en interne, ce qui explique pourquoi la même règle apparaît dans leurs configurations.

Installation

npm i ai @ai-sdk/anthropic

Créer le fournisseur

import { createAnthropic } from '@ai-sdk/anthropic';

export const anthropic = createAnthropic({
  baseURL: 'https://aiprimetech.io/v1',                 // replaces https://api.anthropic.com/v1
  apiKey: process.env.AIPRIME_API_KEY,  // sent as x-api-key; defaults to ANTHROPIC_API_KEY
});

generateText et streamText

import { generateText } from 'ai';
import { anthropic } from './lib/anthropic';

const { text, usage } = await generateText({
  model: anthropic('claude-sonnet-5'),
  prompt: 'Explain idempotency keys in two sentences.',
});
console.log(text, usage);

import { streamText } from 'ai';
import { anthropic } from './lib/anthropic';

const result = streamText({
  model: anthropic('claude-sonnet-5'),
  prompt: 'Write a haiku about load balancers.',
});

for await (const chunk of result.textStream) process.stdout.write(chunk);

Les deux appels acceptent maxRetries (2 par défaut) pour les erreurs temporaires telles que 429 et 5xx.

Raisonnement et mise en cache des prompts

Les options propres à Anthropic se placent dans providerOptions.anthropic. Les modèles actuels utilisent le raisonnement adaptatif :

const { text } = await generateText({
  model: anthropic('claude-sonnet-5'),
  providerOptions: { anthropic: { thinking: { type: 'adaptive' } } },
  prompt: 'Plan a zero-downtime database migration in five steps.',
});

Mettez en cache un prompt système long et stable avec cacheControl ; les lectures du cache apparaissent ensuite dans usage.inputTokenDetails.cacheReadTokens. Les prompts dont la longueur est inférieure au minimum requis par le modèle ne sont pas mis en cache.

const result = await generateText({
  model: anthropic('claude-sonnet-5'),
  messages: [
    {
      role: 'system',
      content: longStableInstructions,
      providerOptions: { anthropic: { cacheControl: { type: 'ephemeral' } } },
    },
    { role: 'user', content: question },
  ],
});

L’alternative compatible OpenAI

La passerelle propose également le format OpenAI Chat Completions, donc @ai-sdk/openai-compatible fonctionne avec la même URL de base /v1 . C’est la voie à utiliser pour les modèles GPT avec la même clé ; pour Claude, le fournisseur natif ci-dessus conserve le raisonnement et le contrôle du cache.

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';

const gateway = createOpenAICompatible({
  name: 'aiprime',
  baseURL: 'https://aiprimetech.io/v1',
  apiKey: process.env.AIPRIME_API_KEY,
});

// gateway('claude-sonnet-5') or a GPT model ID

Dépannage

Questions fréquentes

AI Prime Tech est une passerelle API indépendante. Elle n’est ni affiliée à Anthropic, ni approuvée par Anthropic, ni revendeuse d’Anthropic. Claude et les noms de modèles associés sont des marques de leurs propriétaires respectifs.