Claude con Vercel AI SDK: baseURL de createAnthropic, streaming y soluciones

El proveedor Anthropic de AI SDK, @ai-sdk/anthropic, se comunica con la Messages API. Su baseURL tiene como valor predeterminado https://api.anthropic.com/v1, así que, para una pasarela, debes sustituir todo ese prefijo, incluido /v1. OpenCode, Kilo Code y muchos frameworks de agentes utilizan este mismo proveedor internamente, por lo que la misma regla aparece en sus configuraciones.

Instalación

npm i ai @ai-sdk/anthropic

Crear el proveedor

import { createAnthropic } from '@ai-sdk/anthropic';

export const anthropic = createAnthropic({
  baseURL: 'https://aiprimetech.io/v1',                 // replaces https://api.anthropic.com/v1
  apiKey: process.env.AIPRIME_API_KEY,  // sent as x-api-key; defaults to ANTHROPIC_API_KEY
});

generateText y streamText

import { generateText } from 'ai';
import { anthropic } from './lib/anthropic';

const { text, usage } = await generateText({
  model: anthropic('claude-sonnet-5'),
  prompt: 'Explain idempotency keys in two sentences.',
});
console.log(text, usage);

import { streamText } from 'ai';
import { anthropic } from './lib/anthropic';

const result = streamText({
  model: anthropic('claude-sonnet-5'),
  prompt: 'Write a haiku about load balancers.',
});

for await (const chunk of result.textStream) process.stdout.write(chunk);

Ambas llamadas aceptan maxRetries (2 de forma predeterminada) para fallos transitorios como 429 y 5xx.

Razonamiento y almacenamiento de prompts en caché

Las opciones específicas de Anthropic se incluyen en providerOptions.anthropic. Los modelos actuales utilizan razonamiento adaptativo:

const { text } = await generateText({
  model: anthropic('claude-sonnet-5'),
  providerOptions: { anthropic: { thinking: { type: 'adaptive' } } },
  prompt: 'Plan a zero-downtime database migration in five steps.',
});

Almacena en caché un prompt del sistema largo y estable con cacheControl; las lecturas de caché aparecerán entonces en usage.inputTokenDetails.cacheReadTokens. Los prompts que no alcanzan la longitud mínima del modelo no se almacenan en caché.

const result = await generateText({
  model: anthropic('claude-sonnet-5'),
  messages: [
    {
      role: 'system',
      content: longStableInstructions,
      providerOptions: { anthropic: { cacheControl: { type: 'ephemeral' } } },
    },
    { role: 'user', content: question },
  ],
});

La alternativa compatible con OpenAI

La pasarela también ofrece el formato de Chat Completions de OpenAI, por lo que @ai-sdk/openai-compatible funciona con la misma URL base /v1 . Es la vía para los modelos GPT con la misma clave; para Claude, el proveedor nativo anterior conserva el razonamiento y el control de la caché.

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';

const gateway = createOpenAICompatible({
  name: 'aiprime',
  baseURL: 'https://aiprimetech.io/v1',
  apiKey: process.env.AIPRIME_API_KEY,
});

// gateway('claude-sonnet-5') or a GPT model ID

Resolución de problemas

Preguntas frecuentes

AI Prime Tech es una pasarela de API independiente. No está afiliada a Anthropic, no cuenta con su respaldo ni es un distribuidor de Anthropic. Claude y los nombres de los modelos relacionados son marcas comerciales de sus respectivos propietarios.