Sử dụng công cụ và gọi hàm

Cho phép mô hình gọi các hàm của bạn — vòng lặp yêu cầu, cả hai định dạng và những sai sót gây tốn token.

Tính năng sử dụng công cụ cho phép mô hình yêu cầu bạn chạy một hàm rồi tiếp tục với kết quả. Đây là cơ chế đứng sau mọi tác tử lập trình.

Vòng lặp

1. Bạn gửi messages cùng với tools mô tả những gì có sẵn.
2. Mô hình phản hồi bằng stop_reason: tool_use và một tool_use khối nêu tên công cụ và các đối số của công cụ.
3. Bạn thực thi công cụ đó — cổng API không bao giờ chạy mã của bạn.
4. Bạn gửi lại toàn bộ lịch sử cùng với một tool_result khối.
5. Mô hình đưa ra câu trả lời cuối cùng hoặc yêu cầu một công cụ khác.

Định nghĩa công cụ (định dạng Messages)

Copy{
  "model": "claude-sonnet-4-6",
  "max_tokens": 1024,
  "tools": [{
    "name": "get_weather",
    "description": "Current weather for a city. Use when the user asks about weather.",
    "input_schema": {
      "type": "object",
      "properties": {"city": {"type": "string", "description": "City name"}},
      "required": ["city"]
    }
  }],
  "messages": [{"role": "user", "content": "Weather in Paris?"}]
}

Trả về kết quả

Copy{
  "role": "user",
  "content": [{
    "type": "tool_result",
    "tool_use_id": "toolu_01ABC...",
    "content": "18C, light rain"
  }]
}

Định dạng OpenAI

Thư mục /v1/chat/completions điểm cuối sử dụng định dạng OpenAI tools / tool_calls thay thế, với kết quả được trả về dưới dạng tin nhắn có vai trò tool.

Chi phí sử dụng công cụ

• Các định nghĩa được gửi lại ở mỗi lượt. Hai mươi lược đồ công cụ dài dòng có thể chiếm phần lớn token đầu vào trước cả khi cuộc hội thoại bắt đầu.
• Kết quả trở thành ngữ cảnh. Một công cụ trả về 200 hàng JSON sẽ đưa toàn bộ nội dung đó vào yêu cầu tiếp theo và mọi yêu cầu sau đó.
• Mỗi vòng trao đổi là một lần gọi có tính phí. Một tác vụ dùng năm công cụ cần ít nhất sáu yêu cầu.
• Giới hạn độ dài đầu ra của công cụ và tóm tắt trước khi trả về. Rút gọn kết quả xuống đúng những gì mô hình thực sự cần là thay đổi mang lại hiệu quả lớn nhất trong hầu hết các vòng lặp tác nhân.