Bảng thuật ngữ
Định nghĩa chính xác các thuật ngữ được sử dụng xuyên suốt tài liệu này.
| Thời hạn | Ý nghĩa |
|---|---|
| Token | Đơn vị mà mô hình đọc và ghi, tương đương khoảng ¾ một từ tiếng Anh. Phí được tính theo mỗi triệu token. |
| Token đầu vào | Mọi thứ bạn gửi: prompt hệ thống, toàn bộ lịch sử tin nhắn, lược đồ công cụ, hình ảnh. Tăng lên sau mỗi lượt hội thoại. |
| Token đầu ra | Nội dung mô hình tạo ra. Chi phí cao gấp 4–5 lần đầu vào trên mọi mô hình tiên tiến hàng đầu. |
| Cửa sổ ngữ cảnh | Số token tối đa mà mô hình có thể xử lý cùng lúc, bao gồm cả đầu vào và đầu ra. Vượt giới hạn sẽ gây lỗi, chứ không âm thầm cắt bớt nội dung. |
| URL cơ sở | Địa chỉ gốc mà ứng dụng khách gửi yêu cầu đến. Đây là lỗi cấu hình phổ biến nhất — xem URL cơ sở. |
| API Messages | Định dạng yêu cầu của Anthropic. POST /v1/messages, trả lời trong một content[] mảng. |
| Chat Completions | Định dạng yêu cầu của OpenAI. POST /v1/chat/completions, trả lời trong choices[]. |
| Truyền luồng / SSE | Các sự kiện do máy chủ gửi, chuyển câu trả lời theo từng token thay vì trong một nội dung duy nhất. |
| stop_reason | Lý do quá trình tạo nội dung kết thúc: end_turn, max_tokens, stop_sequence hoặc tool_use. |
| Lưu bộ nhớ đệm cho prompt | Đọc lại một tiền tố ổn định với mức phí đầu vào thấp hơn. Xem Lưu bộ nhớ đệm cho prompt. |
| Sử dụng công cụ | Mô hình yêu cầu bạn chạy một hàm, sau đó tiếp tục với kết quả trả về. |
| MCP | Giao thức ngữ cảnh mô hình — một cách tiêu chuẩn để cung cấp công cụ cho tác tử. |
| Tín dụng | Số dư trả trước được sử dụng theo mức phí tính trên token. Không hết hạn. |
| Gói không giới hạn | Quyền truy cập với giá cố định trong một thời hạn xác định, chịu giới hạn sử dụng hợp lý, thay vì tính phí theo token. |
| Cổng kết nối | Một dịch vụ đứng trước một hoặc nhiều nhà cung cấp mô hình, cung cấp quyền truy cập qua một API và một khóa duy nhất. |