Trải nghiệm Claude Opus 4.7: Điểm mạnh, cửa sổ ngữ cảnh và trường hợp sử dụng thực tế

Claude Opus 4.7 là gì

Claude Opus 4.7 thuộc dòng mô hình Claude của Anthropic và dường như được định vị là một mô hình suy luận cao cấp: đắt hơn các mô hình nhỏ hoặc mô hình mở, nhưng được thiết kế cho những tác vụ khó, nơi độ chính xác, khả năng tuân thủ chỉ dẫn và tổng hợp ngữ cảnh dài quan trọng hơn chi phí thuần trên mỗi token.

ID mô hình trên OpenRouter là:

anthropic/claude-opus-4.7

Độ dài ngữ cảnh được cung cấp là:

1,000,000 tokens

Giá token của nhà cung cấp là:

Mức giá đó rất đáng lưu tâm. Một lời nhắc đầy đủ 1M token có giá khoảng $5 trước khi mô hình tạo ra bất kỳ nội dung nào. Một đầu ra 20,000 token tốn thêm $0.50. Với một trợ lý lập trình nội bộ, mức này có thể hợp lý. Với một chatbot phục vụ khách hàng ở quy mô lớn, thường là không.

Trong thực tế, tôi sẽ không coi Opus 4.7 là mô hình mặc định cho mọi yêu cầu. Tôi sẽ định tuyến yêu cầu đến mô hình này khi có một trong các điều kiện sau:

• Đầu vào thực sự dài và khó rút gọn.
• Chi phí của một câu trả lời sai cao hơn chi phí sử dụng mô hình.
• Tác vụ yêu cầu suy luận nhiều bước trên nhiều tài liệu.
• Các mô hình nhỏ hơn đã thất bại hoặc tạo ra đầu ra không nhất quán.
• Quy trình làm việc được hưởng lợi từ việc giữ nguyên ngữ cảnh gốc thay vì tóm tắt.

Ai phát triển mô hình

Claude Opus 4.7 được phát triển bởi Anthropic, công ty đứng sau dòng mô hình Claude. Các mô hình Anthropic thường được biết đến với khả năng tuân thủ chỉ dẫn tốt, hành vi hội thoại cẩn trọng, hỗ trợ ngữ cảnh dài và các cách sử dụng công cụ thân thiện với nhà phát triển.

Tuy vậy, cơ chế nội bộ chính xác của Opus 4.7 không được công khai như kiến trúc của một mô hình có trọng số mở có thể được công khai. Có thể giả định hợp lý rằng đây là một mô hình lớn dựa trên transformer, vì đó là kiến trúc chủ đạo của các LLM tiên tiến hiện nay, nhưng số lượng tham số chính xác, thành phần dữ liệu, chi tiết bộ tối ưu hóa, cách triển khai cơ chế chú ý và quy trình hậu huấn luyện không phải là những chi tiết đã được xác nhận công khai về giao diện.

Đối với kỹ sư, các cam kết công khai quan trọng hơn những cơ chế nội bộ chưa được tiết lộ:

• ID mô hình: anthropic/claude-opus-4.7
• Kênh truy cập nhà cung cấp: OpenRouter / truy cập tương thích với Anthropic
• Độ dài ngữ cảnh: 1000000
• Giá: $5/M token lời nhắc, $25/M token đầu ra
• Vai trò kỳ vọng: suy luận và tạo nội dung cao cấp với ngữ cảnh dài

Vị trí của Opus 4.7 trong số các mô hình hiện nay

Bối cảnh mô hình hiện nay không chỉ có một chiều đánh giá. “Tốt nhất” phụ thuộc rất nhiều vào việc bạn quan tâm đến chất lượng mã, độ dài ngữ cảnh, độ trễ, triển khai mô hình mở, chi phí, khả năng đa phương thức hay việc tác tử sử dụng công cụ.

Đây là cách tôi sẽ định vị Opus 4.7 trong một bộ định tuyến mô hình thực tế.

Điểm mấu chốt: Opus 4.7 không chỉ cạnh tranh về giá hay tốc độ. Mô hình này thuộc nhóm “chi nhiều hơn khi tác vụ đủ khó”.

Nếu bạn đang xây dựng một hệ thống vận hành thực tế, tôi sẽ dùng bộ định tuyến thay vì cố định Opus 4.7 trong toàn bộ hệ thống:

{
  "routing": [
    {
      "condition": "tokens < 12000 && task in ['classification', 'simple_qa']",
      "model": "qwen-or-haiku-class"
    },
    {
      "condition": "tokens < 80000 && task in ['code_generation', 'debugging']",
      "model": "sonnet-or-gpt-class"
    },
    {
      "condition": "tokens >= 80000 || task in ['repo_review', 'legal_synthesis', 'incident_analysis']",
      "model": "anthropic/claude-opus-4.7"
    }
  ]
}

Cách định tuyến đó thường tiết kiệm nhiều tiền hơn việc tối ưu từng chi tiết nhỏ trong lời nhắc.

Cửa sổ ngữ cảnh 1M: Những thay đổi thực sự

Cửa sổ ngữ cảnh 1,000,000 token không chỉ có nghĩa là “lời nhắc dài hơn”. Nó thay đổi thiết kế hệ thống.

Với mô hình 32k hoặc 128k, bạn thường cần một lớp truy xuất:

1. Chia tài liệu thành các đoạn.
2. Tạo embedding cho các đoạn.
3. Truy xuất top-k.
4. Xếp hạng lại.
5. Nén.
6. Gửi lời nhắc cho mô hình.

Quy trình đó có thể hoạt động rất tốt. Nhưng nó có những tình huống thất bại:

• Đoạn liên quan không được truy xuất.
• Đoạn được truy xuất thiếu ngữ cảnh xung quanh.
• Mô hình bỏ sót các mối phụ thuộc giữa tài liệu.
• Các bản tóm tắt che khuất chi tiết duy nhất có ý nghĩa quyết định.
• Ranh giới giữa các đoạn tách một định nghĩa quan trọng khỏi nơi sử dụng định nghĩa đó.

Với 1M token, đôi khi bạn có thể đưa trực tiếp tài liệu gốc vào. Ví dụ, trong một tác vụ liên quan đến kho mã lớn, bạn có thể đưa vào:

• README.md
• tài liệu kiến trúc
• tệp kê khai gói
• định nghĩa tuyến API
• các tệp mã nguồn được chọn
• các kiểm thử liên quan
• nhật ký lỗi gần đây
• bản ghi hoạt động trước đó của tác tử

Điều đó không loại bỏ việc truy xuất. Nó chuyển mục tiêu truy xuất từ “tìm câu trả lời” sang “chọn một tập dữ liệu làm việc nhất quán”.

Một điểm dễ mắc phải: ngữ cảnh dài không bảo đảm mô hình chú ý hoàn hảo đến từng token. Nếu bạn dán 700k token gồm nhật ký hỗn hợp, tệp được sinh tự động, các thư viện phụ thuộc được đưa vào kho mã và markdown không liên quan, bạn đang yêu cầu mô hình tìm kiếm trong một bãi rác. Trong thực tế, tôi vẫn tổ chức lời nhắc dài theo cấu trúc rất chặt chẽ.

Một lời nhắc ngữ cảnh dài tốt có các phần như sau:

SYSTEM:
You are reviewing a production incident. Use only the provided evidence.
If evidence is missing, say what is missing.

TASK:
Find the most likely root cause and propose a minimal fix.

CONTEXT MAP:
1. Incident timeline
2. Service architecture
3. Deployment diff
4. Error logs
5. Relevant source files
6. Prior mitigations

EVIDENCE:
<incident_timeline>
...
</incident_timeline>

<service_architecture>
...
</service_architecture>

<deployment_diff>
...
</deployment_diff>

Các thẻ không có phép màu. Chúng là những điểm bám, giúp mô hình giữ được định hướng trong một đầu vào khổng lồ.

Kiến trúc và những điểm mạnh nổi bật

Giao diện công khai đã được xác nhận cho thấy điểm nổi bật chính: khả năng suy luận cao cấp với ngữ cảnh dài và hành vi theo phong cách Claude. Tôi sẽ không khẳng định kiến trúc chính xác là sự thật, ngoài giả định khái quát rằng nó thuộc họ transformer, vốn phổ biến ở các LLM tiên tiến hàng đầu.

Dựa trên vị trí của Opus 4.7 trong dòng Claude và kích thước ngữ cảnh đã công bố, những điểm mạnh thực tiễn tôi kỳ vọng là:

Tổng hợp thông tin trong ngữ cảnh dài

Đây là điểm rõ ràng nhất. Opus 4.7 được xây dựng cho những trường hợp bạn cần suy luận trên một lượng lớn văn bản hoặc mã mà vẫn giữ được mạch lập luận.

Các tác vụ phù hợp:

• Rà soát cơ sở mã trên nhiều kho mã
• So sánh hợp đồng dài hàng trăm trang
• Tái dựng sự cố để phân tích sau sự cố
• Rà soát phiên làm việc dài của tác tử
• Tổng hợp tập tài liệu nghiên cứu
• Lập kế hoạch chuyển đổi dựa trên tài liệu và mã nguồn cũ

Hiểu mã

Các mô hình Claude thuộc cấp Opus thường hữu ích khi tác vụ không chỉ là “viết một hàm” mà là “hiểu hệ thống này và thực hiện một thay đổi an toàn”. Sự khác biệt đó rất quan trọng.

Một mô hình nhỏ có thể tạo ra một hàm trông có vẻ tốt. Một mô hình mạnh hơn có khả năng nhận ra rằng:

• Hàm này tham gia vào một vòng lặp thử lại.
• Bên gọi kỳ vọng tính lũy đẳng.
• Dữ liệu thiết lập kiểm thử che khuất một trường hợp biên.
• Việc chuyển đổi phải tương thích ngược.
• Bản sửa lỗi hiển nhiên làm hỏng một luồng thực thi mã khác.

Với tác tử lập trình, tôi sẽ dùng Opus 4.7 để lập kế hoạch và rà soát, đồng thời dùng một mô hình rẻ hơn để thực thi khi có thể.

Tuân thủ chỉ dẫn khi lượng thông tin lớn

Lời nhắc dài thường làm giảm khả năng tuân thủ chỉ dẫn. Mô hình gặp quá nhiều mẫu nội dung cạnh tranh nhau: tài liệu, nhật ký, chú thích, dấu vết ngăn xếp, kế hoạch cũ và tin nhắn của người dùng.

Các mô hình mạnh hơn thường giữ đúng tác vụ thực tế tốt hơn. Dù vậy, tôi vẫn sẽ nhắc lại các ràng buộc quan trọng ở gần cuối lời nhắc:

FINAL INSTRUCTIONS:
- Do not modify public API names.
- Prefer a one-file fix if possible.
- If the root cause is ambiguous, return the top 3 hypotheses.
- Include exact file paths and line-level reasoning.

Đây không phải là lặp lại chỉ để lặp lại. Trong lời nhắc dài, cả độ gần về vị trí lẫn cấu trúc đều quan trọng.

Trường hợp sử dụng thực tế: Gỡ lỗi ở cấp kho mã

Đây là một cách tôi đã áp dụng thành công với các mô hình ngữ cảnh dài: gộp một bản chụp có chọn lọc của kho mã cùng đầu ra của các kiểm thử thất bại.

git ls-files \
  ':!:node_modules' \
  ':!:dist' \
  ':!:coverage' \
  ':!:*.lock' \
  | sed 's#^#--- FILE: #' > /tmp/file-list.txt

python build_context.py \
  --files-from /tmp/file-list.txt \
  --include "src/**/*.ts" \
  --include "tests/**/*.ts" \
  --include "package.json" \
  --include "README.md" \
  --max-bytes 3500000 \
  > /tmp/repo-context.txt

npm test 2>&1 | tail -n 300 > /tmp/failing-test.txt

Sau đó gửi một lời nhắc có cấu trúc:

from openai import OpenAI

client = OpenAI(
    base_url="https://openrouter.ai/api/v1",
    api_key=os.environ["OPENROUTER_API_KEY"],
)

with open("/tmp/repo-context.txt", "r", encoding="utf-8") as f:
    repo_context = f.read()

with open("/tmp/failing-test.txt", "r", encoding="utf-8") as f:
    failing_test = f.read()

response = client.chat.completions.create(
    model="anthropic/claude-opus-4.7",
    messages=[
        {
            "role": "system",
            "content": "You are a senior systems engineer. Diagnose from evidence, avoid guesses."
        },
        {
            "role": "user",
            "content": f"""
Find the root cause of the failing test and propose the smallest safe patch.

<repo_context>
{repo_context}
</repo_context>

<failing_test_output>
{failing_test}
</failing_test_output>

Return:
1. Root cause
2. Files involved
3. Minimal patch strategy
4. Risks
"""
        }
    ],
    temperature=0.2,
)
print(response.choices[0].message.content)

Trong thực tế, cách này hiệu quả nhất khi bạn kiểm soát bộ tạo ngữ cảnh. Đừng đưa tất cả vào. Hãy loại bỏ các tệp được sinh tự động, tệp khóa trừ khi việc phân giải phụ thuộc có liên quan, các bản chụp lớn, dữ liệu thiết lập kiểm thử, văn bản được trích xuất từ dữ liệu nhị phân và tài liệu trùng lặp.

Tích hợp qua API tương thích với OpenAI

OpenRouter cung cấp giao diện tương thích với OpenAI, giúp việc tích hợp trở nên đơn giản nếu hệ thống công nghệ của bạn đã dùng SDK của OpenAI.

export OPENROUTER_API_KEY="..."

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://openrouter.ai/api/v1",
    api_key=os.environ["OPENROUTER_API_KEY"],
)

completion = client.chat.completions.create(
    model="anthropic/claude-opus-4.7",
    messages=[
        {
            "role": "system",
            "content": "You are a precise engineering assistant."
        },
        {
            "role": "user",
            "content": "Explain the trade-offs of replacing RAG with long-context prompting."
        }
    ],
    temperature=0.3,
    max_tokens=1200
)

print(completion.choices[0].message.content)

Khi đưa vào vận hành thực tế, hãy thêm siêu dữ liệu cho yêu cầu và các biện pháp kiểm soát ngân sách:

MAX_PROMPT_TOKENS = 250_000
MAX_COMPLETION_TOKENS = 4_000

def choose_model(prompt_tokens: int, task: str) -> str:
    if task in {"incident_review", "repo_analysis"} and prompt_tokens > 80_000:
        return "anthropic/claude-opus-4.7"
    if prompt_tokens < 20_000:
        return "anthropic/claude-sonnet-4.6"
    return "anthropic/claude-opus-4.7"

Đồng thời, ghi lại mức sử dụng token cho từng yêu cầu. Với mức giá của Opus 4.7, khả năng quan sát hệ thống là điều bắt buộc.

{
  "model": "anthropic/claude-opus-4.7",
  "task": "repo_analysis",
  "prompt_tokens": 182400,
  "completion_tokens": 3100,
  "estimated_cost_usd": 0.9895
}

Ước tính ở trên dựa trên mức giá được cung cấp:

• 182400 * 0.000005 = 0.912
• 3100 * 0.000025 = 0.0775
• tổng cộng: $0.9895

Chi phí đó thấp so với việc một kỹ sư dành một giờ theo đuổi giả thuyết sai. Nhưng nó cao so với một lần gọi phân loại đơn giản.

Cấu trúc tích hợp tương thích với Anthropic

Nếu bạn đang dùng Messages API theo kiểu Anthropic, cấu trúc yêu cầu sẽ hơi khác. Chi tiết cụ thể của cổng API thay đổi theo nhà cung cấp, nhưng về mặt khái niệm, dữ liệu gửi đi có dạng như sau:

{
  "model": "anthropic/claude-opus-4.7",
  "max_tokens": 1200,
  "temperature": 0.2,
  "system": "You are a careful code reviewer.",
  "messages": [
    {
      "role": "user",
      "content": "Review this migration plan for hidden compatibility risks."
    }
  ]
}

Những khác biệt chính khi tích hợp cần chú ý:

• Các API tương thích với OpenAI thường đặt chỉ dẫn hệ thống bên trong messages.
• Các API theo kiểu Anthropic thường dùng một trường cấp cao nhất system .
• Lược đồ gọi công cụ có thể hơi khác nhau.
• Định dạng sự kiện truyền phát không phải lúc nào cũng giống nhau.
• Số token được tính có thể khác với ước tính cục bộ.

Một điểm dễ mắc phải là cho rằng lược đồ công cụ OpenAI hiện có của bạn sẽ hoạt động mà không cần thay đổi. Hãy kiểm thử rõ ràng các lần gọi công cụ trước khi đưa tác tử vào vận hành thực tế.

Đánh đổi giữa chi phí, độ trễ và thông lượng

Tôi kỳ vọng Opus 4.7 là một mô hình cao cấp không chỉ về giá mà còn về độ trễ, đặc biệt với lời nhắc lớn. Tôi sẽ không tự đặt ra các con số độ trễ ở đây vì chúng phụ thuộc vào cách định tuyến của nhà cung cấp, kích thước yêu cầu, khu vực, tải và hành vi truyền phát.

Nhưng xu hướng thì có thể dự đoán:

• Lời nhắc 5k token thường sẽ trả về kết quả nhanh hơn nhiều so với lời nhắc 500k token.
• Ngữ cảnh lớn làm tăng chi phí và thời gian xử lý đầu vào.
• Phần đầu ra dài có chi phí cao.
• Truyền phát cải thiện độ trễ cảm nhận nhưng không giảm tổng chi phí tính toán.
• Việc thử lại các yêu cầu khổng lồ có thể nhanh chóng khiến chi phí tăng gấp đôi.

Với hệ thống vận hành thực tế, hãy áp dụng các biện pháp kiểm soát:

def estimate_cost(prompt_tokens: int, completion_tokens: int) -> float:
    return prompt_tokens * 0.000005 + completion_tokens * 0.000025

cost = estimate_cost(prompt_tokens=750_000, completion_tokens=8_000)

if cost > 5.00:
    raise ValueError(f"Request too expensive: ${cost:.2f}")

Với lời nhắc 750k token và phần đầu ra 8k token:

750000 * 0.000005 = $3.75
8000 * 0.000025 = $0.20
total = $3.95

Đó là chi phí hoàn toàn hợp lý cho một tác vụ phân tích chuyên sâu ngoại tuyến. Có lẽ nó không hợp lý cho mọi lượt trò chuyện.

Hạn chế và những khía cạnh vẫn đang dần rõ hơn

Có một số điều tôi chưa vội giả định:

• Tôi sẽ không cho rằng Opus 4.7 luôn vượt trội hơn Opus 4.8.
• Tôi sẽ không cho rằng mô hình nhớ lại hoàn hảo trên toàn bộ ngữ cảnh 1M.
• Tôi sẽ không suy đoán về các chi tiết kiến trúc chưa được công bố.
• Tôi sẽ không cho rằng hành vi gọi công cụ khớp hoàn toàn với một phiên bản Claude khác.
• Tôi sẽ không cho rằng các lời nhắc cũ của bạn là tối ưu khi sử dụng ngữ cảnh hàng triệu token.

Bản phát hành này cũng có vị trí khá đặc biệt về cách đặt tên nếu Opus 4.8 có sẵn trong hệ thống công nghệ của bạn. Số phiên bản mới hơn thường hàm ý mô hình mạnh hơn, nhưng tính sẵn có của sản phẩm, giá cả, độ ổn định và cách định tuyến của nhà cung cấp có thể khiến lựa chọn “tốt nhất” phụ thuộc vào từng khối lượng công việc. Hãy đo kiểm trên các tác vụ của chính bạn.

Bộ đánh giá tôi ưu tiên cho một mô hình như thế này gồm 30–50 trường hợp thực tế nội bộ:

• 10 tác vụ gỡ lỗi trên cơ sở mã lớn
• 10 tác vụ tổng hợp nhiều tài liệu
• 10 bài kiểm tra khả năng tuân thủ chỉ dẫn trong điều kiện khắc nghiệt
• 5 quy trình sử dụng công cụ
• 5 yêu cầu mang tính đối kháng hoặc mơ hồ
• các trường hợp theo lĩnh vực cụ thể từ sản phẩm của bạn, nếu cần

Chấm điểm đầu ra thông qua đánh giá của con người. Công cụ chấm điểm tự động có ích, nhưng với các mô hình suy luận cao cấp, những lỗi quan trọng thường rất khó nhận ra.

Những điểm thực tiễn cần ghi nhớ

• Sử dụng Claude Opus 4.7 cho các tác vụ suy luận có giá trị cao với ngữ cảnh dài, thay vì dùng làm mô hình chatbot mặc định.
• Xem cửa sổ ngữ cảnh 1M token là một công cụ thiết kế hệ thống, chứ không phải sự cho phép để đưa vào dữ liệu chưa được lọc.
• Giữ prompt có cấu trúc với sơ đồ nội dung, thẻ phân chia phần và các ràng buộc cuối cùng.
• Thêm bước ước tính chi phí trước khi gửi yêu cầu lớn; với $5/M token đầu vào và $25/M token đầu ra, các lần thử lại có ảnh hưởng đáng kể.
• Đánh giá đối chiếu Opus 4.7 với Claude Opus 4.8, GPT-5.5, Gemini 3 và các mô hình mở mạnh trên chính khối lượng công việc của bạn.
• Thẳng thắn về những điều chưa rõ: chi tiết kiến trúc, hành vi đầy đủ trong đánh giá và hiệu năng ở các trường hợp biên vẫn đang dần được làm rõ.
• Trong môi trường sản xuất, hãy định tuyến thông minh: dùng mô hình rẻ hơn cho tác vụ thường lệ, dùng Opus 4.7 cho những trường hợp mà độ sâu ngữ cảnh và chất lượng suy luận xứng đáng với chi phí.