비용 관리

에이전트 작업에서 토큰이 실제로 소모되는 곳과 청구액을 바꾸는 네 가지 조절 요소.

코딩 에이전트를 하루 종일 실행해 봤다면 청구 금액을 확인해 보셨을 것입니다. 에이전트 루프는 일반적인 채팅과는 비교할 수 없을 만큼 토큰을 많이 소비합니다. 읽은 모든 파일, 모든 도구 결과, 모든 diff가 컨텍스트에 포함되어 다음 턴에 다시 전송됩니다.

비용이 많이 드는 것은 출력 토큰입니다

모든 최첨단 모델에서 출력 비용은 입력 비용의 4–5배입니다. 최종 답변에서 생각을 장황하게 풀어내는 모델은 간결하게 답하는 모델보다 비용을 더 빠르게 소모합니다. 다음 항목의 상한을 max_tokens 의도적으로 설정하고, 일상적인 작업에는 간결하게 답하는 모델을 우선 사용하세요.

비용을 줄이는 네 가지 수단

1. 작업에 따라 라우팅하세요. 분류, 추출, 라우팅에는 Opus가 필요하지 않습니다. Haiku는 약 칠분의 일의 가격으로 이 작업들을 수행합니다. 플래그십 모델은 추론 비중이 높은 작업에 사용하세요.
2. 프롬프트 캐싱. 고정된 시스템 프롬프트와 도구 정의는 입력 가격의 일부만으로 캐시에서 다시 읽을 수 있습니다. 에이전트에서는 이것이 가장 효과적인 비용 절감 수단입니다. 다음을 참조하세요 프롬프트 캐싱.
3. 매 턴마다 컨텍스트를 줄이세요. 전체 대화 기록을 다시 전송하지 말고 최근 턴과 지속적으로 갱신하는 요약을 유지하세요. 제한 없이 커지는 컨텍스트가 $2짜리 세션을 $20짜리로 만듭니다.
4. 루프를 제한하세요. 자율 실행에 엄격한 단계 수 제한을 설정하여 에이전트가 막힌 상태로 무한 반복하지 않도록 하세요.

실행 전 비용 추정

CopyIN_RATE  = {class="s">"claude-opus-4-8": 3.0,  class="s">"claude-sonnet-4-6": 0.9, class="s">"claude-haiku-4-5": 0.4}
OUT_RATE = {class="s">"claude-opus-4-8": 15.0, class="s">"claude-sonnet-4-6": 4.5, class="s">"claude-haiku-4-5": 2.0}

def cost(model, tok_in, tok_out):
    return tok_in / 1e6 * IN_RATE[model] + tok_out / 1e6 * OUT_RATE[model]

print(cost(class="s">"claude-opus-4-8",   20_000, 2_000))   class=class="s">"c"># 0.09
print(cost(class="s">"claude-sonnet-4-6", 20_000, 2_000))   class=class="s">"c"># 0.027
print(cost(class="s">"claude-haiku-4-5",  20_000, 2_000))   class=class="s">"c"># 0.012

동일한 입력 20K / 출력 2K 작업은 Opus에서 Haiku보다 7.5배 더 비쌉니다. 분류 작업이라면 그만큼 더 지불해도 얻는 이점이 없습니다.

실행 후 측정

모든 응답에는 다음 객체가 포함됩니다: usage 객체입니다. 요청 ID 및 작업 유형과 연결하여 기록하세요. 이 정보가 없으면 비용 최적화는 추측에 불과합니다. 게이트웨이 대시보드는 모델별 사용량을 보여 주지만, 요청이 *왜* 이루어졌는지는 자체 로그만 알 수 있습니다.