Haiku로 내려도 되는 작업 / 내리면 안 되는 작업

Claude Haiku 4.5는 Sonnet 5의 3분의 1 가격입니다. 다만 전부 내리면 품질이 무너지고, 안 내리면 돈이 샙니다. 기준을 정리했습니다.

가격 차이

표시가는 정확히 3배입니다. 그런데 실제 청구액 차이는 3배보다 더 벌어집니다. 토크나이저가 다르기 때문입니다.

Anthropic 공식 문서에 따르면 Claude 4.7 이후 모델은 새 토크나이저를 쓰며, 같은 텍스트에 약 30% 더 많은 토큰을 생성합니다. Sonnet 5는 여기 해당하고, Haiku 4.5는 구형 토크나이저를 씁니다. 같은 문서를 넣어도 Haiku 쪽이 토큰을 덜 먹습니다.

30%는 영문 기준 수치입니다. 공식 문서에도 "정확한 증가폭은 콘텐츠와 워크로드 형태에 따라 다르다"고만 적혀 있습니다. 한국어에서 몇 %인지는 저희가 직접 측정 중이며, 결과가 나오면 이 페이지에 반영합니다. 그 전까지 아래 계산기는 토크나이저 차이를 반영하지 않은 보수적인 값입니다. 실제 절감폭은 이보다 클 가능성이 높습니다.

얼마나 줄어드나

내려도 되는 작업

공통점은 출력이 짧고, 정답 범위가 좁고, 판단이 아니라 인식에 가깝다는 것입니다.

• 분류 — 문의 카테고리, 긍부정, 스팸 여부, 우선순위 등급
• 추출 — 문서에서 날짜·금액·이름·주문번호 뽑아내기
• 태깅 — 상품 속성, 콘텐츠 키워드
• 형식 변환 — 자유 텍스트를 JSON으로, 표를 문장으로
• 짧은 요약 — 한두 문장으로 줄이기
• 라우팅 — 이 요청을 어느 부서/모델로 보낼지 판단
• 1차 필터링 — 검토가 필요한 건만 걸러내고 나머지는 통과

내리면 안 되는 작업

• 코드 작성·리뷰 — 미묘한 버그를 놓칩니다. 비용보다 사고 비용이 큽니다
• 다단계 추론 — 여러 조건을 조합해 결론을 내는 작업
• 긴 문서 종합 — 여러 자료를 읽고 하나로 엮는 작업
• 사용자에게 그대로 나가는 긴 글 — 문장 품질 차이가 눈에 보입니다
• 틀리면 되돌리기 어려운 판단 — 환불 승인, 계약 검토, 의료·법률 관련

내리기 전에 확인할 제약 3가지

가격만 보고 옮겼다가 막히는 지점들입니다.

1. 컨텍스트가 200K로 5분의 1

긴 문서를 통째로 넣는 작업은 Haiku에서 아예 안 들어갈 수 있습니다. 출력 한도도 절반이라 장문 생성에는 부적합합니다.

2. 캐시 최소 토큰이 4,096으로 가장 높습니다

이게 실무에서 가장 많이 당하는 함정입니다. 프롬프트 캐시는 일정 길이 이상이어야 걸립니다. 그 기준이 모델마다 다른데, Haiku 4.5가 4,096 토큰으로 가장 높습니다.

Sonnet 5에서 잘 걸리던 2,000 토큰짜리 시스템 프롬프트가 Haiku로 옮기는 순간 캐시가 안 걸립니다. 더 나쁜 건 에러가 나지 않는다는 점입니다. 그냥 조용히 캐시 없이 처리되고, 청구서를 보고 나서야 알게 됩니다.

3. 지식 시점이 오래됐습니다

Haiku 4.5의 신뢰할 수 있는 지식 시점은 2025년 2월입니다. Sonnet 5는 2026년 1월입니다. 최신 정보를 전제로 하는 작업이라면 검색 도구를 붙이거나 필요한 자료를 직접 넣어줘야 합니다.

실무에서는 라우팅으로 씁니다

전부 내리거나 전부 두는 게 아니라, 들어온 요청을 먼저 분류해서 갈라 보내는 구조가 일반적입니다.

1. Haiku가 먼저 받습니다 — "이건 단순 문의인가, 복잡한 건인가"
2. 단순하면 Haiku가 그대로 답합니다
3. 복잡하면 Sonnet으로 넘깁니다

분류 자체가 짧은 작업이라 Haiku에 딱 맞고, 비용도 거의 안 듭니다. 실제로 트래픽의 절반 이상이 1단계에서 끝나는 경우가 많습니다. 위 계산기의 "단순 작업 비율"을 50%로 잡아둔 이유입니다.

주의: 라우팅을 넣으면 요청이 한 번 더 늘어납니다. 분류 요청이 워낙 짧아서 대개 무시할 수준이지만, 요청 수 기준 과금이나 레이트 리밋을 쓰신다면 계산에 넣으세요.