Batch API로 AI 비용 절반 줄이기

실시간 응답이 필요 없는 작업이라면, 코드 몇 줄만 바꿔서 비용을 절반으로 줄일 수 있습니다. 캐시 할인과도 중복으로 적용됩니다.

얼마나 줄어드나

모델별 배치 가격

단위: USD / 100만 토큰. 배치가는 표준가의 정확히 50%입니다. 아래 원화 환산은 위 계산기의 환율·부가세 설정을 따릅니다.

무엇을 배치로 돌릴 수 있나

기준은 하나입니다. 사용자가 화면 앞에서 기다리고 있는가. 기다리지 않는 작업이면 거의 다 배치로 넘길 수 있습니다.

배치로 돌려도 되는 것

• 대량 분류·태깅 — 문의 내용 카테고리 분류, 감정 분석, 스팸 판별
• 정기 리포트 — 밤사이 돌려놓고 아침에 받는 요약
• 백필 작업 — 기존에 쌓인 데이터를 소급해서 처리
• 콘텐츠 사전 생성 — 상품 설명, 메타 태그처럼 미리 만들어두는 것
• 평가·테스트 — 프롬프트 A/B 비교, 대규모 검증셋 돌리기
• 번역 일괄 처리 — 문서 뭉치를 한 번에

배치로 돌리면 안 되는 것

• 챗봇·상담 응답 — 사용자가 기다립니다
• 실시간 검색·추천 — 페이지가 로딩 중입니다
• 대화형 코딩 도구 — 자동완성에 24시간은 의미가 없습니다
• 결과에 따라 다음 요청이 달라지는 작업 — 배치는 요청끼리 독립적으로 처리됩니다

알아둘 제약

만료된 요청에 과금되지 않는다는 점은 실무에서 중요합니다. 대량으로 밀어넣었다가 일부가 24시간을 넘겨도 그만큼은 돈이 나가지 않습니다. 다만 결과도 못 받으니 재제출은 필요합니다.

캐시와 함께 쓰면 더 줄어듭니다

잘 알려지지 않은 부분입니다. 배치 할인과 프롬프트 캐시 할인은 중복으로 적용됩니다. 같은 지침이나 참고 문서를 반복해서 넣는 구조라면 두 개를 같이 쓰는 게 맞습니다.

다만 배치에서는 캐시 적중이 보장되지 않고 최선 노력(best-effort)입니다. 배치 요청은 순서 없이 동시에 처리되기 때문입니다. 공식 문서는 실제 적중률이 트래픽 형태에 따라 30%에서 98%까지 갈린다고 밝히고 있습니다.

캐시 자체가 이득인지 손해인지는 재사용 횟수에 달려 있습니다. 5분 캐시는 1회 재사용부터, 1시간 캐시는 2회 재사용부터 이득입니다.

9월 인상과의 관계

Claude Sonnet 5는 2026년 9월 1일부터 표준가가 $2/$10에서 $3/$15로 오릅니다. 배치가도 같은 비율로 올라 $1/$5 → $1.50/$7.50이 됩니다.

바꿔 말하면, 배치 전환은 이번 인상분을 그대로 상쇄합니다. 인상 후 배치가($1.50/$7.50)가 인상 전 표준가($2/$10)보다 여전히 쌉니다. 9월 이후 비용이 걱정된다면 가장 먼저 검토할 카드입니다.