AI와 2.5개월 협업, API였다면 약 800만원 — 토큰의 95%는 캐시였다

요약

로컬 사용 로그를 ccusage로 뽑아보니, 약 2.5개월(실제 작업 46일)간 AI와 주고받은 토큰이 54.2억 개였다.
이걸 종량제 API 정가로 환산하면 약 $5,819(원화 약 800만 원). 월별로 4월 $585 → 5월 $2,226 → 6월 보름 $3,008로 가팔라졌다.
그런데 토큰의 95%는 새로 산 게 아니라 캐시 재사용이었다. 캐시가 장기 AI 협업의 경제성을 만든다.
정가 환산액은 실제 청구서가 아니다 — 정액 구독으로 돌렸다면 그 차액이 곧 절감액이다.

AI 코딩 도구는 주고받은 모든 메시지의 토큰 수를 로컬에 기록한다. 그 로그를 ccusage라는 오픈소스 도구로 읽으면, 모델별 단가표를 곱해 “API였다면 얼마”를 계산해 준다.

명령은 한 줄이다. npx ccusage@latest를 치면 날짜별·모델별 사용량과 비용이 표로 나온다. 나는 전체 합계와 모델별 분해만 추렸다.

전제가 하나 있다. 이 금액은 종량제 API 정가 기준이다. 실제로는 정액 구독으로 썼으니, 이 숫자는 “만약 토큰마다 돈을 냈다면” 찍혔을 가상 청구서다.

46일을 실제로 작업했고, 정가 환산 합계는 $5,819였다. 거의 전부 한 제품군이었고, 잠깐 곁들인 다른 모델은 $0.28로 반올림하면 0이다.

월별 추이가 더 흥미롭다. 4월 $585, 5월 $2,226, 그리고 6월은 보름 만에 $3,008이다.

6월은 절반도 안 지났는데 5월 전체를 넘었다. 일이 늘면 토큰도 복리로 분다.

54.2억 토큰 중 51.5억(95%)이 새로 산 입력이 아니라 캐시 재사용이었다. 이게 비용을 폭증시킨 게 아니라 오히려 막아 줬다.

매번 대화할 때마다 나는 긴 배경(작업 규칙, 프로젝트 메모리, 지침 문서)을 AI에게 다시 들려줘야 한다. 이걸 매 턴 새로 사면 토큰이 폭발한다.

캐시는 냉장고와 같다. 어제 끓인 국을 매번 다시 끓이지 않고 데우기만 하면 된다. 캐시 읽기는 새 입력의 약 1/10 값이라, 같은 배경을 열 번 재활용해도 거의 한 번 값이다.

그래서 캐시가 없었다면 이 $5,819는 훨씬 컸을 것이다. 장기 협업일수록 캐시 설계가 곧 비용 설계다.

$5,819 중 $4,722(81%)가 가장 비싼 Opus 계열에서 나왔다. 같은 일을 더 싼 모델로 옮기면 비용 자릿수가 바뀐다.

비교가 극적이다. 가장 작은 Haiku는 2,070만 토큰을 처리하고도 $3.79만 들었다. 비슷한 규모를 Opus로 돌리면 수십 배 차이가 난다.

망치로 나사를 박을 수도 있지만, 드라이버가 있으면 그걸 쓰는 게 맞다. 어려운 추론은 상위 모델, 단순·대량 반복은 작은 모델 — 작업 난이도에 모델을 맞추면 같은 결과를 훨씬 싸게 얻는다.

$5,819는 “종량제였다면” 가상 금액이지, 내가 실제로 낸 돈이 아니다. 정액 구독으로 이만큼을 돌렸다면, 그 차액이 사실상 절감액이다.

이게 AI를 ‘도구’가 아니라 ‘풀타임 동료’로 쓸 때의 비용 구조다. 종량제는 쓸수록 선형으로 늘지만, 정액제는 뷔페처럼 많이 먹을수록 한 접시 값이 싸진다.

물론 공짜는 아니다. 핵심은 금액의 크기가 아니라 사용 패턴을 측정했다는 것이다. 측정하면 통찰 1·2처럼 줄일 곳이 보인다.

자기 사용량이 궁금하면 한 줄이면 된다. 터미널에서 npx ccusage@latest를 실행하면 로컬 로그를 읽어 비용을 계산해 준다.

데이터는 전부 로컬에 있어 외부로 나가지 않는다. 모델별·날짜별로 쪼개 보면, 어디서 토큰이 새는지 금방 드러난다.

이 글의 숫자는 다음 도구·문서에서 나왔다.