클로드(Claude) 토큰 비용을 절반으로 줄여주는 기술

하이라이트

• Caveman 기술은 출력 토큰을 최대 75%까지 줄이면서도 기술적 정보의 정확도를 유지한다.

• 기본 설정 대비 Caveman 스킬 사용 시 출력 토큰은 45% 감소하며, 단순히 간결함을 요구했을 때보다 39% 더 적은 토큰을 사용한다.

• 대규모 언어 모델의 답변 길이를 제한할 경우 특정 벤치마크에서 정확도가 26% 향상된다는 연구 결과가 존재한다.

• 단일 프롬프트 질문 시에는 입력 토큰 비용 때문에 전체 비용이 10% 상승할 수 있으나, 프롬프트 캐싱이 적용되는 후속 질문 단계에서는 39%의 비용 절감 효과가 발생한다.

• Ultra 모드는 모든 접속사를 제거하고 인과관계에 화살표를 사용하며, 문언(Wenyan) 모드는 한문의 특성을 이용해 토큰 효율을 극대화한다.

타임라인

1. 00:00 - 00:39

   Caveman 기술의 정의와 주요 기능

   LLM이 생성하는 불필요한 문장 성분을 제거하여 읽기 효율과 비용 효율을 동시에 잡는 것을 목표로 한다. 단순한 요약을 넘어 원시인처럼 핵심 단어 위주로 소통하는 방식을 취하며, 이는 과학적 근거를 바탕으로 설계되었다.

   • Caveman은 출력 토큰을 최대 75%까지 압축하면서 기술적 정확도를 보존하는 기술이다.
   • 불필요한 수식어로 가득한 긴 답변을 깔끔한 요약본 형태로 변환한다.
   • 한 줄 코드 리뷰, 간결한 커밋 메시지 작성, 입력 데이터 압축 등 다양한 모드를 지원한다.
2. 00:40 - 01:43

   실제 구동 화면 및 답변 스타일 비교

   Next.js 인증 시스템 앱을 대상으로 테스트한 결과, 일반 모드는 시뮬레이션 시스템임을 장황하게 설명하지만 Caveman은 즉각적인 기술 정보 전달에 집중한다. 사용자는 완전한 문장 구조보다 정보의 실질적인 내용에 더 빠르게 접근할 수 있다.

   • 일반 Claude Code는 완성된 문장과 상세한 수식어를 사용하여 시스템을 설명한다.
   • Caveman 모드는 '실제 보안 없음', '데모 전용'과 같은 핵심 키워드 위주로 답변을 구성한다.
   • 작동 흐름 설명 시 문장 대신 화살표 기호를 사용하여 가독성을 높인다.
3. 01:44 - 03:22

   토큰 사용량 분석 및 비용 효율성

   10개의 프롬프트를 이용한 테스트에서 기본 응답은 8센트가 소요된 반면 Caveman은 4센트 수준을 유지했다. 입력 토큰이 늘어나는 단점은 대화가 길어질수록 캐싱 기술을 통해 상쇄되며, 결과적으로 장기적인 사용에서 경제적 이점이 크다.

   • Caveman 사용 시 기본 설정 대비 출력 토큰 비용이 약 45% 절감된다.
   • 단발성 프롬프트에서는 마크다운 로드 비용으로 인해 전체 비용이 10% 상승할 수 있다.
   • 프롬프트 캐싱이 적용되는 연속 대화 시나리오에서는 39%의 실질적인 비용 절감이 나타난다.
4. 03:23 - 04:55

   설정 규칙과 세부 모드 활용법

   Vercel 스킬 패키지를 통해 설치 가능하며 기술 용어나 코드 블록, 에러 메시지는 손실 없이 유지하도록 설정되어 있다. 한문 모드인 Wenyan은 토큰 효율이 가장 높으며, 자연어 파일을 압축하는 compress 기능을 통해 입력 토큰 관리까지 지원한다.

   • 관사, 인사말, 모호한 표현을 제거하고 fix와 같은 짧은 유의어를 우선적으로 선택한다.
   • Light부터 Ultra까지 강도 조절이 가능하며, Ultra 모드는 접속사를 완전히 배제한다.
   • 코드 리뷰 전용 'caveman review'와 커밋 메시지 전용 'caveman commit' 스킬이 존재한다.