캐브맨

캐브맨은 AI 코딩 에이전트가 말을 짧게, 원시인처럼 하도록 만들어 요금을 아끼는 오픈소스 도구다. 개발자가 코딩 에이전트를 쓸 때마다 대화 분량만큼 요금이 매겨지는데, 캐브맨은 마치 장문의 이메일을 전보문처럼 압축하듯 에이전트의 설명을 짧게 다듬는다. 코드나 명령어처럼 정확해야 하는 부분은 그대로 두고, 풀어 쓴 설명만 줄이는 식이다.

초기 버전이 에이전트의 '말'만 줄였다면, 이후 나온 프록시는 에이전트가 '읽는' 자료까지 손을 댄다. 도구 목록이나 로그, 이전 대화 기록처럼 매번 그대로 오가는 텍스트 뭉치를 통째로 사진 한 장으로 바꿔 보내는 방식이다. 텍스트와 사진은 요금 매기는 방식이 달라서, 촘촘한 글자 덩어리를 그림으로 바꾸면 실제로 비용이 줄어드는 틈을 이용한 셈이다.

다만 개발자 스스로 밝히듯 이 절감 효과는 상황에 따라 다르다. 답변만 짧게 줄이는 방식은 정작 매턴 오가는 다른 데이터 비용은 건드리지 못하고, 그림으로 바꾸는 방식도 이미 짧은 코드 줄에는 오히려 손해가 될 수 있다. 그래서 저장소 설명에는 '에이전트를 싸게 만들려고 멍청하게 만들지 않는다'는 문구가 붙어 있다.

기사에는 "'Caveman 2'와 새 로컬 프록시가... 제공사 보고 입력 토큰을 33.2% 줄이면서"처럼 구체적인 절감률과 함께 등장한다. 다만 이 수치를 앤스로픽이 공식 발표한 성능 개선으로 오해하면 안 된다. 캐브맨은 앤스로픽이 만든 기능이 아니라 개발자 Julius Brussee가 만들어 공개한 별도의 오픈소스 도구이며, 클로드 코드 같은 도구 위에 얹어 쓰는 부가 장치일 뿐이다.

1. 캐브맨 저장소의 설치 안내를 따라 이를 스킬 또는 프록시 형태로 코딩 에이전트 환경에 설치한다.
2. 설치 전과 똑같은 질문이나 작업 지시를 에이전트에게 그대로 다시 던져본다.
3. 답변 길이와 토큰 사용량(제공사 청구 내역이나 로그로 확인 가능)이 어떻게 달라지는지 비교해본다.
4. 짧은 코드가 많은 작업에서는 오히려 토큰이 늘 수도 있으니, 여러 종류의 작업으로 나눠 시험해보는 편이 정확하다.