앤스로픽, 클로드 코드 서브에이전트 사용량 절감

앤스로픽이 11월 4일(현지 시각) 클로드 코드의 백그라운드 서브에이전트가 사용 한도를 덜 쓰도록 바꿨다고 밝혔다. 실행 중인 서브에이전트가 30초마다 갱신하는 상태 줄을 이제 Haiku 5.5가 짧은 메모를 바탕으로 쓰고, 그 결과 갱신 한 번의 비용이 약 99% 줄었다. 앤스로픽이 함께 공개한 6.6초 분량의 그래픽 영상에 따르면 클로드 코드 CLI 기준으로 세션 전체의 사용량 절감 폭은 한도의 약 5%다.

앤스로픽의 클로드 개발자 공식 계정(@ClaudeDevs)은 X에서 "실행 중인 서브에이전트는 30초마다 상태 줄을 갱신하는데, 갱신할 때마다 대화 전체를 다시 읽었다"고 설명했다. 이어 "이제 Haiku 5.5가 짧은 메모로 상태 줄을 쓰기 때문에 갱신 한 번의 비용이 약 99% 줄었다"고 밝혔다. 메탈이 확인한 시점에 이 게시물의 조회수는 7만 2천 회를 넘었다.

서브에이전트는 클로드 코드가 일을 나눠 맡기는 별도의 일꾼이다. 클로드 코드 공식 문서에 따르면 서브에이전트는 자체 컨텍스트 창과 시스템 프롬프트, 도구 접근 권한을 따로 갖고 독립적으로 일한 뒤 결과만 돌려준다. 문서는 서브에이전트가 "자체 요청을 보내며, 이 요청은 메인 대화와 같은 사용 한도에 합산된다"고 적었다. 서브에이전트를 많이 돌릴수록 사용자의 한도도 함께 줄어드는 구조다.

백그라운드 실행은 이미 기본값이다. 문서에 따르면 아무 설정이 없을 때 메인 대화에서 클로드가 띄운 서브에이전트는 백그라운드에서 시작하고, 사용자는 그동안 다른 작업을 이어 간다. 백그라운드 서브에이전트가 권한이 필요한 도구를 부르면 그 요청은 메인 세션에 뜨고, 결과는 다음 차례에 완료 알림으로 도착한다. 백그라운드 쪽은 읽기·검색·편집·셸 실행 같은 정해진 내장 도구만 쓴다. 일을 맡겨 두고 프롬프트 입력창 아래 패널에서 진행을 지켜보는 이 방식에서, 30초마다 바뀌는 상태 줄은 사용자가 작업을 들여다보는 창이었다.

그 상태 줄, 곧 진행 요약은 그동안 여러 차례 손질됐다. 클로드 코드 공개 변경 기록에 따르면 2.1.128 버전은 서브에이전트 진행 요약이 프롬프트 캐시를 놓치던 문제를 고쳐 캐시 생성량을 약 3분의 1로 줄였다. 2.1.274 버전은 진행 요약이 여러 문단짜리 긴 답으로 바뀌어 버리던 오류를 바로잡았다.

최신판인 2.1.318 버전에도 관련 항목이 있다. 백그라운드 서브에이전트가 도는 동안 사용 크레딧으로 넘어갔다는 안내가 약 30초마다 다시 뜨던 문제를 고쳤다. 백그라운드 서브에이전트가 실행한 셸 명령은 모든 프로바이더에서 3분이 지나면 백그라운드로 옮겨 프롬프트 캐시가 만료되지 않게 했다. 베드록·버텍스·파운드리를 쓰거나 텔레메트리를 끈 환경에서는 프롬프트 캐시가 식어 있을 때 진행 요약이 서브에이전트의 대기 중인 응답을 최대 5분까지 기다릴 수 있게 바뀌었다.

갱신을 새로 맡은 Haiku 5.5는 앤스로픽 Haiku 계열의 최신 모델이다. 메탈은 앤스로픽의 Claude Haiku 5.5 공개를 보도한 바 있다. 클로드 코드 변경 기록에 따르면 2.1.293 버전에서 Haiku 5.5가 앤스로픽 API의 기본 Haiku 모델이 됐고, 컨텍스트 창은 100만 토큰이다. 공식 문서도 탐색용 서브에이전트를 Haiku로 돌리면 더 낮은 비용으로 탐색을 맡길 수 있다고 안내한다.

AI 엔지니어의 눈으로 보면 이번 변경은 모델 성능이 아니라 호출 설계의 문제다. 대화 전체를 다시 읽는 방식에서는 서브에이전트가 오래 일할수록 갱신 한 번에 읽어야 할 분량이 늘어난다. 30초 간격이면 10분짜리 작업 하나에 상태 갱신이 20번 일어나고, 뒤로 갈수록 한 번의 갱신이 무거워진다. 짧은 메모를 작은 모델에 넘기는 방식에서는 갱신 한 번의 크기가 작업 길이에 덜 묶인다. 공식 문서가 부모 대화의 프롬프트 캐시를 그대로 다시 쓰는 포크가 새 서브에이전트보다 비용이 덜 든다고 설명하는 것도 같은 계산이다.

99%는 갱신 한 번의 값이고, 사용자가 체감할 몫은 세션 전체 한도의 약 5%다. 여러 에이전트를 동시에 띄워 두고 일하는 방식이 늘면서, 작업 자체가 아니라 작업을 지켜보는 비용까지 한도에서 빠져나가고 있었다는 사실이 이번 발표로 드러났다. 에이전트 도구의 경쟁이 성능에서 운영 비용의 설계로 옮겨 가고 있다.