오픈라우터, AI 에이전트 토큰 소비 14배 늘며 사람 추월

구분	토큰 소비 증가 (2026년 2월 6일 이후)
AI 에이전트	14배 (0.51조 → 7.3조 토큰)
사람	2.8배

같은 기간 사람의 토큰 소비도 줄지 않고 늘었다는 점은 눈여겨볼 만해요. 다만 에이전트 쪽 증가 속도가 워낙 가팔라서, 이제 오픈라우터를 오가는 토큰의 절대 다수는 사람이 아니라 AI가 AI에게 보내는 요청이라는 뜻이에요.

캐시 프롬프트가 비용 증가를 눌러줘요

에이전트 토큰 소비량이 14배나 뛰었다고 해서 비용도 14배 늘어나는 건 아니에요. 전체 에이전트 토큰의 약 70%가 캐시 프롬프트에서 나오기 때문이에요. 캐시 프롬프트는 이전에 처리한 내용을 다시 계산하지 않고 저장해 둔 값을 재사용하는 방식이라, 새로 계산하는 토큰보다 훨씬 낮은 단가로 과금돼요. 그래서 실제 비용이 늘어나는 폭은 사용량이 늘어나는 폭보다 훨씬 완만하다고 원문은 짚었어요.

오픈AI·앤스로픽에서도 비슷할까

오픈라우터는 오픈웨이트 모델 비중이 상대적으로 높은 플랫폼이에요. 오픈웨이트 모델은 오픈AI나 앤스로픽의 모델보다 같은 작업을 처리할 때 토큰을 더 많이 쓰는 경향이 있다고 원문은 지적했어요. 다만 토큰 소비가 늘어나는 흐름 자체는 주요 랩에서도 비슷하게 나타날 가능성이 크다고 봐요. 이런 흐름은 사실 추론 모델이 등장하면서 이미 시작됐어요 — 추론 모델은 답을 내놓기 전에 스스로 생각하는 과정을 거치는데, 굳이 그럴 필요가 없는 질문에도 길게 생각하다 보니 토큰을 필요 이상으로 쓰는 경우가 생겨요.

에디터의 시선

에이전트가 사람보다 토큰을 더 많이 쓰는 건 어찌 보면 자연스러운 흐름이에요. 챗봇은 질문 하나에 답 하나를 내놓고 끝나지만, 에이전트는 작업 하나를 끝낼 때까지 계획을 세우고 도구를 부르고 결과를 확인하는 과정을 반복해요. 그 반복 하나하나가 전부 토큰으로 쌓여요. 문제는 이 흐름이 이미 벤치마크에서도 확인되고 있다는 점이에요. 최근 엔비디아가 클로드 오퍼스 5에 자체 하네스를 씌워 ARC-AGI-3 점수를 30%에서 100%로 끌어올린 사례도 같은 맥락 위에 있어요 — 모델 자체보다 모델을 감싸는 하네스가 얼마나 오래, 얼마나 많은 단계를 밟는지가 성능을 갈랐거든요. 토큰을 많이 쓰는 쪽이 점수도 높게 나오는 구조라면, 에이전트의 토큰 소비는 줄어들기보다 앞으로 더 늘어날 가능성이 커요.

실무적으로 보면 이 지표는 국내 기업이 에이전트 도입 예산을 짤 때 참고할 만해요. API 요금을 순수 토큰 수 기준으로 어림잡아 계산했다가는 캐싱 할인율을 놓쳐 실제보다 예산을 부풀리기 쉬워요. 반대로 매번 다른 컨텍스트를 새로 넣어야 해서 캐싱이 잘 안 되는 작업은 토큰 수 그대로 비용이 나가니, 초기 파일럿 단계에서 캐시 적중률을 따로 확인해 보는 편이 나아요.

한 줄 전망을 내면, 다음 분기 오픈라우터 리포트에서는 에이전트 토큰 비중이 사람 대비 열 배를 훌쩍 넘어설 가능성이 커요. 그때쯤이면 '토큰 소비자'라는 말이 사람보다 AI를 먼저 가리키는 말이 될 거예요.