출력 토큰

출력 토큰은 AI가 답을 만들어낼 때 내놓는 글자 조각 하나하나를 세는 단위다. AI는 문장을 한 번에 통째로 쓰는 게 아니라 레고 블록을 하나씩 이어 붙이듯 작은 조각을 순서대로 만들어내는데, 이 블록 하나하나가 토큰이고 그중에서도 AI가 직접 뱉어내는 쪽을 출력 토큰이라 부른다. 반대로 사람이 입력한 질문이나 첨부한 자료를 세는 쪽은 입력 토큰이라 한다.

식당에 비유하면 쉽다. 손님이 적어낸 주문서 내용이 입력이라면, 주방이 실제로 만들어 내놓는 요리 접시 수가 출력이다. AI 서비스 요금도 보통 입력 토큰과 출력 토큰을 따로 계산해서 청구하는데, 답을 길게 쓸수록 출력 토큰이 늘고 비용도 늘어난다.

출력 토큰이 많이 쓰였다는 건 AI가 짧은 인사만 하는 게 아니라 긴 보고서를 쓰거나, 코드를 통째로 만들거나, 여러 단계 작업의 결과물을 실제로 내놓았다는 뜻이다. 그래서 기업이 AI에게 얼마나 무겁고 실질적인 업무를 맡기는지 가늠하는 지표로도 쓰인다.

기사에서는 "활성 사용자 1명당 뽑아내는 출력 토큰이 일반 기업의 8.3배"처럼 쓰인다. 여기서 출력 토큰량은 AI를 단순히 더 자주 쓴다는 뜻이 아니라, 얼마나 깊이 있는 업무를 맡겨 실제 결과물을 뽑아내는지를 보여주는 지표로 인용된다. 흔한 오해와 달리, 출력 토큰이 많다고 무조건 답이 더 좋은 것은 아니다 — 양보다 완료된 작업의 질이 중요하다.

1. 아무 챗봇에 같은 질문을 두 번 던져본다. 한 번은 "한 문장으로 답해줘", 한 번은 "예시를 들어 자세히 설명해줘"라고 요청한다.
2. 두 답변의 길이 차이를 눈으로 비교해본다 — 답이 길어질수록 그만큼 출력 토큰도 많이 쓰인 것이다.
3. API를 직접 다루는 경우라면 응답에 함께 오는 사용량(usage) 정보에서 출력 토큰 수를 정확히 확인할 수 있다.