페이-퍼-토큰 방식

페이-퍼-토큰 방식은 AI 서비스를 쓴 만큼, 정확히는 AI가 주고받은 텍스트를 잘게 쪼갠 조각의 개수만큼 요금을 내는 방식이다. 그 조각을 토큰이라고 부르는데, 대략 단어 하나나 그 일부 정도로 생각하면 된다.

전기 요금이나 수도 요금처럼 쓴 만큼 계량해서 내는 구조라고 보면 쉽다. 매달 일정 금액을 내고 무제한으로 쓰는 구독제와도 다르고, 서버 한 대를 통째로 빌려 항상 켜두는 예약 용량 방식과도 다르다. 요청이 몰리는 달에는 요금이 늘고, 안 쓰면 거의 나오지 않는다.

스타트업이나 작은 개발팀이 처음 AI 서비스를 붙일 때 많이 선택하는 방식이다. 서버를 미리 사두거나 예약해둘 필요 없이, 요청을 보낸 만큼만 비용이 청구되기 때문이다. 다만 트래픽이 커지고 예측 가능해지면, 오히려 일정 용량을 미리 사두는 예약형 방식이 더 저렴해지는 경우도 있다.

기사에서는 "과금은 페이-퍼-토큰 방식의 서버리스 추론을 기본으로 한다"고 설명한다. 여기서 오해하기 쉬운 점은, 이 방식이 항상 가장 저렴하다는 뜻은 아니라는 것이다. 트래픽이 안정적이고 예측 가능한 팀에게는 미리 용량을 예약해두는 PTU(예약 용량) 방식이 더 유리할 수 있으며, 기사도 실제로 스타트업 크레딧이 예약 용량 방식에는 적용되지 않는다고 구분해서 밝히고 있다.

쓰고 있거나 검토 중인 AI 서비스의 요금 안내 페이지를 열어보자. 가격이 백만 토큰당 얼마인지로 표시돼 있다면 페이-퍼-토큰 방식이고, 월 얼마짜리 정액제나 예약 용량 단위로 표시돼 있다면 다른 과금 방식이다. 자신의 서비스 사용 패턴이 들쭉날쭉한지 일정한지에 따라 어느 쪽이 유리할지 가늠해볼 수 있다.