데이터브릭스, AI 게이트웨이 정식 출시…'토큰 낭비' 막는다

'토큰맥싱'에서 '밸류맥싱'으로

데이터브릭스(Databricks)가 자사 블로그를 통해 2026년 8월 4일 Unity AI Gateway를 정식 서비스(GA)로 전환했다고 밝혔다. 회사는 이를 두고 조직이 "토큰맥싱"의 시대에서 "밸류맥싱"의 시대로 넘어가야 한다고 표현했다. 토큰맥싱이란 모델이 얼마나 많은 토큰 — AI가 텍스트를 처리하는 최소 단위 — 을 쓰든 개의치 않고 성능만 좇는 관행을 뜻한다. 밸류맥싱은 그 반대로, 같은 결과를 더 적은 비용으로 뽑아내는 쪽에 무게를 두는 접근이다.

이 개념은 Data+AI Summit 현장 데모에서 구체화됐다. 데이터브릭스 소프트웨어 엔지니어 앵킷 매서(Ankit Mathur)는 실시간 예산 정책이 어떻게 개발자를 더 토큰 효율적인 모델로 유도하는지 시연했다. 예산이 한도에 가까워지면 시스템이 자동으로 더 저렴한 모델로 트래픽을 옮기는 식의 통제가 가능하다는 의미로 읽힌다.

게이트웨이 안에 담긴 6개 기능

행사 슬라이드에 따르면 Unity AI Gateway는 여섯 가지 기능 블록으로 구성됐다.

기능	역할
Agent Registry	조직 내 AI 에이전트를 한곳에 등록·관리
Access Control	모델·에이전트 접근 권한 통제
Contextual Policies	상황에 따라 다른 규칙을 적용하는 정책 엔진
Budgets	실시간 비용 한도 설정 및 모니터링
Smart Routing	요청을 더 적합하거나 저렴한 모델로 자동 분배
Agent Tracing	에이전트 동작 경로 추적·감사

블로그 본문에서는 이 기능들을 세 가지 가치로 묶어 설명한다. 비용 측면에서는 완전한 AI 관측성과 비용 통제를, 통제 측면에서는 데이터와 AI를 하나의 제어판으로 거버넌스하는 것을, 선택 측면에서는 특정 업체에 종속되지 않는 개방형 멀티 AI 접근을 내세웠다.

왜 이 시점에 나왔나

데이터브릭스는 지난 8월 초부터 에이전트 운영 인프라를 잇달아 공개해왔다. 앞서 회계·자문 법인 CLA의 사례에서는 Lakebase Postgres를 백본으로 삼아 큐·재시도·스케줄링을 단일 데이터베이스로 압축하는 방식을 선보인 바 있다. 장시간 실행되는 AI 에이전트일수록 큐, 스케줄러, 캐시, 모니터링 도구가 계속 늘어나는 문제가 있었는데, 이번 Unity AI Gateway는 그중 비용 통제와 모델 선택이라는 영역을 정면으로 겨눈 셈이다.

기업들이 여러 AI 모델을 동시에 쓰는 상황에서 어떤 모델이 얼마나 자주, 얼마나 비싸게 쓰이는지 파악하기 어렵다는 불만은 꾸준히 제기돼 왔다. 게이트웨이는 이런 흐름을 하나의 제어판 아래 모으는 시도로 볼 수 있다.

그래서 무엇이 달라지나

지금까지는 개발자가 어떤 모델을 얼마나 호출하는지 조직 차원에서 실시간으로 통제하기가 쉽지 않았다. Unity AI Gateway가 정식화되면서 관리자는 예산 정책 하나로 값비싼 모델 호출을 자동으로 걸러내거나 저렴한 대안으로 우회시킬 수 있게 됐다. 에이전트가 늘어날수록 비용도 함께 불어나는 구조에서, 이 게이트웨이는 '얼마나 잘 쓰는가'보다 '얼마나 값어치 있게 쓰는가'를 조직의 기본값으로 바꾸려는 시도로 읽힌다.