오픈AI, API 키별 지출 추적·한도 설정 기능 공개

오픈AI가 API를 쓰는 개발자용 Usage·Spend 대시보드에 API 키 단위 필터를 추가했다고 공식 X 계정을 통해 밝혔다. 지금까지는 조직이나 프로젝트 전체의 지출만 한눈에 볼 수 있었다면, 이제는 "All API keys" 필터를 걷어내고 특정 키 하나만 골라 사용량과 지출 추이를 따로 확인할 수 있다. 함께 공개된 예시 화면을 보면 8월 1일부터 20일까지 총 지출 5,230달러 가운데 production-api 키가 3,657달러, search-indexer 키가 1,018달러, staging 키가 555달러를 차지했다. 같은 조직 안에서도 운영 서버가 쓰는 키와 테스트용 키의 비용 격차가 이 정도로 크게 벌어질 수 있다는 뜻이다.

API는 프로그램끼리 서로를 불러 쓰는 창구다. 오픈AI의 API를 예로 들면 한 회사가 챗봇·검색 색인기·사내 테스트 서버처럼 여러 앱을 운영할 때 보통 앱마다 별도의 API 키를 발급받아 쓴다. 문제는 이 키들을 한 조직 계정에 묶어 두면 청구서에는 총액만 찍히고, 어느 앱이 얼마를 쓰는지는 개발자가 직접 로그를 뒤져야 알 수 있었다는 점이다. 서비스가 커질수록 이 추적 작업은 번거로워진다. 실제로 지난 8월 초 AWS도 Amazon Bedrock에서 실행되는 오픈AI Codex의 사용량을 CloudWatch로 자동 수집해 팀·부서·비용 센터 단위로 보여주는 아키텍처를 공개한 바 있는데, 이번 오픈AI의 기능도 같은 문제의식—누가 얼마를 쓰는지 조직 스스로 파악하기 어렵다는 점—에서 나온 조치로 볼 수 있다.

이번 업데이트로 개발자는 대시보드에서 특정 API 키를 선택해 일별 지출 추이를 확인하고, 예상보다 비용이 튀는 앱이나 워크로드를 곧바로 찾아낼 수 있다. 또 조직이나 개별 프로젝트 단위로 월별 지출 한도를 미리 정해 둘 수 있고, 한도에 도달하면 트래픽 자체를 막는 하드 리밋도 함께 지원한다. 여러 팀이 하나의 오픈AI 계정을 나눠 쓰는 조직이라면 팀별 키를 분리해 발급한 뒤 이 대시보드로 예산 초과를 사전에 막는 식으로 활용할 수 있다.