오픈AI, 베이시스 GPT-6 Astra 사례 공개

오픈AI가 9월 28일 회계 AI 스타트업 베이시스(Basis)의 GPT-6 Astra 도입 사례를 공개했다. 베이시스가 50개 탭으로 이뤄진 복잡한 세무 워크북을 GPT-6 Astra와 이전 모델 GPT-5.6 Sol에 각각 맡긴 결과, Astra가 작업을 끝내는 데 걸린 시간은 Sol의 절반이었다. 베이시스 내부 평가 점수도 약 20% 올랐다. 공동창업자 미치 트로야노프스키는 "GPT-6 Astra는 사용자의 의도와 문제를 정말로 이해하는 일을 더 잘한다"고 말했다.

베이시스는 회계사가 매일 하는 수작업의 상당 부분을 AI 에이전트로 자동화하는 회사다. 2023년 뉴욕에서 매슈 하프 CEO와 트로야노프스키가 함께 세웠고, 2월 24일 액셀이 이끈 1억 달러 규모 시리즈 B 투자를 받으며 기업가치 11억5000만 달러를 인정받았다. GV와 로이드 블랭크페인 전 골드만삭스 CEO, 기존 투자자 코슬라 벤처스가 참여했고 누적 투자금은 1억3800만 달러다. 회사에 따르면 미국 상위 25개 회계법인의 약 30%가 베이시스를 쓰고 있으며, 보도에 따르면 상위 150개 법인으로 넓히면 그 비율은 20%다.

메탈이 확인한 오픈AI 사례 글에 따르면 시험의 과제는 50개 탭짜리 세무 워크북을 정확하고 안정적으로 끝까지 완성하는 것이었다. 트로야노프스키는 "Astra는 그 워크북을 Sol의 절반 시간에 완성한다"고 말했다. 속도의 원천으로 그는 작업 초반의 판단을 꼽았다. Astra가 처음부터 더 나은 결정을 내리면서 에이전트가 더 곧은 경로로 일을 처리하고 실수를 바로잡는 데 쓰는 시간이 줄었으며, 그만큼 토큰도 덜 쓴다는 설명이다. 영상에서 그는 복잡한 일이라도 처음에 방법을 잘 정하면 사실상 절반의 시간에 해낸다고 말했다.

엔지니어의 눈으로 보면 이번 사례에서 가장 눈여겨볼 대목은 추론량 조절이다. 베이시스는 작업이 진행되는 동안 단계의 난이도에 따라 Astra가 쓰는 추론량을 바꾼다. 어려운 단계에서는 계산을 늘리고 쉬운 단계에서는 줄이는 식인데, 이 조정을 하면서도 캐시가 그대로 유지된다. 긴 작업 도중 추론 설정을 바꾸면 앞서 쌓은 캐시를 버려야 하는 구조라면 비용과 응답 시간이 다시 불어나는데, Astra는 그 대가 없이 조절이 된다는 뜻이다. 트로야노프스키는 이 덕분에 장시간 작업이 베이시스와 고객 모두에게 더 경제적이 된다고 밝혔다.

평가 방식도 결과물만 보지 않는다. 베이시스는 에이전트의 최종 답뿐 아니라 일하는 과정을 채점하는데, 정해진 서식을 따르는지, 세무 질문에 1차 자료를 참조하는지, 스스로 결과를 점검하는지를 본다. 내부 평가 점수 20% 개선은 질문해야 할 때를 알고 가정을 드러내며 지시를 따르는 능력, 곧 사용자 의도를 더 잘 읽는 데서 나왔다고 회사는 설명했다. Astra는 이런 기대치를 명시적 지시가 적어도 넓은 맥락에서 추론해 냈고, 베이시스는 상황별 규칙을 일일이 써 넣을 필요가 줄었다.

그 의미는 영상 속 숫자에서 선명해진다. 트로야노프스키는 내부 평가가 다룰 수 있는 상황은 1000가지지만 실제 운영에서 에이전트가 만나는 상황은 10만 가지라며, 1000가지에서 10만 가지로 일반화된다는 확신이 필요하다고 말했다. 베이시스는 상황별 규칙을 덜 쓰게 되면서 내부 테스트가 덮지 못한 상황도 에이전트가 처리할 수 있다는 확신이 커졌다고 밝혔다. 그가 회사의 연구를 실제 규모에서 믿을 수 있어야 하는 장기 에이전트라고 규정한 이유도 여기에 있다.

베이시스는 몇 시간에서 며칠에 걸쳐 복잡한 회계 업무를 이어 가는 장기 에이전트에 집중해 왔다. 회사는 파트너마다 개별 세무 서류를 만들고 맞춤형 이익 배분 약정을 추적해야 하는 미국 파트너십 세무신고서(1065)를 처음부터 끝까지 스스로 완성한 첫 AI 에이전트를 시연했다고 밝혔다. 투자자 비노드 코슬라 코슬라 벤처스 창업자는 "베이시스는 이미 최고의 회계법인들에서 일하는 방식을 급진적으로 바꾸고 있으며, 실무 전반에서 20~50%의 효율을 끌어내고 있다"고 평가했다.

회계사의 역할도 달라진다. 트로야노프스키는 영상에서 베이시스가 회계사를 일을 직접 하는 사람에서 일을 검토하는 사람으로 바꾼다고 말했다. 보도에 따르면 하프 CEO는 미국의 회계사 부족을 메우고, 반복적인 세무신고와 재무제표를 자동화해 회계사가 절세 전략이나 자본 배분 같은 고객의 핵심 결정을 돕는 일에 집중하게 하는 것이 목표라고 밝혔다. 트로야노프스키는 투자 발표 당시 코딩 에이전트가 많은 코드를 쓰게 됐다고 엔지니어를 덜 뽑는 것은 아니며 오히려 더 뽑고 있다고 말하기도 했다.

오픈AI는 GPT-6 Astra 출시 뒤 업종별 고객 사례를 잇달아 내놓고 있다. 메탈은 오픈AI가 법률 AI 하비의 GPT-6 Astra 사례를 공개한 소식을 전한 바 있다. 법률에 이어 회계까지, 공통된 메시지는 긴 작업에서 초반 판단과 의도 이해가 속도와 비용을 함께 끌어내린다는 것이다. 회계처럼 틀리면 곧바로 책임이 따르는 업무에서 그 약속이 통하는지는 결국 평가가 덮지 못한 10만 가지 현장에서 가려진다.