일본 지자체 1,050곳, 오픈AI 기반 QommonsAI 도입

폴리밀은 원래 시민들이 정치·사회 현안에 대해 의견을 나누는 플랫폼 서프보트(Surfvote)로 출발한 회사예요. 지자체와 협업하는 과정에서 공무원들이 일상 업무에 매달리느라 정작 시민의 목소리를 정책에 반영할 시간이 부족하다는 구조적 문제를 발견했다고 해요. 시민 참여를 넓히려면 먼저 행정 업무 자체를 효율화해야 한다고 판단했고, 그렇게 2024년 10월 QommonsAI를 내놓았어요.

지자체마다 다른 데이터, 어떻게 하나로 묶었나

생성형 AI를 행정에 들여오면서 가장 큰 걸림돌은 흩어진 데이터였어요. 지자체마다 업무 방식과 문서 형식이 제각각이고, 과거 기록도 여기저기 흩어져 있었거든요. 예를 들어 의회 답변을 준비하려면 광역 정책과 어긋나지 않는지 확인하려고 몇 년치 회의록을 일일이 뒤져야 했는데, 아무리 성능 좋은 AI 모델이라도 데이터가 정리돼 있지 않으면 쓸모 있는 답을 내놓기 어려운 구조였죠.

폴리밀은 전국 지자체의 의회 회의록을 모으고 표준화한 뒤, AI로 메타데이터를 붙여 지자체와 시기를 가로질러 검색할 수 있는 기반을 만들었어요. 이 구조를 복지, 법률 같은 다른 행정 영역으로도 확장해서, 흩어진 행정 정보를 공통 인터페이스 하나로 찾아 쓸 수 있게 했고요.

왜 GPT 모델을 골랐나

QommonsAI의 핵심에는 오픈AI의 GPT 모델이 있어요. 공공 부문은 정보 관리와 감사 대응이 중요하다 보니, QommonsAI에는 관리자가 기능별 사용 이력을 확인하고 조직 정책에 따라 쓸 수 있는 모델을 제한하는 운영 통제 기능도 들어가 있어요.

폴리밀의 최고AI책임자(CAIO) Masahiro Wakabayashi는 GPT 모델을 고른 이유로 폭넓은 성능과 함께 친숙함을 꼽아요. 공무원들이 새 도구를 낯설어하더라도, 챗GPT라는 이름을 이미 알고 있다는 사실이 도입 초기 장벽을 낮춰준다는 설명이에요. 폴리밀에 따르면 QommonsAI의 일반 대화 기능에서 GPT 모델은 가장 자주 선택되는 옵션이고, 파일을 읽는 일부터 일상 업무 대화 지원까지 하나의 모델로 폭넓게 대응하는 능력이 현장에 자리 잡는 데 도움이 됐다고 해요.

코덱스 도입 후 개발 속도 3~5배

오픈AI 기술은 QommonsAI를 쓰는 방식뿐 아니라 만드는 방식도 바꿔놨어요. 폴리밀은 요구사항 정의부터 기존 깃허브 코드와의 정합성 확인, 구현, 테스트까지 개발 전 과정에 코덱스를 적용했어요. 엔지니어는 AI가 짠 계획을 검토하고 상위 의사결정을 내리는 데 집중하고, 실제 구현 작업의 상당 부분은 AI가 자율적으로 처리하는 구조예요.

Wakabayashi는 시제품을 만들어 지자체 담당자에게 보여주고 피드백을 받는 검증 주기가 눈에 띄게 빨라졌다고 말해요. 여기에 오픈AI가 해외 우수 사례를 공유하고 개발 프로세스 설계 자체를 함께 다듬어주는 밀착 지원까지 더해지면서, 개발 속도는 기존 대비 3~5배로 올라갔다고 해요.

성과 요약

항목	수치
QommonsAI 출시	2024년 10월
이용 지자체	약 1,050곳 (일본 전역)
이용 공무원	약 55만명
개발 속도 향상	코덱스 도입 후 기존 대비 3~5배
다음 단계	2026년 가을 Qommons ONE 정식 출시 예정

베테랑 공무원의 감각까지 옮기려는 이유

QommonsAI의 값어치는 검색 속도를 높이는 데서 끝나지 않아요. 폴리밀이 진행한 검증에서 경험이 적은 직원이 AI와 축적된 행정 정보를 활용해 작성한 정책 제안이 숙련된 공무원의 제안에 근접한 평가를 받았다고 해요. 다만 가장 높은 평가는 여전히 숙련 공무원의 제안 몫이었는데, 폴리밀은 그 차이를 매뉴얼에 적혀 있지 않은 암묵지 — 정책을 실제로 성사시키는 절차나 주민이 우려할 만한 지점을 읽는 감각 — 에서 찾아요.

Wakabayashi는 "지식이나 데이터로 담기지 않는 부분이 결과물의 질에 영향을 줬다"고 말해요. 폴리밀은 앞으로 숙련 공무원이 AI에 무엇을 어떻게 지시하고 결과를 어떻게 고치는지를 기록해, 문서화되지 않았던 판단을 조직의 지식으로 남기겠다는 계획이에요.

슈퍼 에이전트를 향한 다음 단계

폴리밀은 2026년 가을 외부 기업이 지자체용 애플리케이션을 제공하는 장터 Qommons ONE을 정식으로 내놓을 예정이에요. 그 중심에는 여러 특화 AI와 민간 앱을 한데 묶는 슈퍼 에이전트를 두고, 사용자가 목표만 말하면 필요한 AI나 앱을 호출해 조사부터 발표자료까지 실무 결과물을 만들어내는 구조를 그리고 있어요. 폴리밀은 이 구상을 실현하는 데 GPT 모델의 폭넓은 입출력 능력과 오픈AI가 쌓아온 에이전트 개발 노하우를 중요한 토대로 보고 있어요.

앞서 오픈AI는 미국에서 챗GPT 포 티처스를 20개 주 55개 학군에 추가로 도입해 신규 대상 교육자·직원이 10만명을 넘어섰다고 밝힌 바 있는데, 오픈AI, 챗GPT 포 티처스 미국 55개 학군에 확장 사례처럼 공공·교육 영역에서 대규모 조직 단위 도입을 늘려가는 흐름 위에 QommonsAI 사례도 놓여 있어요.

에디터의 시선

폴리밀 사례가 흥미로운 지점은 오픈AI가 이번에 내세운 숫자가 모델 성능이 아니라 '도입 규모'와 '개발 속도'라는 데 있어요. 모델 자체의 우위보다 '이미 몇십만 명이 매일 쓰고 있다'는 사실이 다음 고객을 설득하는 근거가 된 셈이에요.

세대 비교로 보면 오픈AI의 기업 사례 발표는 작년까지만 해도 매출·성능 지표 중심이었는데, 최근엔 코덱스가 개발 조직 자체를 바꾼 이야기를 앞세우는 쪽으로 옮겨갔어요. 스타트업이 엔지니어를 크게 늘리지 않고도 정부기관 규모 서비스를 3~5배 빠르게 만들었다는 이야기는, 소규모 팀이 큰 조직을 상대하는 정부 대상 사업(B2G) 시장에서 특히 설득력이 있어요.

국내에서 이 사례를 참고할 만한 지점은 데이터 표준화예요. 폴리밀이 시간을 가장 많이 쓴 작업은 AI 모델 튜닝이 아니라 전국 지자체의 회의록을 모으고 형식을 맞추는 일이었어요. 국내 공공기관이나 기업이 비슷한 프로젝트를 검토한다면, AI 도입 전에 흩어진 문서를 정리하는 작업에 예산과 시간을 먼저 배정해야 실제 효과를 볼 수 있다는 뜻이에요.

앞으로 몇 달 안에는 2026년 가을로 예고된 Qommons ONE의 실제 가동 범위와, 그 안에서 외부 기업 앱이 얼마나 붙는지가 이 사례의 다음 검증 지점이 될 거예요.