Oumi, 프로덕션 로그로 스스로 학습하는 LLM 플랫폼 공개

프로덕션 로그가 곧 학습 데이터가 된다

Oumi가 새로운 개발 플랫폼을 공개했다. 핵심은 LLM이 실제 서비스에서 쌓인 트래픽, 즉 사용자가 실제로 주고받은 요청과 응답을 재료 삼아 계속 학습하게 만드는 것이다. 모델은 자기 자신의 답변을 스스로 평가하고, 그 평가 과정에서 발견한 데이터를 다시 학습용 데이터로 합성한 뒤, 그걸로 재학습을 한다. 이 세 단계가 하나의 순환 구조로 묶여 있다는 게 이번 공개의 골자다. Oumi 측은 이렇게 만들어진 특화 모델이 좁은 범위의 작업에서는 프론티어 모델보다 10배에서 100배까지 저렴하게 돌아간다고 밝혔다. 학습된 가중치는 사용자가 그대로 소유하며, 데이터 합성부터 평가, 학습, 배포까지 전 과정을 이 플랫폼 안에서 실행할 수 있다는 설명이다.

이게 무슨 얘긴가

지금까지 기업이 LLM을 특정 업무에 맞게 손보는 방법은 크게 두 갈래였다. 하나는 프롬프트나 검색증강생성(RAG)으로 큰 모델을 그때그때 유도하는 방식, 다른 하나는 공개된 베이스 모델을 파인튜닝해 작은 전용 모델을 따로 만드는 방식이다. Oumi가 겨냥한 건 후자를 자동화하는 지점이다. 사람이 데이터를 모으고 라벨링해 재학습시키는 대신, 모델이 실사용 로그를 스스로 채점하고 부족한 부분을 합성 데이터로 메워 다시 학습하는 루프를 돌린다는 것이다. 이는 최근 오픈소스 진영에서 계속 확인되는 흐름과 맞닿아 있다. 지난 8월 11일 공개된 Unsloth Desktop은 로컬 환경에서 모델 실행과 학습을 함께 지원하는 오픈소스 앱을 내놨고, 같은 날 소개된 AISquared·Domyn 사례는 Ai2의 Olmo 계열 모델을 파인튜닝해 자체 인프라 호스팅 비용을 절반으로 줄였다고 밝힌 바 있다. 프론티어 모델 하나로 모든 걸 처리하기보다, 특정 업무에 맞춘 작은 모델을 값싸게 계속 굴리는 쪽으로 무게중심이 옮겨가고 있다는 정황이다. 다만 이번 발표는 X 게시글 수준의 짧은 소개에 그쳐, 순환 학습의 구체적인 알고리즘이나 어떤 벤치마크로 10~100배 비용 절감을 측정했는지는 확인되지 않았다.

그래서 뭐가 달라지나

기업이 자체 서비스 로그를 그대로 학습 재료로 되돌릴 수 있게 된다면, 모델을 계속 사람이 손봐야 한다는 전제가 흔들린다. 서비스를 운영하는 것 자체가 모델을 훈련시키는 과정이 되는 구조다. Oumi는 이 플랫폼을 직접 테스트해볼 수 있도록 안내를 함께 내놨는데, 실제로 자가 학습 루프가 얼마나 안정적으로 도는지, 오류가 스스로 증폭되는 부작용은 없는지는 더 많은 사례가 쌓여야 가늠할 수 있다.