조지아텍, 올모3 완전공개로 사회적 추론의 뿌리 추적

완전공개 모델이라야 가능했던 실험

연구팀이 쓴 방법은 영향함수(influence functions)라는 기법이다. 모델이 학습한 개별 문서 하나하나가 특정 벤치마크 문제의 답변에 얼마나 영향을 줬는지를 추정하는 방식이다. 이 추정치를 문서 유형별로 합산하면 문학이든 기술 문서든, 어떤 종류의 글이 모델의 특정 능력을 뒷받침하는지 보인다. 다만 이 방법이 성립하려면 모델이 그 문서를 실제로 학습했다는 사실이 확인돼야 한다.

대부분의 언어모델은 이걸 확인할 방법이 없다. 흔히 오픈소스라 불리는 모델도 완성된 가중치만 공개하고 무엇으로 어떻게 학습시켰는지는 감추는 경우가 많기 때문이다. 반면 앨런AI연구소가 만든 올모3(Olmo 3)은 학습 데이터인 돌마3(Dolma 3)과 중간 체크포인트, 평가 도구까지 전부 공개돼 있다. 연구팀이 이 모델을 고른 이유다. Matlin은 "내 연구의 목표는 모델의 행동을 그걸 만든 학습 데이터로 되짚어 연결하는 지도를 그리는 것"이라고 설명했다.

568만 문서로 4개 벤치마크를 갈랐다

연구팀은 올모 생태계의 다섯 가지 공개 도구를 동원했다. 올모3 자체, 학습 데이터 돌마3, 데이터를 주제·형식별로 분류하는 라벨링 시스템 WebOrganizer, 벤치마크를 공급하는 OlmoEval, 채점 기준을 통일하는 OLMES다. 돌마3에는 약 12억6000만개 문서가 들어 있어 하나하나 분석하기는 불가능하다. 연구팀은 576개 문서 범주에 걸쳐 568만개를 표본으로 뽑고, 각 문서가 벤치마크 답변에 미친 영향을 범주별 점수로 합산했다.

이 작업을 SocialIQA와 ARC-Challenge(추론 능력), MMLU의 사회과학·STEM 세트(사실 지식) 등 네 개 벤치마크에 각각 적용해 벤치마크마다 고유한 '영향 프로필'을 만들었다.

'사회 vs 과학'이 아니라 '서사 vs 설명'이었다

네 프로필을 비교한 결과는 예상보다 덜 단순했다. 연구팀은 애초에 사회 지식과 과학 지식이 갈릴 거라 봤지만, 실제로는 MMLU의 사회과학 지식이 사회적 추론보다는 STEM 지식·추론 능력과 더 비슷하게 움직였다. 오히려 유별났던 건 SocialIQA다. 이 벤치마크의 답변은 문학, 일상적 사회생활, 고객상담, Q&A 게시판처럼 서사적이고 대화체가 강한 돌마 범주에 유독 크게 의존했다. 나머지 세 벤치마크는 기술 문서·과학 글 같은 설명형 텍스트에 더 많이 기댔다.

Chakraborty는 "대화가 많고 사회적·정서적 언어 비중이 높은 범주가 다른 어떤 벤치마크보다 사회적 추론에 강하게 영향을 줬다"고 밝혔다. 이 경향은 사회적 추론에만 그치지 않았다. 대화체·인간관계 중심 글은 지식 벤치마크보다 두 추론 벤치마크(SocialIQA, ARC) 모두에서 더 큰 영향을 보였다. 대화형 데이터가 단순히 사회적 상황을 가르치는 것을 넘어 추론 능력 자체에도 관여할 가능성을 시사하는 대목이다.

연구팀은 이 결과가 "문학을 늘리면 사회적 추론이 좋아진다"는 식의 간단한 공식은 아니라고 선을 그었다. 대신 어떤 데이터가 어떤 능력을 실제로 뒷받침하는지 확인되면, 그 데이터를 늘리거나 줄였을 때 모델이 어떻게 바뀌는지 시험하는 데 쓸 수 있다고 봤다.

왜 이런 연구가 지금 가능해졌나

지난 8월 6일 앨런AI연구소는 Ai2, 허깅페이스와 협력 확대…저장용량 3배로에서 허깅페이스 허브 저장용량을 기존 대비 약 3배인 2페타바이트 수준으로 늘렸다고 밝힌 바 있다. 대형 데이터셋과 다중 체크포인트 모델을 속도 제한 없이 내려받을 수 있게 한 조치로, 앨런AI연구소가 공개해온 모델·데이터셋은 2024년 봄 이후 5000만 회 넘게 다운로드된 것으로 알려졌다. 이번 조지아공대 연구는 그렇게 쌓인 공개 인프라 위에서 나온 결과물이다.

Matlin은 "AI 안전 연구자들은 기존 통념에 도전하고 전혀 새로운 감사 방법을 시도해야 하는데, 이는 연구자들이 전적으로 민간 연구소의 모델 자산에만 의존해야 한다면 불가능했을 일"이라며 "앨런AI연구소는 단순히 모델만 공개한 게 아니라 외부 팀이 그 모델을 조사하고 처음부터 재현할 수 있을 만큼의 과학적 스택을 통째로 공개했다"고 말했다.

코드와 데이터 직접 확인하기

연구팀은 실험 코드와 세부 결과를 github.com/HCAI-LAB-gt/capabilibara 저장소와 huggingface.co의 capabilibara 스페이스에 올려 뒀다. 방법론을 다룬 논문은 arXiv에 공개된 연구 설계에서 볼 수 있고, 궁금한 점은 연구팀 디스코드 서버에서 물어볼 수 있다. 지금은 코드와 결과물 공개 단계로, 별도의 앱이나 웹 UI 없이 저장소를 내려받아 재현하는 형태다.

에디터의 시선

이 연구가 흥미로운 지점은 결과 자체보다 그 결과를 얻기 위해 밟은 절차에 있다. 챗GPT나 클로드 같은 폐쇄형 모델을 놓고 "어떤 데이터가 이 답변을 만들었나"를 묻는 건 원리적으로 불가능하다. 학습 데이터가 공개돼 있지 않으니 추정만 할 수 있을 뿐이다. 반면 올모3은 가중치, 학습 문서, 중간 체크포인트, 채점 기준까지 전부 열려 있어서 외부 대학원생 두 명이 대기업 연구소 수준의 감사를 독립적으로 수행할 수 있었다. 이건 모델 하나를 잘 만드는 것과는 다른 종류의 기여다.

실무적으로 보면 이 연구의 진짜 값어치는 "문학을 넣으면 사회성이 좋아진다"는 결론이 아니라 방법론에 있다. 국내에서 파인튜닝이나 데이터 큐레이션을 하는 팀이라면, 특정 벤치마크 점수를 올리겠다고 무작정 데이터 양을 늘리기 전에 어떤 유형의 텍스트가 그 능력과 실제로 연결돼 있는지부터 확인하는 절차가 가능해진다는 뜻이다. 다만 이 방법은 568만 문서를 표본으로 뽑고 벤치마크마다 영향력을 재계산하는 만만치 않은 연산을 요구한다. 데이터 몇 기가바이트 수준의 소규모 파인튜닝에 바로 적용하기보다는, 자체 파운데이션 모델을 학습하는 조직이 데이터 구성 전략을 세울 때 참고할 방법론으로 보는 게 맞다.

앞으로 몇 달간 비슷한 방식의 '공개 모델 감사' 연구가 늘어날 가능성이 크다. 허깅페이스 허브 저장 공간을 3배로 늘린 앨런AI연구소의 최근 행보와 맞물려, 완전공개 모델을 학술 감사의 표준 벤치마크로 쓰려는 흐름이 자리 잡는 모양새다.