올모3

올모3(Olmo 3)는 앨런AI연구소가 만든 언어모델이다. 보통 '공개된' AI 모델이라고 하면 완성된 요리만 내놓고 레시피는 감추는 식당을 떠올리면 된다. 사용은 할 수 있지만 어떤 재료로, 어떤 순서로 만들었는지는 알 수 없다는 뜻이다. 올모3는 이와 달리 완성품은 물론 재료 목록(학습 데이터인 돌마3), 조리 중간 단계(중간 체크포인트), 맛을 평가하는 기준(평가 도구)까지 전부 열어둔 식당에 가깝다.

이 차이는 단순한 투명성 이상의 의미를 가진다. 모델이 왜 특정 능력을 갖게 됐는지—예를 들어 사람의 감정이나 의도를 읽어내는 능력이 어떤 글을 읽고 배운 결과인지—를 되짚어볼 수 있게 해주기 때문이다. 실제로 조지아공대 연구팀은 올모3의 학습 데이터 중 문학 관련 문서를 골라 지워보는 실험을 통해, 그 능력이 정말로 특정 종류의 글에서 비롯됐는지 확인할 수 있었다. 완성품만 공개된 모델이었다면 애초에 시도할 수 없는 실험이었다.

기사에서는 "앨런AI연구소가 만든 올모3(Olmo 3)은 학습 데이터인 돌마3(Dolma 3)과 중간 체크포인트, 평가 도구까지 전부 공개돼 있다"고 설명한다. 흔히 오해하기 쉬운 점은 '오픈소스'라 불리는 모델이면 다 이렇게 투명할 거라는 생각인데, 기사는 오히려 대부분의 오픈소스 모델도 완성된 결과물만 공개하고 학습 데이터나 과정은 감추는 경우가 많다고 짚는다. 올모3가 특별히 언급되는 이유는 그 드문 예외이기 때문이다.