진화적 모델 병합

진화적 모델 병합은 이미 만들어진 여러 인공지능 모델을 처음부터 다시 훈련시키지 않고, 자동으로 섞어서 새 모델을 만드는 방법이다.

요리사 여러 명이 각자 다른 요리를 잘한다고 생각해보자. 한 명은 일본어를 잘하고 한 명은 수학 문제를 잘 푼다. 사람이 두 요리사의 레시피를 하나씩 손으로 섞어보는 대신, 이 방법은 자연의 진화 과정을 흉내 낸 프로그램이 수백 세대에 걸쳐 레시피(모델 안의 수치들)를 이런저런 비율과 순서로 섞어보고, 결과가 좋은 조합만 살아남겨 다음 세대로 넘긴다. 최종적으로 남는 조합이 새 모델이 된다.

핵심은 처음부터 다시 가르치는 과정이 없다는 점이다. 완성된 요리를 재조합하는 것이지 요리를 새로 배우는 게 아니어서, 컴퓨터 자원을 훨씬 적게 쓰고도 새로운 능력을 가진 모델을 만들 수 있다. 사카나AI는 이 방법으로 일본어를 잘하는 모델과 수학을 잘하는 모델을 섞어, 일본어로 수학 문제를 잘 푸는 모델을 만들어 보여줬다.

기사에서는 "사카나AI가 2024년 3월 공개한 진화적 모델 병합은 이미 공개된 오픈 모델 여러 개를 조합해 새 모델을 만든다"처럼 쓰인다. 이때 흔한 오해는 이것이 모델을 다시 훈련시키는 파인튜닝과 같다고 생각하는 것인데, 진화적 모델 병합은 경사하강 기반 학습을 아예 돌리지 않고 이미 학습된 가중치를 조합만 한다는 점이 다르다.