데이터 흐름 공간
Data Flow Space
서로 다른 AI 모델의 층을 어떤 순서로 이어 붙일지 탐색하는, 모델 병합 기법의 탐색 영역
쉽게 말하면
데이터 흐름 공간이란, 서로 다른 AI 모델에서 가져온 층들을 어떤 순서로 이어 붙일지 찾아내는 가상의 탐색 영역이다.
비유하자면 여러 요리사가 각자 완성해둔 요리를 코스 순서대로 배치하는 일과 비슷하다. 요리 하나하나는 이미 완성돼 있지만, 어떤 순서로 내놓느냐에 따라 코스 전체의 만족도가 달라진다. 이 순서의 경우의 수는 사람이 일일이 따져보기엔 너무 많아서, 컴퓨터가 여러 배치를 자동으로 만들어보고 그중 결과가 좋은 것만 남기는 과정을 반복해 최적의 순서를 찾아낸다.
이 방식의 특징은 새로 처음부터 훈련시키지 않는다는 점이다. 이미 학습이 끝난 모델들의 층을 재료로 그대로 쓰고 이어 붙이는 순서만 바꾸기 때문에, 새 모델을 만드는 데 드는 계산 비용을 크게 줄일 수 있다. 사카나AI가 만든 진화적 모델 병합에서, 데이터 흐름 공간은 여러 모델의 가중치를 섞는 또 다른 탐색 영역과 짝을 이루어 함께 쓰였다.
기사에서 이렇게 나와요
기사에서는 "데이터 흐름 공간(DFS)에서는 서로 다른 모델의 층을 어떤 순서로 이어 붙일지를 진화시키고요"라는 식으로 쓰여요. 데이터가 저장되거나 오가는 저장소를 가리키는 말이 아니라, 모델의 층을 어떤 순서로 배치할지 컴퓨터가 시행착오로 탐색하는 개념적인 영역을 뜻한다는 점을 헷갈리지 않아야 해요.