오케스트레이션 레이어

오케스트레이션 레이어는 여러 명의 일꾼을 지휘하는 현장 감독 같은 존재다. 회사에 코드를 찾는 사람, 코드를 실행하는 사람, 디자인을 하는 사람이 따로 있다면, 이 사람들에게 언제 무슨 일을 시킬지 정하고 순서를 관리하는 감독이 필요하다. AI 시스템에서도 마찬가지다. 하나의 큰 작업을 여러 개의 작은 AI가 나눠 맡을 때, 누가 먼저 움직이고 누구에게 결과를 넘길지 정해주는 부분이 오케스트레이션 레이어다.

이 감독 역할은 보통 계속 켜져 있고, 실제 작업을 하는 나머지 일꾼들은 필요할 때만 불려나온다. 감독 자신은 코드를 짜거나 그림을 그리지 않는다. 대신 들어온 요청을 보고 어떤 전문가에게 넘길지 결정하고, 그 결과를 모아 다음 단계로 연결하는 조율 역할만 한다. 컴퓨터 자원이 한정된 환경일수록 이런 역할 분담이 중요해지는데, 모든 일꾼을 동시에 다 켜두면 자원이 금방 바닥나기 때문이다.

그래서 오케스트레이션 레이어는 자원을 아끼면서도 여러 전문가의 능력을 하나로 묶어 쓰는 방법으로 쓰인다. 감독 한 명은 항상 대기시키고, 나머지 전문가들은 일이 있을 때만 깨워서 쓰는 식이다.

언스웜 관련 기사에서는 '오케스트레이터'라는 표현으로 이 개념이 등장해요. 항상 켜둘 모델(오케스트레이터)과 필요할 때만 불러오는 서브에이전트(코드 탐색, 실행, 디자인)를 구분해 배치한 표 예시가 나오는데, 이렇게 작업을 나누고 순서를 관리하는 구조 전체를 오케스트레이션 레이어라고 부른다. 오해하기 쉬운 점은, 이 레이어 자체가 작업 결과물을 만들어내는 게 아니라 누가 어떤 일을 언제 할지 정하는 관리 역할만 한다는 것이다.

직접 코딩 하네스나 챗봇에 아래처럼 요청해보면 오케스트레이션 레이어의 감각을 느낄 수 있다.

프롬프트 예시: "너는 오케스트레이터야. 다음 작업을 코드 탐색, 코드 실행, 문서 요약 세 단계로 나누고, 각 단계를 어떤 순서로 누구에게(가상의 서브 에이전트) 맡길지 계획만 세워줘. 실제 작업은 하지 말고 계획만 알려줘."

이렇게 하면 모델이 실제 작업 대신 역할 배분과 순서만 짜는 감독 역할을 흉내 내는 걸 볼 수 있다.