Orchestrator

오케스트레이터는 여러 개의 AI 프로그램이 각자 맡은 일을 하도록 지시하고, 그 결과를 모아 하나의 결론으로 정리하는 관리자 프로그램이다.

식당의 헤드 셰프를 떠올리면 이해가 쉽다. 헤드 셰프는 직접 모든 요리를 만들지 않는다. 대신 누가 어떤 요리를 맡을지 정하고, 완성된 요리들이 접시에 올라가기 전에 순서와 상태를 점검한다. 오케스트레이터도 마찬가지다. 실제로 검색을 하거나 계산을 하는 건 하위 프로그램들이고, 오케스트레이터는 어떤 일을 누구에게 맡길지 정하고, 다시 그 일이 필요한지 판단해서 최종 결과를 사용자에게 전달한다.

최근 기사들을 보면 이 구조가 실생활 사례로 자주 등장한다. 새벽 트레이딩 데스크를 혼자 운영한 사람은 매매·헤지·시장 분석을 맡는 하위 프로그램 여러 개를 두고, 이를 조율하는 오케스트레이터 하나를 얹어 24시간 돌아가는 팀처럼 만들었다. 흉부 엑스레이를 판독하는 시스템에서는 오케스트레이터가 이미지와 질문을 받아, 심장 폭을 재는 계산이 필요한지 판단하고 그 결과를 받아 최종 보고서로 정리하는 역할을 맡았다.

트레이딩 데스크 기사에서는 "AI 에이전트 6개와 이를 조율하는 오케스트레이터 하나"라는 표현이 나와요. 오해하기 쉬운 부분은, 오케스트레이터가 직접 매매를 하거나 진단을 내리는 주체라고 생각하는 것인데, 실제로는 작업을 나누고 결과를 모으는 역할만 하고, 최종 결정이나 실행은 사람이나 다른 하위 프로그램이 맡아요.

챗봇에게 여러 하위 작업을 조율하는 역할을 맡겨보면 오케스트레이터의 동작을 체감할 수 있다. 다음 프롬프트를 복사해 써보자.

"너는 오케스트레이터 역할이야. 아래 세 가지 작업을 처리할 순서를 정하고, 각 작업에 어떤 방식이 필요한지 판단한 다음, 모든 결과를 하나의 요약 보고서로 정리해줘: 1) 이 글의 핵심 내용 3줄 요약, 2) 글에서 언급된 숫자 데이터 정리, 3) 이 내용을 처음 접하는 사람에게 설명할 한 문단 작성."