오케스트레이터 LLM

오케스트레이터 LLM은 여러 개의 하위 AI 모델을 지휘해서 하나의 목표를 이루도록 조율하는 최상위 AI 모델이다. 회사에서 팀장이 여러 팀원에게 업무를 나눠주고 각자 만든 결과물을 모아 최종 보고서를 완성하는 것과 비슷한 역할을 한다고 생각하면 된다.

예를 들어 하나의 질문에 제대로 답하려면 검색을 잘하는 모델, 코드를 짜는 모델, 문서를 요약하는 모델처럼 서로 다른 걸 잘하는 여러 모델이 함께 필요할 수 있다. 이때 오케스트레이터 LLM은 질문을 잘게 쪼개서 어떤 하위 모델에게 어떤 부분을 맡길지 정하고, 각 모델이 내놓은 결과를 받아 하나로 이어 붙여 최종 답을 완성한다.

이런 구조는 서버 여러 대가 아니라 컴퓨터 한 대 안에서도 통째로 돌아갈 수 있다. 실제로 퍼플렉시티가 공개한 로컬 실행 버전에서는 지휘 역할을 맡은 모델과 그 지휘를 받는 하위 모델들이 모두 사용자의 기기 한 대 안에서 함께 작동한다.

기사에서는 "오케스트레이터 LLM과 서브에이전트 LLM, 에이전트 하네스 전체가 사용자 하드웨어 안에서 실행되는 구조"라고 설명해요. 오케스트레이터 LLM은 새로 발명된 별도 제품이 아니라, 여러 AI 모델을 엮어 하나의 에이전트 시스템으로 만들 때 지휘 역할을 맡는 모델을 가리키는 표현이라는 점을 알아두면 헷갈리지 않아요.