수평 확장

수평 확장이란, 하나의 AI를 더 빠르고 강하게 만드는 대신 여러 AI를 동시에 풀어 일을 나눠 맡기는 방식이다.

비유하자면 이렇다. 100개 회사를 조사해야 할 때, 직원 한 명에게 몰아서 시키면 그 사람은 조사가 길어질수록 앞서 알아낸 내용을 계속 요약해가며 메모를 정리해야 한다. 요약할 때마다 세부 내용이 조금씩 빠지고, 나중엔 처음에 뭘 알아냈는지도 흐릿해진다. 반면 100명을 불러 한 사람당 한 회사씩 맡기면 각자 짧고 정확하게 조사를 끝내고, 그 결과를 모으기만 하면 된다. AI 에이전트도 마찬가지다. 혼자 오래 일하는 에이전트는 기억 용량이 차면서 판단력이 흐려지지만, 짧은 임무를 맡은 에이전트를 여러 대 동시에 돌리면 이 문제를 원천적으로 피할 수 있다.

같은 AI를 더 빠르게, 더 싸게 돌리는 접근과는 다르다. 그것만으로는 한 에이전트가 한 번에 감당할 수 있는 일의 크기 자체는 그대로이기 때문이다. 수평 확장은 일을 잘게 쪼개 여러 몫으로 나눠 맡김으로써 이 한계를 넘어서려는 시도다.

기사에서는 '수평 확장'이 '수직 확장'과 대비되는 개념으로 등장한다. 문샷 AI는 더 빠른 추론이나 낮은 비용 같은 수직 확장만으로는 단일 에이전트의 한계를 돌파할 수 없다며, 최대 100개 서브 에이전트를 동시에 배포하는 Agent Swarm을 수평 확장의 사례로 제시했다. 흔한 오해와 달리 수평 확장은 단순히 같은 작업을 여러 번 반복하는 게 아니라, 하나의 큰 작업을 여러 조각으로 쪼개 병렬로 처리하는 방식이다.

여러 에이전트를 동시에 돌릴 수 있는 도구가 있다면 아래처럼 요청해 수평 확장의 원리를 체감해볼 수 있다.

'이 조사를 10개의 하위 주제로 나누고, 각 주제를 서로 다른 에이전트가 동시에 조사하게 한 뒤 결과를 하나로 종합해줘.'

에이전트 기능이 없는 일반 챗봇에 같은 요청을 하면 작업이 순차적으로 처리돼 같은 속도 효과를 내지 못한다는 점도 함께 확인해볼 만하다.