세이지메이커 하이퍼포드

세이지메이커 하이퍼포드는 아마존의 클라우드 서비스 AWS가 제공하는, 여러 대의 고성능 컴퓨터를 하나로 묶어 인공지능 모델을 학습시키거나 실제 서비스에 연결하는 데 쓰는 관리 도구다.

마치 대형 물류센터가 수백 대의 트럭을 한 번에 관리하며 운행 일정을 짜듯, 하이퍼포드는 수많은 컴퓨터를 하나의 작업 단위로 묶어 인공지능 모델 학습에 투입한다. 트럭 한 대가 고장 나면 자동으로 예비 차량으로 교체해 배송이 멈추지 않게 하는 것처럼, 컴퓨터 한 대에 문제가 생겨도 자동으로 감지해 복구하기 때문에 작업이 중단되지 않는다.

최근에는 모델을 처음부터 학습시키는 용도뿐 아니라, 이미 만들어진 모델을 실제 서비스에 연결해 응답을 내놓게 하는 배포 작업에도 쓰인다. 예컨대 문샷AI(Moonshot AI)의 모델을 하이퍼포드에 올려 서비스로 돌리는 방법이 안내 자료로 공개되기도 했다.

기사에는 “문샷AI(Moonshot AI)의 Kimi K3 모델을 세이지메이커 하이퍼포드(SageMaker HyperPod)와 아마존 EKS에 배포하는 가이드도 함께 공개된 것으로 알려졌다”는 문장이 나온다. 하이퍼포드는 모델 자체가 아니라 그 모델을 돌릴 컴퓨터 묶음을 관리해주는 도구라는 점에 유의해야 한다.