MAX

MAX는 모듈러가 만든, 이미 학습이 끝난 AI 모델을 실제 서비스에서 빠르고 효율적으로 돌려주는 실행 엔진이다. 자동차에 비유하면, 모델은 설계도이고 MAX는 그 설계도대로 실제 도로를 달리게 하는 엔진에 해당한다.

MAX의 특징은 이 엔진이 특정 반도체 한 종류에만 묶여 있지 않다는 점이다. 엔비디아·AMD 그래픽 칩은 물론 아마존의 트레이니엄, 구글의 자체 반도체, 퀄컴 칩까지 같은 방식으로 모델을 올려 돌릴 수 있다. 각 반도체에 맞춰 세밀하게 다듬어진 연산 조각들을 갖추고 있어서, 새로운 반도체를 지원하는 데 드는 개발 부담을 크게 줄여준다.

실제로 미니맥스는 자사 모델을 MAX 위로 옮기고 이 모델의 독자적인 연산 방식에 맞춰 연산 조각을 튜닝해, 매우 큰 규모의 실제 서비스 트래픽을 처리하고 있다.

기사에는 "2025년에는 추론 엔진 MAX의 커널을 열었다", "모듈러는 이 모델을 MAX에 직접 이식하고 MSA 전용 커널을 튜닝해"처럼 등장한다. MAX는 모조라는 프로그래밍 언어 자체가 아니라, 그 언어와 기술로 만들어진 별도의 모델 실행용 제품이라는 점을 헷갈리지 않아야 한다.

모듈러 클라우드 콘솔에 가입하면 오픈AI 호환 방식의 API로 토큰 단위 과금 엔드포인트를 호출해 모델 응답 속도를 직접 체감해볼 수 있다. 별도 설치 없이 기존에 쓰던 오픈AI용 코드의 접속 주소만 바꿔 요청을 보내보면 된다.