엘엘엠옵스 (LLMOps)

엘엘엠옵스는 대형 언어모델을 실험실 밖으로 꺼내 실제 서비스에서 매일 돌리기 위한 관리 체계예요. 자동차로 비유하면, 모델을 학습시키는 일은 자동차를 조립하는 작업이고 엘엘엠옵스는 그 차를 도로에 내보낸 뒤 정비하고 연료를 채우고 사고가 나면 대응하는 일에 가까워요. 모델은 한 번 만들고 끝나는 게 아니라 계속 손봐야 하는 물건이라는 뜻이에요.

구체적으로는 프롬프트를 바꿀 때 이전 버전과 성능을 비교하고, 새 모델로 교체했을 때 답변 품질이 떨어지지 않는지 확인하고, 호출이 몰려 비용이 갑자기 치솟지 않는지 감시하는 일들이 여기에 들어가요. 예전에는 예측 모델을 서비스에 올리는 관행을 가리키는 말이 있었는데, 언어모델이 등장하면서 프롬프트와 모델 버전 관리라는 새로운 과제가 더해져 이 말이 따로 자리를 잡았어요.

최근엔 언어모델이 스스로 도구를 고르고 여러 단계를 밟아 작업을 수행하는 형태로 진화하면서, 엘엘엠옵스 다음 단계로 이런 자율적인 실행 단위를 관리하는 규율이 따로 이야기되기 시작했어요.

기사는 「예전엔 예측 모델을 운영에 올리는 관행을 MLOps라 불렀고, 챗GPT 같은 언어모델이 나오면서 프롬프트·모델 버전 관리를 더한 LLMOps가 뒤를 이었어요」라고 설명해요. 여기서 LLMOps는 응답을 내놓는 언어모델 자체를 안정적으로 서비스하는 단계를 가리키며, 도구를 고르고 여러 단계를 스스로 실행하는 에이전트를 관리하는 다음 단계(에이전트옵스)와는 구분돼요.