엠엘옵스

엠엘옵스는 머신러닝 모델을 만든 뒤 실제 서비스에서 문제없이 계속 돌아가게 관리하는 운영 방식이다.

요리사가 새 레시피를 개발하는 일과, 그 레시피로 매일 수백 그릇을 만들어 파는 식당을 운영하는 일은 완전히 다른 일이다. 레시피를 완성하는 건 한 번으로 끝나지만, 식당을 돌리려면 재료 품질을 계속 확인하고, 맛이 변하지 않았는지 점검하고, 손님이 몰리는 시간에 대처하는 일이 끝없이 이어진다. 머신러닝 모델도 마찬가지다. 데이터를 넣어 모델을 학습시키는 건 한 번의 작업이지만, 그 모델을 실제 서비스에 붙여 놓으면 입력 데이터가 바뀌었는지, 예측이 이상해지지 않았는지, 트래픽이 몰릴 때 얼마나 빨리 응답하는지를 계속 지켜봐야 한다. 이 지켜보고 고치고 다시 배포하는 반복 작업 전체를 가리키는 말이다.

이 개념은 시대에 따라 대상이 넓어져 왔다. 숫자를 예측하는 모델을 운영에 올리던 시절엔 엠엘옵스라 불렸고, 챗봇처럼 문장을 만드는 언어모델이 등장하면서 프롬프트와 모델 버전까지 관리하는 개념이 추가돼 엘엘엠옵스로 이어졌다. 최근에는 스스로 도구를 고르고 여러 단계를 거쳐 작업을 실행하는 에이전트를 관리하는 개념까지 나오면서, 그 다음 단계로 확장되고 있다.

기사에서는 데이터브릭스(Databricks)가 예전엔 예측 모델을 운영에 올리는 관행을 엠엘옵스라 불렀고, 언어모델이 등장하면서 엘엘엠옵스로, 이제는 에이전트를 위한 에이전트옵스로 이어졌다고 설명하는 대목에 등장해요. 오해하기 쉬운 점은 엠엘옵스가 모델을 더 잘 학습시키는 기술이라고 생각하는 것인데, 실제로는 이미 만들어진 모델을 서비스에 배포하고 문제를 발견해 고치는 운영 절차를 뜻해요.