랩엘엘엠

랩엘엘엠은 개인용 맥 컴퓨터 안에서 인공지능 언어 모델을 아무것도 없는 상태부터 설계하고, 원하는 자료로 직접 훈련시켜, 완성된 결과물과 대화까지 나눠볼 수 있는 무료 앱이다. 비유하자면 완성차를 사는 게 아니라 엔진 크기부터 정하고 부품을 조립해 직접 시운전까지 해보는 미니 자동차 공방에 가깝다.

이 앱은 애플이 자사 칩에서 딥러닝 연산을 빠르게 돌리도록 만든 도구를 바탕으로 돌아가기 때문에, 애플 실리콘이 들어간 맥에서만 쓸 수 있다. 만든 모델, 훈련에 쓴 데이터, 대화 기록은 모두 클라우드가 아니라 사용자의 맥 안에만 저장된다는 점이 특징이다.

아직은 다듬어지는 중인 초기 버전(베타)이며, 개발자 한 명이 깃허브에 공개한 오픈소스 소프트웨어다. 무료로 내려받아 조건 없이 쓸 수 있다.

"맥북 안에서 미니 LLM을 처음부터 키우는 오픈소스 앱 나왔다"는 표현처럼, 랩엘엘엠은 챗GPT 같은 완성된 서비스가 아니라 언어 모델을 만드는 실습 도구로 소개된다. 오해하기 쉬운 점은, 이 앱으로 만드는 모델이 상용 대형 모델과 성능을 겨루기 위한 것이 아니라 개인 학습·실험용 소형 모델을 손으로 만져보며 이해하기 위한 목적이라는 것이다.

1. 깃허브에서 LabLLM 저장소를 내려받는다. macOS 14 이상, 애플 실리콘 M1 이상 맥이 필요하다.
2. 터미널에서 빌드 명령을 실행해 소스를 컴파일한다. 처음에는 관련 라이브러리를 받느라 시간이 걸릴 수 있다.
3. 앱을 실행하면 뜨는 모델 빌더에서 크기 프리셋(tiny·small·medium·large) 중 하나를 고른다.
4. 데이터 화면에서 원하는 공개 데이터셋을 검색해 가져오거나, 가지고 있는 텍스트 파일·대화 기록을 직접 불러온다.
5. 훈련을 시작하면 손실 그래프와 실시간 샘플 출력이 뜬다. 언제든 멈췄다 이어서 진행할 수 있다.
6. 훈련이 끝난 모델을 저장한 뒤 채팅 창에서 말을 걸어 결과를 직접 확인해본다.