요약
- Unsloth AI가 모델 실행과 학습을 모두 지원하는 오픈소스 데스크톱 앱 'Unsloth Desktop'을 공개했다.
- macOS·윈도우·리눅스에서 동작하며 MLX, GGUF, 디퓨전 이미지·영상, 오디오 모델을 지원한다.
- Claude Code와 Codex를 로컬 LLM에 연결할 수 있고, 툴 호출 정확도가 50% 높아졌다고 회사는 주장했다.
- 제품명
- Unsloth Desktop
- 공개 시점
- 2026년 8월 11일 (Unsloth AI X 게시)
- 성격
- 오픈소스 데스크톱 애플리케이션
- 지원 OS
- macOS, Windows, Linux
- 지원 포맷·모달
- MLX, GGUF, 디퓨전 이미지·영상, 오디오
- 핵심 기능
- 로컬 모델 실행 + 로컬 학습(파인튜닝)
- 에이전트 연동
- Claude Code, Codex를 로컬 LLM에 연결
- 회사 주장 성능
- 툴 호출 정확도 50% 향상, 실패 시 자기복구(self-healing)
파인튜닝이 터미널에서 나왔다
지금까지 오픈 모델을 자기 데이터로 학습시키려면 파이썬 환경을 만들고, CUDA 버전을 맞추고, 노트북 셀을 순서대로 돌리는 과정을 거쳐야 했다. 실행은 쉬워졌지만 학습은 여전히 개발자 영역이었다. Unsloth AI가 8월 11일 공개한 Unsloth Desktop은 그 두 가지를 한 창 안에 넣은 앱이다. 회사는 이 앱을 "모델을 로컬에서 실행하고 학습하는 첫 데스크톱 앱"이라고 소개했다(Unsloth AI, X).
Unsloth라는 팀
Unsloth는 오픈 모델을 적은 메모리로 빠르게 파인튜닝하는 오픈소스 라이브러리로 알려진 팀이다. LoRA·QLoRA처럼 모델 전체를 다시 학습하지 않고 일부 가중치만 얹어 조정하는 기법을 소비자용 GPU에서 돌아가게 다듬는 작업을 해왔고, 새 오픈 모델이 나올 때마다 GGUF 양자화 파일을 배포하는 곳으로도 로컬 LLM 커뮤니티에서 익숙한 이름이다. 즉 이번 앱은 갑자기 나온 게 아니라, 그 팀이 명령줄로 제공하던 것을 GUI로 옮긴 결과다.
용어를 한 줄로 풀면 이렇다. GGUF는 llama.cpp 계열에서 쓰는 양자화 모델 파일 형식이고, MLX는 애플 실리콘에 맞춘 머신러닝 프레임워크다. 둘을 함께 지원한다는 말은 맥과 PC 어느 쪽에서 내려받은 모델이든 같은 앱에서 다룬다는 뜻이다.
한 앱이 감당하는 범위
| 항목 | 공개된 내용 |
|---|---|
| 실행 | 로컬 모델 추론 |
| 학습 | 로컬 파인튜닝 |
| 모델 형식 | MLX, GGUF |
| 모달리티 | 텍스트, 디퓨전 이미지·영상, 오디오 |
| 운영체제 | macOS, Windows, Linux |
| 라이선스 | 오픈소스 |
텍스트 모델만 다루는 로컬 도구가 대부분이던 상황에서, 이미지·영상 생성용 디퓨전 모델과 오디오 모델까지 같은 앱에 넣은 점이 눈에 띈다.
코딩 에이전트를 클라우드 대신 내 PC에
실용성 면에서 가장 체감되는 항목은 Claude Code와 Codex 연결이다. 두 도구는 앤스로픽(Anthropic)과 오픈AI(OpenAI)가 각각 내놓은 터미널형 코딩 에이전트로, 기본적으로 회사 API를 호출한다. 이걸 로컬 LLM으로 돌리면 코드가 외부로 나가지 않고 사용량 과금도 발생하지 않는다.
문제는 늘 툴 호출이었다. 에이전트는 파일을 읽고 명령을 실행하기 위해 정해진 형식의 함수 호출을 만들어야 하는데, 작은 로컬 모델은 괄호 하나, 인자 이름 하나를 틀려 루프 전체를 멈추게 하는 일이 잦다. Unsloth는 툴 호출 정확도가 50% 더 높고 실패한 호출을 스스로 고치는 자기복구 기능이 들어갔다고 밝혔다. 다만 어떤 모델·어떤 벤치마크와 비교한 수치인지는 이번 게시물에 나오지 않았다. 회사 주장으로 읽어야 하는 대목이다.
로컬에서 돌릴 만한 모델이 먼저 늘었다
이런 앱이 지금 나오는 배경에는 개방형 모델 쪽 변화가 있다. 지난 8월 10일 메타 AI가 공개한 Muse Glimmer는 300억 파라미터 밀집 모델이면서 4비트 양자화 시 언어모델 용량을 20GB 아래로 낮춰, 24GB·32GB급 소비자 GPU — 상급 게이밍 그래픽카드 한 장 수준 — 에서 구동을 노렸다. 함수 호출과 실패 복구 같은 에이전트 루프 작업에 맞춰 학습됐다는 점도 이번 앱의 지향과 겹친다. 하루 전인 8월 9일에는 딥시크가 DeepSeek-V4-Pro를 FP8 정밀도, MIT 라이선스로 허깅페이스에 올렸다.
| 최근 개방형 모델 | 규모·조건 | 라이선스 |
|---|---|---|
| Muse Glimmer (Meta AI, 8월 10일) | 30B 밀집, 4비트 시 20GB 미만 | Apache 2.0 |
| DeepSeek-V4-Pro (딥시크, 8월 9일) | FP8 정밀도 | MIT |
그래서 무엇이 달라지나
로컬 AI는 그동안 "돌려보기"에서 멈춰 있었다. 모델을 내려받아 대화창을 띄우는 일은 쉬워졌지만, 내 문서·내 코드 스타일에 맞게 조정하는 학습은 별개의 기술 장벽이었다. Unsloth Desktop은 그 장벽을 앱 한 개로 낮추겠다는 시도다. 여기에 Claude Code와 Codex를 로컬 모델에 붙이는 경로가 열리면, 사내 코드를 외부 API에 보낼 수 없는 팀이나 요금을 신경 쓰는 개인이 선택할 수 있는 폭이 넓어진다.
판단은 실사용에서 갈릴 것이다. 파인튜닝은 앱이 예쁘다고 쉬워지는 작업이 아니라 데이터를 어떻게 모으고 다듬느냐의 문제이고, 툴 호출 정확도 50%라는 숫자도 여러 모델에서 재현돼야 의미를 갖는다. 다만 오픈소스로 공개된 만큼 검증은 커뮤니티가 빠르게 해줄 영역이다. 로컬 모델을 쓰는 사람들이 지난 몇 달 8B~12B급 중소형 모델의 공백을 두고 아쉬움을 표해온 흐름과 맞물려, 이번 앱은 "어떤 모델을 쓸까"에서 "내 모델로 어디까지 고쳐 쓸까"로 질문을 옮긴다.
댓글