unslothai/unsloth
코딩 없이 내 컴퓨터에서 AI 모델을 돌리고 학습시키는 데스크톱 앱
Unsloth는 Qwen, DeepSeek, Gemma, FLUX 같은 다양한 LLM과 이미지 생성 모델을 개인 컴퓨터에서 직접 실행하고 학습시킬 수 있는 데스크톱 앱이다. Windows, macOS, Linux를 모두 지원하며 클릭 몇 번이나 설치 스크립트 한 줄로 시작할 수 있다. 웹 UI 버전인 Unsloth Studio와 코드로 직접 다루는 Unsloth Core 방식도 함께 제공한다.
무엇을 하는 레포인가
- 설치 없이 바로 쓰는 데스크톱 앱과 웹 UI(Studio), 코드 기반 패키지(Core) 세 가지 방식으로 제공된다
- LoRA, QLoRA, 전체 파인튜닝, 강화학습(RL), GRPO, DPO 등 다양한 학습 기법을 지원하며 일반 대비 2배 빠르고 VRAM을 70% 적게 쓴다고 소개한다
- Claude Code, Codex 같은 AI 에이전트 도구와 한 줄 명령으로 연결해 로컬 모델을 에이전트의 두뇌로 쓸 수 있다
- NVIDIA뿐 아니라 AMD, Intel, Apple 실리콘, CPU까지 폭넓은 하드웨어를 지원하고 Cloudflare를 통한 원격 접속 기능도 있다
- 학습한 모델은 GGUF, NVFP4, FP8 등 여러 형식으로 내보내거나 배포할 수 있다
왜 중요한가
클라우드 API 없이 자기 컴퓨터에서 대형 AI 모델을 직접 돌리고 취향에 맞게 학습시키고 싶은 개발자나 연구자에게 진입 장벽을 크게 낮춰준다. 비용 부담 없이 데이터를 외부로 보내지 않고도 최신 오픈소스 모델을 다룰 수 있게 해준다.
이 레포의 용어
- LoRA/QLoRA · 모델 전체가 아닌 일부만 적은 자원으로 학습시키는 경량 파인튜닝 기법
- GGUF · 모델을 가볍게 압축해 일반 PC에서도 돌릴 수 있게 만든 파일 형식
- GRPO/DPO · 사람 피드백이나 규칙 기반으로 모델 답변 품질을 강화학습으로 개선하는 방법
- VRAM · 그래픽카드에 달린 메모리로, AI 모델 학습·실행 시 용량이 부족하면 작동이 안 된다
- MCP(Model Context Protocol) · AI 모델이 파일, 앱, 외부 도구와 연결해 작업하도록 하는 표준 규격
레포 원문 소개 (영문)
Local UI to run and train LLMs and diffusion models, including Qwen3.8, Kimi K3, MiniMax-H3, Gemma 4, DeepSeek-V4, FLUX and more.
GitHub에서 보기주목받는 레포
- cathrynlavery/diagram-designAI 코딩 도구가 그리는 다이어그램을 흔한 둥근 사각형 대신 잡지 느낌 편집 디자인으로 바꿔주는 스킬
- public-apis/public-apis세상의 모든 무료 API를 한곳에 모아둔 목록 저장소
- semantica-agi/semanticaAI 에이전트가 왜 그런 결정을 내렸는지 그래프로 증명하는 오픈소스 인프라
- cactus-compute/needle14메가바이트짜리 AI 모델로 스마트폰과 웨어러블에서 인터넷 없이 도구 호출하기
- macro-inc/macro이메일, 채팅, 문서, 업무관리, CRM을 하나로 묶고 AI가 팀 전체 기억을 공유하는 업무 플랫폼
- harry0703/MoneyPrinterTurbo주제나 키워드 하나만 입력하면 대본, 영상 소재, 자막, 배경음악까지 자동으로 붙여 짧은 영상 하나를 완성해주는 오픈소스 도구
- basecamp/omarchyDHH가 만든, 미리 취향껏 세팅된 리눅스 배포판
- mattpocock/skillsAI 코딩 에이전트가 삼천포로 빠지지 않게 잡아주는 재사용 가능한 '스킬' 모음집