unslothai/unsloth
一款让你在自己电脑上运行和训练AI模型的桌面应用,无需写代码
Unsloth是一款桌面应用,可以在本地电脑上直接运行和微调各种模型,包括Qwen、DeepSeek等大语言模型以及FLUX等图像生成模型。它支持Windows、macOS和Linux系统,用一条安装脚本或下载安装包就能开始使用。它还提供网页界面版本Unsloth Studio和面向开发者的代码版本Unsloth Core。
它做什么
- 提供三种使用方式:免设置的桌面应用、网页界面Studio,以及代码版本Core
- 支持LoRA、QLoRA、全量微调、强化学习(RL)、GRPO、DPO等多种训练方法,官方称比常规方式快2倍、显存占用少70%
- 通过一条命令将本地模型接入Claude Code、Codex等AI代理工具,让本地模型充当代理的大脑
- 支持NVIDIA、AMD、Intel、Apple芯片乃至纯CPU等多种硬件,并可通过Cloudflare隧道实现远程访问
- 训练好的模型可导出或部署为GGUF、NVFP4、FP8等多种格式
为什么重要
对于希望摆脱云端API、在自己电脑上运行并定制大型AI模型的开发者和研究者来说,这大大降低了上手门槛。这意味着可以使用最新的开源模型,而无需持续支付API费用或将数据发送到外部服务器。
本仓库术语
- LoRA/QLoRA · 只调整模型部分参数的轻量级微调方法,所需算力大幅降低
- GGUF · 一种压缩后的模型文件格式,方便在普通电脑上运行
- GRPO/DPO · 基于反馈或规则、用强化学习方式改进模型回答质量的方法
- VRAM · 显卡上的内存,容量不足会导致模型无法训练或运行
- MCP(模型上下文协议) · 让AI模型连接文件、应用和外部工具的标准协议
仓库简介(英文)
Local UI to run and train LLMs and diffusion models, including Qwen3.8, Kimi K3, MiniMax-H3, Gemma 4, DeepSeek-V4, FLUX and more.
在 GitHub 打开热门仓库
- cathrynlavery/diagram-design让AI编程工具画出杂志排版质感图表,而不是千篇一律的圆角方框
- public-apis/public-apis一份由社区维护的免费API大全仓库
- semantica-agi/semantica一个让AI智能体的决策可追溯、可审计的开源图谱基础设施
- cactus-compute/needle一个14MB的AI模型,让手机和可穿戴设备无需联网就能调用工具
- macro-inc/macro把邮件、聊天、文档、任务和CRM互相链接、共享同一份AI团队记忆的一体化办公平台
- harry0703/MoneyPrinterTurbo只需一个主题或关键词,就能自动生成配好文案、素材、字幕和音乐的完整短视频的开源工具
- basecamp/omarchyDHH打造的、开箱即用且风格统一的Linux发行版
- mattpocock/skills一套可复用的提示词剧本,防止Claude Code等AI编程代理跑偏