每天早上一封邮件,把昨天的 AI 梳理好订阅邮件

METAL LAB

unslothai/unsloth

73,954本周 +3,338Python

一款让你在自己电脑上运行和训练AI模型的桌面应用,无需写代码

Unsloth是一款桌面应用,可以在本地电脑上直接运行和微调各种模型,包括Qwen、DeepSeek等大语言模型以及FLUX等图像生成模型。它支持Windows、macOS和Linux系统,用一条安装脚本或下载安装包就能开始使用。它还提供网页界面版本Unsloth Studio和面向开发者的代码版本Unsloth Core。

它做什么

  1. 提供三种使用方式:免设置的桌面应用、网页界面Studio,以及代码版本Core
  2. 支持LoRA、QLoRA、全量微调、强化学习(RL)、GRPO、DPO等多种训练方法,官方称比常规方式快2倍、显存占用少70%
  3. 通过一条命令将本地模型接入Claude Code、Codex等AI代理工具,让本地模型充当代理的大脑
  4. 支持NVIDIA、AMD、Intel、Apple芯片乃至纯CPU等多种硬件,并可通过Cloudflare隧道实现远程访问
  5. 训练好的模型可导出或部署为GGUF、NVFP4、FP8等多种格式

为什么重要

对于希望摆脱云端API、在自己电脑上运行并定制大型AI模型的开发者和研究者来说,这大大降低了上手门槛。这意味着可以使用最新的开源模型,而无需持续支付API费用或将数据发送到外部服务器。

本仓库术语

  • LoRA/QLoRA · 只调整模型部分参数的轻量级微调方法,所需算力大幅降低
  • GGUF · 一种压缩后的模型文件格式,方便在普通电脑上运行
  • GRPO/DPO · 基于反馈或规则、用强化学习方式改进模型回答质量的方法
  • VRAM · 显卡上的内存,容量不足会导致模型无法训练或运行
  • MCP(模型上下文协议) · 让AI模型连接文件、应用和外部工具的标准协议

仓库简介(英文)

Local UI to run and train LLMs and diffusion models, including Qwen3.8, Kimi K3, MiniMax-H3, Gemma 4, DeepSeek-V4, FLUX and more.

在 GitHub 打开

热门仓库

全部仓库 →

METAL LAB 最新报道