星标数:79434★ Fork数:7407 《unsloth:运行和训练模型的本地桌面 UI》
Unsloth 是首个用于运行和训练模型的桌面应用。它支持在 Windows、Linux、WSL 和 macOS 上使用,支持多 GPU 配置,兼容 NVIDIA、AMD、Intel GPU、CPU 以及 Vulkan 后端。

Unsloth 提供三种使用方式:Unsloth Desktop 桌面应用(推荐)、Unsloth Studio 网页界面,以及基于代码的 Unsloth Core。
用户可以用它运行和训练 LLM、MLX、GGUF、扩散、决策、嵌入、音频等多种模型,也可以将本地模型与 Claude Code、Codex、MCP 等智能体和工具配合使用。
主要特点
- 运行与构建 AI:支持 LLM、MLX、GGUF、扩散、决策、嵌入、音频等模型,并可配合 Claude Code、Codex、MCP 使用,支持工具调用与代码执行
- 浏览器使用与沙箱:让本地模型浏览网页、填写表单、读取 PDF、编辑文件,并可通过沙箱限制模型可访问的文件
- 搜索与 RAG:提供私有且不限量的网络搜索、深度研究、自动压缩(滚动上下文窗口)和 RAG
- 训练与微调:支持强化学习、LoRA、QLoRA、全量微调、预训练、RL、GRPO、DPO 和 FP8,微调速度提升 2 倍,VRAM 占用减少 70% 且无精度损失
- 导出与部署:支持导出或部署模型,包括 GGUF、NVFP4、FP8 等格式;可通过 OpenAI 兼容 API 提供模型服务
- 数据集构建:可从 PDF、CSV、DOCX 等文件通过 Data Recipes 构建数据集
使用 Unsloth Start 可通过一条命令将 Claude Code、Codex 等智能体连接到本地模型:
unsloth start claude --model unsloth/Qwen3.8-27B-GGUF:UD-Q4_K_XL
常用智能体启动命令:
unsloth start claude # Claude Code
unsloth start codex # OpenAI Codex
unsloth start vscode # Visual Studio Code
unsloth start dsh # DeepSeek Harness
unsloth start opencode # OpenCode
unsloth start hermes # Hermes Agent
unsloth start pi # Pi
unsloth start openclaw # OpenClaw
unsloth start vibe # Mistral Vibe
Unsloth Studio 的安装方式:
# macOS、Linux、WSL
curl -fsSL https://unsloth.ai/install.sh | sh
# Windows
irm https://unsloth.ai/install.ps1 | iex
# Homebrew
brew install --cask unsloth
# Winget (Windows)
winget install --id UnslothAI.Unsloth -e
也可以使用 Docker 镜像 unsloth/unsloth,或直接从 GitHub Releases 下载各平台的桌面安装包(支持 Windows、Windows ARM64、macOS、Linux/Ubuntu deb、Ubuntu ARM64 deb、Linux AppImage)。
📊 本项目 GitHub 星标数:79434。最后更新:2026-11-13,发布:2026-11-11。项目地址:https://github.com/unslothai/unsloth
