星标数:79434★ Fork数:7407 《unsloth:运行和训练模型的本地桌面 UI》

Unsloth 是首个用于运行和训练模型的桌面应用。它支持在 Windows、Linux、WSL 和 macOS 上使用,支持多 GPU 配置,兼容 NVIDIA、AMD、Intel GPU、CPU 以及 Vulkan 后端。

unslothai/unsloth 项目截图

Unsloth 提供三种使用方式:Unsloth Desktop 桌面应用(推荐)、Unsloth Studio 网页界面,以及基于代码的 Unsloth Core。

用户可以用它运行和训练 LLM、MLX、GGUF、扩散、决策、嵌入、音频等多种模型,也可以将本地模型与 Claude Code、Codex、MCP 等智能体和工具配合使用。

主要特点

  • 运行与构建 AI:支持 LLM、MLX、GGUF、扩散、决策、嵌入、音频等模型,并可配合 Claude Code、Codex、MCP 使用,支持工具调用与代码执行
  • 浏览器使用与沙箱:让本地模型浏览网页、填写表单、读取 PDF、编辑文件,并可通过沙箱限制模型可访问的文件
  • 搜索与 RAG:提供私有且不限量的网络搜索、深度研究、自动压缩(滚动上下文窗口)和 RAG
  • 训练与微调:支持强化学习、LoRA、QLoRA、全量微调、预训练、RL、GRPO、DPO 和 FP8,微调速度提升 2 倍,VRAM 占用减少 70% 且无精度损失
  • 导出与部署:支持导出或部署模型,包括 GGUF、NVFP4、FP8 等格式;可通过 OpenAI 兼容 API 提供模型服务
  • 数据集构建:可从 PDF、CSV、DOCX 等文件通过 Data Recipes 构建数据集

使用 Unsloth Start 可通过一条命令将 Claude Code、Codex 等智能体连接到本地模型:

unsloth start claude --model unsloth/Qwen3.8-27B-GGUF:UD-Q4_K_XL

常用智能体启动命令:

unsloth start claude    # Claude Code
unsloth start codex     # OpenAI Codex
unsloth start vscode    # Visual Studio Code
unsloth start dsh       # DeepSeek Harness
unsloth start opencode  # OpenCode
unsloth start hermes    # Hermes Agent
unsloth start pi        # Pi
unsloth start openclaw  # OpenClaw
unsloth start vibe      # Mistral Vibe

Unsloth Studio 的安装方式:

# macOS、Linux、WSL
curl -fsSL https://unsloth.ai/install.sh | sh

# Windows
irm https://unsloth.ai/install.ps1 | iex

# Homebrew
brew install --cask unsloth

# Winget (Windows)
winget install --id UnslothAI.Unsloth -e

也可以使用 Docker 镜像 unsloth/unsloth,或直接从 GitHub Releases 下载各平台的桌面安装包(支持 Windows、Windows ARM64、macOS、Linux/Ubuntu deb、Ubuntu ARM64 deb、Linux AppImage)。

📊 本项目 GitHub 星标数:79434。最后更新:2026-11-13,发布:2026-11-11。项目地址:https://github.com/unslothai/unsloth

100T高转存免费网盘资源精选【持续更中~~~~】:点击查看

0 0 投票
文章评级
订阅
提醒
guest
0 评论
内线反馈
查看所有评论
0
希望你的想法,请评论。x