星标数：38970★ Fork数：2523 《llmfit：一条命令测出你的硬件能跑哪些大模型》

llmfit 是一个开源大语言模型（LLM）适配检测工具，它会检查你的 CPU、系统内存、GPU、显存以及加速器配置，并在多种量化格式下为你推荐真正能跑得动的模型。项目口号是：数百个模型与服务商，一条命令找出你的硬件能运行的模型。

此外，llmfit 还带来了新的基准测试与分享功能：下载模型、启动服务，然后在你的硬件上测量真实的 tok/s 数据，并可直接从 TUI 以 PR 形式把结果贡献回项目，无需 gh CLI，也不需要第三方账号。每次运行都会先保存在本地，你的实测数据会替代适配表中的估算值，而每个被合并的提交都会随下一个版本发布——硬件相同的用户在跑基准测试之前就能看到带 ✓ 的实测数字。

它是一个终端工具，能根据你系统的 RAM、CPU 和 GPU 为 LLM 模型做合适的规格匹配：检测硬件后，从质量、速度、适配度、上下文四个维度对每个模型打分，告诉你哪些模型在你的机器上真正跑得好。它默认提供交互式 TUI，也支持经典 CLI 模式，支持多 GPU、MoE 架构、动态量化选择、速度估算，以及本地运行时提供方（Ollama、llama.cpp、MLX、Docker Model Runner、LM Studio）。

主要特点

• 硬件自动检测：检测 CPU 核心、系统内存、可用的独立/集成 GPU、显存和统一内存架构（NVIDIA CUDA、Apple Silicon、AMD ROCm、Intel OneAPI）。
• 模型兼容性引擎：分析模型参数量、上下文长度和量化格式（GGUF、AWQ、GPTQ、EXL2），推算内存占用和 tokens-per-second 性能。
• 交互式 TUI 与 Web 仪表盘：可选择轻量、零依赖的终端界面，或功能丰富的 Web 仪表盘。
• REST API 端点：提供标准 HTTP JSON 端点（/api/v1/system、/api/v1/models），便于集成到编排器、仪表盘和自动化部署流水线。
• 多平台支持：macOS（Apple Silicon 与 Intel）、Linux（x86_64 与 ARM64）以及 Windows（x86_64）。

安装

Windows（WinGet）：

winget install --exact --id AlexsJones.llmfit

macOS / Linux（Homebrew）：

brew install AlexsJones/llmfit/llmfit

快速安装脚本：

curl -fsSL https://llmfit.axjns.dev/install.sh | sh

uv / pip：

uv tool install -U llmfit
uvx llmfit

从源码构建：

git clone https://github.com/AlexsJones/llmfit.git
cd llmfit
cargo build --release

使用

直接运行 llmfit 启动交互式 TUI：

llmfit          # interactive TUI: your hardware, every model, ranked

命令行模式：

# Print hardware telemetry and recommended models to standard output
llmfit recommend

# Output system profile and recommendations in raw JSON format
llmfit recommend --json

# Estimate SSD capacity for keeping three runnable models
llmfit storage --keep 3 --selection largest --json

# Start the native HTTP API server
llmfit serve --host 0.0.0.0 --port 8787

容器部署（Docker）：

docker run -it --rm ghcr.io/alexsjones/llmfit --tui
docker run ghcr.io/alexsjones/llmfit

📊 本项目 GitHub 星标数：38970。最后更新：2026-11-12，发布：2026-11-03。项目地址：https://github.com/AlexsJones/llmfit