星标数:68244★ Fork数:7704 《anything-llm:本地优先的一体化 AI 应用》
AnythingLLM 是一款一体化 AI 应用,可以与你的文档对话、使用 AI Agent,并且高度可配置、支持多用户,无需繁琐的安装配置,开箱即用。

它可以让你在不打折扣的前提下,搭建一个属于自己的、功能完整的私有 ChatGPT。连接你喜欢的本地或云端 LLM,导入文档,几分钟内即可开始对话。开箱即带 Agent、多用户支持、向量数据库和文档处理流程,无需额外配置。
AnythingLLM 还支持多用户,你可以按用户控制访问权限和使用体验,同时不牺牲实例的安全性、隐私性或你的知识产权。
主要特点
- 内置本地 LLM 引擎:无需额外配置即可在 CPU 或 GPU(NVIDIA 通过 CUDA,AMD 和 Intel 通过 Vulkan)上运行本地模型,由 Lemonade 和 llama.cpp 驱动。
- 动态模型路由:根据你定义的规则,自动将对话路由到最合适的供应商与模型。
- 自动与用户管理的记忆功能:让 LLM 记住关于你或工作区的重要信息。
- 定时任务:按 cron 计划运行循环任务或提示词,并具备完整的 Agent 能力。
- 智能技能选择:为模型启用无限工具的同时,每次查询可减少最多 80% 的 token 用量。
- 无代码 AI Agent 构建器、MCP 兼容性、多模态支持(闭源与开源 LLM 均可),以及对多用户实例与权限管理的支持(仅 Docker 版本)。
安装
桌面版(Mac、Windows、Linux)可在 anythingllm.com/download 下载;Docker 版本可运行:
docker run -d --name anythingllm -p 3001:3001 -p 3002:3002 mintplexlabs/anythingllm
更多安装方式与配置说明请参阅 README 中的 Docker 使用文档。
📊 本项目 GitHub 星标数:68244。最后更新:2026-11-12,发布:2026-10-25。项目地址:https://github.com/Mintplex-Labs/anything-llm
