星标数：27001★ Fork数：3457 《haystack：开源LLM应用编排框架，构建生产级RAG与智能体》

Haystack 是一个开源的 AI 编排框架，用于以 Python 构建面向生产的 LLM 应用。你可以设计模块化的流水线和智能体工作流，对检索、路由、记忆和生成进行显式控制。

借助透明的架构，Haystack 可用于构建可扩展的 RAG 系统、多模态应用、语义搜索、问答以及自主智能体，让你能够自由试验、深度定制，并放心部署。

主要特点

• 面向生产的智能体：通过生命周期钩子（before_llm、before_tool、on_exit 等）扩展智能体行为，开箱即用地跟踪 step_count、token_usage 和工具调用，便于监控与成本控制；也可直接使用 Agent Pack 中的现成智能体（如深度研究智能体、高级 RAG 智能体）。
• 为上下文工程而生：在信息到达模型之前，对检索、排序、过滤、组合、结构化和路由进行显式控制，流水线与智能体工作流中的检索、记忆、工具和生成全程透明可追踪。
• 原生异步支持：同一个 Pipeline 可同步或异步运行，并支持逐 token 流式输出；Agent 可并发执行工具调用。
• 模块化且可定制：使用内置组件完成检索、索引、工具调用、记忆和评估，也可自行创建组件；可在流水线和智能体工作流中加入循环、分支与条件逻辑。
• 模型与厂商无关：可集成 OpenAI、Mistral、Anthropic、Cohere、Hugging Face、Google、Azure OpenAI、AWS Bedrock、本地模型等，替换模型或基础设施组件无需重写系统。
• 可扩展的生态：通过统一接口构建和共享自定义组件，方便社区和第三方扩展 Haystack。

安装

最简单的安装方式是使用 pip：

pip install haystack-ai

安装夜间预发布版本以体验最新功能：

pip install --pre haystack-ai

Haystack 支持多种安装方式（包括 Docker 镜像），完整指南请参阅官方文档。

文档与上手

新用户可以从 “What is Haystack?” 入门，随后按照 “Get Started Guide” 在几分钟内构建第一个 LLM 应用，并通过 tutorials 和 Cookbook 继续学习与获取灵感。

📊 本项目 GitHub 星标数：27001。最后更新：2026-11-13，发布：2026-11-10。项目地址：https://github.com/deepset-ai/haystack