Haystack(deepset) 2026: Python RAG·검색 파이프라인 프레임워크

Haystack이란 무엇인가?

• 2019년 추출형 질의응답 프레임워크로 시작 — 문서 안에서 정확한 답변 구간을 찾는 방식 — 생성형 LLM이 RAG를 주류 패턴으로 만들기 전
• Haystack 2.0을 전후로 현재의 Component/Pipeline 아키텍처로 대폭 재작성되었고, 현재는 버전 3.1(2026-08-24 출시)
• 문서 변환(PDF, HTML, DOCX), 텍스트 분할, embedding, retrieval(키워드 기반 BM25 및 벡터/의미 기반), 생성, 평가를 위한 Component 제공
• Document Store 추상화가 파이프라인 로직을 저장소 백엔드에서 분리 — 파이프라인을 다시 작성하지 않고 인메모리 스토어를 Elasticsearch, Weaviate, Pinecone로 교체 가능
• 로컬 개발과 테스트를 위한 인메모리 문서 저장소를 기본 제공하며, 시작에 외부 데이터베이스가 필요 없음
• 동일 파이프라인 안에서 키워드 retrieval(BM25)과 벡터/의미 기반 retrieval을 모두 지원하며, 둘을 결합한 하이브리드 retrieval도 지원

Haystack의 Pipeline/Component 아키텍처는 어떻게 동작하는가?

• 파이프라인은 YAML로 직렬화할 수 있다 — Python으로 만든 파이프라인을 저장·버전 관리하고, 이를 만든 코드를 다시 실행하지 않고도 다시 불러올 수 있다
• 분기와 병합은 그래프 모델에 기본 내장되어 있다 — 하나의 retriever 출력이 서로 다른 두 generator에 흘러가거나, 두 retriever가 하나의 ranker로 흘러갈 수 있으며, 별도의 접합 코드가 필요 없다
• 연결이 명시적이므로, 깨진 파이프라인(타입 불일치, 연결 누락)은 실행 중 호출 스택 깊은 곳에서 실패하는 대신 파이프라인 구성 시점에 명확한 오류로 실패한다

Haystack은 LangChain·LlamaIndex와 어떻게 다른가?

Haystack은 RAG와 프로덕션 검색을 지원하는가?

• RAG 파이프라인: retriever(BM25, 벡터, 또는 하이브리드)가 관련 문서를 prompt builder에 전달하고, 이것이 다시 generator(LLM 호출)에 전달된다 — 이 프레임워크가 용어가 생기기도 전에 앞서 다뤘고 지금은 직접 겨냥하는 표준 패턴이다
• Retriever: BM25 키워드 retrieval과 embedding 기반(벡터/의미) retrieval 모두 1급 기능으로 지원되며, 하이브리드 retrieval은 둘을 결합해 병합된 결과를 재순위화한다
• Document Store: 개발용으로 인메모리 스토어가 기본 제공되며, 프로덕션 배포는 동일한 Component 인터페이스를 통해 Elasticsearch, Weaviate, Pinecone 등 지원되는 벡터 데이터베이스에 연결된다
• 에이전트: Haystack에는 에이전트 Component가 포함되어 있어, 고정된 순서를 따르는 대신 모델이 다음에 어떤 도구나 파이프라인 단계를 호출할지 결정하게 할 수 있다
• 평가: Haystack은 레이블이 붙은 데이터셋을 기준으로 retrieval과 생성 품질을 측정하는 평가용 Component를 제공한다 — 관련성이 측정 가능해야 하는 프로덕션 검색에서 중요하다

첫 Haystack 파이프라인은 어떻게 만드는가?

1. 1
   패키지 설치: pip install haystack-ai.
2. 2
   필요한 요소 임포트: from haystack import Pipeline, Document; from haystack.components.generators.chat import OpenAIChatGenerator; from haystack.components.retrievers import InMemoryBM25Retriever; from haystack.document_stores.in_memory import InMemoryDocumentStore; from haystack.components.builders import ChatPromptBuilder; from haystack.utils import Secret.
3. 3
   document store를 생성하고 문서를 기록: document_store = InMemoryDocumentStore(), 그다음 document_store.write_documents([Document(content="...")​, ...]).
4. 4
   Component 생성: retriever = InMemoryBM25Retriever(document_store=document_store), prompt_builder = ChatPromptBuilder(template=prompt_template, required_variables="*"), llm = OpenAIChatGenerator(api_key=Secret.from_env_var("OPENAI_API_KEY"), model="gpt-4o-mini").
5. 5
   파이프라인 조립: rag_pipeline = Pipeline(), 그다음 rag_pipeline.add_component("retriever", retriever), rag_pipeline.add_component("prompt_builder", prompt_builder), rag_pipeline.add_component("llm", llm).
6. 6
   연결 배선: rag_pipeline.connect("retriever", "prompt_builder.documents") 및 rag_pipeline.connect("prompt_builder", "llm").
7. 7
   실행: results = rag_pipeline.run({"retriever": {"query": question}, "prompt_builder": {"question": question}}).

from haystack import Pipeline, Document
from haystack.components.generators.chat import OpenAIChatGenerator
from haystack.components.retrievers import InMemoryBM25Retriever
from haystack.document_stores.in_memory import InMemoryDocumentStore
from haystack.components.builders import ChatPromptBuilder
from haystack.utils import Secret

document_store = InMemoryDocumentStore()
document_store.write_documents([
    Document(content="My name is Jean and I live in Paris."),
    Document(content="My name is Mark and I live in Berlin."),
    Document(content="My name is Giorgio and I live in Rome."),
])

retriever = InMemoryBM25Retriever(document_store=document_store)
prompt_builder = ChatPromptBuilder(template=prompt_template, required_variables="*")
llm = OpenAIChatGenerator(api_key=Secret.from_env_var("OPENAI_API_KEY"), model="gpt-4o-mini")

rag_pipeline = Pipeline()
rag_pipeline.add_component("retriever", retriever)
rag_pipeline.add_component("prompt_builder", prompt_builder)
rag_pipeline.add_component("llm", llm)
rag_pipeline.connect("retriever", "prompt_builder.documents")
rag_pipeline.connect("prompt_builder", "llm")

results = rag_pipeline.run({"retriever": {"query": question}, "prompt_builder": {"question": question}})

Haystack은 누구에게 적합한가?

Haystack vs. 대안

Haystack 평가 시 흔한 실수

자주 묻는 질문

출처

관련 읽을거리

• 비즈니스 문서를 위한 최고의 RAG 도구 — 프레임워크와 앱 옵션을 모두 포함한 문서 채팅 RAG 도구 구매 가이드.
• 로컬 LLM 소프트웨어 디렉터리 — 이 글이 속한 로컬 AI 도구 전체 카탈로그.
• AnythingLLM vs. PrivateGPT vs. Open WebUI RAG 비교 — Python 프레임워크 대신 UI를 원하는 팀을 위한 노코드 RAG 앱 비교.