DSPy 리뷰 2026: 기능, 옵티마이저, 대안

스탠퍼드 연구에서 프로덕션 프레임워크까지

DSPy란 무엇인가?

• Signature: 작업의 입력과 출력을 타입으로 정의한 것. 짧은 클래스나 문자열(예: "question -> answer")로 작성되며, 서로 다른 기반 LLM과 프롬프트 전략 간에 이식 가능
• Module: Signature를 중심으로 실행 전략을 구현하는 구성 요소 — 직접 완성을 위한 Predict, 단계별 추론을 위한 ChainOfThought, 도구를 사용하는 추론 루프를 위한 ReAct 등
• Optimizer(이전 명칭 teleprompter): DSPy 프로그램 내부의 프롬프트와 few-shot 예시를 수동이 아니라 지표에 따라 자동으로 조정하는 알고리즘 — 대표적인 Optimizer로 BootstrapFewShot, MIPROv2, GEPA가 있음
• 프로그램 컴파일: 학습 데이터셋과 채점 함수에 대해 옵티마이저를 실행하면, 조정된 지시문과 예시가 내장된 컴파일 완료 프로그램이 생성되며, 이후 다른 DSPy 프로그램처럼 실행할 수 있음
• 모델 무관: DSPy는 내장 모델을 탑재하는 대신 사용자가 설정한 LLM 제공업체에 연결되며, 동일한 Signature/Module 코드를 다른 기반 모델에 맞춰 재최적화할 수 있음
• 멀티 에이전트 오케스트레이터가 아님: DSPy에는 CrewAI나 AutoGen처럼 여러 에이전트가 서로 통신한다는 내장 개념이 없음 — DSPy 프로그램은 일반적으로 단일 Module 파이프라인이지만, ReAct 모듈은 추론 루프 안에서 도구를 호출할 수 있음

pip install dspy

# 최소 예시: Signature + Module + Optimizer
import dspy

class AnswerQuestion(dspy.Signature):
    """Answer a question factually."""
    question: str = dspy.InputField()
    answer: str = dspy.OutputField()

qa = dspy.ChainOfThought(AnswerQuestion)
result = qa(question="What is the capital of France?")
print(result.answer)

DSPy 비용은 얼마인가?

• DSPy(오픈소스 프레임워크): MIT 라이선스 하에 영구 무료, 자체 호스팅, 사용량 제한 없음, 실행에 계정 불필요
• 호스팅 제품이나 구독 없음: DSPy는 직접 임포트하고 실행하는 라이브러리로, 관리형 서비스가 아닙니다 — 구독할 것이 전혀 없습니다
• 선택적 비용: 클라우드 모델을 로컬 모델 대신 연결하는 경우, 설정한 LLM 제공업체의 API 요금(예: 클라우드 제공업체의 토큰당 가격)이 발생
• 옵티마이저 관련 비용 고려사항: MIPROv2 같은 옵티마이저를 실행하면 최적의 프롬프트 구성을 탐색하기 위해 여러 번 LLM을 호출하므로, 프로그램 컴파일 자체에 API 호출 비용이 발생하며, 이후 컴파일된 프로그램을 실행하는 비용은 별도로 추가됩니다

DSPy를 설치하고 시작하는 방법은?

1. 1
   패키지를 설치합니다: pip install dspy.
2. 2
   LLM 제공업체를 설정합니다 — 예를 들어 호스팅 모델의 경우 dspy.configure(lm=dspy.LM('openai/gpt-4o-mini', api_key='your-key'))를 사용하거나, 로컬에서 제공되는 OpenAI 호환 엔드포인트를 가리키도록 설정합니다.
3. 3
   작업의 입력과 출력을 설명하는 Signature를 정의합니다. 짧은 문자열("question -> answer")로 작성하거나, dspy.InputField() / dspy.OutputField()를 사용한 타입 지정 클래스로 작성할 수 있습니다.
4. 4
   Signature를 Module로 감쌉니다 — 직접 호출에는 dspy.Predict(...), 단계별 추론에는 dspy.ChainOfThought(...)를 사용하고, 함수처럼 호출합니다.
5. 5
   선택 사항: 작은 학습 데이터셋과 채점 함수를 준비한 뒤, dspy.BootstrapFewShot이나 dspy.MIPROv2 같은 옵티마이저를 실행해 조정된 버전의 프로그램을 컴파일합니다.
6. 6
   RAG 파이프라인, ReAct를 이용한 에이전트 루프, 옵티마이저 설정을 포함한 전체 튜토리얼 세트는 DSPy 문서를 참고하세요.

DSPy는 누가 사용해야 하는가?

DSPy를 언제 사용하지 말아야 하는가?

• 비주얼 노코드 워크플로 빌더가 필요한 팀 — DSPy는 코드 우선 방식이며 드래그 앤 드롭 인터페이스가 없습니다
• 근본적으로 멀티 에이전트 조정(에이전트들이 서로에게 하위 작업을 위임)인 프로젝트 — CrewAI나 AutoGen처럼 그 패턴을 위해 만들어진 프레임워크가 구조적으로 더 적합합니다
• 손으로 작성한 단일 프롬프트만으로 이미 충분히 잘 작동하는 일회성 스크립트 — Signature, Module, 최적화 루프를 도입하면 엔지니어링 부담이 추가되며, 측정 가능하고 반복 가능한 프롬프트 개선이 필요한 경우에만 그만한 가치가 있습니다
• 정확성을 채점할 방법이 없는 작업 — DSPy의 옵티마이저는 지표 함수가 필요하므로, 레이블이 있는 예시 없이 순전히 주관적인 작업은 최적화 단계에서 얻는 이점이 거의 없습니다
• 대신 파이프라인, 지표, 학습 데이터셋을 갖추고 있고 프롬프트 엔지니어링 단계를 자동화하고 재현 가능하게 만들고 싶을 때 정확히 DSPy를 사용하세요

DSPy 대 대안

DSPy를 평가할 때 흔한 실수

자주 묻는 질문

출처

관련 읽을거리

• LangChain 리뷰: 기능, 가격, 대안 — 프롬프트 최적화가 아니라 사전 구축된 커넥터가 필요한 팀을 위한, 가장 폭넓은 통합 생태계를 갖춘 범용 Python LLM 파이프라인 프레임워크.
• LlamaIndex 리뷰: RAG 프레임워크 — 검색 증강 파이프라인을 위한 RAG 중심 데이터 프레임워크로, DSPy와 동일한 빌딩 블록 카테고리에 속하는 또 다른 Python 프레임워크.
• Semantic Kernel 리뷰: 기능, 가격, 대안 — .NET/Python/Java로 작업하는 팀을 위한, 구조화된 프롬프트와 스킬 구성을 위한 마이크로소프트의 엔터프라이즈 오케스트레이션 SDK.
• CrewAI 리뷰: 기능, 가격, 대안 — 프롬프트 최적화가 아니라 에이전트 조정이 필요한 팀을 위한, 역할 기반 멀티 에이전트 프레임워크.
• 로컬 LLM 소프트웨어 디렉터리 — 이 기사가 속한 로컬 AI 도구의 전체 카탈로그로, DSPy가 에이전트 및 파이프라인 프레임워크 사이에서 어디에 위치하는지도 포함합니다.