핵심 요점
- Plano(github.com/katanemo/plano)는 무료 오픈소스 셀프 호스팅 AI 프록시 겸 데이터 플레인입니다 — 호스팅형 SaaS 제품이 아님
- Katanemo가 개발했으며, Envoy 자체 핵심 컨트리뷰터들이 Envoy 위에 구축
- GitHub 저장소의 라이선스 파일로 확인된 Apache 2.0 라이선스
- 자체 README에 따른 4가지 핵심 기능: 에이전트 오케스트레이션, 모델 라우팅("Model Agility"), 코드 작성 없는 관측 가능성("Agentic Signals" 및 OpenTelemetry), 가드레일/모더레이션 Filter Chains
- 라우팅은 범용 LLM이나 순수 규칙 기반 프레임워크가 아니라, 전용의 약 40억 파라미터 오케스트레이터 모델("Plano-Orchestrator")을 통해 이루어짐
- 이 리뷰 시점 기준 GitHub 스타 7,050개 이상, 포크 480개 이상
📍 한 문장으로
Plano는 Katanemo가 개발한, GitHub 스타 7,050개 이상을 보유한 무료 오픈소스(Apache 2.0) Envoy 기반 AI 네이티브 프록시 서버 겸 데이터 플레인으로, 애플리케이션 코드 바깥에서 에이전트형 애플리케이션에 LLM 라우팅, 에이전트 오케스트레이션, 관측 가능성, 가드레일을 추가합니다.
💬 쉽게 말하면
Plano는 AI 에이전트 앞단에 배치해 실행하는 셀프 호스팅 프록시입니다. 각 에이전트마다 라우팅 로직, 텔레메트리, 안전 필터를 직접 작성하는 대신, YAML 설정 파일에 에이전트와 모델 제공업체를 선언하면 Plano가 올바른 모델 선택, 발생한 일의 추적, 가드레일 적용을 처리해줍니다 — Plano 자체에는 라이선스 비용이 없으므로 무료입니다.
📌참고: 이 리뷰는 로컬 LLM 소프트웨어 디렉터리에 있는 Plano 항목의 심화 버전입니다 — Plano가 수십 개의 다른 로컬·셀프 호스팅 AI 도구들과 한눈에 어떻게 비교되는지는 해당 페이지를 참고하십시오.
Plano란 무엇인가?
Plano는 에이전트형 애플리케이션과 그것들이 호출하는 LLM 제공업체 또는 하위 에이전트 사이에 위치하여, 라우팅, 오케스트레이션, 관측 가능성, 가드레일을 하나의 계층에서 처리하는 셀프 호스팅 아웃오브프로세스 프록시 겸 데이터 플레인입니다. 자체 GitHub 설명에서는 "에이전트형 앱을 위한 AI 네이티브 프록시 서버 겸 데이터 플레인"이라 부르며, 라우팅이나 모더레이션 같은 인프라 관련 문제를 애플리케이션 코드에서 분리해 공유되는 설정 가능한 계층으로 옮기는 것을 목표로 합니다.
- 제품 유형: 직접 배포하는 셀프 호스팅 프록시/데이터 플레인(Docker 컨테이너 또는 빌드된 바이너리)이며 호스팅형 API나 SaaS 게이트웨이가 아님
- 개발사: 저장소를 호스팅하는 GitHub 조직에 따르면 Katanemo
- 저장소: github.com/katanemo/plano, 2024년 7월 9일 생성
- 라이선스: GitHub 저장소의 라이선스 파일에 따른 Apache 2.0
- 기반: 널리 사용되는 오픈소스 엣지/서비스 프록시인 Envoy 위에, Envoy 자체에 참여했던 컨트리뷰터들이 구축함 — Plano 자체 README에 따름
- 규모: 이 리뷰 시점 기준 GitHub 스타 7,050개 이상, 포크 480개 이상, 오픈 이슈 140건
Plano의 프로젝트 연혁과 버전 이정표
Plano의 GitHub 저장소는 2024년 7월에 생성되었으며, 이후 프로젝트는 LLM 라우팅, 에이전트 오케스트레이션, 관측 가능성 기능을 활발히 개발하며 지속적으로 릴리스를 이어왔습니다. Plano는 라우팅 결정에 사용되는 전용 오케스트레이터 모델을 포함해 Katanemo 자체 LLM 연구에 기반하고 있다고 밝히고 있습니다.
- 1저장소 생성 — 2024년 7월 9일
Why it matters: GitHub 저장소 메타데이터에 따르면 Plano의 정식 GitHub 저장소(katanemo/plano)가 생성되었습니다. - 2v0.4.36 — 2026년 8월 19일: 이 리뷰 시점 기준 최신 태그 릴리스
Why it matters: 이 리뷰 시점 기준 GitHub에 게시된 최신 릴리스입니다. 이 리뷰의 게시일 이후에 나온 내용은 [릴리스 페이지](https://github.com/katanemo/plano/releases)에서 직접 확인하십시오. - 3메인 브랜치에서의 지속적인 개발
Why it matters: GitHub 저장소 메타데이터에는 최신 태그 릴리스 이후에도 메인 브랜치에 푸시된 커밋이 나타나, 최신 버전 태그를 넘어선 지속적인 개발이 이루어지고 있음을 시사합니다 — 최신 커밋과 기능이 동일하다고 가정하기 전에 현재 릴리스 상태를 확인하십시오.
Plano는 실제로 무엇을 하는가?
Plano의 기능 세트는 에이전트형 앱의 인프라 관련 문제를 애플리케이션 코드에서 분리해 공유되는 셀프 호스팅 프록시 계층으로 옮기는 데 중점을 둡니다. 다음은 Plano 자체 GitHub README와 문서에 따라 각 부분이 실제로 수행하는 일입니다.
- 에이전트 오케스트레이션 — 애플리케이션 코드를 수정하지 않고, YAML 설정에 선언된 에이전트 간에 저지연 라우팅을 수행합니다. 새 에이전트는 라우팅 로직을 다시 작성하는 대신 설정을 편집하는 것만으로 추가할 수 있습니다
- 모델 라우팅("Model Agility") — 명시적 모델 이름, 시맨틱 별칭, 또는 설정된 선호도에 따른 자동 방식으로 요청을 라우팅하여, 애플리케이션 코드가 특정 제공업체를 하드코딩하는 대신 논리적 모델 이름을 호출할 수 있게 합니다
- Agentic Signals — 사용/행동 신호를 코드 작성 없이 수집하는 Plano 자체 용어로, 프록시하는 모든 에이전트에 걸쳐 발행되는 OpenTelemetry 호환 트레이스와 메트릭도 포함합니다
- 가드레일 및 모더레이션 Filter Chains — 탈옥(jailbreak) 방지, 모더레이션 정책, 메모리 일관성 동작을 개별 에이전트가 아닌 프록시 계층에 구축할 수 있는 설정 가능한 메커니즘
- 전용 라우팅 모델 — Plano의 README에 따르면 라우팅 결정은 범용 LLM 호출이나 순수 규칙 기반 라우터가 아니라 Plano 자체의 약 40억 파라미터 "Plano-Orchestrator" 모델을 통해 이루어집니다
- 프레임워크 및 언어 독립적 — 에이전트는 단순히 OpenAI 호환 채팅 완성 엔드포인트를 구현하는 HTTP 서버이므로, Plano는 어떤 언어나 AI 프레임워크로 작성된 에이전트와도 동작합니다
- LLM 게이트웨이 모드 — 자체 문서에 따르면 Plano는 에이전트 오케스트레이션 기능과 무관하게, 애플리케이션 서비스로부터의 순수한 LLM 라우팅 게이트웨이로도 사용할 수 있습니다
사용 예시: Plano를 사용하는 두 가지 방법
이는 Plano 자체 README에 문서화된 예시로 구성한 구체적인 워크플로이며, 가상의 사용 사례가 아닙니다.
Plano 설치하기
Plano는 Docker나 빌드된 CLI 바이너리를 통해 무료로 설치할 수 있으며, 소스 코드는 GitHub에 있습니다. 자체 빠른 시작 가이드에 따르면, 전제 조건을 설치한 다음 설정 파일에 대해 planoai up config.yaml로 Plano를 시작합니다.
Source | Link |
|---|---|
| GitHub 저장소(소스 코드, Apache 2.0) | github.com/katanemo/plano |
| 빠른 시작 가이드(설치 + 전제 조건) | docs.planoai.dev/get_started/quickstart |
| 전체 문서 | docs.planoai.dev |
| 릴리스(태그 버전 및 사전 빌드된 바이너리) | github.com/katanemo/plano/releases |
Plano는 planoai up config.yaml을 실행하기 전에 전제 조건 가이드를 따라야 합니다. 단일 파일 GUI 설치 프로그램은 없습니다. Plano는 독립형 최종 사용자 애플리케이션이 아니라 여러분의 서비스와 나란히 실행되도록 만들어진 프록시/데이터 플레인 구성 요소이기 때문입니다. 설치 안내는 릴리스마다 바뀔 수 있으므로, 명령을 실행하기 전에 빠른 시작 가이드에서 현재 권장되는 설치 방법을 확인하십시오.
Plano 가격: 정말 무료인가?
Plano 자체는 무료이며 오픈소스(Apache 2.0)로, 셀프 호스팅에 라이선스 비용이 들지 않습니다. 미묘한 부분은 그 라우팅을 구동하는 대상입니다: Plano와 Plano 계열 LLM(예: Plano-Orchestrator)은 개발자에게 설정 없는 첫 사용 경험을 제공하기 위해 Katanemo가 US-central 지역에서 무료로 호스팅합니다 — 프로젝트 자체 README에 따르면, 이 무료 호스팅 계층은 개발용이지 프로덕션 규모를 위한 것이 아닙니다.
- Plano 자체 소프트웨어: 무료, 오픈소스, Apache 2.0 라이선스이며, 프록시 자체에는 유료 등급이 없음
- Plano 계열 라우팅/오케스트레이터 모델: Plano 자체 README에 따르면 첫 개발자 경험을 위해 US-central에서 무료로 호스팅됨
- Katanemo의 README에 따르면, 프로덕션 규모로 운영하려면 이러한 라우팅 모델을 직접 로컬에서 셀프 호스팅하거나, Discord를 통해 Katanemo에 문의해 호스팅형 API 키를 받아야 합니다 — 이 리뷰에서는 해당 호스팅형 키 옵션에 대한 공개 셀프서비스 가격 페이지를 찾지 못했습니다
- LLM 제공업체 비용은 별도입니다: Plano를 통해 OpenAI, Anthropic 또는 다른 제공업체로 요청을 라우팅해도 해당 제공업체가 청구하는 비용은 그대로 발생합니다 — 모델 제공업체가 아닌 라우팅 계층으로서의 역할에 따라 Plano 자체는 별도 마진을 추가하지 않습니다
Plano vs. LiteLLM
Plano와 LiteLLM은 둘 다 LLM 트래픽을 관리하는 셀프 호스팅 계층이지만, 출발점이 다릅니다: LiteLLM은 주로 OpenAI 호환 단일 인터페이스를 통해 100개 이상의 LLM 제공업체를 호출하기 위한 통합 API/SDK이자 프록시인 반면, Plano는 단순한 모델 라우팅이 아니라 에이전트 오케스트레이션을 1급 기능으로 삼는 Envoy 기반 데이터 플레인으로 구축되었습니다.
핵심 기반
- Plano vs. LiteLLM:
- Plano는 Envoy 프록시 위에 구축되었습니다. LiteLLM은 Python 네이티브 SDK 및 프록시 서버로, Envoy 기반이 아닙니다.
에이전트 오케스트레이션
- Plano vs. LiteLLM:
- Plano는 YAML로 선언된 에이전트를 통한 멀티 에이전트 라우팅을 핵심 1급 기능으로 다룹니다. LiteLLM은 에이전트 간 오케스트레이션보다는 주로 LLM/제공업체 라우팅에 초점을 맞춥니다.
라우팅 방식
- Plano vs. LiteLLM:
- Plano는 의도 기반 라우팅을 위해 전용의 약 40억 파라미터 오케스트레이터 모델을 사용합니다. LiteLLM은 주로 명시적 설정 규칙, 로드 밸런싱, 폴백 목록을 통해 라우팅합니다.
관측 가능성
- Plano vs. LiteLLM:
- Plano는 자사 텔레메트리를 "Agentic Signals"와 OpenTelemetry라고 부릅니다. LiteLLM은 사용량 추적, 지출 로그, Langfuse 같은 관측 가능성 도구와의 통합을 제공합니다.
라이선스
- Plano vs. LiteLLM:
- 두 프로젝트 모두 각자의 저장소에 따르면 핵심 오픈소스 제품에 대해 Apache 2.0 라이선스를 사용합니다.
두 도구 모두 핵심적으로는 셀프 호스팅이며 무료입니다. 실질적인 선택은 Envoy급 프록시 인프라와 네이티브 에이전트 오케스트레이션(Plano)이 필요한지, 아니면 더 단순하고 제공업체 라우팅 중심이며 호환 제공업체 목록이 방대한 게이트웨이(LiteLLM)가 필요한지에 달려 있습니다. 두 프로젝트 모두 업데이트를 자주 배포하므로, 선택하기 전에 각자의 문서에서 현재 기능이 동등한지 확인하십시오.
Plano는 누구에게 적합한가?
Plano가 적합한지 여부는 단일의 단순한 LLM 호출이 아니라, 라우팅·관측 가능성·가드레일을 위한 공유 인프라가 필요한 멀티 에이전트 애플리케이션을 구축하고 있는지에 달려 있습니다.
경쟁 제품 및 대안
Plano는 LiteLLM, AIClient2API, Langfuse와 가장 자주 비교됩니다 — 가장 큰 차별점은 순수한 애플리케이션 계층 라우팅 라이브러리나 관측 가능성 전용 도구가 아니라, 네이티브 멀티 에이전트 오케스트레이션을 갖춘 Envoy 기반 데이터 플레인이라는 점입니다.
Tool | Best known for | Link |
|---|---|---|
| LiteLLM | OpenAI 호환 단일 API를 통해 100개 이상의 LLM 제공업체를 호출하는 통합 프록시/SDK | LiteLLM 리뷰 |
| AIClient2API | 다양한 AI 클라이언트 프로토콜을 통합 API 엔드포인트로 변환하는 경량 로컬 프록시 | AIClient2API 리뷰 |
| Langfuse | 오픈소스 LLM 관측 가능성, 추적, 평가 플랫폼 | Langfuse 리뷰 |
이 목록은 라우팅/게이트웨이/관측 가능성 영역에서 Plano와 자주 비교되는 도구들을 반영한 것이며, PromptQuorum의 독자적인 순위가 아닙니다 — Plano 자체 항목을 포함해 정기적으로 업데이트되는 전체 카탈로그는 로컬 LLM 소프트웨어 디렉터리를 참고하십시오. 선택하기 전에 각 도구의 현재 가격과 기능을 확인하십시오.
Plano 평가 시 흔한 실수
Plano에 대한 혼란은 대부분 일반적인 이름, 호스팅형 SaaS라는 가정, 또는 "무료"가 무엇을 포함하는지에 대한 불명확한 기대에서 비롯됩니다.
자주 묻는 질문
Plano란 무엇입니까?
Plano(github.com/katanemo/plano)는 Katanemo가 개발한, 에이전트형 애플리케이션을 위한 무료 오픈소스(Apache 2.0) Envoy 기반 AI 네이티브 프록시 서버 겸 데이터 플레인으로, LLM 라우팅, 에이전트 오케스트레이션, 관측 가능성, 가드레일을 처리합니다.
Plano는 무료입니까?
네, Plano 자체는 무료이며 오픈소스로, 셀프 호스팅에 라이선스 비용이 들지 않습니다. Katanemo는 첫 개발자 경험을 위해 Plano 자체의 라우팅/오케스트레이터 모델도 US-central에서 무료로 호스팅합니다. 이러한 모델을 프로덕션 규모로 사용하려면 직접 셀프 호스팅하거나 Discord를 통해 호스팅형 API 키를 받아야 합니다.
Plano는 어떻게 설치합니까?
Plano 자체의 빠른 시작 가이드를 따라 전제 조건을 설치한 다음, 에이전트와 모델 제공업체를 선언하는 YAML 설정에 대해 planoai up config.yaml을 실행합니다.
Plano는 호스팅형 서비스입니까, 아니면 셀프 호스팅 소프트웨어입니까?
Plano는 셀프 호스팅입니다: 자신의 에이전트 및 서비스와 나란히 Docker 컨테이너나 빌드된 바이너리로 직접 배포합니다. Katanemo는 별도로 Plano 자체의 소형 오케스트레이터 모델을 개발 사용 수준에서 무료로 호스팅합니다.
Plano는 실제로 무엇을 라우팅합니까?
Plano는 LLM 및 에이전트 트래픽을 라우팅합니다: 의도에 기반해 여러 에이전트 간에 라우팅할 수 있으며, 명시적 모델 이름, 시맨틱 별칭, 또는 자동 선호도 기반 선택으로 LLM API 호출을 특정 모델로 라우팅할 수 있습니다.
Plano는 Envoy 위에 구축되었습니까?
네, 자체 README에 따르면 Plano는 Envoy 자체에 참여했던 컨트리뷰터들이 Envoy 위에 구축했으며, 인프로세스 라이브러리가 아니라 아웃오브프로세스 데이터 플레인으로 동작합니다.
Plano는 누가 개발합니까?
katanemo/plano 저장소를 호스팅하는 GitHub 조직에 따르면 Katanemo가 Plano를 개발합니다.
Plano는 어떤 프로그래밍 언어나 프레임워크와도 동작합니까?
네 — 자체 문서에 따르면 에이전트는 OpenAI 호환 채팅 완성 HTTP 엔드포인트만 구현하면 되므로, Plano는 어떤 언어나 AI 프레임워크로 작성된 에이전트와도 동작합니다.
Plano가 작동하려면 자체 모델이 필요합니까?
Plano의 라우팅 결정은 자체의 전용 약 40억 파라미터 오케스트레이터 모델을 통해 이루어지지만, 에이전트가 실제로 사용하는 LLM 응답은 Plano가 트래픽을 라우팅하는 설정된 모든 제공업체(OpenAI, Anthropic, 로컬 모델 등)에서 올 수 있습니다.
Plano는 LiteLLM과 어떻게 다릅니까?
Plano는 네이티브 멀티 에이전트 오케스트레이션을 핵심 기능으로 하는 Envoy 기반 데이터 플레인입니다. LiteLLM은 주로 100개 이상의 LLM 제공업체 호출을 통합하는 데 초점을 맞춘 Python 네이티브 SDK/프록시입니다. 자세한 내용은 위의 Plano vs. LiteLLM 비교를 참고하십시오.
PromptQuorum은 Plano의 주장을 독립적으로 검증했습니까?
이 리뷰는 PromptQuorum이 직접 수행한 벤치마크가 아니라, Plano 자체의 GitHub 저장소, README, 문서를 기반으로 합니다.