LiteLLM vs OpenRouter vs Portkey: 최고의 LLM 게이트웨이 2026

돌릴 곳이 있다면 LiteLLM을 직접 운영하고, 없다면 OpenRouter를 쓰십시오. 이 질문 하나가 어떤 기능 목록보다 확실하게 이 선택을 결정합니다. 세 도구 모두 단일 API, 장애 대응, 비용 추적이라는 게이트웨이의 핵심 역할은 이미 충족하고 있기 때문입니다.

LLM API 게이트웨이는 애플리케이션과 여러 모델 공급자 사이에 놓여 일관된 단일 API를 제공하는 라우팅 계층입니다. OpenAI, Anthropic, Google을 비롯한 각 공급자마다 별도의 연동 코드를 작성하는 대신, 게이트웨이를 한 번 호출하면 공급자별 형식과 인증, 장애 대응을 처리하고 대부분의 구현에서는 비용 추적과 레이트 리밋까지 맡습니다.

이 이점은 프로덕션에 공급자가 둘 이상일 때에만 생깁니다. 공급자가 하나뿐인 애플리케이션에서 게이트웨이는 대가 없는 추상화 계층일 뿐입니다. 공급자 난립이 이미 접착 코드와 온콜 대응 비용을 초래하고 있다면 도입하고, 그렇지 않다면 넘어가십시오.

모든 항목에서 이기는 게이트웨이는 없습니다. 비용과 통제력은 LiteLLM, 도입 속도는 OpenRouter, 엔터프라이즈 거버넌스는 Prisma AIRS가 앞섭니다. 가격과 요금제 내용은 2026년 8월 27일 각 공급사 공식 페이지에서 확인했습니다. 올해 게이트웨이 가격이 여러 차례 바뀌었으므로 이 페이지가 게시된 지 90일이 넘었다면 다시 확인하십시오.

LiteLLM이 커뮤니티의 기본 선택인 이유는 무료 버전이 체험판이 아니라 제품 전체이기 때문입니다. 지출 추적, 예산, 레이트 리밋, 장애 대응 체인이 모두 오픈소스 코어에 들어 있습니다. Enterprise가 더하는 것은 SSO, SCIM, 전담 지원, 망 분리 배포이지 라우팅 자체가 아닙니다.

게이트웨이를 직접 운영하는 대신 임대하는 데에는 홍보 문구가 아닌 실질적인 이유가 있습니다. 가용성, 업데이트, 시크릿 관리, 그리고 요청 경로에 놓인 서비스라면 피할 수 없는 온콜 대응 같은 진짜 인프라 작업을 덜 수 있습니다. 호스팅형 게이트웨이는 직접이라면 하나씩 연동해야 할 공급자 커버리지도 함께 제공합니다.

대가는 지출에 비례해 늘어나는 수수료와, 장애 대응에 대한 덜 정밀한 통제입니다. 사용량이 중간 수준이면 괜찮은 거래이고, 크면 나쁜 거래입니다. 손익분기점의 정확한 계산은 아래 비용 섹션에 있습니다.

LiteLLM의 오픈소스 코어는 사용량과 무관하게 무료로 유지되고, OpenRouter의 비용은 충전한 금액에 대한 비율이며, Portkey의 비용은 로그 규모와 계약 조건에 따라 늘어납니다. 아래 표는 공개된 약 5.5%의 Stripe 수수료에 대한 단순 계산입니다. 추정치가 아니라 이 선택을 좌우하는 바로 그 숫자입니다.

LiteLLM 운영 비용을 달러로 제시하지 않은 것은 의도적입니다. 이 프록시는 상시 구동되는 작은 서비스이고, 그 비용은 어디에서 돌리는지에 전적으로 달려 있습니다. 마지막 열에 여러분의 호스팅 비용을 넣으면 결론은 저절로 나옵니다.

한국 독자를 위한 참고: 세 공급사 모두 미국 달러로 청구하며 원화 가격표는 없습니다. 따라서 명세서에는 환율과 카드사에 따라 해외 이용 수수료가 더해집니다.

Portkey는 더 이상 독립 제품이 아닙니다. Palo Alto Networks가 2026년 5월 29일 인수를 완료했고 보안 플랫폼 Prisma AIRS에 통합하고 있습니다. 이것은 단순한 명칭 변경이 아닙니다. 오늘 가벼운 도구로 도입한 게이트웨이가 제품 주기 한 번 안에 가격이 재조정되거나 범위가 바뀌거나 더 큰 보안 제품군의 일부로만 판매될 수 있습니다.

민첩한 스타트업 제품이라는 이유로 Portkey를 검토하고 있었다면 그 전제는 더 이상 성립하지 않습니다. 확정하기 전에 현행 조건을 Palo Alto Networks에 직접 확인하십시오. 인수된 제품은 통합 첫 6~12개월 사이에 가격, 요금제 구조, 지원 모델이 바뀌는 일이 흔합니다.

세 제품 모두 공급자 장애 시 자동 전환을 지원하며, 차이는 그 정책을 누가 작성하는가에 있습니다. LiteLLM과 Portkey는 장애 대응 체인과 부하 분산 규칙을 여러분이 통제하는 설정에서 정의할 수 있게 합니다. OpenRouter는 플랫폼 차원에서 처리합니다. 공급자에 오류가 나면 자동으로 동등한 모델로 넘길 수 있지만, 어느 모델로 넘길지에 대한 통제는 덜 정밀합니다.

인프라를 갖춘 개발자는 기본적으로 LiteLLM을, 운영 부담 없는 멀티모델 접근을 원하는 팀은 OpenRouter를, Palo Alto 스택 안에 있는 기업은 Prisma AIRS를 검토해야 합니다. 그 이후는 팀 규모, 컴플라이언스 요건, 운영 부담에 대한 감내 수준이 결정합니다.

게이트웨이가 어디서 동작하는지가 프롬프트의 행선지를 결정합니다. 그래서 세 주요 시장에서 게이트웨이 선택은 비용 문제가 아니라 컴플라이언스 결정이 됩니다.

단일 LLM 공급자를 낮고 예측 가능한 사용량으로 호출하고 있으며 가까운 시일 내에 두 번째를 추가할 계획이 없다면, 세 제품 모두 제쳐 두십시오. 게이트웨이는 운영 복잡도(셀프 호스팅)나 비율 수수료(호스팅형)를 더하는 대신, 아직 쓰지도 않는 다중 공급자 이점을 제공할 뿐입니다.

공급자의 SDK를 직접 호출하고, 실제로 두 번째 모델이나 공급자를 추가하는 날 이 판단을 다시 하십시오. 한 단계 아래에도 같은 논리가 적용됩니다. 호스팅 API를 호출할지 자체를 아직 고민 중이라면 로컬 LLM vs 클라우드 API를 먼저 읽으십시오. 가장 저렴한 게이트웨이는 끝내 필요하지 않았던 게이트웨이입니다.