오픈 웨이트 및 오픈소스 AI를 위한 가이드.

모델에서 앱으로: 오픈 AI의 세 가지 물결

오픈 웨이트 및 오픈소스 AI는 세 가지 물결을 거쳐 발전해 왔습니다. 각 물결은 하나의 문제를 해결하며 다음 문제를 드러냈습니다.

1. 1차 물결

   Hugging Face
2. 2차 물결

   Ollama & LM Studio
3. 3차 물결

   앱

1. 1차 물결

   모델

   AI를 다운로드할 수 있게 만들었습니다.

   오픈 웨이트 및 오픈소스 모델(Llama, Qwen, Mistral, Gemma, DeepSeek 등 수백 종)은 연구용 산물에서 누구나 다운로드할 수 있는 파일로 바뀌었습니다. 이 모델들이 모여 있는 곳이 Hugging Face입니다.

   한계: 모델 파일 자체만으로는 질문에 답할 수 없습니다.
2. 2차 물결

   런타임

   모델을 실행할 수 있게 만들었습니다.

   Ollama, LM Studio, llama.cpp는 다운로드한 파일을 내 컴퓨터에서 실행되는 모델로 바꾸어 주었습니다. 프롬프트를 입력하면 답을 얻을 수 있습니다.

   한계: 하지만 활용 범위는 제한적입니다. 대부분의 사람에게는 채팅창이 전부이며, 많은 이들이 거기서 멈춥니다.
3. 3차 물결

   애플리케이션

   로컬 AI를 실제로 유용하게 만듭니다.

   그 위에 구축된 앱들은 문서와 대화하고, 에디터에서 코드를 작성하고, 에이전트를 실행하고, 음성을 텍스트로 바꾸거나 말하고, 이미지와 영상을 생성하고, 집을 자동화합니다. 이 앱들은 모델과 직접 연동되거나 Ollama, LM Studio 등의 인터페이스를 통해 작동합니다.

   한계: 이런 앱은 수백 개에 달하며, GitHub README, Discord 스레드, 변경 내역 곳곳에 흩어져 있고, 대부분 영어로만 제공되며 금세 낡은 정보가 됩니다.

   PromptQuorum이 활약하는 영역입니다

모델은 엔진입니다. 런타임은 그 엔진을 가동시킵니다. 그리고 사람들이 실제로 운전하는 것은 애플리케이션입니다. PromptQuorum은 이 세 번째 물결을 위한 지도이자 매뉴얼이며 시승 기회입니다.

The State of Local AI

로컬 AI의 현재 상황을 출처가 있는 수치, 직접 해 본 테스트, 명시한 가정과 함께 정리한 분기별 보고서입니다. 모든 보고서를 여기에서 확인하실 수 있습니다.

다음 보고서: 2027년 1월 · 모든 보고서 →

왜 로컬인가: 우리의 신념

• 로컬 모델은 개방적입니다. 웨이트를 다운로드해 직접 보유한 하드웨어에서 실행할 수 있습니다. 누구도 프롬프트를 승인할 필요가 없으며, 당신과 모델 사이에 끼어드는 사람도 없습니다.

• 비용은 당신이 통제합니다. 모델이 내 컴퓨터에서 실행되면 사용량 계량기도, 토큰당 요금도, 동의하지 않은 가격 변경도 없습니다. 비용은 하드웨어뿐이며, 그 하드웨어에 얼마를 쓸지는 당신이 결정합니다.

• 누구도 이를 빼앗아 갈 수 없습니다. 클라우드 모델은 하루아침에 변경되거나 제한되거나 가격이 바뀌거나 서비스가 종료될 수 있습니다. 하지만 다운로드한 모델은 그 파일을 보관하는 한 언제까지나 동일하게 작동합니다.

• 데이터는 당신 곁에 남습니다. 앱과 모델이 모두 로컬에서 실행되면, 프롬프트와 문서는 컴퓨터 밖으로 나가지 않습니다.

• 독립성이 핵심입니다. 로컬 AI는 단순히 더 저렴한 대안이 아닙니다. 그것은 다른 누군가의 약관, 서버, 결정에 의존하지 않는 방법입니다.

통제로부터의 독립은 이 사이트 전체를 관통하는 주제입니다. 그것이 바로 디렉터리가 중립적으로 운영되는 이유이자, 모든 항목이 공식 소스로 연결되는 이유이며, 우리가 9개 언어로 콘텐츠를 발행하는 이유입니다.

우리는 클라우드 AI가 나쁘다고 생각하지 않습니다. 다만 당신에게 진정한 선택권이 있어야 하며, 로컬을 선택하는 일이 클라우드를 선택하는 일만큼 쉬워야 한다고 믿습니다.

하나의 생태계, 함께 작동하는 네 가지 요소

PromptQuorum은 단순한 앱도, 단순한 디렉터리도 아닙니다. 동일한 목표를 중심으로 만들어진 네 가지 요소로 구성되어 있어, "무엇을 실행해야 할까?"라는 질문에서 실제로 작동하는 설정까지 이 사이트를 벗어나지 않고 도달할 수 있습니다.

제품 이름이 아니라 목표에서 시작하십시오

"llama.cpp"나 "Open WebUI"라는 이름을 미리 알아야 찾을 수 있는 것은 아닙니다. 하고 싶은 일에서부터 시작하십시오.

• 노트북에서 사용할 수 있는 프라이빗한 ChatGPT 대안을 원합니다.
• RAM이 16 GB입니다. 현실적으로 무엇을 실행할 수 있을까요?
• 오프라인 상태에서 내 PDF 문서와 대화하고 싶습니다.
• VS Code에서 사용할 로컬 코딩 어시스턴트가 필요합니다.
• 스마트홈에 사용할 오프라인 음성 어시스턴트를 원합니다.

내 AI에서 PromptQuorum 사용하기

PromptQuorum은 인증 없이 사용할 수 있는 공개 MCP 엔드포인트를 공개한 최초의 AI 앱 디렉터리입니다. 한 번만 연결하면 Claude, ChatGPT, Cursor 등 MCP를 지원하는 모든 어시스턴트가 PromptQuorum의 앱 데이터베이스, 라이선스 정보, 아티클을 대화 안에서 직접 조회할 수 있습니다. 탭을 오가며 복사해서 붙여 넣을 필요가 없습니다.

이 데이터는 단순히 읽히는 것이 아니라, 어시스턴트가 추론에 활용할 수 있는 입력이 됩니다. PromptQuorum이 반환한 정보를 어시스턴트 자신의 지식, 대화 속 다른 파일, 그리고 자체 웹 검색 결과와 결합하여 하나의 답변으로 제공합니다. 실제로는 다음과 같은 일이 가능해집니다.

예를 들어 "16GB RAM에서 실행되고 PDF와 대화할 수 있는 로컬 AI 앱은?"이라고 물으면, 어시스턴트가 PromptQuorum의 디렉터리와 지식 베이스를 직접 조회한 뒤, 오래된 학습 데이터를 바탕으로 추측하는 대신 라이선스와 하드웨어 적합성까지 포함한 구체적인 앱을 알려줍니다.

• 채팅을 벗어나지 않고 PromptQuorum이 리뷰한 앱을 비교하고, 이어서 후속 질문을 할 수 있습니다
• PromptQuorum의 데이터를 그대로 인용하면서, 내 용도에 맞게 도구의 라이선스를 확인할 수 있습니다
• PromptQuorum의 하드웨어 요구 사항을 내 사양이나 업로드한 문서와 대조할 수 있습니다
• 어시스턴트가 이미 웹에서 진행 중인 리서치에 PromptQuorum의 디렉터리 데이터를 결합할 수 있습니다

PromptQuorum을 내 어시스턴트에 한 번만 연결하면, 이후로는 어시스턴트가 대신 정보를 찾아 줍니다.

MCP 엔드포인트:

https://www.promptquorum.com/api/mcp (공개, 읽기 전용, 인증 불필요)

탐색 매니페스트:

https://www.promptquorum.com/mcp.json

{
  "mcpServers": {
    "promptquorum": {
      "url": "https://www.promptquorum.com/api/mcp"
    }
  }
}

사용 가능한 도구: search_promptquorum, get_article, list_clusters, get_app_details, explain_license, search_apps, list_categories