Key Takeaways
- ๋ก์ปฌ LLM ํ๋ก ํธ์๋๋ ๋ชจ๋ธ๊ณผ ๋ํํ๊ธฐ ์ํด ์ฌ์ฉํ๋ ์ฑํ ์ธํฐํ์ด์ค์ ๋๋ค. Ollama๊ฐ API๋ฅผ ์ ๊ณตํ๊ณ , ํ๋ก ํธ์๋๋ UI๋ฅผ ๋ด๋นํฉ๋๋ค.
- Open WebUI๋ ๊ฐ์ฅ ๊ธฐ๋ฅ์ด ํ๋ถํฉ๋๋ค(RAG, ๋ฉํฐ๋ชจ๋ฌ, ์ง์ ๋ฒ ์ด์ค, ํจ์ ํธ์ถ). Docker๊ฐ ํ์ํฉ๋๋ค. RAM 12 GB ์ด์์ ๊ถ์ฅํฉ๋๋ค.
- Enchanted UI๋ ๊ฐ์ฅ ๋น ๋ฅด๊ณ ๊ฐ์ฅ ๊ฐ๋จํฉ๋๋ค. ์์กด์ฑ์ด ์์ผ๋ฉฐ ๋ธ๋ผ์ฐ์ ์์ ๋ฐ๋ก ์คํ๋ฉ๋๋ค. ๊ฒฝ๋ ์ฌ์ฉ์ ์ต์ ์ ๋๋ค.
- Jan AI๋ ์คํ๋ผ์ธ ๋๊ธฐํ ๊ธฐ๋ฅ์ ๊ฐ์ถ ๋ฐ์คํฌํฑ ์ฑ์ ๋๋ค(Windows, macOS). ์๋ฒ ์ค์ ์ด ํ์ ์์ต๋๋ค. ๋น๊ธฐ์ ์ฌ์ฉ์์๊ฒ ์ธ๊ธฐ๊ฐ ์์ต๋๋ค.
- Continue.dev๋ ๋ก์ปฌ Ollama ๋ชจ๋ธ์ ํตํด ์ธ๋ผ์ธ ์ฝ๋ ์ ์์ ์ ๊ณตํ๋ VS Code ํ์ฅ ํ๋ก๊ทธ๋จ์ ๋๋ค.
- 2026๋ 4์ ๊ธฐ์ค์ผ๋ก ๋ชจ๋ ์ฃผ์ ํ๋ก ํธ์๋๋ ์คํ ์์ค์ด๋ฉฐ ๋ฌด๋ฃ์ ๋๋ค.
์์ 8๊ฐ์ง ๋ก์ปฌ LLM ํ๋ก ํธ์๋: ๊ธฐ๋ฅ ๋น๊ต
| Frontend | Type | Best For | Setup Time | RAM Required | Open Source |
|---|---|---|---|---|---|
| Open WebUI | ์น ์ฑ (Docker) | ๊ธฐ๋ฅ ํ๋ถ, RAG, ํ | 5๋ถ (Docker ํฌํจ) | 12 GB+ | ์ |
| Enchanted UI | ์น (์์กด์ฑ ์์) | ์๋, ๋จ์์ฑ | 0๋ถ (URL) | 8 GB+ | ์ |
| Jan AI | ๋ฐ์คํฌํฑ ์ฑ | ๋น๊ธฐ์ ์ฌ์ฉ์, ์คํ๋ผ์ธ | 3๋ถ (์ค์น) | 8 GB+ | ์ |
| Continue.dev | VS Code ํ์ฅ ํ๋ก๊ทธ๋จ | ์ฝ๋ ์์ฑ | 2๋ถ (ํ์ฅ ํ๋ก๊ทธ๋จ ์ค์น) | 8 GB+ | ์ |
| Lobe Chat | ์น ์ฑ | ๊ฐ์ธ ์ ๋ณด ๋ณดํธ, ์ฌ์ฉ์ ๋ง์ถคํ | 5๋ถ | 8 GB+ | ์ |
| Gradio | Python ๋ผ์ด๋ธ๋ฌ๋ฆฌ | ๋ง์ถคํ ์ธํฐํ์ด์ค, ML ํ | 5๋ถ (Python) | 8 GB+ | ์ |
| Streamlit | Python ํ๋ ์์ํฌ | ๋ฐ์ดํฐ ๊ณผํ์, ๋์๋ณด๋ | 5๋ถ (Python) | 8 GB+ | ์ |
| Text-generation-webui | ์น (๋ณต์ก) | ์คํ, ๊ณ ๊ธ ์ฌ์ฉ์ | 15๋ถ | 12 GB+ | ์ |
Open WebUI๊ฐ ๊ฐ์ฅ ์ธ๊ธฐ ์๋ ํ๋ก ํธ์๋์ธ ์ด์ ๋ ๋ฌด์์ ๋๊น?
Open WebUI๋ GitHub์์ 25,000๊ฐ ์ด์์ ์คํ๋ฅผ ๋ณด์ ํ ๊ฐ์ฅ ๋ง์ด ๋ค์ด๋ก๋๋ ๋ก์ปฌ LLM ํ๋ก ํธ์๋์ ๋๋ค โ RAG, ๋ฉํฐ๋ชจ๋ฌ, ์น ๊ฒ์, ๋ค์ค ์ฌ์ฉ์ ํ์ ์ ๋จ์ผ Docker ์ปจํ ์ด๋์ ๋ด๊ณ ์์ต๋๋ค. Ollama, LM Studio, ๋๋ OpenAI ํธํ API์ ํจ๊ป ์๋ํฉ๋๋ค.
์ฃผ์ ๊ธฐ๋ฅ:
- RAG (๊ฒ์ ์ฆ๊ฐ ์์ฑ): ๋ฌธ์(PDF, ํ ์คํธ ํ์ผ)๋ฅผ ์ ๋ก๋ํ๊ณ ๋ชจ๋ธ์ด ํด๋น ๋ฌธ์์ ๋ํ ์ง๋ฌธ์ ๋ตํ๋๋ก ํฉ๋๋ค.
- ๋ฉํฐ๋ชจ๋ฌ ์ง์: ์ด๋ฏธ์ง๋ฅผ ์ ๋ก๋ํ๊ณ ์ด์ ๋ํ ์ง๋ฌธ์ ํ ์ ์์ต๋๋ค.
- ์น ๊ฒ์ ํตํฉ: ๋ชจ๋ธ์ด ํ์ฌ ์ ๋ณด๋ฅผ ์ํด ์น์ ๊ฒ์ํ ์ ์์ต๋๋ค.
- ์ง์ ๋ฒ ์ด์ค: ๋ชจ๋ธ์ด ์ฐธ์กฐํ๋ ๋ฌธ์์ ์๊ตฌ ์ปฌ๋ ์ ์ ์์ฑํฉ๋๋ค.
- ํจ์ ํธ์ถ ๋ฐ ๋๊ตฌ: ๋ชจ๋ธ์ด ํจ์๋ ๋๊ตฌ๋ฅผ ํธ์ถํ ์ ์๋ ์ํฌํ๋ก์ฐ๋ฅผ ๊ตฌ์ถํฉ๋๋ค.
- ํ ํ์ : ์ฌ๋ฌ ์ฌ์ฉ์๊ฐ ๋์ผํ ์ธ์คํด์ค๋ฅผ ๊ณต์ ํ ์ ์์ต๋๋ค.
- ๋ชจ๋ธ ๋ง์ผํ๋ ์ด์ค: UI์์ ์ง์ ๋ชจ๋ธ์ ํ์ํ๊ณ ๋ค์ด๋ก๋ํฉ๋๋ค.
2026๋ 4์ ๊ธฐ์ค์ผ๋ก Open WebUI์ ์ฃผ์ ์ ํ ์ฌํญ์ Docker๊ฐ ํ์ํ๋ค๋ ๊ฒ์ผ๋ก, 5๋ถ์ ์ค์ ์ค๋ฒํค๋๊ฐ ์ถ๊ฐ๋ฉ๋๋ค. ์ผ๋จ ์คํ๋๋ฉด RAG, ๋ฉํฐ๋ชจ๋ฌ, ๋ค์ค ์ฌ์ฉ์, ์น ๊ฒ์ ๊ธฐ๋ฅ์ด ์ถ๊ฐ๋ฉ๋๋ค โ ์ด๋ ๊ฒฝ๋ ๋์์์๋ ์ฌ์ฉํ ์ ์๋ ๊ธฐ๋ฅ์ ๋๋ค.
# Run Open WebUI with Docker (5 min setup)
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway \
-e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
--name open-webui ghcr.io/open-webui/open-webui:latest
# Then open http://localhost:3000 in your browserโขโ ๏ธ ๊ฒฝ๊ณ : Open WebUI๋ Docker๊ฐ ํ์ํฉ๋๋ค. Docker๊ฐ ์ค์น๋์ด ์์ง ์์ผ๋ฉด ์ค์ ์๊ฐ์ 10~15๋ถ์ด ์ถ๊ฐ๋ฉ๋๋ค. ์์ํ๊ธฐ ์ ์ `docker --version`์ ์คํํ์ฌ ํ์ธํ์ญ์์ค.
โข๐ก Pro Tip: Docker ๋ช ๋ น์ด์ WEBUI_AUTH=true๋ฅผ ์ค์ ํ๋ฉด ์ฌ์ฉ์ ๋ก๊ทธ์ธ์ด ํ์ํฉ๋๋ค. ๋ค์ค ์ฌ์ฉ์ ๋๋ ํ ๋ฐฐํฌ์๋ ํ์์ ๋๋ค.
๊ฒฝ๋ ์๋๋ฅผ ์ํด Enchanted UI๋ฅผ ์ ํํด์ผ ํ๋ ์ด์ ๋ ๋ฌด์์ ๋๊น?
Enchanted UI๋ ๊ฐ์ฅ ๋น ๋ฅธ ์ ๋ก ์ค์ ํ๋ก ํธ์๋์ ๋๋ค: ์ค์น๋ ์์กด์ฑ์ด ํ์ ์์ผ๋ฉฐ โ ๋ธ๋ผ์ฐ์ ์์ URL์ ์ด๊ณ ๋ก์ปฌ Ollama ๋ชจ๋ธ๊ณผ ์ฑํ ์ ์์ํ์ญ์์ค. 2026๋ 4์ ๊ธฐ์ค์ผ๋ก ๋จ์ผ HTML ํ์ผ๋ก, ๋จ์ํ ์ฑํ ์์ ๊ฐ์ฅ ๋ฐ์์ด ๋น ๋ฅธ ์ต์ ์ ๋๋ค.
์ฃผ์ ๊ธฐ๋ฅ:
- ์ฆ์ ์คํ: ์ค์น๋ ์์กด์ฑ์ด ์์ต๋๋ค. URL์ ์ด๊ธฐ๋ง ํ๋ฉด ๋ฉ๋๋ค.
- ๋น ๋ฆ: ์ต์ํ์ JavaScript, ๋ฌด๊ฑฐ์ด ํ๋ ์์ํฌ ์์.
- ํ๋ผ์ด๋ฒ์: ๋ชจ๋ ๊ฒ์ด ๋ธ๋ผ์ฐ์ ์์ ์คํ๋๋ฉฐ, ๋ฐ์ดํฐ๊ฐ ๊ธฐ๊ธฐ๋ฅผ ๋ ๋์ง ์์ต๋๋ค.
- ์๋ฆ๋ค์ด ๋คํฌ ๋ชจ๋: ๊น๋ํ๊ณ ํ๋์ ์ธ ์ธํฐํ์ด์ค.
Enchanted UI๋ ์ค์ ์ ๋ณต์ก์ฑ ์์ด ๋ก์ปฌ ๋ชจ๋ธ๊ณผ ์ฑํ ํ๊ณ ์ถ์ ๋ ์๋ฒฝํฉ๋๋ค. RAG, ๋ฉํฐ๋ชจ๋ฌ, ๊ณ ๊ธ ๊ธฐ๋ฅ์ ๋ถ์กฑํ์ง๋ง, ์ผ์์ ์ธ ์ฑํ ์์๋ ๋จ์์ฑ์ด ํ์ ์ถ์ข ์ ๋ถํํฉ๋๋ค.
# 1. Start your Ollama model
ollama run llama3.2:3b
# 2. Open this URL in your browser
# https://enchanted.div.ai/
# Ollama will auto-detect, and you can start chatting immediatelyโข๐ก Pro Tip: Enchanted UI๋ ๊ธฐ๋ณธ์ ์ผ๋ก localhost:11434์์ Ollama์ ์ฐ๊ฒฐํฉ๋๋ค. Ollama๊ฐ ์คํ๋์ง ์์ผ๋ฉด ์ฑํ ์ ์ฐ๊ฒฐ ์ค๋ฅ๊ฐ ํ์๋ฉ๋๋ค. ํญ์ ๋จผ์ `ollama serve`๋ฅผ ์คํํ๊ฑฐ๋ Ollama ์ฑ์ ์์ํ์ญ์์ค.
Jan AI๊ฐ ๋ฐ์คํฌํฑ ์ฌ์ฉ์์๊ฒ ๊ฐ์ฅ ์ ํฉํ ์ด์ ๋ ๋ฌด์์ ๋๊น?
Jan AI๋ ๋ชจ๋ธ ๊ด๋ฆฌ, ์ถ๋ก , ์ฑํ ์ ํ๋์ ์คํ๋ผ์ธ ์ ํ๋ฆฌ์ผ์ด์ ์ผ๋ก ๋ฌถ์ ๋ฐ์คํฌํฑ ์ฑ์ ๋๋ค(Windows, macOS) โ ์๋ฒ๋ Docker ์ค์ ์ด ํ์ ์์ต๋๋ค. LM Studio์ ์ ์ฌํ์ง๋ง ๋ ๊ฐ๋ ฅํ ์คํ๋ผ์ธ ์ง์๊ณผ ์ปค๋ฎค๋ํฐ ์ค์ฌ ์ ๊ทผ ๋ฐฉ์์ ๊ฐ์ถ๊ณ ์์ต๋๋ค.
์ฃผ์ ๊ธฐ๋ฅ:
- ์คํ๋ผ์ธ ์ฐ์ : ๋ชจ๋ธ์ด ๊ธฐ๊ธฐ์ ๋๊ธฐํ๋๋ฉฐ, ์ฑํ ์ ์ธํฐ๋ท์ด ํ์ํ์ง ์์ต๋๋ค.
- GPU ๋ฐ CPU ํด๋ฐฑ: ๊ฐ๋ฅํ๋ฉด GPU๋ฅผ ์๋์ผ๋ก ์ฌ์ฉํ๊ณ , CPU๋ก ํด๋ฐฑํฉ๋๋ค.
- ๊ธฐ๋ณธ ํ๋ผ์ด๋ฒ์: ๊ณ์ ๋ถํ์, ํ ๋ ๋ฉํธ๋ฆฌ ์์.
- ํ์ฅ ๋ง์ผํ๋ ์ด์ค: RAG, ์น ๊ฒ์, ๋๊ตฌ ๋ฑ์ ํ๋ฌ๊ทธ์ธ์ ์ถ๊ฐํฉ๋๋ค.
Jan์ ์ธ๋ จ๋ ๋ฐ์คํฌํฑ ์ฑ์ ์ํ๋ ๋น๊ธฐ์ ์ฌ์ฉ์์๊ฒ ์ต์ ์ ๋๋ค. 2026๋ 4์ ๊ธฐ์ค์ผ๋ก ๋ ๊ฐ๋ ฅํ ์ปค๋ฎค๋ํฐ ์ง์์ ๊ฐ์ถ LM Studio ๋์์ผ๋ก ์ฃผ๋ชฉ๋ฐ๊ณ ์์ต๋๋ค.
โข๐ ํต์ฌ ํฌ์ธํธ: Jan AI๋ ๋ชจ๋ธ์ ~/jan/models์ ์ ์ฅํฉ๋๋ค โ Ollama์ ๋ชจ๋ธ ์บ์์ ๋ณ๊ฐ์ ๋๋ค. ๋ ์ฑ์ ๋ชจ๋ ์ฌ์ฉํ๋ฉด ๋ค์ด๋ก๋๋ ๋ชจ๋ธ์ด ๊ณต์ ๋์ง ์์ ๋ ์ฑ์์ ์ฌ์ฉ๋๋ ๋ชจ๋ ๋ชจ๋ธ์ ๋์คํฌ ์ฌ์ฉ๋์ด ๋ ๋ฐฐ๊ฐ ๋ฉ๋๋ค.
์ฝ๋ ์์ฑ์ Continue.dev๋ฅผ ์ฌ์ฉํ๋ ๋ฐฉ๋ฒ์ ๋ฌด์์ ๋๊น?
Continue.dev๋ ๋ก์ปฌ Ollama ๋ชจ๋ธ์ VS Code ๋๋ JetBrains์ ์ธ๋ผ์ธ ์ฝ๋ ์ ์์ผ๋ก ์ ํํฉ๋๋ค โ ์ค์ ์ 2๋ถ์ด ๊ฑธ๋ฆฌ๋ฉฐ ํด๋ผ์ฐ๋ API ํค๊ฐ ํ์ ์์ต๋๋ค. ํ์ดํ์ ์์ํ๋ฉด Continue๊ฐ ๋ก์ปฌ ๋ชจ๋ธ์ ๊ธฐ๋ฐ์ผ๋ก ์์ฑ์ ์ ์ํฉ๋๋ค.
์ค์ (2๋ถ):
1. VS Code ๋ง์ผํ๋ ์ด์ค์์ Continue๋ฅผ ์ค์นํ์ญ์์ค.
2. Ollama ์ธ์คํด์ค๋ฅผ ๊ฐ๋ฆฌํค๋๋ก ์ค์ ํ์ญ์์ค (Config โ Configure Continue โ Add localhost:11434).
3. ์ฝ๋ ํ์ดํ์ ์์ํ๊ณ Tab ๋๋ Ctrl+Shift+\๋ฅผ ๋๋ฌ ์์ฑ์ ๋ฐ์ผ์ญ์์ค.
Continue๋ ์ฝ๋๋ฅผ ํด๋ผ์ฐ๋ API์ ๋ณด๋ด์ง ์๊ณ ์ฝ๋ ์ ์์ ์ํ๋ ๊ฐ๋ฐ์์๊ฒ ์๋ฒฝํฉ๋๋ค. ์ฝ๋ฉ ์์ ์๋ Ollama์ Qwen3-Coder 7B ๋๋ Llama Code ๋ชจ๋ธ์ด ํฉ๋ฆฌ์ ์ธ ์ ์์ ์์ฑํฉ๋๋ค.
โข๐ก Pro Tip: ์ฝ๋ ์์ฑ์ ๊ฒฝ์ฐ Qwen3-Coder 7B(`ollama run qwen2.5-coder:7b`)๊ฐ ์ฝ๋ ์์ ์์ Llama 3.2์ ๊ฐ์ ์ผ๋ฐ ๋ชจ๋ธ๋ณด๋ค ์ฐ์ํฉ๋๋ค. ์ค์ ํ Continue์ config.json์์ ๋ชจ๋ธ์ ์ ํํ์ญ์์ค.
์ ํ ํธ์คํ ๊ณผ ํด๋ผ์ฐ๋ ํ๋ก ํธ์๋ ์ค ์ด๋ ๊ฒ์ ์ ํํด์ผ ํฉ๋๊น?
์ด ๊ฐ์ด๋์ ๋ชจ๋ ํ๋ก ํธ์๋๋ ๊ทํ์ ๊ธฐ๊ธฐ๋ ์๋ฒ์์ ์คํ๋ฉ๋๋ค โ ํ๋กฌํํธ ๋ฐ์ดํฐ๊ฐ ๊ธฐ๊ธฐ๋ฅผ ๋ ๋์ง ์์ผ๋ฉฐ API ๋น์ฉ์ด ์์ต๋๋ค. ๋์์ ChatGPT, Claude, ๋๋ Gemini์ ๊ฐ์ ํด๋ผ์ฐ๋ ํ๋ก ํธ์๋๋ก, ์๊ฒฉ ์๋ฒ์ ์ฐ๊ฒฐํฉ๋๋ค.
- ์ ํ ํธ์คํ ์ ํ ๊ธฐ์ค: ๋ฏผ๊ฐํ ๋ฐ์ดํฐ๊ฐ ์๊ฑฐ๋, API ๋น์ฉ์ ์์ ๊ณ ์ถ๊ฑฐ๋, ์ธํฐํ์ด์ค๋ฅผ ๋ง์ถคํํ๊ณ ์ถ๊ฑฐ๋, ์คํ๋ผ์ธ ์ํ์ธ ๊ฒฝ์ฐ.
- ํด๋ผ์ฐ๋ ์ ํ ๊ธฐ์ค: ์ต์์ ๋ชจ๋ธ ํ์ง์ด ํ์ํ๊ฑฐ๋, ์ธํ๋ผ๋ฅผ ๊ด๋ฆฌํ๊ณ ์ถ์ง ์๊ฑฐ๋, ์ฌ์ฉ๋์ด ์ ์ ๊ฒฝ์ฐ.
- ๋ ๊ฐ์ง๋ฅผ ๋ณํ ์ฌ์ฉ: PromptQuorum๊ณผ ๊ฐ์ ๋๊ตฌ๋ฅผ ์ฌ์ฉํ๋ฉด ๋ก์ปฌ ๋ชจ๋ธ๊ณผ ํด๋ผ์ฐ๋ API ๋ชจ๋์ ๋์์ ํ๋กฌํํธ๋ฅผ ์ ๋ฌํ์ฌ ๊ฒฐ๊ณผ๋ฅผ ๋๋ํ ๋น๊ตํ ์ ์์ต๋๋ค.
โข๐ ํต์ฌ ํฌ์ธํธ: ๋ชจ๋ ํ๋ก ํธ์๋๋ localhost:11434์ ๋์ผํ Ollama ์ธ์คํด์ค๋ฅผ ๊ณต์ ํฉ๋๋ค. Open WebUI์์ Enchanted UI๋ก ์ ํํด๋ ๋ชจ๋ธ์ ๋ค์ ๋ค์ด๋ก๋ํ ํ์๊ฐ ์์ต๋๋ค โ Ollama๋ ์ด๋ค ํ๋ก ํธ์๋๋ฅผ ์ฌ์ฉํ๋ ๋ชจ๋ ๋ค์ด๋ก๋๋ ๋ชจ๋ธ์ ์ ์งํฉ๋๋ค.
์ง์ญ๋ณ ์ปดํ๋ผ์ด์ธ์ค ๊ท์ ์ด ํ๋ก ํธ์๋ ์ ํ์ ์ด๋ค ์ํฅ์ ๋ฏธ์นฉ๋๊น?
EU / GDPR
๋ก์ปฌ LLM ํ๋ก ํธ์๋๋ฅผ ๋ฐฐํฌํ๋ EU ์กฐ์ง์ ๊ฒฝ์ฐ, ๋ฐ์ดํฐ ์ฃผ๊ถ์ด ์ฃผ์ ์์ธ์ ๋๋ค. ์ด ๊ฐ์ด๋์ 8๊ฐ์ง ํ๋ก ํธ์๋๋ ๋ชจ๋ ์จํ๋ ๋ฏธ์ค์์ ์์ ํ ์คํ๋ฉ๋๋ค โ ํ๋กฌํํธ ์ฝํ ์ธ , ๋ํ ๊ธฐ๋ก, ์ ๋ก๋๋ ๋ฌธ์๊ฐ ๊ทํ์ ์ธํ๋ผ๋ฅผ ๋ ๋์ง ์์ต๋๋ค. ์ด๋ GDPR ์ 5์กฐ(๋ฐ์ดํฐ ์ต์ํ)๋ฅผ ์ถฉ์กฑํ๊ณ ์ 28์กฐ ๋ฐ์ดํฐ ์ฒ๋ฆฌ์ ๊ด๊ณ๋ฅผ ์์ฑ๋๋ค.
๊ท์ ๋ EU ๋ถ์ผ(์๋ฃ, ๋ฒ๋ฅ , ๊ธ์ต)์ ๊ฒฝ์ฐ: Open WebUI๋ ๋ด๋ณด๋ผ ์ ์๋ ๊ฐ์ฌ ์ถ์ ๊ณผ ํจ๊ป ๋ชจ๋ ๋ํ๋ฅผ ๋ก์ปฌ๋ก ๊ธฐ๋กํ๊ธฐ ๋๋ฌธ์ ๊ถ์ฅ ํ๋ก ํธ์๋์ ๋๋ค. ๋ ์ผ BSI์ ํ๋์ค CNIL์ ๋ชจ๋ ์ ์ ํ ์ ๊ทผ ์ ์ด์ ๊ฒฐํฉํ ๋ ๊ณ ์ํ ์ฒ๋ฆฌ๋ฅผ ์ํ ๋ก์ปฌ ํธ์คํ AI ๋๊ตฌ๋ฅผ ์์ฉํฉ๋๋ค. ์ธ์ฆ์ด ํ์ฑํ๋ ์ํ๋ก Open WebUI๋ฅผ ์ค์ ํ๊ณ (Docker์์ `WEBUI_AUTH=true`) ์น์ธ๋ ์ฌ์ฉ์๋ง ์ ๊ทผ์ ์ ํํ์ญ์์ค.
์ผ๋ณธ (METI)
METI AI ๊ฑฐ๋ฒ๋์ค ์ง์นจ์ ํ๋ก๋์ ๋ฐฐํฌ์์ AI ๋๊ตฌ ๋ฒ์ ์ ๋ฌธ์ํํ๋๋ก ์๊ตฌํฉ๋๋ค. Open WebUI ๋ฒ์ ์ ์ค์ โ ์ ๋ณด์์ ํ์ธํ ์ ์์ผ๋ฉฐ, Docker ์ด๋ฏธ์ง ํ๊ทธ๋ ์ปดํ๋ผ์ด์ธ์ค ๊ธฐ๋ก์ ์ํ ์ ํํ ๋ฒ์ ๊ณ ์ ์ ์ ๊ณตํฉ๋๋ค. ์ผ๋ณธ ๊ธฐ์ ํ์ ๊ฒฝ์ฐ, Qwen3 7B์ ํจ๊ปํ Open WebUI(`ollama run qwen2.5:7b`)๊ฐ ๊ถ์ฅ ์คํ์ ๋๋ค โ ๋ค์ดํฐ๋ธ ์ผ๋ณธ์ด ํ ํฌ๋์ด์ ์ด์ ์ RAG ๊ธฐ๋ฅ์์ ์ผ๋ณธ์ด ๋ฌธ์ Q&A์ ๋ ๋์ ํ์ง์ ์ ๊ณตํฉ๋๋ค.
์ค๊ตญ
์ค๊ตญ์ ๋ฐ์ดํฐ ๋ณด์๋ฒ(ๆฐๆฎๅฎๅ จๆณ)์ ๋ฐ๋ผ, ์ด ๊ฐ์ด๋์ ๋ชจ๋ ํ๋ก ํธ์๋๋ ์จํ๋ ๋ฏธ์ค ๋๋ ๊ตญ๋ด ํด๋ผ์ฐ๋ ๊ณต๊ธ์(Alibaba Cloud, Tencent Cloud)์ ๋ฐฐํฌ๋ ๋ ๋ก์ปฌ ๋ฐ์ดํฐ ๊ฑฐ์ฃผ ์๊ฑด์ ์ถฉ์กฑํฉ๋๋ค. Docker์ Open WebUI๋ ์ค๊ตญ ํด๋ผ์ฐ๋ VM ์ธ์คํด์ค์ ํธํ๋ฉ๋๋ค. ์ค๊ตญ ๊ธฐ์ RAG ๋ฐฐํฌ์ ๊ฒฝ์ฐ, ์ต์ ์ ์ค๊ตญ์ด ๋ฌธ์ ๋ถ์์ ์ํด Open WebUI์ Qwen3 14B๋ฅผ ์์ผ๋ก ์ฌ์ฉํ์ญ์์ค.
โขโ ๏ธ ๊ฒฝ๊ณ : EU ๊ท์ ๋ถ์ผ(์๋ฃ, ๋ฒ๋ฅ , ๊ธ์ต)์ ๊ฒฝ์ฐ: Open WebUI์ ๊ธฐ๋ณธ Docker ์ค์ ์๋ ์ธ์ฆ์ด ์์ต๋๋ค. ๋ด๋ถ ๋๋ ์ธ๋ถ ๋คํธ์ํฌ์ ๋ ธ์ถํ๊ธฐ ์ ์ WEBUI_AUTH=true๋ฅผ ์ถ๊ฐํ์ญ์์ค โ ์ด๋ GDPR ์ 32์กฐ ๊ธฐ์ ์ ์กฐ์น์ ํ์์ ๋๋ค.
โข๐ ์๊ณ ๊ณ์ จ์ต๋๊น?: METI AI ๊ฑฐ๋ฒ๋์ค ์ง์นจ์ ํ๋ก๋์ ์์ AI ๋๊ตฌ ๋ฒ์ ์ ๋ฌธ์ํํ๋๋ก ์๊ตฌํฉ๋๋ค. Open WebUI ๋ฒ์ ์ ์ค์ โ ์ ๋ณด์์ ํ์ธํ ์ ์์ผ๋ฉฐ, Docker ์ด๋ฏธ์ง ํ๊ทธ(์: :0.3.32)๋ ์ปดํ๋ผ์ด์ธ์ค ๊ธฐ๋ก์ ์ํ ์ ํํ ๋ฒ์ ๊ณ ์ ์ ์ ๊ณตํฉ๋๋ค.
ํ๋ก ํธ์๋ ์ ํ ์ ๊ฐ์ฅ ํํ 5๊ฐ์ง ์ค์๋ ๋ฌด์์ ๋๊น?
- ๊ฐ์ฅ ๊ธฐ๋ฅ์ด ํ๋ถํ ํ๋ก ํธ์๋๊ฐ ํ์ํ๋ค๊ณ ๊ฐ์ ํ๋ ๊ฒ. Open WebUI๊ฐ ๊ฐ์ฅ ๋ง์ ๊ธฐ๋ฅ์ ๊ฐ์ถ๊ณ ์์ง๋ง, ์ฑํ ๋ง ์ํ๋ค๋ฉด Enchanted๊ฐ ๋ ๋น ๋ฆ ๋๋ค. ๊ธฐ๋ฅ ์๊ฐ ์๋ ์ค์ ํ์์ ๋ฐ๋ผ ์ ํํ์ญ์์ค.
- ํ๋ก ํธ์๋๋ฅผ ์ฝ๊ฒ ์ ํํ ์ ์๋ค๋ ๊ฒ์ ๋ชจ๋ฅด๋ ๊ฒ. Ollama ๋ชจ๋ธ๊ณผ ๋ชจ๋ธ๋ค์ ํ๋ก ํธ์๋์ ๋ณ๊ฐ์ ๋๋ค. ๋ชจ๋ธ์ ๋ค์ ๋ค์ด๋ก๋ํ์ง ์๊ณ Open WebUI์์ Enchanted UI๋ก, Jan AI๋ก ์ ํํ ์ ์์ต๋๋ค โ ๋ชจ๋ ๋์ผํ Ollama ์ธ์คํด์ค๋ฅผ ๊ณต์ ํฉ๋๋ค.
- GPU ์์ด 8 GB RAM ๊ธฐ๊ธฐ์์ Open WebUI๋ฅผ ์คํํ๋ ค๋ ๊ฒ. Open WebUI + ๋ชจ๋ธ ์ถ๋ก ์๋ ์ด 12 GB ์ด์์ด ํ์ํฉ๋๋ค. ์ ํ๋ ํ๋์จ์ด์์๋ Enchanted UI ๋๋ ๊ฒฝ๋ ๋์์ ์ฌ์ฉํ์ญ์์ค.
- ๋ชจ๋ธ ์์ํ์ ํ๋ก ํธ์๋ ์๊ตฌ ์ฌํญ์ ๋ฌด์ํ๋ ๊ฒ. 8๋นํธ ํ์์ 13B ๋ชจ๋ธ๋ง 13 GB์ ๋๋ค. Open WebUI๊ฐ ์ค๋ฒํค๋๋ฅผ ์ถ๊ฐํฉ๋๋ค. ๊ณ์ฐํ์ญ์์ค: ๋ชจ๋ธ ํฌ๊ธฐ + ํ๋ก ํธ์๋ ์ค๋ฒํค๋ + OS = ์ด ํ์ RAM.
- ๋จผ์ Ollama๋ฅผ ๋ฐฑ๊ทธ๋ผ์ด๋ ์๋น์ค๋ก ์ค์ ํ์ง ์๋ ๊ฒ. ๋ง์ ์๋ก์ด ์ฌ์ฉ์๋ค์ด Ollama๊ฐ ์คํ๋์ด์ผ ํ๋ค๋ ๊ฒ์ ์ธ์ํ์ง ๋ชปํ๊ณ ์ฌ๋ฌ ํ๋ก ํธ์๋๋ฅผ ๋์์ ์คํํ๋ ค๊ณ ํฉ๋๋ค. ๋จผ์ Ollama๋ฅผ ์ค์ ํ๊ณ (๋ฐฑ๊ทธ๋ผ์ด๋์์ `ollama serve`๋ฅผ ํตํด ์๋น์ค๋ก), ๊ทธ๋ค์ ์ ํํ ํ๋ก ํธ์๋๋ฅผ ์ถ๊ฐํ์ญ์์ค.
โขโ ๏ธ ๊ฒฝ๊ณ : 8 GB RAM์์ Open WebUI + ๋ชจ๋ธ ์ถ๋ก ์ ์คํํ๋ฉด ๋ฉ๋ชจ๋ฆฌ ๋ถ์กฑ ์ถฉ๋์ด ์์ฃผ ๋ฐ์ํฉ๋๋ค. ์ํํ ๊ฒฝํ์ ์ํ ์ต์ ์ฌ์์ ์ด ์์คํ RAM 16 GB์ ๋๋ค โ ๋ชจ๋ธ์ 12 GB, OS์ Docker์ 4 GB.
๋ก์ปฌ LLM ํ๋ก ํธ์๋์ ๊ดํ ์์ฃผ ๋ฌป๋ ์ง๋ฌธ
์ฌ๋ฌ ํ๋ก ํธ์๋๋ฅผ ๋์์ ์คํํ ์ ์์ต๋๊น?
์. ๋ชจ๋ ํ๋ก ํธ์๋๋ ๋์ผํ Ollama API(localhost:11434)์ ์ฐ๊ฒฐ๋ฉ๋๋ค. Open WebUI, Enchanted UI, Continue.dev๋ฅผ ๋ชจ๋ ๋์์ ์คํํ๊ณ ๋์ผํ ๋ชจ๋ธ์ ์ฌ์ฉํ ์ ์์ต๋๋ค. VRAM ์ฌ์ฉ๋์ด ๋ ๋ฐฐ๊ฐ ๋์ง ์์ต๋๋ค โ ๋ชจ๋ ๋์ผํ ๋ชจ๋ธ ์ธ์คํด์ค๋ฅผ ๊ณต์ ํฉ๋๋ค.
RAG์ ๊ฐ์ฅ ์ ํฉํ ํ๋ก ํธ์๋๋ ๋ฌด์์ ๋๊น?
Open WebUI๊ฐ ๊ฐ์ฅ ์ฑ์ํ RAG ๊ตฌํ์ ๊ฐ์ถ๊ณ ์์ต๋๋ค. ๋ฌธ์๋ฅผ ์ ๋ก๋ํ๋ฉด ๋ชจ๋ธ์ด ํด๋น ๋ฌธ์๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ์ง๋ฌธ์ ๋ตํฉ๋๋ค. ๊ณ ๊ธ RAG ์ํฌํ๋ก์ฐ์ ๋ํด์๋ ์ต๊ณ ์ ๋ก์ปฌ RAG ๋๊ตฌ๋ฅผ ์ฐธ์กฐํ์ญ์์ค.
ํ๋ก ํธ์๋๊ฐ ์ ํ ํ์ํฉ๋๊น?
์๋๋๋ค. Ollama๋ localhost:11434์์ REST API๋ฅผ ์ ๊ณตํฉ๋๋ค. Python, JavaScript, ๋๋ bash ์คํฌ๋ฆฝํธ๋ฅผ ์์ฑํ์ฌ ํ๋ก ํธ์๋ ์์ด API๋ฅผ ํตํด ์ง์ ๋ชจ๋ธ๊ณผ ์ํธ ์์ฉํ ์ ์์ต๋๋ค. ํ๋ก ํธ์๋๋ ๋จ์ํ ํธ์์ฑ๊ณผ ์๊ฐ์ ์ํธ ์์ฉ์ ์ํ ๊ฒ์ ๋๋ค.
Linux์์ ์๋ํ๋ ํ๋ก ํธ์๋๋ ๋ฌด์์ ๋๊น?
Open WebUI, Enchanted UI, Lobe Chat, Gradio/Streamlit์ ๋ชจ๋ Linux์์ ์๋ํฉ๋๋ค. Jan AI๋ Linux ์ง์์ด ๋ฒ ํ ์ํ์ ๋๋ค(2026๋ 4์ ๊ธฐ์ค). Continue.dev๋ ๋ชจ๋ ํ๋ซํผ์์ VS Code๋ฅผ ํตํด ์๋ํฉ๋๋ค.
์๊ฒฉ ์๋ฒ์ ํ๋ก ํธ์๋๋ฅผ ํธ์คํ ํ ์ ์์ต๋๊น?
์. ๋ชจ๋ ํ๋ก ํธ์๋๋ ์น ์ฑ์ด๊ฑฐ๋(๋๋ ์ปจํ ์ด๋ํ๋ ์ ์์ต๋๋ค). ์๋ฒ์์ Ollama๋ฅผ ์คํํ๊ณ Docker์์ Open WebUI๋ฅผ ์คํํ ๋ค์ HTTP๋ฅผ ํตํด ๋ ธํธ๋ถ์์ ์ ๊ทผํ ์ ์์ต๋๋ค. ์ธ์ฆ ๋๋ ๋ฐฉํ๋ฒฝ์ผ๋ก ์ธํฐํ์ด์ค๋ฅผ ๋ณดํธํ์ญ์์ค.
RAM์ ๊ฐ์ฅ ์ ๊ฒ ์ฌ์ฉํ๋ ํ๋ก ํธ์๋๋ ๋ฌด์์ ๋๊น?
Enchanted UI๋ ์คํ ์ค์ธ ๋ชจ๋ธ ์ธ์ ๊ธฐ๋ณธ์ ์ผ๋ก ์ถ๊ฐ RAM์ ์ฌ์ฉํ์ง ์์ต๋๋ค โ ๋ธ๋ผ์ฐ์ ์ ๋จ์ผ HTML ํ์ผ์ ๋๋ค. Jan AI์ Continue.dev๋ ์ต์ํ์ ์ค๋ฒํค๋(200 MB ๋ฏธ๋ง)๋ฅผ ์ถ๊ฐํฉ๋๋ค. Docker์ Open WebUI๋ ์ฝ 500 MB~1 GB์ ์ค๋ฒํค๋๋ฅผ ์ถ๊ฐํฉ๋๋ค. RAM์ด ์ ํ๋ ๊ฒฝ์ฐ ์ฑํ ์๋ Enchanted UI๋ฅผ, ์ฝ๋์๋ Continue.dev๋ฅผ ์ฌ์ฉํ์ญ์์ค.
Ollama ๋์ LM Studio์ ํจ๊ป ์ด ํ๋ก ํธ์๋๋ฅผ ์ฌ์ฉํ ์ ์์ต๋๊น?
์, ์ ํ์ด ์์ต๋๋ค. Enchanted UI์ Open WebUI๋ LM Studio์ ๋ฒ ํ API(localhost:1234)๋ฅผ ํฌํจํ์ฌ OpenAI ํธํ API์ ํจ๊ป ์๋ํฉ๋๋ค. ์ค์ ์์ ๊ธฐ๋ณธ URL์ ๋ณ๊ฒฝํ์ญ์์ค. LM Studio์ API๋ 2026๋ 4์ ๊ธฐ์ค์ผ๋ก ์ฌ์ ํ ๋ฒ ํ ์ํ์ ๋๋ค โ Ollama๋ ํ๋ก ํธ์๋๋ฅผ ์ํ ๋ ์ ๋ขฐํ ์ ์๋ ๋ฐฑ์๋์ ๋๋ค.
5๋ช ์ด์์ ๊ฐ๋ฐ์ ํ์ ๊ฐ์ฅ ์ ํฉํ ํ๋ก ํธ์๋๋ ๋ฌด์์ ๋๊น?
Open WebUI์ ๋๋ค. ์ด ๋ชฉ๋ก์์ ๋ค์ค ์ฌ์ฉ์ ๋ฐฐํฌ๋ฅผ ์ํด ์ค๊ณ๋ ์ ์ผํ ํ๋ก ํธ์๋์ ๋๋ค: ์ธ์ฆ, ์ฌ์ฉ์๋ณ ๋ณ๋์ ๋ํ ๊ธฐ๋ก, ๊ณต์ ์ง์ ๋ฒ ์ด์ค, ๊ด๋ฆฌ์ ์ปจํธ๋กค. Docker๋ก ๊ณต์ ์๋ฒ์ ๋ฐฐํฌํ๋ฉด ๋ชจ๋ ํ์์ด ๋ธ๋ผ์ฐ์ ๋ฅผ ํตํด ์ ๊ทผํฉ๋๋ค. ํธ์คํธ ์๋ฒ์ 12 GB ์ด์์ RAM์ด ํ์ํฉ๋๋ค.
์ถ์ฒ
- Open WebUI Contributors. (2026). "Open WebUI GitHub." -- Open WebUI์ ์์ค ์ฝ๋ ๋ฐ Docker ์ค์ ๋ฌธ์.
- Jan AI. (2026). "Jan AI Official Site." -- ๋ฐ์คํฌํฑ ์ฑ ๋ฌธ์ ๋ฐ ๋ชจ๋ธ ๊ด๋ฆฌ ๊ฐ์ด๋.
- Continue.dev. (2026). "Continue Documentation." -- ๋ก์ปฌ LLM ์ฝ๋ ์์ฑ์ ์ํ VS Code ๋ฐ JetBrains ํ์ฅ ํ๋ก๊ทธ๋จ ๊ตฌ์ฑ.
- Lobe Chat Contributors. (2024). "Lobe Chat GitHub." -- ํ๋ผ์ด๋ฒ์ ์ค์ฌ ์ฑํ UI ์์ค ์ฝ๋ ๋ฐ ๋ฐฐํฌ ๊ฐ์ด๋.
- ํ๋ก ํธ์๋ ์ ํ์ ์ฌ์ฉ์ ๊ฒฝํ์ ์ํฅ์ ๋ฏธ์น๋ฉฐ, ๋ชจ๋ธ ์ถ๋ ฅ์๋ ์ํฅ์ ๋ฏธ์น์ง ์์ต๋๋ค. ์ถ๋ ฅ ํ์ง์ ์ธํฐํ์ด์ค๊ฐ ์๋ ํ๋กฌํํธ์ ๋ฌ๋ ค ์์ต๋๋ค: ํ๋กฌํํธ ์์ง๋์ด๋ง ๊ฐ์ด๋๋ ๋ชจ๋ ํ๋ก ํธ์๋์์ ์๋ํฉ๋๋ค.