Skip to main content
PromptQuorumPromptQuorum
Home/Local LLMs/2026๋…„ ์ตœ๊ณ ์˜ ๋กœ์ปฌ LLM ํ”„๋ก ํŠธ์—”๋“œ: Open WebUI, Enchanted UI ๋“ฑ ๋น„๊ต
๋„๊ตฌ ๋ฐ ์ธํ„ฐํŽ˜์ด์Šค

2026๋…„ ์ตœ๊ณ ์˜ ๋กœ์ปฌ LLM ํ”„๋ก ํŠธ์—”๋“œ: Open WebUI, Enchanted UI ๋“ฑ ๋น„๊ต

ยท11๋ถ„ ๋ถ„๋Ÿ‰ยทBy Hans Kuepper ยท Founder of PromptQuorum, multi-model AI dispatch tool ยท PromptQuorum

ํ”„๋ก ํŠธ์—”๋“œ๋Š” ๋กœ์ปฌ LLM์„ ์œ„ํ•œ ์ฑ„ํŒ… ์ธํ„ฐํŽ˜์ด์Šค์ž…๋‹ˆ๋‹ค. Ollama ๋˜๋Š” LM Studio๊ฐ€ ๋ชจ๋ธ์„ ์‹คํ–‰ํ•˜๋ฉฐ, ํ”„๋ก ํŠธ์—”๋“œ๋Š” ์„ธ๋ จ๋œ UI๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. 2026๋…„ 4์›” ๊ธฐ์ค€์œผ๋กœ Open WebUI๊ฐ€ GitHub ์Šคํƒ€ 25,000๊ฐœ ์ด์ƒ์„ ๊ธฐ๋กํ•˜๋ฉฐ ์„ ๋‘๋ฅผ ๋‹ฌ๋ฆฌ๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค(RAG, ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ, ๋‹ค์ค‘ ์‚ฌ์šฉ์ž ์ง€์›). Enchanted UI๋Š” ๊ฐ€์žฅ ๋น ๋ฅด๋ฉฐ(์ œ๋กœ ์„ค์ •), Jan AI๋Š” ์˜คํ”„๋ผ์ธ ๋ฐ์Šคํฌํ†ฑ ์‚ฌ์šฉ์— ์ตœ์ ํ™”๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค.

ํ”„๋ก ํŠธ์—”๋“œ๋Š” ๋กœ์ปฌ LLM์„ ์œ„ํ•œ ์ฑ„ํŒ… ์ธํ„ฐํŽ˜์ด์Šค์ž…๋‹ˆ๋‹ค. Ollama ๋˜๋Š” LM Studio๊ฐ€ ๋ชจ๋ธ์„ ์‹คํ–‰ํ•˜๋ฉฐ, ํ”„๋ก ํŠธ์—”๋“œ๋Š” ์„ธ๋ จ๋œ UI๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. 2026๋…„ 4์›” ๊ธฐ์ค€์œผ๋กœ Open WebUI๊ฐ€ GitHub ์Šคํƒ€ 25,000๊ฐœ ์ด์ƒ์„ ๊ธฐ๋กํ•˜๋ฉฐ ์„ ๋‘๋ฅผ ๋‹ฌ๋ฆฌ๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค(RAG, ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ, ๋‹ค์ค‘ ์‚ฌ์šฉ์ž ์ง€์›). Enchanted UI๋Š” ๊ฐ€์žฅ ๋น ๋ฅด๋ฉฐ(์ œ๋กœ ์„ค์ •), Jan AI๋Š” ์˜คํ”„๋ผ์ธ ๋ฐ์Šคํฌํ†ฑ ์‚ฌ์šฉ์— ์ตœ์ ํ™”๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค. ์ด ๊ฐ€์ด๋“œ๋Š” ๊ธฐ๋Šฅ, ์„ค์ • ์‹œ๊ฐ„, ์‚ฌ์šฉ ์‚ฌ๋ก€๋ณ„๋กœ 8๊ฐ€์ง€ ํ”„๋ก ํŠธ์—”๋“œ๋ฅผ ๋น„๊ตํ•ฉ๋‹ˆ๋‹ค.

Slide Deck: 2026๋…„ ์ตœ๊ณ ์˜ ๋กœ์ปฌ LLM ํ”„๋ก ํŠธ์—”๋“œ: Open WebUI, Enchanted UI ๋“ฑ ๋น„๊ต

์•„๋ž˜ ์Šฌ๋ผ์ด๋“œ ๋ฑ์€ 8๊ฐ€์ง€ ๋กœ์ปฌ LLM ํ”„๋ก ํŠธ์—”๋“œ๋ฅผ ๋‹ค๋ฃน๋‹ˆ๋‹ค โ€” Open WebUI(25,000๊ฐœ ์ด์ƒ์˜ ์Šคํƒ€, RAG), Enchanted UI(์ตœ๊ณ  ์†๋„), Jan AI(๋ฐ์Šคํฌํ†ฑ), Continue.dev(์ฝ”๋“œ) โ€” ๊ธฐ๋Šฅ ๋น„๊ตํ‘œ, ์„ค์ • ๊ฐ€์ด๋“œ, ์ง€์—ญ๋ณ„ ์ปดํ”Œ๋ผ์ด์–ธ์Šค ๋งฅ๋ฝ(EU/GDPR, ์ผ๋ณธ, ์ค‘๊ตญ), ๊ทธ๋ฆฌ๊ณ  5๊ฐ€์ง€ ํ”ํ•œ ์‹ค์ˆ˜๋ฅผ ํฌํ•จํ•ฉ๋‹ˆ๋‹ค. PDF๋ฅผ ๋กœ์ปฌ LLM ํ”„๋ก ํŠธ์—”๋“œ ์ฐธ๊ณ  ์นด๋“œ๋กœ ๋‹ค์šด๋กœ๋“œํ•˜์‹ญ์‹œ์˜ค.

Browse the slides below or download as PDF for offline reference. Download Reference Card (PDF)

Key Takeaways

  • ๋กœ์ปฌ LLM ํ”„๋ก ํŠธ์—”๋“œ๋Š” ๋ชจ๋ธ๊ณผ ๋Œ€ํ™”ํ•˜๊ธฐ ์œ„ํ•ด ์‚ฌ์šฉํ•˜๋Š” ์ฑ„ํŒ… ์ธํ„ฐํŽ˜์ด์Šค์ž…๋‹ˆ๋‹ค. Ollama๊ฐ€ API๋ฅผ ์ œ๊ณตํ•˜๊ณ , ํ”„๋ก ํŠธ์—”๋“œ๋Š” UI๋ฅผ ๋‹ด๋‹นํ•ฉ๋‹ˆ๋‹ค.
  • Open WebUI๋Š” ๊ฐ€์žฅ ๊ธฐ๋Šฅ์ด ํ’๋ถ€ํ•ฉ๋‹ˆ๋‹ค(RAG, ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ, ์ง€์‹ ๋ฒ ์ด์Šค, ํ•จ์ˆ˜ ํ˜ธ์ถœ). Docker๊ฐ€ ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค. RAM 12 GB ์ด์ƒ์„ ๊ถŒ์žฅํ•ฉ๋‹ˆ๋‹ค.
  • Enchanted UI๋Š” ๊ฐ€์žฅ ๋น ๋ฅด๊ณ  ๊ฐ€์žฅ ๊ฐ„๋‹จํ•ฉ๋‹ˆ๋‹ค. ์˜์กด์„ฑ์ด ์—†์œผ๋ฉฐ ๋ธŒ๋ผ์šฐ์ €์—์„œ ๋ฐ”๋กœ ์‹คํ–‰๋ฉ๋‹ˆ๋‹ค. ๊ฒฝ๋Ÿ‰ ์‚ฌ์šฉ์— ์ตœ์ ์ž…๋‹ˆ๋‹ค.
  • Jan AI๋Š” ์˜คํ”„๋ผ์ธ ๋™๊ธฐํ™” ๊ธฐ๋Šฅ์„ ๊ฐ–์ถ˜ ๋ฐ์Šคํฌํ†ฑ ์•ฑ์ž…๋‹ˆ๋‹ค(Windows, macOS). ์„œ๋ฒ„ ์„ค์ •์ด ํ•„์š” ์—†์Šต๋‹ˆ๋‹ค. ๋น„๊ธฐ์ˆ  ์‚ฌ์šฉ์ž์—๊ฒŒ ์ธ๊ธฐ๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค.
  • Continue.dev๋Š” ๋กœ์ปฌ Ollama ๋ชจ๋ธ์„ ํ†ตํ•ด ์ธ๋ผ์ธ ์ฝ”๋“œ ์ œ์•ˆ์„ ์ œ๊ณตํ•˜๋Š” VS Code ํ™•์žฅ ํ”„๋กœ๊ทธ๋žจ์ž…๋‹ˆ๋‹ค.
  • 2026๋…„ 4์›” ๊ธฐ์ค€์œผ๋กœ ๋ชจ๋“  ์ฃผ์š” ํ”„๋ก ํŠธ์—”๋“œ๋Š” ์˜คํ”ˆ ์†Œ์Šค์ด๋ฉฐ ๋ฌด๋ฃŒ์ž…๋‹ˆ๋‹ค.

์ƒ์œ„ 8๊ฐ€์ง€ ๋กœ์ปฌ LLM ํ”„๋ก ํŠธ์—”๋“œ: ๊ธฐ๋Šฅ ๋น„๊ต

FrontendTypeBest ForSetup TimeRAM RequiredOpen Source
Open WebUI์›น ์•ฑ (Docker)๊ธฐ๋Šฅ ํ’๋ถ€, RAG, ํŒ€5๋ถ„ (Docker ํฌํ•จ)12 GB+์˜ˆ
Enchanted UI์›น (์˜์กด์„ฑ ์—†์Œ)์†๋„, ๋‹จ์ˆœ์„ฑ0๋ถ„ (URL)8 GB+์˜ˆ
Jan AI๋ฐ์Šคํฌํ†ฑ ์•ฑ๋น„๊ธฐ์ˆ  ์‚ฌ์šฉ์ž, ์˜คํ”„๋ผ์ธ3๋ถ„ (์„ค์น˜)8 GB+์˜ˆ
Continue.devVS Code ํ™•์žฅ ํ”„๋กœ๊ทธ๋žจ์ฝ”๋“œ ์™„์„ฑ2๋ถ„ (ํ™•์žฅ ํ”„๋กœ๊ทธ๋žจ ์„ค์น˜)8 GB+์˜ˆ
Lobe Chat์›น ์•ฑ๊ฐœ์ธ ์ •๋ณด ๋ณดํ˜ธ, ์‚ฌ์šฉ์ž ๋งž์ถคํ™”5๋ถ„8 GB+์˜ˆ
GradioPython ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ๋งž์ถคํ˜• ์ธํ„ฐํŽ˜์ด์Šค, ML ํŒ€5๋ถ„ (Python)8 GB+์˜ˆ
StreamlitPython ํ”„๋ ˆ์ž„์›Œํฌ๋ฐ์ดํ„ฐ ๊ณผํ•™์ž, ๋Œ€์‹œ๋ณด๋“œ5๋ถ„ (Python)8 GB+์˜ˆ
Text-generation-webui์›น (๋ณต์žก)์‹คํ—˜, ๊ณ ๊ธ‰ ์‚ฌ์šฉ์ž15๋ถ„12 GB+์˜ˆ
์‚ฌ์šฉ ์‚ฌ๋ก€๋ณ„๋กœ ๋กœ์ปฌ LLM ํ”„๋ก ํŠธ์—”๋“œ๋ฅผ ์„ ํƒํ•˜์‹ญ์‹œ์˜ค โ€” ๋ชจ๋“  ์˜ต์…˜์ด ๋™์ผํ•œ Ollama API์— ์—ฐ๊ฒฐ๋ฉ๋‹ˆ๋‹ค.
์‚ฌ์šฉ ์‚ฌ๋ก€๋ณ„๋กœ ๋กœ์ปฌ LLM ํ”„๋ก ํŠธ์—”๋“œ๋ฅผ ์„ ํƒํ•˜์‹ญ์‹œ์˜ค โ€” ๋ชจ๋“  ์˜ต์…˜์ด ๋™์ผํ•œ Ollama API์— ์—ฐ๊ฒฐ๋ฉ๋‹ˆ๋‹ค.

Open WebUI๊ฐ€ ๊ฐ€์žฅ ์ธ๊ธฐ ์žˆ๋Š” ํ”„๋ก ํŠธ์—”๋“œ์ธ ์ด์œ ๋Š” ๋ฌด์—‡์ž…๋‹ˆ๊นŒ?

Open WebUI๋Š” GitHub์—์„œ 25,000๊ฐœ ์ด์ƒ์˜ ์Šคํƒ€๋ฅผ ๋ณด์œ ํ•œ ๊ฐ€์žฅ ๋งŽ์ด ๋‹ค์šด๋กœ๋“œ๋œ ๋กœ์ปฌ LLM ํ”„๋ก ํŠธ์—”๋“œ์ž…๋‹ˆ๋‹ค โ€” RAG, ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ, ์›น ๊ฒ€์ƒ‰, ๋‹ค์ค‘ ์‚ฌ์šฉ์ž ํ˜‘์—…์„ ๋‹จ์ผ Docker ์ปจํ…Œ์ด๋„ˆ์— ๋‹ด๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. Ollama, LM Studio, ๋˜๋Š” OpenAI ํ˜ธํ™˜ API์™€ ํ•จ๊ป˜ ์ž‘๋™ํ•ฉ๋‹ˆ๋‹ค.

์ฃผ์š” ๊ธฐ๋Šฅ:

  • RAG (๊ฒ€์ƒ‰ ์ฆ๊ฐ• ์ƒ์„ฑ): ๋ฌธ์„œ(PDF, ํ…์ŠคํŠธ ํŒŒ์ผ)๋ฅผ ์—…๋กœ๋“œํ•˜๊ณ  ๋ชจ๋ธ์ด ํ•ด๋‹น ๋ฌธ์„œ์— ๋Œ€ํ•œ ์งˆ๋ฌธ์— ๋‹ตํ•˜๋„๋ก ํ•ฉ๋‹ˆ๋‹ค.
  • ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ ์ง€์›: ์ด๋ฏธ์ง€๋ฅผ ์—…๋กœ๋“œํ•˜๊ณ  ์ด์— ๋Œ€ํ•œ ์งˆ๋ฌธ์„ ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
  • ์›น ๊ฒ€์ƒ‰ ํ†ตํ•ฉ: ๋ชจ๋ธ์ด ํ˜„์žฌ ์ •๋ณด๋ฅผ ์œ„ํ•ด ์›น์„ ๊ฒ€์ƒ‰ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
  • ์ง€์‹ ๋ฒ ์ด์Šค: ๋ชจ๋ธ์ด ์ฐธ์กฐํ•˜๋Š” ๋ฌธ์„œ์˜ ์˜๊ตฌ ์ปฌ๋ ‰์…˜์„ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค.
  • ํ•จ์ˆ˜ ํ˜ธ์ถœ ๋ฐ ๋„๊ตฌ: ๋ชจ๋ธ์ด ํ•จ์ˆ˜๋‚˜ ๋„๊ตฌ๋ฅผ ํ˜ธ์ถœํ•  ์ˆ˜ ์žˆ๋Š” ์›Œํฌํ”Œ๋กœ์šฐ๋ฅผ ๊ตฌ์ถ•ํ•ฉ๋‹ˆ๋‹ค.
  • ํŒ€ ํ˜‘์—…: ์—ฌ๋Ÿฌ ์‚ฌ์šฉ์ž๊ฐ€ ๋™์ผํ•œ ์ธ์Šคํ„ด์Šค๋ฅผ ๊ณต์œ ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
  • ๋ชจ๋ธ ๋งˆ์ผ“ํ”Œ๋ ˆ์ด์Šค: UI์—์„œ ์ง์ ‘ ๋ชจ๋ธ์„ ํƒ์ƒ‰ํ•˜๊ณ  ๋‹ค์šด๋กœ๋“œํ•ฉ๋‹ˆ๋‹ค.

2026๋…„ 4์›” ๊ธฐ์ค€์œผ๋กœ Open WebUI์˜ ์ฃผ์š” ์ œํ•œ ์‚ฌํ•ญ์€ Docker๊ฐ€ ํ•„์š”ํ•˜๋‹ค๋Š” ๊ฒƒ์œผ๋กœ, 5๋ถ„์˜ ์„ค์ • ์˜ค๋ฒ„ํ—ค๋“œ๊ฐ€ ์ถ”๊ฐ€๋ฉ๋‹ˆ๋‹ค. ์ผ๋‹จ ์‹คํ–‰๋˜๋ฉด RAG, ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ, ๋‹ค์ค‘ ์‚ฌ์šฉ์ž, ์›น ๊ฒ€์ƒ‰ ๊ธฐ๋Šฅ์ด ์ถ”๊ฐ€๋ฉ๋‹ˆ๋‹ค โ€” ์ด๋Š” ๊ฒฝ๋Ÿ‰ ๋Œ€์•ˆ์—์„œ๋Š” ์‚ฌ์šฉํ•  ์ˆ˜ ์—†๋Š” ๊ธฐ๋Šฅ์ž…๋‹ˆ๋‹ค.

bash
# Run Open WebUI with Docker (5 min setup)
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway \
  -e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
  --name open-webui ghcr.io/open-webui/open-webui:latest

# Then open http://localhost:3000 in your browser
Open WebUI๋Š” ๋ธŒ๋ผ์šฐ์ €์™€ Ollama ์‚ฌ์ด์— ์œ„์น˜ํ•˜์—ฌ Docker๋ฅผ ํ†ตํ•ด ๋‹ค์ค‘ ์‚ฌ์šฉ์ž ์ ‘๊ทผ, RAG, ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ ๊ธฐ๋Šฅ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.
Open WebUI๋Š” ๋ธŒ๋ผ์šฐ์ €์™€ Ollama ์‚ฌ์ด์— ์œ„์น˜ํ•˜์—ฌ Docker๋ฅผ ํ†ตํ•ด ๋‹ค์ค‘ ์‚ฌ์šฉ์ž ์ ‘๊ทผ, RAG, ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ ๊ธฐ๋Šฅ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.

โ€ขโš ๏ธ ๊ฒฝ๊ณ : Open WebUI๋Š” Docker๊ฐ€ ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค. Docker๊ฐ€ ์„ค์น˜๋˜์–ด ์žˆ์ง€ ์•Š์œผ๋ฉด ์„ค์ • ์‹œ๊ฐ„์— 10~15๋ถ„์ด ์ถ”๊ฐ€๋ฉ๋‹ˆ๋‹ค. ์‹œ์ž‘ํ•˜๊ธฐ ์ „์— `docker --version`์„ ์‹คํ–‰ํ•˜์—ฌ ํ™•์ธํ•˜์‹ญ์‹œ์˜ค.

โ€ข๐Ÿ’ก Pro Tip: Docker ๋ช…๋ น์–ด์— WEBUI_AUTH=true๋ฅผ ์„ค์ •ํ•˜๋ฉด ์‚ฌ์šฉ์ž ๋กœ๊ทธ์ธ์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค. ๋‹ค์ค‘ ์‚ฌ์šฉ์ž ๋˜๋Š” ํŒ€ ๋ฐฐํฌ์—๋Š” ํ•„์ˆ˜์ž…๋‹ˆ๋‹ค.

๊ฒฝ๋Ÿ‰ ์†๋„๋ฅผ ์œ„ํ•ด Enchanted UI๋ฅผ ์„ ํƒํ•ด์•ผ ํ•˜๋Š” ์ด์œ ๋Š” ๋ฌด์—‡์ž…๋‹ˆ๊นŒ?

Enchanted UI๋Š” ๊ฐ€์žฅ ๋น ๋ฅธ ์ œ๋กœ ์„ค์ • ํ”„๋ก ํŠธ์—”๋“œ์ž…๋‹ˆ๋‹ค: ์„ค์น˜๋‚˜ ์˜์กด์„ฑ์ด ํ•„์š” ์—†์œผ๋ฉฐ โ€” ๋ธŒ๋ผ์šฐ์ €์—์„œ URL์„ ์—ด๊ณ  ๋กœ์ปฌ Ollama ๋ชจ๋ธ๊ณผ ์ฑ„ํŒ…์„ ์‹œ์ž‘ํ•˜์‹ญ์‹œ์˜ค. 2026๋…„ 4์›” ๊ธฐ์ค€์œผ๋กœ ๋‹จ์ผ HTML ํŒŒ์ผ๋กœ, ๋‹จ์ˆœํ•œ ์ฑ„ํŒ…์—์„œ ๊ฐ€์žฅ ๋ฐ˜์‘์ด ๋น ๋ฅธ ์˜ต์…˜์ž…๋‹ˆ๋‹ค.

์ฃผ์š” ๊ธฐ๋Šฅ:

  • ์ฆ‰์‹œ ์‹คํ–‰: ์„ค์น˜๋‚˜ ์˜์กด์„ฑ์ด ์—†์Šต๋‹ˆ๋‹ค. URL์„ ์—ด๊ธฐ๋งŒ ํ•˜๋ฉด ๋ฉ๋‹ˆ๋‹ค.
  • ๋น ๋ฆ„: ์ตœ์†Œํ•œ์˜ JavaScript, ๋ฌด๊ฑฐ์šด ํ”„๋ ˆ์ž„์›Œํฌ ์—†์Œ.
  • ํ”„๋ผ์ด๋ฒ„์‹œ: ๋ชจ๋“  ๊ฒƒ์ด ๋ธŒ๋ผ์šฐ์ €์—์„œ ์‹คํ–‰๋˜๋ฉฐ, ๋ฐ์ดํ„ฐ๊ฐ€ ๊ธฐ๊ธฐ๋ฅผ ๋– ๋‚˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.
  • ์•„๋ฆ„๋‹ค์šด ๋‹คํฌ ๋ชจ๋“œ: ๊น”๋”ํ•˜๊ณ  ํ˜„๋Œ€์ ์ธ ์ธํ„ฐํŽ˜์ด์Šค.

Enchanted UI๋Š” ์„ค์ •์˜ ๋ณต์žก์„ฑ ์—†์ด ๋กœ์ปฌ ๋ชจ๋ธ๊ณผ ์ฑ„ํŒ…ํ•˜๊ณ  ์‹ถ์„ ๋•Œ ์™„๋ฒฝํ•ฉ๋‹ˆ๋‹ค. RAG, ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ, ๊ณ ๊ธ‰ ๊ธฐ๋Šฅ์€ ๋ถ€์กฑํ•˜์ง€๋งŒ, ์ผ์ƒ์ ์ธ ์ฑ„ํŒ…์—์„œ๋Š” ๋‹จ์ˆœ์„ฑ์ด ํƒ€์˜ ์ถ”์ข…์„ ๋ถˆํ—ˆํ•ฉ๋‹ˆ๋‹ค.

bash
# 1. Start your Ollama model
ollama run llama3.2:3b

# 2. Open this URL in your browser
# https://enchanted.div.ai/

# Ollama will auto-detect, and you can start chatting immediately

โ€ข๐Ÿ’ก Pro Tip: Enchanted UI๋Š” ๊ธฐ๋ณธ์ ์œผ๋กœ localhost:11434์—์„œ Ollama์— ์—ฐ๊ฒฐํ•ฉ๋‹ˆ๋‹ค. Ollama๊ฐ€ ์‹คํ–‰๋˜์ง€ ์•Š์œผ๋ฉด ์ฑ„ํŒ…์— ์—ฐ๊ฒฐ ์˜ค๋ฅ˜๊ฐ€ ํ‘œ์‹œ๋ฉ๋‹ˆ๋‹ค. ํ•ญ์ƒ ๋จผ์ € `ollama serve`๋ฅผ ์‹คํ–‰ํ•˜๊ฑฐ๋‚˜ Ollama ์•ฑ์„ ์‹œ์ž‘ํ•˜์‹ญ์‹œ์˜ค.

Jan AI๊ฐ€ ๋ฐ์Šคํฌํ†ฑ ์‚ฌ์šฉ์ž์—๊ฒŒ ๊ฐ€์žฅ ์ ํ•ฉํ•œ ์ด์œ ๋Š” ๋ฌด์—‡์ž…๋‹ˆ๊นŒ?

Jan AI๋Š” ๋ชจ๋ธ ๊ด€๋ฆฌ, ์ถ”๋ก , ์ฑ„ํŒ…์„ ํ•˜๋‚˜์˜ ์˜คํ”„๋ผ์ธ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์œผ๋กœ ๋ฌถ์€ ๋ฐ์Šคํฌํ†ฑ ์•ฑ์ž…๋‹ˆ๋‹ค(Windows, macOS) โ€” ์„œ๋ฒ„๋‚˜ Docker ์„ค์ •์ด ํ•„์š” ์—†์Šต๋‹ˆ๋‹ค. LM Studio์™€ ์œ ์‚ฌํ•˜์ง€๋งŒ ๋” ๊ฐ•๋ ฅํ•œ ์˜คํ”„๋ผ์ธ ์ง€์›๊ณผ ์ปค๋ฎค๋‹ˆํ‹ฐ ์ค‘์‹ฌ ์ ‘๊ทผ ๋ฐฉ์‹์„ ๊ฐ–์ถ”๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค.

์ฃผ์š” ๊ธฐ๋Šฅ:

  • ์˜คํ”„๋ผ์ธ ์šฐ์„ : ๋ชจ๋ธ์ด ๊ธฐ๊ธฐ์— ๋™๊ธฐํ™”๋˜๋ฉฐ, ์ฑ„ํŒ…์— ์ธํ„ฐ๋„ท์ด ํ•„์š”ํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.
  • GPU ๋ฐ CPU ํด๋ฐฑ: ๊ฐ€๋Šฅํ•˜๋ฉด GPU๋ฅผ ์ž๋™์œผ๋กœ ์‚ฌ์šฉํ•˜๊ณ , CPU๋กœ ํด๋ฐฑํ•ฉ๋‹ˆ๋‹ค.
  • ๊ธฐ๋ณธ ํ”„๋ผ์ด๋ฒ„์‹œ: ๊ณ„์ • ๋ถˆํ•„์š”, ํ…”๋ ˆ๋ฉ”ํŠธ๋ฆฌ ์—†์Œ.
  • ํ™•์žฅ ๋งˆ์ผ“ํ”Œ๋ ˆ์ด์Šค: RAG, ์›น ๊ฒ€์ƒ‰, ๋„๊ตฌ ๋“ฑ์˜ ํ”Œ๋Ÿฌ๊ทธ์ธ์„ ์ถ”๊ฐ€ํ•ฉ๋‹ˆ๋‹ค.

Jan์€ ์„ธ๋ จ๋œ ๋ฐ์Šคํฌํ†ฑ ์•ฑ์„ ์›ํ•˜๋Š” ๋น„๊ธฐ์ˆ  ์‚ฌ์šฉ์ž์—๊ฒŒ ์ตœ์ ์ž…๋‹ˆ๋‹ค. 2026๋…„ 4์›” ๊ธฐ์ค€์œผ๋กœ ๋” ๊ฐ•๋ ฅํ•œ ์ปค๋ฎค๋‹ˆํ‹ฐ ์ง€์›์„ ๊ฐ–์ถ˜ LM Studio ๋Œ€์•ˆ์œผ๋กœ ์ฃผ๋ชฉ๋ฐ›๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค.

โ€ข๐Ÿ“Œ ํ•ต์‹ฌ ํฌ์ธํŠธ: Jan AI๋Š” ๋ชจ๋ธ์„ ~/jan/models์— ์ €์žฅํ•ฉ๋‹ˆ๋‹ค โ€” Ollama์˜ ๋ชจ๋ธ ์บ์‹œ์™€ ๋ณ„๊ฐœ์ž…๋‹ˆ๋‹ค. ๋‘ ์•ฑ์„ ๋ชจ๋‘ ์‚ฌ์šฉํ•˜๋ฉด ๋‹ค์šด๋กœ๋“œ๋œ ๋ชจ๋ธ์ด ๊ณต์œ ๋˜์ง€ ์•Š์•„ ๋‘ ์•ฑ์—์„œ ์‚ฌ์šฉ๋˜๋Š” ๋ชจ๋“  ๋ชจ๋ธ์˜ ๋””์Šคํฌ ์‚ฌ์šฉ๋Ÿ‰์ด ๋‘ ๋ฐฐ๊ฐ€ ๋ฉ๋‹ˆ๋‹ค.

์ฝ”๋“œ ์™„์„ฑ์— Continue.dev๋ฅผ ์‚ฌ์šฉํ•˜๋Š” ๋ฐฉ๋ฒ•์€ ๋ฌด์—‡์ž…๋‹ˆ๊นŒ?

Continue.dev๋Š” ๋กœ์ปฌ Ollama ๋ชจ๋ธ์„ VS Code ๋˜๋Š” JetBrains์˜ ์ธ๋ผ์ธ ์ฝ”๋“œ ์ œ์•ˆ์œผ๋กœ ์ „ํ™˜ํ•ฉ๋‹ˆ๋‹ค โ€” ์„ค์ •์— 2๋ถ„์ด ๊ฑธ๋ฆฌ๋ฉฐ ํด๋ผ์šฐ๋“œ API ํ‚ค๊ฐ€ ํ•„์š” ์—†์Šต๋‹ˆ๋‹ค. ํƒ€์ดํ•‘์„ ์‹œ์ž‘ํ•˜๋ฉด Continue๊ฐ€ ๋กœ์ปฌ ๋ชจ๋ธ์„ ๊ธฐ๋ฐ˜์œผ๋กœ ์™„์„ฑ์„ ์ œ์•ˆํ•ฉ๋‹ˆ๋‹ค.

์„ค์ • (2๋ถ„):

1. VS Code ๋งˆ์ผ“ํ”Œ๋ ˆ์ด์Šค์—์„œ Continue๋ฅผ ์„ค์น˜ํ•˜์‹ญ์‹œ์˜ค.

2. Ollama ์ธ์Šคํ„ด์Šค๋ฅผ ๊ฐ€๋ฆฌํ‚ค๋„๋ก ์„ค์ •ํ•˜์‹ญ์‹œ์˜ค (Config โ†’ Configure Continue โ†’ Add localhost:11434).

3. ์ฝ”๋“œ ํƒ€์ดํ•‘์„ ์‹œ์ž‘ํ•˜๊ณ  Tab ๋˜๋Š” Ctrl+Shift+\๋ฅผ ๋ˆŒ๋Ÿฌ ์™„์„ฑ์„ ๋ฐ›์œผ์‹ญ์‹œ์˜ค.

Continue๋Š” ์ฝ”๋“œ๋ฅผ ํด๋ผ์šฐ๋“œ API์— ๋ณด๋‚ด์ง€ ์•Š๊ณ  ์ฝ”๋“œ ์ œ์•ˆ์„ ์›ํ•˜๋Š” ๊ฐœ๋ฐœ์ž์—๊ฒŒ ์™„๋ฒฝํ•ฉ๋‹ˆ๋‹ค. ์ฝ”๋”ฉ ์ž‘์—…์—๋Š” Ollama์™€ Qwen3-Coder 7B ๋˜๋Š” Llama Code ๋ชจ๋ธ์ด ํ•ฉ๋ฆฌ์ ์ธ ์ œ์•ˆ์„ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค.

โ€ข๐Ÿ’ก Pro Tip: ์ฝ”๋“œ ์™„์„ฑ์˜ ๊ฒฝ์šฐ Qwen3-Coder 7B(`ollama run qwen2.5-coder:7b`)๊ฐ€ ์ฝ”๋“œ ์ž‘์—…์—์„œ Llama 3.2์™€ ๊ฐ™์€ ์ผ๋ฐ˜ ๋ชจ๋ธ๋ณด๋‹ค ์šฐ์ˆ˜ํ•ฉ๋‹ˆ๋‹ค. ์„ค์ • ํ›„ Continue์˜ config.json์—์„œ ๋ชจ๋ธ์„ ์ „ํ™˜ํ•˜์‹ญ์‹œ์˜ค.

์…€ํ”„ ํ˜ธ์ŠคํŒ…๊ณผ ํด๋ผ์šฐ๋“œ ํ”„๋ก ํŠธ์—”๋“œ ์ค‘ ์–ด๋А ๊ฒƒ์„ ์„ ํƒํ•ด์•ผ ํ•ฉ๋‹ˆ๊นŒ?

์ด ๊ฐ€์ด๋“œ์˜ ๋ชจ๋“  ํ”„๋ก ํŠธ์—”๋“œ๋Š” ๊ท€ํ•˜์˜ ๊ธฐ๊ธฐ๋‚˜ ์„œ๋ฒ„์—์„œ ์‹คํ–‰๋ฉ๋‹ˆ๋‹ค โ€” ํ”„๋กฌํ”„ํŠธ ๋ฐ์ดํ„ฐ๊ฐ€ ๊ธฐ๊ธฐ๋ฅผ ๋– ๋‚˜์ง€ ์•Š์œผ๋ฉฐ API ๋น„์šฉ์ด ์—†์Šต๋‹ˆ๋‹ค. ๋Œ€์•ˆ์€ ChatGPT, Claude, ๋˜๋Š” Gemini์™€ ๊ฐ™์€ ํด๋ผ์šฐ๋“œ ํ”„๋ก ํŠธ์—”๋“œ๋กœ, ์›๊ฒฉ ์„œ๋ฒ„์— ์—ฐ๊ฒฐํ•ฉ๋‹ˆ๋‹ค.

  • ์…€ํ”„ ํ˜ธ์ŠคํŒ… ์„ ํƒ ๊ธฐ์ค€: ๋ฏผ๊ฐํ•œ ๋ฐ์ดํ„ฐ๊ฐ€ ์žˆ๊ฑฐ๋‚˜, API ๋น„์šฉ์„ ์—†์• ๊ณ  ์‹ถ๊ฑฐ๋‚˜, ์ธํ„ฐํŽ˜์ด์Šค๋ฅผ ๋งž์ถคํ™”ํ•˜๊ณ  ์‹ถ๊ฑฐ๋‚˜, ์˜คํ”„๋ผ์ธ ์ƒํƒœ์ธ ๊ฒฝ์šฐ.
  • ํด๋ผ์šฐ๋“œ ์„ ํƒ ๊ธฐ์ค€: ์ตœ์ƒ์˜ ๋ชจ๋ธ ํ’ˆ์งˆ์ด ํ•„์š”ํ•˜๊ฑฐ๋‚˜, ์ธํ”„๋ผ๋ฅผ ๊ด€๋ฆฌํ•˜๊ณ  ์‹ถ์ง€ ์•Š๊ฑฐ๋‚˜, ์‚ฌ์šฉ๋Ÿ‰์ด ์ ์€ ๊ฒฝ์šฐ.
  • ๋‘ ๊ฐ€์ง€๋ฅผ ๋ณ‘ํ–‰ ์‚ฌ์šฉ: PromptQuorum๊ณผ ๊ฐ™์€ ๋„๊ตฌ๋ฅผ ์‚ฌ์šฉํ•˜๋ฉด ๋กœ์ปฌ ๋ชจ๋ธ๊ณผ ํด๋ผ์šฐ๋“œ API ๋ชจ๋‘์— ๋™์‹œ์— ํ”„๋กฌํ”„ํŠธ๋ฅผ ์ „๋‹ฌํ•˜์—ฌ ๊ฒฐ๊ณผ๋ฅผ ๋‚˜๋ž€ํžˆ ๋น„๊ตํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

โ€ข๐Ÿ“Œ ํ•ต์‹ฌ ํฌ์ธํŠธ: ๋ชจ๋“  ํ”„๋ก ํŠธ์—”๋“œ๋Š” localhost:11434์˜ ๋™์ผํ•œ Ollama ์ธ์Šคํ„ด์Šค๋ฅผ ๊ณต์œ ํ•ฉ๋‹ˆ๋‹ค. Open WebUI์—์„œ Enchanted UI๋กœ ์ „ํ™˜ํ•ด๋„ ๋ชจ๋ธ์„ ๋‹ค์‹œ ๋‹ค์šด๋กœ๋“œํ•  ํ•„์š”๊ฐ€ ์—†์Šต๋‹ˆ๋‹ค โ€” Ollama๋Š” ์–ด๋–ค ํ”„๋ก ํŠธ์—”๋“œ๋ฅผ ์‚ฌ์šฉํ•˜๋“  ๋ชจ๋“  ๋‹ค์šด๋กœ๋“œ๋œ ๋ชจ๋ธ์„ ์œ ์ง€ํ•ฉ๋‹ˆ๋‹ค.

์ง€์—ญ๋ณ„ ์ปดํ”Œ๋ผ์ด์–ธ์Šค ๊ทœ์ •์ด ํ”„๋ก ํŠธ์—”๋“œ ์„ ํƒ์— ์–ด๋–ค ์˜ํ–ฅ์„ ๋ฏธ์นฉ๋‹ˆ๊นŒ?

EU / GDPR

๋กœ์ปฌ LLM ํ”„๋ก ํŠธ์—”๋“œ๋ฅผ ๋ฐฐํฌํ•˜๋Š” EU ์กฐ์ง์˜ ๊ฒฝ์šฐ, ๋ฐ์ดํ„ฐ ์ฃผ๊ถŒ์ด ์ฃผ์š” ์š”์ธ์ž…๋‹ˆ๋‹ค. ์ด ๊ฐ€์ด๋“œ์˜ 8๊ฐ€์ง€ ํ”„๋ก ํŠธ์—”๋“œ๋Š” ๋ชจ๋‘ ์˜จํ”„๋ ˆ๋ฏธ์Šค์—์„œ ์™„์ „ํžˆ ์‹คํ–‰๋ฉ๋‹ˆ๋‹ค โ€” ํ”„๋กฌํ”„ํŠธ ์ฝ˜ํ…์ธ , ๋Œ€ํ™” ๊ธฐ๋ก, ์—…๋กœ๋“œ๋œ ๋ฌธ์„œ๊ฐ€ ๊ท€ํ•˜์˜ ์ธํ”„๋ผ๋ฅผ ๋– ๋‚˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ์ด๋Š” GDPR ์ œ5์กฐ(๋ฐ์ดํ„ฐ ์ตœ์†Œํ™”)๋ฅผ ์ถฉ์กฑํ•˜๊ณ  ์ œ28์กฐ ๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ์ž ๊ด€๊ณ„๋ฅผ ์—†์•ฑ๋‹ˆ๋‹ค.

๊ทœ์ œ๋œ EU ๋ถ„์•ผ(์˜๋ฃŒ, ๋ฒ•๋ฅ , ๊ธˆ์œต)์˜ ๊ฒฝ์šฐ: Open WebUI๋Š” ๋‚ด๋ณด๋‚ผ ์ˆ˜ ์žˆ๋Š” ๊ฐ์‚ฌ ์ถ”์ ๊ณผ ํ•จ๊ป˜ ๋ชจ๋“  ๋Œ€ํ™”๋ฅผ ๋กœ์ปฌ๋กœ ๊ธฐ๋กํ•˜๊ธฐ ๋•Œ๋ฌธ์— ๊ถŒ์žฅ ํ”„๋ก ํŠธ์—”๋“œ์ž…๋‹ˆ๋‹ค. ๋…์ผ BSI์™€ ํ”„๋ž‘์Šค CNIL์€ ๋ชจ๋‘ ์ ์ ˆํ•œ ์ ‘๊ทผ ์ œ์–ด์™€ ๊ฒฐํ•ฉํ•  ๋•Œ ๊ณ ์œ„ํ—˜ ์ฒ˜๋ฆฌ๋ฅผ ์œ„ํ•œ ๋กœ์ปฌ ํ˜ธ์ŠคํŒ… AI ๋„๊ตฌ๋ฅผ ์ˆ˜์šฉํ•ฉ๋‹ˆ๋‹ค. ์ธ์ฆ์ด ํ™œ์„ฑํ™”๋œ ์ƒํƒœ๋กœ Open WebUI๋ฅผ ์„ค์ •ํ•˜๊ณ (Docker์—์„œ `WEBUI_AUTH=true`) ์Šน์ธ๋œ ์‚ฌ์šฉ์ž๋งŒ ์ ‘๊ทผ์„ ์ œํ•œํ•˜์‹ญ์‹œ์˜ค.

์ผ๋ณธ (METI)

METI AI ๊ฑฐ๋ฒ„๋„Œ์Šค ์ง€์นจ์€ ํ”„๋กœ๋•์…˜ ๋ฐฐํฌ์—์„œ AI ๋„๊ตฌ ๋ฒ„์ „์„ ๋ฌธ์„œํ™”ํ•˜๋„๋ก ์š”๊ตฌํ•ฉ๋‹ˆ๋‹ค. Open WebUI ๋ฒ„์ „์€ ์„ค์ • โ†’ ์ •๋ณด์—์„œ ํ™•์ธํ•  ์ˆ˜ ์žˆ์œผ๋ฉฐ, Docker ์ด๋ฏธ์ง€ ํƒœ๊ทธ๋Š” ์ปดํ”Œ๋ผ์ด์–ธ์Šค ๊ธฐ๋ก์„ ์œ„ํ•œ ์ •ํ™•ํ•œ ๋ฒ„์ „ ๊ณ ์ •์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. ์ผ๋ณธ ๊ธฐ์—… ํŒ€์˜ ๊ฒฝ์šฐ, Qwen3 7B์™€ ํ•จ๊ป˜ํ•œ Open WebUI(`ollama run qwen2.5:7b`)๊ฐ€ ๊ถŒ์žฅ ์Šคํƒ์ž…๋‹ˆ๋‹ค โ€” ๋„ค์ดํ‹ฐ๋ธŒ ์ผ๋ณธ์–ด ํ† ํฌ๋‚˜์ด์ œ์ด์…˜์€ RAG ๊ธฐ๋Šฅ์—์„œ ์ผ๋ณธ์–ด ๋ฌธ์„œ Q&A์— ๋” ๋‚˜์€ ํ’ˆ์งˆ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.

์ค‘๊ตญ

์ค‘๊ตญ์˜ ๋ฐ์ดํ„ฐ ๋ณด์•ˆ๋ฒ•(ๆ•ฐๆฎๅฎ‰ๅ…จๆณ•)์— ๋”ฐ๋ผ, ์ด ๊ฐ€์ด๋“œ์˜ ๋ชจ๋“  ํ”„๋ก ํŠธ์—”๋“œ๋Š” ์˜จํ”„๋ ˆ๋ฏธ์Šค ๋˜๋Š” ๊ตญ๋‚ด ํด๋ผ์šฐ๋“œ ๊ณต๊ธ‰์ž(Alibaba Cloud, Tencent Cloud)์— ๋ฐฐํฌ๋  ๋•Œ ๋กœ์ปฌ ๋ฐ์ดํ„ฐ ๊ฑฐ์ฃผ ์š”๊ฑด์„ ์ถฉ์กฑํ•ฉ๋‹ˆ๋‹ค. Docker์˜ Open WebUI๋Š” ์ค‘๊ตญ ํด๋ผ์šฐ๋“œ VM ์ธ์Šคํ„ด์Šค์™€ ํ˜ธํ™˜๋ฉ๋‹ˆ๋‹ค. ์ค‘๊ตญ ๊ธฐ์—… RAG ๋ฐฐํฌ์˜ ๊ฒฝ์šฐ, ์ตœ์ ์˜ ์ค‘๊ตญ์–ด ๋ฌธ์„œ ๋ถ„์„์„ ์œ„ํ•ด Open WebUI์™€ Qwen3 14B๋ฅผ ์Œ์œผ๋กœ ์‚ฌ์šฉํ•˜์‹ญ์‹œ์˜ค.

โ€ขโš ๏ธ ๊ฒฝ๊ณ : EU ๊ทœ์ œ ๋ถ„์•ผ(์˜๋ฃŒ, ๋ฒ•๋ฅ , ๊ธˆ์œต)์˜ ๊ฒฝ์šฐ: Open WebUI์˜ ๊ธฐ๋ณธ Docker ์„ค์ •์—๋Š” ์ธ์ฆ์ด ์—†์Šต๋‹ˆ๋‹ค. ๋‚ด๋ถ€ ๋˜๋Š” ์™ธ๋ถ€ ๋„คํŠธ์›Œํฌ์— ๋…ธ์ถœํ•˜๊ธฐ ์ „์— WEBUI_AUTH=true๋ฅผ ์ถ”๊ฐ€ํ•˜์‹ญ์‹œ์˜ค โ€” ์ด๋Š” GDPR ์ œ32์กฐ ๊ธฐ์ˆ ์  ์กฐ์น˜์— ํ•„์ˆ˜์ž…๋‹ˆ๋‹ค.

โ€ข๐Ÿ” ์•Œ๊ณ  ๊ณ„์…จ์Šต๋‹ˆ๊นŒ?: METI AI ๊ฑฐ๋ฒ„๋„Œ์Šค ์ง€์นจ์€ ํ”„๋กœ๋•์…˜์—์„œ AI ๋„๊ตฌ ๋ฒ„์ „์„ ๋ฌธ์„œํ™”ํ•˜๋„๋ก ์š”๊ตฌํ•ฉ๋‹ˆ๋‹ค. Open WebUI ๋ฒ„์ „์€ ์„ค์ • โ†’ ์ •๋ณด์—์„œ ํ™•์ธํ•  ์ˆ˜ ์žˆ์œผ๋ฉฐ, Docker ์ด๋ฏธ์ง€ ํƒœ๊ทธ(์˜ˆ: :0.3.32)๋Š” ์ปดํ”Œ๋ผ์ด์–ธ์Šค ๊ธฐ๋ก์„ ์œ„ํ•œ ์ •ํ™•ํ•œ ๋ฒ„์ „ ๊ณ ์ •์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.

ํ”„๋ก ํŠธ์—”๋“œ ์„ ํƒ ์‹œ ๊ฐ€์žฅ ํ”ํ•œ 5๊ฐ€์ง€ ์‹ค์ˆ˜๋Š” ๋ฌด์—‡์ž…๋‹ˆ๊นŒ?

  • ๊ฐ€์žฅ ๊ธฐ๋Šฅ์ด ํ’๋ถ€ํ•œ ํ”„๋ก ํŠธ์—”๋“œ๊ฐ€ ํ•„์š”ํ•˜๋‹ค๊ณ  ๊ฐ€์ •ํ•˜๋Š” ๊ฒƒ. Open WebUI๊ฐ€ ๊ฐ€์žฅ ๋งŽ์€ ๊ธฐ๋Šฅ์„ ๊ฐ–์ถ”๊ณ  ์žˆ์ง€๋งŒ, ์ฑ„ํŒ…๋งŒ ์›ํ•œ๋‹ค๋ฉด Enchanted๊ฐ€ ๋” ๋น ๋ฆ…๋‹ˆ๋‹ค. ๊ธฐ๋Šฅ ์ˆ˜๊ฐ€ ์•„๋‹Œ ์‹ค์ œ ํ•„์š”์— ๋”ฐ๋ผ ์„ ํƒํ•˜์‹ญ์‹œ์˜ค.
  • ํ”„๋ก ํŠธ์—”๋“œ๋ฅผ ์‰ฝ๊ฒŒ ์ „ํ™˜ํ•  ์ˆ˜ ์žˆ๋‹ค๋Š” ๊ฒƒ์„ ๋ชจ๋ฅด๋Š” ๊ฒƒ. Ollama ๋ชจ๋ธ๊ณผ ๋ชจ๋ธ๋“ค์€ ํ”„๋ก ํŠธ์—”๋“œ์™€ ๋ณ„๊ฐœ์ž…๋‹ˆ๋‹ค. ๋ชจ๋ธ์„ ๋‹ค์‹œ ๋‹ค์šด๋กœ๋“œํ•˜์ง€ ์•Š๊ณ  Open WebUI์—์„œ Enchanted UI๋กœ, Jan AI๋กœ ์ „ํ™˜ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค โ€” ๋ชจ๋‘ ๋™์ผํ•œ Ollama ์ธ์Šคํ„ด์Šค๋ฅผ ๊ณต์œ ํ•ฉ๋‹ˆ๋‹ค.
  • GPU ์—†์ด 8 GB RAM ๊ธฐ๊ธฐ์—์„œ Open WebUI๋ฅผ ์‹คํ–‰ํ•˜๋ ค๋Š” ๊ฒƒ. Open WebUI + ๋ชจ๋ธ ์ถ”๋ก ์—๋Š” ์ด 12 GB ์ด์ƒ์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค. ์ œํ•œ๋œ ํ•˜๋“œ์›จ์–ด์—์„œ๋Š” Enchanted UI ๋˜๋Š” ๊ฒฝ๋Ÿ‰ ๋Œ€์•ˆ์„ ์‚ฌ์šฉํ•˜์‹ญ์‹œ์˜ค.
  • ๋ชจ๋ธ ์–‘์žํ™”์™€ ํ”„๋ก ํŠธ์—”๋“œ ์š”๊ตฌ ์‚ฌํ•ญ์„ ๋ฌด์‹œํ•˜๋Š” ๊ฒƒ. 8๋น„ํŠธ ํ˜•์‹์˜ 13B ๋ชจ๋ธ๋งŒ 13 GB์ž…๋‹ˆ๋‹ค. Open WebUI๊ฐ€ ์˜ค๋ฒ„ํ—ค๋“œ๋ฅผ ์ถ”๊ฐ€ํ•ฉ๋‹ˆ๋‹ค. ๊ณ„์‚ฐํ•˜์‹ญ์‹œ์˜ค: ๋ชจ๋ธ ํฌ๊ธฐ + ํ”„๋ก ํŠธ์—”๋“œ ์˜ค๋ฒ„ํ—ค๋“œ + OS = ์ด ํ•„์š” RAM.
  • ๋จผ์ € Ollama๋ฅผ ๋ฐฑ๊ทธ๋ผ์šด๋“œ ์„œ๋น„์Šค๋กœ ์„ค์ •ํ•˜์ง€ ์•Š๋Š” ๊ฒƒ. ๋งŽ์€ ์ƒˆ๋กœ์šด ์‚ฌ์šฉ์ž๋“ค์ด Ollama๊ฐ€ ์‹คํ–‰๋˜์–ด์•ผ ํ•œ๋‹ค๋Š” ๊ฒƒ์„ ์ธ์‹ํ•˜์ง€ ๋ชปํ•˜๊ณ  ์—ฌ๋Ÿฌ ํ”„๋ก ํŠธ์—”๋“œ๋ฅผ ๋™์‹œ์— ์‹คํ–‰ํ•˜๋ ค๊ณ  ํ•ฉ๋‹ˆ๋‹ค. ๋จผ์ € Ollama๋ฅผ ์„ค์ •ํ•˜๊ณ (๋ฐฑ๊ทธ๋ผ์šด๋“œ์—์„œ `ollama serve`๋ฅผ ํ†ตํ•ด ์„œ๋น„์Šค๋กœ), ๊ทธ๋‹ค์Œ ์„ ํƒํ•œ ํ”„๋ก ํŠธ์—”๋“œ๋ฅผ ์ถ”๊ฐ€ํ•˜์‹ญ์‹œ์˜ค.

โ€ขโš ๏ธ ๊ฒฝ๊ณ : 8 GB RAM์—์„œ Open WebUI + ๋ชจ๋ธ ์ถ”๋ก ์„ ์‹คํ–‰ํ•˜๋ฉด ๋ฉ”๋ชจ๋ฆฌ ๋ถ€์กฑ ์ถฉ๋Œ์ด ์ž์ฃผ ๋ฐœ์ƒํ•ฉ๋‹ˆ๋‹ค. ์›ํ™œํ•œ ๊ฒฝํ—˜์„ ์œ„ํ•œ ์ตœ์†Œ ์‚ฌ์–‘์€ ์ด ์‹œ์Šคํ…œ RAM 16 GB์ž…๋‹ˆ๋‹ค โ€” ๋ชจ๋ธ์— 12 GB, OS์™€ Docker์— 4 GB.

๋กœ์ปฌ LLM ํ”„๋ก ํŠธ์—”๋“œ์— ๊ด€ํ•œ ์ž์ฃผ ๋ฌป๋Š” ์งˆ๋ฌธ

์—ฌ๋Ÿฌ ํ”„๋ก ํŠธ์—”๋“œ๋ฅผ ๋™์‹œ์— ์‹คํ–‰ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๊นŒ?

์˜ˆ. ๋ชจ๋“  ํ”„๋ก ํŠธ์—”๋“œ๋Š” ๋™์ผํ•œ Ollama API(localhost:11434)์— ์—ฐ๊ฒฐ๋ฉ๋‹ˆ๋‹ค. Open WebUI, Enchanted UI, Continue.dev๋ฅผ ๋ชจ๋‘ ๋™์‹œ์— ์‹คํ–‰ํ•˜๊ณ  ๋™์ผํ•œ ๋ชจ๋ธ์„ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. VRAM ์‚ฌ์šฉ๋Ÿ‰์ด ๋‘ ๋ฐฐ๊ฐ€ ๋˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค โ€” ๋ชจ๋‘ ๋™์ผํ•œ ๋ชจ๋ธ ์ธ์Šคํ„ด์Šค๋ฅผ ๊ณต์œ ํ•ฉ๋‹ˆ๋‹ค.

RAG์— ๊ฐ€์žฅ ์ ํ•ฉํ•œ ํ”„๋ก ํŠธ์—”๋“œ๋Š” ๋ฌด์—‡์ž…๋‹ˆ๊นŒ?

Open WebUI๊ฐ€ ๊ฐ€์žฅ ์„ฑ์ˆ™ํ•œ RAG ๊ตฌํ˜„์„ ๊ฐ–์ถ”๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๋ฌธ์„œ๋ฅผ ์—…๋กœ๋“œํ•˜๋ฉด ๋ชจ๋ธ์ด ํ•ด๋‹น ๋ฌธ์„œ๋ฅผ ๊ธฐ๋ฐ˜์œผ๋กœ ์งˆ๋ฌธ์— ๋‹ตํ•ฉ๋‹ˆ๋‹ค. ๊ณ ๊ธ‰ RAG ์›Œํฌํ”Œ๋กœ์šฐ์— ๋Œ€ํ•ด์„œ๋Š” ์ตœ๊ณ ์˜ ๋กœ์ปฌ RAG ๋„๊ตฌ๋ฅผ ์ฐธ์กฐํ•˜์‹ญ์‹œ์˜ค.

ํ”„๋ก ํŠธ์—”๋“œ๊ฐ€ ์ „ํ˜€ ํ•„์š”ํ•ฉ๋‹ˆ๊นŒ?

์•„๋‹™๋‹ˆ๋‹ค. Ollama๋Š” localhost:11434์—์„œ REST API๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. Python, JavaScript, ๋˜๋Š” bash ์Šคํฌ๋ฆฝํŠธ๋ฅผ ์ž‘์„ฑํ•˜์—ฌ ํ”„๋ก ํŠธ์—”๋“œ ์—†์ด API๋ฅผ ํ†ตํ•ด ์ง์ ‘ ๋ชจ๋ธ๊ณผ ์ƒํ˜ธ ์ž‘์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ํ”„๋ก ํŠธ์—”๋“œ๋Š” ๋‹จ์ˆœํžˆ ํŽธ์˜์„ฑ๊ณผ ์‹œ๊ฐ์  ์ƒํ˜ธ ์ž‘์šฉ์„ ์œ„ํ•œ ๊ฒƒ์ž…๋‹ˆ๋‹ค.

Linux์—์„œ ์ž‘๋™ํ•˜๋Š” ํ”„๋ก ํŠธ์—”๋“œ๋Š” ๋ฌด์—‡์ž…๋‹ˆ๊นŒ?

Open WebUI, Enchanted UI, Lobe Chat, Gradio/Streamlit์€ ๋ชจ๋‘ Linux์—์„œ ์ž‘๋™ํ•ฉ๋‹ˆ๋‹ค. Jan AI๋Š” Linux ์ง€์›์ด ๋ฒ ํƒ€ ์ƒํƒœ์ž…๋‹ˆ๋‹ค(2026๋…„ 4์›” ๊ธฐ์ค€). Continue.dev๋Š” ๋ชจ๋“  ํ”Œ๋žซํผ์—์„œ VS Code๋ฅผ ํ†ตํ•ด ์ž‘๋™ํ•ฉ๋‹ˆ๋‹ค.

์›๊ฒฉ ์„œ๋ฒ„์— ํ”„๋ก ํŠธ์—”๋“œ๋ฅผ ํ˜ธ์ŠคํŒ…ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๊นŒ?

์˜ˆ. ๋ชจ๋“  ํ”„๋ก ํŠธ์—”๋“œ๋Š” ์›น ์•ฑ์ด๊ฑฐ๋‚˜(๋˜๋Š” ์ปจํ…Œ์ด๋„ˆํ™”๋  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค). ์„œ๋ฒ„์—์„œ Ollama๋ฅผ ์‹คํ–‰ํ•˜๊ณ  Docker์—์„œ Open WebUI๋ฅผ ์‹คํ–‰ํ•œ ๋‹ค์Œ HTTP๋ฅผ ํ†ตํ•ด ๋…ธํŠธ๋ถ์—์„œ ์ ‘๊ทผํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ธ์ฆ ๋˜๋Š” ๋ฐฉํ™”๋ฒฝ์œผ๋กœ ์ธํ„ฐํŽ˜์ด์Šค๋ฅผ ๋ณดํ˜ธํ•˜์‹ญ์‹œ์˜ค.

RAM์„ ๊ฐ€์žฅ ์ ๊ฒŒ ์‚ฌ์šฉํ•˜๋Š” ํ”„๋ก ํŠธ์—”๋“œ๋Š” ๋ฌด์—‡์ž…๋‹ˆ๊นŒ?

Enchanted UI๋Š” ์‹คํ–‰ ์ค‘์ธ ๋ชจ๋ธ ์™ธ์— ๊ธฐ๋ณธ์ ์œผ๋กœ ์ถ”๊ฐ€ RAM์„ ์‚ฌ์šฉํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค โ€” ๋ธŒ๋ผ์šฐ์ €์˜ ๋‹จ์ผ HTML ํŒŒ์ผ์ž…๋‹ˆ๋‹ค. Jan AI์™€ Continue.dev๋„ ์ตœ์†Œํ•œ์˜ ์˜ค๋ฒ„ํ—ค๋“œ(200 MB ๋ฏธ๋งŒ)๋ฅผ ์ถ”๊ฐ€ํ•ฉ๋‹ˆ๋‹ค. Docker์˜ Open WebUI๋Š” ์•ฝ 500 MB~1 GB์˜ ์˜ค๋ฒ„ํ—ค๋“œ๋ฅผ ์ถ”๊ฐ€ํ•ฉ๋‹ˆ๋‹ค. RAM์ด ์ œํ•œ๋œ ๊ฒฝ์šฐ ์ฑ„ํŒ…์—๋Š” Enchanted UI๋ฅผ, ์ฝ”๋“œ์—๋Š” Continue.dev๋ฅผ ์‚ฌ์šฉํ•˜์‹ญ์‹œ์˜ค.

Ollama ๋Œ€์‹  LM Studio์™€ ํ•จ๊ป˜ ์ด ํ”„๋ก ํŠธ์—”๋“œ๋ฅผ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๊นŒ?

์˜ˆ, ์ œํ•œ์ด ์žˆ์Šต๋‹ˆ๋‹ค. Enchanted UI์™€ Open WebUI๋Š” LM Studio์˜ ๋ฒ ํƒ€ API(localhost:1234)๋ฅผ ํฌํ•จํ•˜์—ฌ OpenAI ํ˜ธํ™˜ API์™€ ํ•จ๊ป˜ ์ž‘๋™ํ•ฉ๋‹ˆ๋‹ค. ์„ค์ •์—์„œ ๊ธฐ๋ณธ URL์„ ๋ณ€๊ฒฝํ•˜์‹ญ์‹œ์˜ค. LM Studio์˜ API๋Š” 2026๋…„ 4์›” ๊ธฐ์ค€์œผ๋กœ ์—ฌ์ „ํžˆ ๋ฒ ํƒ€ ์ƒํƒœ์ž…๋‹ˆ๋‹ค โ€” Ollama๋Š” ํ”„๋ก ํŠธ์—”๋“œ๋ฅผ ์œ„ํ•œ ๋” ์‹ ๋ขฐํ•  ์ˆ˜ ์žˆ๋Š” ๋ฐฑ์—”๋“œ์ž…๋‹ˆ๋‹ค.

5๋ช… ์ด์ƒ์˜ ๊ฐœ๋ฐœ์ž ํŒ€์— ๊ฐ€์žฅ ์ ํ•ฉํ•œ ํ”„๋ก ํŠธ์—”๋“œ๋Š” ๋ฌด์—‡์ž…๋‹ˆ๊นŒ?

Open WebUI์ž…๋‹ˆ๋‹ค. ์ด ๋ชฉ๋ก์—์„œ ๋‹ค์ค‘ ์‚ฌ์šฉ์ž ๋ฐฐํฌ๋ฅผ ์œ„ํ•ด ์„ค๊ณ„๋œ ์œ ์ผํ•œ ํ”„๋ก ํŠธ์—”๋“œ์ž…๋‹ˆ๋‹ค: ์ธ์ฆ, ์‚ฌ์šฉ์ž๋ณ„ ๋ณ„๋„์˜ ๋Œ€ํ™” ๊ธฐ๋ก, ๊ณต์œ  ์ง€์‹ ๋ฒ ์ด์Šค, ๊ด€๋ฆฌ์ž ์ปจํŠธ๋กค. Docker๋กœ ๊ณต์œ  ์„œ๋ฒ„์— ๋ฐฐํฌํ•˜๋ฉด ๋ชจ๋“  ํŒ€์›์ด ๋ธŒ๋ผ์šฐ์ €๋ฅผ ํ†ตํ•ด ์ ‘๊ทผํ•ฉ๋‹ˆ๋‹ค. ํ˜ธ์ŠคํŠธ ์„œ๋ฒ„์— 12 GB ์ด์ƒ์˜ RAM์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.

์ถœ์ฒ˜

  • Open WebUI Contributors. (2026). "Open WebUI GitHub." -- Open WebUI์˜ ์†Œ์Šค ์ฝ”๋“œ ๋ฐ Docker ์„ค์ • ๋ฌธ์„œ.
  • Jan AI. (2026). "Jan AI Official Site." -- ๋ฐ์Šคํฌํ†ฑ ์•ฑ ๋ฌธ์„œ ๋ฐ ๋ชจ๋ธ ๊ด€๋ฆฌ ๊ฐ€์ด๋“œ.
  • Continue.dev. (2026). "Continue Documentation." -- ๋กœ์ปฌ LLM ์ฝ”๋“œ ์™„์„ฑ์„ ์œ„ํ•œ VS Code ๋ฐ JetBrains ํ™•์žฅ ํ”„๋กœ๊ทธ๋žจ ๊ตฌ์„ฑ.
  • Lobe Chat Contributors. (2024). "Lobe Chat GitHub." -- ํ”„๋ผ์ด๋ฒ„์‹œ ์ค‘์‹ฌ ์ฑ„ํŒ… UI ์†Œ์Šค ์ฝ”๋“œ ๋ฐ ๋ฐฐํฌ ๊ฐ€์ด๋“œ.
  • ํ”„๋ก ํŠธ์—”๋“œ ์„ ํƒ์€ ์‚ฌ์šฉ์ž ๊ฒฝํ—˜์— ์˜ํ–ฅ์„ ๋ฏธ์น˜๋ฉฐ, ๋ชจ๋ธ ์ถœ๋ ฅ์—๋Š” ์˜ํ–ฅ์„ ๋ฏธ์น˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ์ถœ๋ ฅ ํ’ˆ์งˆ์€ ์ธํ„ฐํŽ˜์ด์Šค๊ฐ€ ์•„๋‹Œ ํ”„๋กฌํ”„ํŠธ์— ๋‹ฌ๋ ค ์žˆ์Šต๋‹ˆ๋‹ค: ํ”„๋กฌํ”„ํŠธ ์—”์ง€๋‹ˆ์–ด๋ง ๊ฐ€์ด๋“œ๋Š” ๋ชจ๋“  ํ”„๋ก ํŠธ์—”๋“œ์—์„œ ์ž‘๋™ํ•ฉ๋‹ˆ๋‹ค.

A Note on Third-Party Facts

This article references third-party AI models, benchmarks, prices, and licenses. The AI landscape changes rapidly. Benchmark scores, license terms, model names, and API prices can shift between the time of writing and the time you read this. Before making deployment or compliance decisions based on this article, verify current figures on each providerโ€™s official source: Hugging Face model cards for licenses and benchmarks, provider websites for API pricing, and EUR-Lex for current GDPR and EU AI Act text. This article reflects publicly available information as of May 2026.

Run PromptQuorum with a local LLM, your own API keys, or both โ€” you pick the backend.

Join the PromptQuorum Waitlist โ†’

โ† Back to Local LLMs

์ตœ๊ณ ์˜ ๋กœ์ปฌ LLM ํ”„๋ก ํŠธ์—”๋“œ 2026: 8๊ฐ€์ง€ ์ฑ„ํŒ… UI ๋น„๊ต | PromptQuorum