Key Takeaways
- Open WebUI: ์ ๋ฌธ์ ์ด๊ณ ๊น๋ํ๋ฉฐ ๋ค์ค ์ฌ์ฉ์๋ฅผ ์ง์ํ๊ณ ๋น ๋ฅธ ์ถ๋ก ํตํฉ์ ์ ๊ณตํฉ๋๋ค.
- SillyTavern: ์บ๋ฆญํฐ ์ค์ฌ, ๋กคํ๋ ์ด ์ฐ์ , ๋จ์ผ ์ฌ์ฉ์ ๋๊ตฌ์ ๋๋ค.
- ์ ๋ฌด, ์ฐ๊ตฌ, ์ผ๋ฐ ์ฑํ ์๋ Open WebUI๋ฅผ ์ฌ์ฉํ์ญ์์ค.
- ์ฐฝ์ ๊ธ์ฐ๊ธฐ, ์บ๋ฆญํฐ ์๋ฎฌ๋ ์ด์ , ์คํ ๋ฆฌํ ๋ง์๋ SillyTavern์ ์ฌ์ฉํ์ญ์์ค.
- ๋ ๋๊ตฌ ๋ชจ๋ ๋ก์ปฌ LLM ๋ฐฑ์๋(Ollama, vLLM, llama.cpp)๋ฅผ ์ง์ํฉ๋๋ค.
- Open WebUI(Python FastAPI + Svelte ํ๋ก ํธ์๋)์ SillyTavern(Node.js + ๋ธ๋ผ์ฐ์ )์ UI ์ฑ๋ฅ์ด ์ ์ฌํฉ๋๋ค. ์ถ๋ก ๋ฐฑ์๋(Ollama, vLLM, llama.cpp)๊ฐ ๋ณ๋ชฉ ์ง์ ์ ๋๋ค.
- ์ด๋ ์ชฝ๋ ์๋ ์ด์ ์ ์ถ๊ฐํ์ง ์์ต๋๋ค. ๋ฐฑ์๋(Ollama, vLLM)๊ฐ ๋ณ๋ชฉ์ ๋๋ค.
- ์๋ก ๋ค๋ฅธ ํฌํธ์์ ๋ ๋๊ตฌ๋ฅผ ๋์์ ์คํํ์ฌ ๋ค์ํ ์ํฌํ๋ก์ฐ์ ํ์ฉํ ์ ์์ต๋๋ค.
๋น ๋ฅธ ๊ฒฐ์ : ์ด๋ค ๊ฒ์ ์ฌ์ฉํด์ผ ํฉ๋๊น?
์๋๊ฐ ์๋ ์ํฌํ๋ก์ฐ๋ฅผ ๊ธฐ์ค์ผ๋ก ์ ํํ์ญ์์ค. ๋ ํ๋ก ํธ์๋ ๋ชจ๋ ๋์ผํ ๋ฐฑ์๋๋ฅผ ์ฌ์ฉํฉ๋๋ค.
| Use Case | Recommended | Reason |
|---|---|---|
| ํ/๊ธฐ์ ์ฑํ | Open WebUI | ๋ค์ค ์ฌ์ฉ์, API ํค, ๊ด๋ฆฌ์ ํจ๋, Docker ๋ฐฐํฌ |
| ์ฐฝ์ ๊ธ์ฐ๊ธฐ/์์ค | SillyTavern | ์บ๋ฆญํฐ ์นด๋, ๋ก์ด๋ถ, ์ง์์ ์ธ ์ธ๊ณ๊ด ๊ตฌ์ถ |
| ์บ๋ฆญํฐ ๋กคํ๋ ์ด | SillyTavern | ๊ทธ๋ฃน ์ฑํ , TTS, Stable Diffusion ํตํฉ |
| ์ฐ๊ตฌ/Q&A | Open WebUI | RAG ํ๋ฌ๊ทธ์ธ, ๋ฌธ์ ์ ๋ก๋, ๊น๋ํ ์ธํฐํ์ด์ค |
| ๊ฐ์ธ ์ฑํ | ๋ ๋ค ๊ฐ๋ฅ | ๋ ๋๊ตฌ ๋ชจ๋ ์๋ํจ; ์ ํธํ๋ ์คํ์ผ ์ ํ |
| D&D / TTRPG ์บ ํ์ธ | SillyTavern | ์๋ ์ธํฌ, NPC ๊ด๋ฆฌ, ํ๋ฌ๊ทธ์ธ ์ํ๊ณ |
| ์ฌ๋ด ์ ๋ฌด ๋๊ตฌ | Open WebUI | Docker ๋ฐฐํฌ, ๊ฐ์ฌ ๋ก๊ทธ, ์ฌ์ฉ์๋ณ ๋ํ ๊ธฐ๋ก |
๊ธฐ๋ฅ ๋น๊ตํ
Open WebUI๋ ์ ๋ฌธ ์ฑํ ๊ณผ ํ ํ์ ์ ์ฐ์ ์ํฉ๋๋ค. SillyTavern์ ๊น์ ์บ๋ฆญํฐ ์ปค์คํฐ๋ง์ด์ ์ด์ ์ ํตํ ๋ชฐ์ ํ ๋กคํ๋ ์ด๋ฅผ ์ ๋ฌธ์ผ๋ก ํฉ๋๋ค. ๋ ๋๊ตฌ ๋ชจ๋ ๋์ผํ ๋ก์ปฌ ๋ฐฑ์๋์ ์ฐ๊ฒฐ๋๋ฏ๋ก ์ํคํ ์ฒ์ ์ถ๋ก ์๋๋ ๋์ผํฉ๋๋ค.
| Feature | Open WebUI | SillyTavern |
|---|---|---|
| ์ค์น | Docker ๋๋ pip install (5๋ถ) | Node.js ํ์, ์ดํ ๋ธ๋ผ์ฐ์ ์ฌ์ฉ (10๋ถ) |
| ์ธํฐํ์ด์ค ์ด์ | ๋ํ ์ค๋ ๋, ๊น๋ํ ์ฌ์ด๋๋ฐ | ์บ๋ฆญํฐ ์๋ฐํ, ์ธ๊ณ๊ด ๊ตฌ์ถ |
| ๋ค์ค ์ฌ์ฉ์ ์ง์ | โ (๋ด์ฅ) | โ (๋จ์ผ ์ฌ์ฉ์๋ง) |
| ์บ๋ฆญํฐ ์นด๋ | ๊ธฐ๋ณธ ์์คํ ํ๋กฌํํธ | โ (์ฑ๊ฒฉ ํฌํจ ์ ์ฒด JSON ์นด๋) |
| ํ ๋ฐฐํฌ | โ (์๋ฒ ๋ชจ๋, API ํค) | โ (์ฐํ ๋ฐฉ๋ฒ ํ์) |
| ์ปค์คํฐ๋ง์ด์ ์ด์ | ํ๋ฌ๊ทธ์ธ, ๊ธฐ๋ณธ ํ ๋ง | โโ (์ฌ์ธต UI/๋ ์ด์์ ์ปค์คํฐ๋ง์ด์ ์ด์ ) |
| ๋ฐฐํฌ | ์์ฒด ํธ์คํ ์น ์๋ฒ (Python FastAPI) | ์์ฒด ํธ์คํ Node.js ์๋ฒ |
| ๋ฐฑ์๋ ์ง์ | โ (Ollama, vLLM, llama.cpp) | โ (Ollama, vLLM, llama.cpp) |
| ํ์ต ๊ณก์ | ์ฌ์ (์ ๋ฌธ ์ฌ์ฉ์) | ๋ณดํต (์ฐฝ์ ์ฌ์ฉ์) |
| ์ฃผ์ ์ฌ์ฉ ์ฌ๋ก | Q&A, ์ฐ๊ตฌ, ํ | ์ฐฝ์ ๊ธ์ฐ๊ธฐ, ๋กคํ๋ ์ด |
์ฑํ ๊ฒฝํ ์ฐจ์ด
Open WebUI: ๋ํ ์ค์ฌ์ ๋๋ค. ๊น๋ํ ์ฌ์ด๋๋ฐ, ํ ํฐ ์นด์ดํฐ, ์ปจํ ์คํธ ์๋์ฐ ํ์๊ฐ ์๋ ์ ๋ฌธ ์ฑํ ์ธํฐํ์ด์ค์ ๋๋ค.
SillyTavern: ์บ๋ฆญํฐ ์ค์ฌ์ ๋๋ค. ์บ๋ฆญํฐ ์๋ฐํ, ํ๋ฅด์๋ ์ธ๋ถ ์ ๋ณด, ์ธ๊ณ๊ด ์ปจํ ์คํธ๋ฅผ ๊ฐ์ถ๊ณ ๋ชฐ์ ํ ๋กคํ๋ ์ด์ ์ต์ ํ๋์ด ์์ต๋๋ค.
Q&A์ ์ฐ๊ตฌ์๋ Open WebUI๋ฅผ ์ฌ์ฉํ์ญ์์ค.
์คํ ๋ฆฌํ ๋ง๊ณผ ์บ๋ฆญํฐ ๊ฐ๋ฐ์๋ SillyTavern์ ์ฌ์ฉํ์ญ์์ค.
๋ค์ค ์ฌ์ฉ์ ๋ฐ ํ ํ์ฉ
Open WebUI: ๋ด์ฅ ๋ค์ค ์ฌ์ฉ์ ์ง์. ๊ฐ ์ฌ์ฉ์๋ ๋ณ๋์ ๋ํ ๊ธฐ๋ก, API ํค, ์ค์ ์ ๊ฐ์ต๋๋ค. ํ ์ ๊ทผ์ ์ํด ์๋ฒ์ ๋ฐฐํฌํ์ญ์์ค.
SillyTavern: ๋จ์ผ ์ฌ์ฉ์ ์ ์ฉ์ ๋๋ค. localhost๋ฅผ ํตํด ์ธ์คํด์ค๋ฅผ ๊ณต์ ํ ์ ์์ง๋ง ๋ํ๊ฐ ์๋ก ๋ฎ์ด์์์ง๋๋ค.
ํ์ ๊ฒฝ์ฐ: Open WebUI๊ฐ ์ ์ผํ ์ต์ ์ ๋๋ค.
๊ฐ์ธ์ ๊ฒฝ์ฐ: SillyTavern์ผ๋ก ์ถฉ๋ถํฉ๋๋ค.
์บ๋ฆญํฐ/๋กคํ๋ ์ด ๊ธฐ๋ฅ
Open WebUI: ๊ธฐ๋ณธ ์์คํ ํ๋กฌํํธ๋ฅผ ์ ๊ณตํฉ๋๋ค. ํค๊ณผ ์ง์นจ ์ค์ ์ ์ ํฉํ์ง๋ง ์บ๋ฆญํฐ ์ค์ฌ์ ์๋๋๋ค.
SillyTavern: ์บ๋ฆญํฐ ์นด๋(JSON ํ์)์ ํ๋ฅด์๋, ์ธ๋ชจ, ๋งํฌ ํจํด, ๊ด๊ณ๋ฅผ ์ ์ฅํฉ๋๋ค. ๋กคํ๋ ์ด๋ฅผ ์ํด ์ค๊ณ๋์์ต๋๋ค.
SillyTavern์ "์๋ ์ธํฌ"(๋ํ ์ ๋ฐ์ ๊ฑธ์ณ ์ง์๋๋ ๋ก์ด์ ์ปจํ ์คํธ)๋ฅผ ์ง์ํฉ๋๋ค.
์ง์งํ ๋กคํ๋ ์ด์๋ SillyTavern์ ์ฌ์ฉํ์ญ์์ค.
์ ๋ฌด/์ฐ๊ตฌ์๋ Open WebUI๋ฅผ ์ฌ์ฉํ์ญ์์ค.
Open WebUI์ ์๋ SillyTavern ์ ์ฉ ๊ธฐ๋ฅ
Open WebUI๋ ์ด๋ฌํ ๊ธฐ๋ฅ์ ์๋์ ์ผ๋ก ์ ์ธํฉ๋๋ค. ๊ทธ ๋ฒ์๋ ๋ชฐ์ ํ ํฝ์ ์ด ์๋ ์ ๋ฌธ ์ฑํ ์ ๋๋ค. SillyTavern์ ์ด ๊ธฐ๋ฅ ์ธํธ๋ฅผ ๊ฐ์ถ ์ ์ผํ ๋ก์ปฌ LLM ํ๋ก ํธ์๋์ ๋๋ค.
- ๋ก์ด๋ถ / ์๋ ์ธํฌ: ๋ํ์์ ํค์๋๊ฐ ๋ฑ์ฅํ ๋ ์ปจํ ์คํธ์ ์ฃผ์ ๋๋ ์ง์์ ์ธ ๋ก์ด์ ๋๋ค. ์ฅํธ ๋กคํ๋ ์ด ์ฐ์์ฑ์ ํ์์ ์ ๋๋ค.
- ์บ๋ฆญํฐ ํ์ : AI ์๋ต์์ ๊ฐ์ง๋ ๊ฐ์ (๊ธฐ์จ, ์ฌํ, ๋ถ๋ ธ)์ ๋ฐ๋ผ ์๋ฐํ ์คํ๋ผ์ดํธ๊ฐ ๋ณ๊ฒฝ๋ฉ๋๋ค. ์บ๋ฆญํฐ๋ณ ์คํ๋ผ์ดํธ ์ธํธ๊ฐ ํ์ํฉ๋๋ค.
- ๊ทธ๋ฃน ์ฑํ : ํ๋์ ๋ํ ์ค๋ ๋์์ ์ฌ๋ฌ AI ์บ๋ฆญํฐ๊ฐ ์ํธ์์ฉํฉ๋๋ค. ๊ฐ ์บ๋ฆญํฐ๋ ๊ณ ์ ํ ์ฑ๊ฒฉ ์นด๋์ ๊ธฐ์ต์ ๊ฐ์ต๋๋ค.
- ์์ฑ ํตํฉ (TTS/STT): AI ์๋ต์ ๋ํ ํ ์คํธ ์์ฑ ๋ณํ, ์ฌ์ฉ์ ์ ๋ ฅ์ ๋ํ ์์ฑ ํ ์คํธ ๋ณํ์ ์ง์ํฉ๋๋ค. ElevenLabs, Coqui, ๋๋ ๋ก์ปฌ TTS ๋ชจ๋ธ์ ์ง์ํฉ๋๋ค.
- ์ด๋ฏธ์ง ์์ฑ: ์ปจํ ์คํธ ๋ด์์ ์บ๋ฆญํฐ ์ด์ํ์ ์ฅ๋ฉด ์ฝํ๋ฅผ ์์ฑํ๊ธฐ ์ํ Stable Diffusion ์ง์ ํตํฉ.
- ํ๋ฅด์๋: ์ฌ์ฉ์๊ฐ ์ด๋ฆ, ์ธ๋ชจ, ๋ฐฐ๊ฒฝ ์ด์ผ๊ธฐ๋ก ์์ ์ ์บ๋ฆญํฐ๋ฅผ ์ ์ํ๋ฉด AI๊ฐ ํด๋น ์บ๋ฆญํฐ์ธ ๊ฒ์ฒ๋ผ ์๋ตํฉ๋๋ค.
์ปค์คํฐ๋ง์ด์ ์ด์ ๋ฐ ํ ๋ง
Open WebUI: ๊ธฐ๋ณธ ํ ๋ง(๋คํฌ/๋ผ์ดํธ ๋ชจ๋)์ ํ์ฅ์ ์ํ ํ๋ฌ๊ทธ์ธ์ ์ ๊ณตํฉ๋๋ค.
SillyTavern: ์ฌ์ธต UI ์ปค์คํฐ๋ง์ด์ ์ด์ ์ด ๊ฐ๋ฅํฉ๋๋ค. ์บ๋ฆญํฐ ์ํธ์ํฌ, UI ๋ ์ด์์ ์กฐ์ , ์ปค์คํ ํ ๋ง๋ฅผ ์ง์ํฉ๋๋ค.
SillyTavern์ ์ปค์คํฐ๋ง์ด์ ์ด์ ์ ํธ๊ฐ์๊ฒ ์ดํํฉ๋๋ค. Open WebUI๋ ๋จ์์ฑ์ ์ฐ์ ์ํฉ๋๋ค.
ํํ ์ค์
- SillyTavern์ ํ ์ฑํ ๋๊ตฌ๋ก ๊ธฐ๋ํ๋ ๊ฒ. ๋ฌธ์ : SillyTavern์ ์ค๊ณ์ ๋จ์ผ ์ฌ์ฉ์ ๋๊ตฌ์ ๋๋ค. ๊ณต์ ์ ๋ํ๊ฐ ์๋ก ๋ฎ์ด์์์ง๋๋ค. ํด๊ฒฐ์ฑ : ํ์๋ Open WebUI๋ฅผ ์ฌ์ฉํ์ญ์์ค(๋ด์ฅ ๋ค์ค ์ฌ์ฉ์, ์ฌ์ฉ์๋ณ ๋ํ ๊ธฐ๋ก).
- Open WebUI๊ฐ "๊ธฐ๋ฅ์ด ๋ ํ๋ถํด์" ๋๋ฆฌ๋ค๊ณ ์๊ฐํ๋ ๊ฒ. ๋ฌธ์ : ๋ UI ๋ชจ๋ ๋์ผํ ๋ฐฑ์๋(Ollama, vLLM, llama.cpp) ์์ ์์ต๋๋ค. ์๋ ์ฐจ์ด๋ 0%์ ๋๋ค. ํด๊ฒฐ์ฑ : ์๋๊ฐ ์๋ ์ํฌํ๋ก์ฐ๋ฅผ ๊ธฐ์ค์ผ๋ก ์ ํํ์ญ์์ค. ๋ ๋๊ตฌ ๋ชจ๋ ๋๋ฑํ๊ฒ ๋น ๋ฆ ๋๋ค.
- ๋ ๋๊ตฌ๋ฅผ ๋์์ ์คํํ๋ฉด์ ๋ชจ๋ธ์ ๊ณต์ ํ ๊ฒ์ด๋ผ๊ณ ๊ธฐ๋ํ๋ ๊ฒ. ๋ฌธ์ : ๊ฐ ๋๊ตฌ์๋ ์์ฒด ๋ฐฑ์๋ ์ธ์คํด์ค๊ฐ ํ์ํ๊ฑฐ๋ ๋ฆฌ์์ค๋ฅผ ๊ฒฝ์ํฉ๋๋ค. ํด๊ฒฐ์ฑ : ๋ ๊ฐ์ ๋ณ๋ Ollama ์ธ์คํด์ค๋ฅผ ๋ค๋ฅธ ํฌํธ(11434 + 11435)์์ ์คํํ๊ฑฐ๋ ๋ก๋ ๋ฐธ๋ฐ์ฑ์ด ์๋ vLLM์ ์ฌ์ฉํ์ญ์์ค.
- SillyTavern ์บ๋ฆญํฐ๋ฅผ Open WebUI๋ก ๋ณํํด์ผ ํ๋ค๊ณ ๊ฐ์ ํ๋ ๊ฒ. ๋ฌธ์ : ๋ ๋๊ตฌ๋ ์๋ก ๋ค๋ฅธ ํ์(TavernAI ์นด๋ vs ์์คํ ํ๋กฌํํธ)์ ์ฌ์ฉํฉ๋๋ค. ๋ณํ์ ์์ค์ด ๋ฐ์ํฉ๋๋ค. ํด๊ฒฐ์ฑ : ๋ ๋๊ตฌ๋ฅผ ๋ชจ๋ ์ ์งํ๊ณ ๊ฐ๊ฐ ์ต์ ํ๋ ์ฉ๋๋ก ์ฌ์ฉํ์ญ์์ค.
- ๋ฐฑ์๋๊ฐ ์คํ๋์ง ์์ ์ํ์์ SillyTavern์ ์ค์นํ๋ ๊ฒ. ๋ฌธ์ : SillyTavern์ Ollama/vLLM/llama.cpp ์์ด๋ ์๋ํ์ง ์์ต๋๋ค. ์ค๋จ๋ ๊ฒ์ฒ๋ผ ๋ณด์ ๋๋ค. ํด๊ฒฐ์ฑ : ๋จผ์ Ollama๋ฅผ ์์(`ollama serve`)ํ ๋ค์ SillyTavern์ ์คํํ์ญ์์ค.
FAQ
Open WebUI์ SillyTavern ์ค ์ด๋ ๊ฒ์ ์ฌ์ฉํด์ผ ํฉ๋๊น?
์ ๋ฌด/์ฐ๊ตฌ์๋ Open WebUI๋ฅผ. ์ฐฝ์ ๊ธ์ฐ๊ธฐ/๋กคํ๋ ์ด์๋ SillyTavern์ ์ฌ์ฉํ์ญ์์ค. ์๋ก ๋ค๋ฅธ ๋๊ตฌ์ด๋ฉฐ ์๋ก ๋ค๋ฅธ ์ฉ๋๋ฅผ ์ํ ๊ฒ์ ๋๋ค.
SillyTavern์ ํ ์ฑํ ์ ์ฌ์ฉํ ์ ์์ต๋๊น?
์ฝ์ง ์์ต๋๋ค. ๋จ์ผ ์ฌ์ฉ์ ์ค๊ณ์ ๋๋ค. ํ์๋ Open WebUI(๋ด์ฅ ๋ค์ค ์ฌ์ฉ์ ์ง์)๋ฅผ ์ฌ์ฉํ์ญ์์ค.
์ด๋ ๊ฒ์ด ๋ ๋น ๋ฆ ๋๊น?
์๋์. ๋ ๋๊ตฌ ๋ชจ๋ Ollama/vLLM ์์ UI ๋ ์ด์ด์ ๋๋ค. ๋ฐฑ์๋ ์๋๋ ๋์ผํฉ๋๋ค.
SillyTavern ์บ๋ฆญํฐ๋ฅผ Open WebUI๋ก ๊ฐ์ ธ์ฌ ์ ์์ต๋๊น?
์๋์. ํ์์ด ๋ค๋ฆ ๋๋ค. SillyTavern์ ์บ๋ฆญํฐ ์นด๋๋ฅผ ์ฌ์ฉํ๊ณ , Open WebUI๋ ์์คํ ํ๋กฌํํธ๋ฅผ ์ฌ์ฉํฉ๋๋ค.
์ด๋ณด์๋ ์ด๋ ๊ฒ๋ถํฐ ์์ํด์ผ ํฉ๋๊น?
Open WebUI์ ๋๋ค. ๋ ๋จ์ํ๊ณ ๊น๋ํ๋ฉฐ ๋ถ๋ด์ด ์ ์ต๋๋ค. ์บ๋ฆญํฐ ๊ตฌ์ถ์ ์ข์ํ์ ๋ค๋ฉด SillyTavern์ ์ ํํ์ญ์์ค.
๋ ๋๊ตฌ๋ฅผ ๋์์ ์คํํ ์ ์์ต๋๊น?
์, ๋ค๋ฅธ ํฌํธ์์ ๊ฐ๋ฅํฉ๋๋ค. ์: Ollama๋ 11434, Open WebUI๋ 3000, SillyTavern์ 3001.
๊ด๋ จ ์๋ฃ
- ์ต๊ณ ์ ๋ก์ปฌ LLM ํ๋ก ํธ์๋ โ ๋ก์ปฌ LLM์ ์ํ 5๊ฐ ์ด์์ ์ฑํ UI์ ์ธํฐํ์ด์ค๋ฅผ ๋น๊ตํฉ๋๋ค.
- ๋ฐ์คํฌํฑ vs WebUI ๋ก์ปฌ LLM โ ๋ฐ์คํฌํฑ ์ ํ๋ฆฌ์ผ์ด์ ๊ณผ ๋ธ๋ผ์ฐ์ ๊ธฐ๋ฐ ์ธํฐํ์ด์ค๋ฅผ ์ธ์ ์ฌ์ฉํ ์ง ์์๋ด ๋๋ค.
- ์ฌ์ฉ ์ฌ๋ก๋ณ ์ต๊ณ ์ ๋ก์ปฌ LLM ์คํ โ ์ํฌํ๋ก์ฐ์ ๋ง๋ ๋ฐฑ์๋์ ํ๋ก ํธ์๋ ์กฐํฉ์ ์ ํํ์ญ์์ค.
- Ollama vs LM Studio โ ๊ฐ์ฅ ์ธ๊ธฐ ์๋ ๋ ๋ก์ปฌ LLM ์ค์น ํ๋ก๊ทธ๋จ์ ๋น๊ตํฉ๋๋ค.
- Ollama ์ค์น ๋ฐฉ๋ฒ โ ๋ UI ๋ชจ๋ ์ฌ์ฉํ๋ Ollama ๋ฐฑ์๋๋ฅผ ์ํ ๋จ๊ณ๋ณ ์ค์ ๊ฐ์ด๋.
- ์ฐฝ์ ๊ธ์ฐ๊ธฐ๋ฅผ ์ํ ์ต๊ณ ์ ๋ก์ปฌ LLM โ ํฝ์ , ์บ๋ฆญํฐ ๊ธ์ฐ๊ธฐ, ๋กคํ๋ ์ด๋ฅผ ์ํ ์ต๊ณ ์ ๋ชจ๋ธ.
- ๋ก์ปฌ LLM ๊ฐ๋ฐ์ ์คํ โ ๋ก์ปฌ LLM ํ๋ก ํธ์๋ ์์์ ๊ตฌ์ถํ๊ธฐ ์ํ ์์ ํ 3๋จ๊ณ ์คํ(CLI โ API โ ํ๋ก๋์ ).
์ถ์ฒ
- Open WebUI GitHub โ Docker ์ค์ ๊ฐ์ด๋์ API ๋ฌธ์๊ฐ ํฌํจ๋ ๊ณต์ ์ ์ฅ์.
- SillyTavern GitHub โ ์บ๋ฆญํฐ ์นด๋ ํ์๊ณผ ์ค์น ๊ฐ์ด๋๊ฐ ํฌํจ๋ ๊ณต์ ์ ์ฅ์.
- TavernAI ์บ๋ฆญํฐ ์นด๋ ํ์ โ ์บ๋ฆญํฐ ์นด๋ ์ฌ์๊ณผ JSON ์คํค๋ง.
- Open WebUI ๋ค์ค ์ฌ์ฉ์ ์ค์ โ ํ ์ ๊ทผ์ผ๋ก Open WebUI๋ฅผ ๋ฐฐํฌํ๊ธฐ ์ํ ๊ณต์ ๊ฐ์ด๋.