ํต์ฌ ์์
- LM Studio๋ ๋ก์ปฌ ์ฑํ ์ ๊ฐ์ฅ ๋น ๋ฅด๊ฒ ์์ํ๋ ๋ฐฉ๋ฒ์ ๋๋ค. lmstudio.ai์์ ์ค์น ํ๋ก๊ทธ๋จ์ ๋ค์ด๋ก๋ํ๊ณ , Discover ํญ์ ์ด๊ณ , "Phi-4 Mini"๋ฅผ ๊ฒ์ํ๊ณ , ๋ชจ๋ธ์ ๋ค์ด๋ก๋ํ ํ ์ฑํ ์ ์์ํ์ญ์์ค. ๊ด์ฐฎ์ ์ธํฐ๋ท ์ฐ๊ฒฐ์ด ์๋ค๋ฉด 10๋ถ ์ด๋ด์ ์๋ฃ๋ฉ๋๋ค.
- Jan์ ์คํ์์ค ๋์์ ๋๋ค. LM Studio์ ๋์ผํ ์ฌ์ฉ ํธ์์ฑ์ ์ ๊ณตํ๊ณ , ์์ ํ ์คํ์์ค์ด๋ฉฐ, Linux AppImage์์๋ ์๋ํฉ๋๋ค. ์คํ์์ค ์ํํธ์จ์ด๋ฅผ ์ ํธํ๊ฑฐ๋ ์์ค ์ฝ๋๋ฅผ ํ์ธํ๊ณ ์ถ๋ค๋ฉด Jan์ด ๋๋ฑํ ์ ํ์ง์ ๋๋ค.
- GPT4All์ ๊ฐ์ฅ ๋จ์ํ๋ ๊ฒฝํ์ ์ ๊ณตํฉ๋๋ค. ๋จ์ผ ์ฑํ ์ฐฝ, ์ ๋ณ๋ ๋ชจ๋ธ ์ถ์ฒ, ๋ชจ๋ธ ํ์ ๊ณผ๋ถํ ์์. ์ค์ ์ ๊ฒฐ์ ํ์ง ์๊ณ ์ง๋ฌธ์ ์ ๋ ฅํ๊ณ ๋ต๋ณ์ ๋ฐ๊ณ ์ถ์ ์ฌ์ฉ์์๊ฒ ๊ฐ์ฅ ์ ํฉํฉ๋๋ค.
- ์ด๋ค ํ๋์จ์ด์์๋ Phi-4 Mini ๋๋ Llama 3.2 3B๋ก ์์ํ์ญ์์ค. ์ด 3B ๋ชจ๋ธ๋ค์ ์ง๋ 7๋ ์ด๋ด์ ์ ์กฐ๋ ๋ชจ๋ ๋ ธํธ๋ถ์์ ์๋ํฉ๋๋ค โ GPU, 32 GB RAM, ํน์ ํ๋์จ์ด๊ฐ ํ์ํ์ง ์์ต๋๋ค. ํด๋ผ์ฐ๋ AI๋ณด๋ค ๋๋ฆฌ์ง๋ง ๋๋ถ๋ถ์ ์ผ์ ์์ ์์ ์ฌ์ฉ ๊ฐ๋ฅํ ๊ฒฐ๊ณผ๋ฅผ ์์ฑํฉ๋๋ค.
- ํด๋ผ์ฐ๋ ๊ณ์ ์ด ํ์ํ์ง ์์ต๋๋ค. ์ด๊ธฐ ๋ค์ด๋ก๋(์ฑ๊ณผ ๋ชจ๋ธ ํ์ผ) ํ์๋ ์ธํฐ๋ท ์ฐ๊ฒฐ ์์ด ๋ชจ๋ ๊ฒ์ด ๋ก์ปฌ์์ ์คํ๋ฉ๋๋ค. API ํค, ๊ตฌ๋ , ์ด๋ค ์๋ฒ๋ก๋ ๋ฐ์ดํฐ ์ ์ก์ด ์์ต๋๋ค.
- Apple Silicon์์๋ ๊ฑฐ์ ๋ชจ๋ ๋ชจ๋ธ์ด ์ ์๋ํฉ๋๋ค. MacBook Air M3 (8 GB)๋ Llama 3.2 3B์ Phi-4 Mini๋ฅผ ์ํํ๊ฒ ์คํํฉ๋๋ค. M3 Pro ๋๋ M4 (16 GB+)๋ Qwen3 8B๋ฅผ ํธ์ํ๊ฒ ์คํํฉ๋๋ค. M5 Max (64 GB)๋ 70B ๋ชจ๋ธ์ ์คํํฉ๋๋ค.
- LM Studio๋ ๋ก์ปฌ API๋ ์ ๊ณตํฉ๋๋ค. ๋์ค์ Obsidian, VS Code ๋๋ ๋ค๋ฅธ ๋๊ตฌ๋ฅผ ๋ก์ปฌ ๋ชจ๋ธ์ ์ฐ๊ฒฐํ๊ณ ์ถ๋ค๋ฉด, LM Studio์ Local Server ํญ์ด localhost์ OpenAI ํธํ API๋ฅผ ๋ ธ์ถํฉ๋๋ค โ ์ถ๊ฐ ์ค์ ์ด ํ์ ์์ต๋๋ค.
๋น ๋ฅธ ์ฌ์ค
- LM Studio: lmstudio.ai์์ ๋ค์ด๋ก๋ โ Windows (x64, ARM), macOS (Apple Silicon, Intel), Linux (AppImage, .deb) ์ง์.
- Jan: jan.ai โ Windows (x64), macOS (Apple Silicon, Intel), Linux (AppImage).
- GPT4All: gpt4all.io์์ ๋ค์ด๋ก๋ โ Windows (x64), macOS (Apple Silicon, Intel), Linux (AppImage) ์ง์.
- ์ต์ ํ๋์จ์ด: 3Bโ7B ๋ชจ๋ธ์ ๊ฒฝ์ฐ 8 GB RAM์ด ์๋ ๋ชจ๋ ๋ ธํธ๋ถ; 8Bโ14B ๋ชจ๋ธ์ ๊ฒฝ์ฐ 16 GB+; 30B+์ ๊ฒฝ์ฐ 24 GB+.
- GPU ๋ถํ์ โ Apple Silicon ๋๋ CPU ์ถ๋ก ๋ชจ๋์์ 3Bโ7B ๋ชจ๋ธ ์คํ ์.
- ์ธ ๊ฐ์ง ๋ชจ๋ ๋ฌด๋ฃ ์คํ์์ค์ ๋๋ค (LM Studio๋ ๋ฌด๋ฃ์ด๋ ์ฝ๋ ๊ณต๊ฐ, ์์ ์คํ์์ค๋ ์๋).
- ์ฒซ ๋ฒ์งธ ๋ชจ๋ธ ์ถ์ฒ: 8 GB ๋ฏธ๋ง ํ๋์จ์ด์๋ Phi-4 Mini (3B, ~2.7 GB ๋ค์ด๋ก๋); 8โ16 GB ์์คํ ์๋ Qwen3 8B.
์ธ ๊ฐ์ง ์ต์ ๋น๊ต
์ธ ๊ฐ์ง ์ฑ ๋ชจ๋ ํ์ค ๋ฐ์คํฌํฑ ์ฑ์ฒ๋ผ ์ค์น๋๋ฉฐ ๋ช ๋ น์ค ์ฌ์ฉ์ด ํ์ํ์ง ์์ต๋๋ค. ์ฐจ์ด์ ์ ๊ธฐ๋ฅ ๊น์ด, ๋ชจ๋ธ ๋ผ์ด๋ธ๋ฌ๋ฆฌ ํฌ๊ธฐ, ๋จ์ํจ๊ณผ ์ค์ ๊ฐ๋ฅ์ฑ ์ฌ์ด์ ๊ท ํ์ ์์ต๋๋ค.
๐ ํ ๋ฌธ์ฅ์ผ๋ก
LM Studio๋ Windows์ Mac์์ ๊ฐ์ฅ ์ฌ์ด ๋ก์ปฌ AI ์ฑ์ ๋๋ค โ ์ค์น, ๋ชจ๋ธ ํ์, ๋ค์ด๋ก๋, ์ฑํ โ Jan์ด ์คํ์์ค ๋๋ฑ ์ต์ ์ด๊ณ GPT4All์ด ๊ฐ์ฅ ๋จ์ํ ๋จ์ผ ์ฐฝ ์ต์ ์ ๋๋ค.
๐ฌ ์ฝ๊ฒ ๋งํ๋ฉด
๋ก์ปฌ AI ์ฑํ ์ ์ต๋ํ ๋น ๋ฅด๊ฒ ์์ํ๊ณ ์ถ๋ค๋ฉด: LM Studio๋ฅผ ๋ค์ด๋ก๋ํ๊ณ , ์ด๊ณ , Discover๋ฅผ ํด๋ฆญํ๊ณ , "Phi-4 Mini"๋ฅผ ์ ๋ ฅํ๊ณ , ๋ชจ๋ธ์ ๋ค์ด๋ก๋(~2.7 GB)ํ๊ณ , Chat์ ํด๋ฆญํ๊ณ ๋ํ๋ฅผ ์์ํ์ญ์์ค. ๊ทธ๊ฒ์ด ์ ์ฒด ์ค์ ์ ๋๋ค. ํฐ๋ฏธ๋, Python, ๊ณ์ ์ด ํ์ ์์ต๋๋ค. LM Studio์ ์ต์ ์ด ๋๋ฌด ๋ง๋ค๊ณ ๋๊ปด์ง๋ค๋ฉด GPT4All์ ์๋ํ์ญ์์ค โ ๋จ์ผ ์ฐฝ๊ณผ ๋ฏธ๋ฆฌ ์ ํ๋ ์งง์ ๋ชจ๋ธ ๋ชฉ๋ก์ ์ ๊ณตํฉ๋๋ค.
| ๊ธฐ๋ฅ | LM Studio | Jan | GPT4All |
|---|---|---|---|
| ์ค์ ์๊ฐ (์ฒซ ์คํ) | ~8๋ถ | ~10๋ถ | ~5๋ถ |
| ๋ชจ๋ธ ๋ผ์ด๋ธ๋ฌ๋ฆฌ | Hugging Face ์ ์ฒด GGUF ๊ฒ์ (~50,000+ ๋ชจ๋ธ) | ์ ๋ณ๋ ๋ชจ๋ธ + Hugging Face ๊ฒ์ | ์ ๋ณ๋ ๋ชฉ๋ก (~20 ๋ชจ๋ธ) |
| ๋ก์ปฌ API ์๋ฒ | ์ (OpenAI ํธํ, Local Server ํญ) | ์ (OpenAI ํธํ) | ์ (์ ํ์ , ๋ฌธ์ํ ๋ฏธํก) |
| ๋ค์ค ์ฑํ / ๋ํ ๊ธฐ๋ก | ์ | ์ | ๋จ์ผ ์ฑํ ์ฐฝ |
| ์์ค ์ฝ๋ ๋ผ์ด์ ์ค | ๋ฌด๋ฃ, ์ฝ๋ ๊ณต๊ฐ (๋นOSI) | AGPLv3 (์์ ์คํ์์ค) | MIT (์์ ์คํ์์ค) |
| Linux ํธํ์ฑ | AppImage, .deb | AppImage | AppImage |
| ์ต์ ๋์ | ์ต๊ณ ์ ์ธํฐํ์ด์ค + ๊ฐ๋ฐ์ API ์ก์ธ์ค๋ฅผ ์ํ๋ ์ฌ์ฉ์ | ์คํ์์ค ์ํํธ์จ์ด๋ฅผ ์ ํธํ๋ ์ฌ์ฉ์ | ๊ฐ์ฅ ๋จ์ํ ์ธํฐํ์ด์ค๋ฅผ ์ํ๋ ์์ ์ด๋ณด์ |
๐กTip: ํน๋ณํ ์ด์ ๊ฐ ์๋ค๋ฉด LM Studio๋ก ์์ํ์ญ์์ค. ์ต๊ณ ์ ์ธํฐํ์ด์ค, ๊ฐ์ฅ ํฐ ๋ชจ๋ธ ๋ผ์ด๋ธ๋ฌ๋ฆฌ, ๋์ค์ ๋ค๋ฅธ ๋๊ตฌ๋ฅผ ์ฐ๊ฒฐํ๊ณ ์ถ์ ๋์ ๋ช ํํ ์ ๊ทธ๋ ์ด๋ ๊ฒฝ๋ก(Local Server ํญ)๋ฅผ ๊ฐ์ถ๊ณ ์์ต๋๋ค. ์คํ์์ค ์ํํธ์จ์ด๋ฅผ ๊ฐํ๊ฒ ์ ํธํ๋ค๋ฉด Jan์ด ๋๋ฑํ ์ ํ์ง์ ๋๋ค.
LM Studio: ์ค์ ๊ฐ์ด๋
LM Studio๋ 3๋ถ ์์ ์ค์น๋๊ณ 10๋ถ ์ด๋ด์ ์ฑํ ์ ์์ํ ์ ์์ต๋๋ค. ํ๋ก์ธ์ค๋ Windows์ macOS์์ ๋์ผํฉ๋๋ค โ ๋ค์ด๋ก๋, ์ค์น, ๋ชจ๋ธ ํ์, ๋ชจ๋ธ ๋ค์ด๋ก๋, ์ฑํ .
- 1lmstudio.ai๋ฅผ ๋ฐฉ๋ฌธํ์ฌ ํ๋ซํผ์ฉ ์ค์น ํ๋ก๊ทธ๋จ์ ๋ค์ด๋ก๋ํ์ญ์์ค (Windows .exe, macOS .dmg, Linux .AppImage ๋๋ .deb).
- 2์ค์น ํ๋ก๊ทธ๋จ์ ์คํํ์ญ์์ค. ๋ณด์ ๊ฒฝ๊ณ ๊ฐ ๋ํ๋๋ฉด ์๋ฝํ์ญ์์ค (์ผ๋ถ ๋ฒ์ ์์ ๊ธฐ๋ณธ์ ์ผ๋ก Apple/Microsoft ์๋ช ์ด ์๋ ์ ์ฑ์ ๋๋ค).
- 3LM Studio๋ฅผ ์ฌ์ญ์์ค. ์ผ์ชฝ ์ฌ์ด๋๋ฐ์๋ Chat, Search (Discover), Models, Local Server๊ฐ ํ์๋ฉ๋๋ค.
- 4"Discover" (๋ง์๊ฒฝ ์์ด์ฝ)๋ฅผ ํด๋ฆญํ์ญ์์ค. ๊ฒ์์ฐฝ์ "Phi-4 Mini" (8 GB ์ดํ ์์คํ ์ ๊ฒฝ์ฐ) ๋๋ "Qwen3 8B" (16 GB+ ์์คํ ์ ๊ฒฝ์ฐ)๋ฅผ ์ ๋ ฅํ์ญ์์ค.
- 5๋ชจ๋ธ์ ํด๋ฆญํ ํ Q4_K_M ์์ํ ๋ณํ ์์ "Download"๋ฅผ ํด๋ฆญํ์ญ์์ค. ์ด๊ฒ์ด ๋๋ถ๋ถ์ ํ๋์จ์ด์์ ์ต๊ณ ์ ํ์ง ๋ ํฌ๊ธฐ ๋น์จ์ ๋๋ค.
- 6๋ค์ด๋ก๋๊ฐ ์๋ฃ๋ ๋๊น์ง ๊ธฐ๋ค๋ฆฌ์ญ์์ค (๋ชจ๋ธ์ ๋ฐ๋ผ 2โ5 GB). ์งํ ์ํฉ์ด ํ๋จ ๋ฐ์ ํ์๋ฉ๋๋ค.
- 7์ฌ์ด๋๋ฐ์์ "Chat"์ ํด๋ฆญํ์ญ์์ค. ์๋จ ๋๋กญ๋ค์ด ๋ฉ๋ด์์ ๋ค์ด๋ก๋ํ ๋ชจ๋ธ์ ์ ํํ์ญ์์ค. ์ฒซ ๋ฒ์งธ ๋ฉ์์ง๋ฅผ ์ ๋ ฅํ์ญ์์ค.
๐กTip: macOS์์ LM Studio๋ ํ๋์จ์ด๋ฅผ ์๋์ผ๋ก ๊ฐ์งํ์ฌ ๊ฐ์ฉ ๋ฉ๋ชจ๋ฆฌ์ ๋ง๋ ์ต์ ์ ์์ํ ์์ค์ ์ถ์ฒํฉ๋๋ค. ํน๋ณํ ์ด์ ๊ฐ ์๋ค๋ฉด ์ถ์ฒ์ ์๋ฝํ์ญ์์ค. NVIDIA GPU๊ฐ ์๋ Windows์์๋ LM Studio๊ฐ ์๋์ผ๋ก GPU ๊ฐ์์ ํ์ฑํํฉ๋๋ค โ CUDA๋ฅผ ๋ณ๋๋ก ์ค์ ํ ํ์๊ฐ ์์ต๋๋ค.
Jan: ์ค์ ๊ฐ์ด๋
Jan์ LM Studio์ ์คํ์์ค ๋์์ ๋๋ค โ ๋์ผํ ์ฌ์ฉ ํธ์์ฑ, ๋์ผํ ๋ชจ๋ธ ๋ค์ด๋ก๋ ๊ฒฝํ, AGPLv3 ๋ผ์ด์ ์ค. ์คํ์์ค ์ํํธ์จ์ด๊ฐ ์ค์ํ๊ฑฐ๋ ์ฑ ์ฝ๋๋ฅผ ๊ฒ์ฌํ๊ฑฐ๋ ์์ ํ๊ณ ์ถ๋ค๋ฉด Jan์ ์ฌ์ฉํ์ญ์์ค.
- 1jan.ai๋ฅผ ๋ฐฉ๋ฌธํ์ฌ ํ๋ซํผ์ฉ ์ค์น ํ๋ก๊ทธ๋จ์ ๋ค์ด๋ก๋ํ์ญ์์ค.
- 2์ค์น ํ๋ก๊ทธ๋จ์ ์คํํ๊ณ Jan์ ์ฌ์ญ์์ค.
- 3์ผ์ชฝ ์ฌ์ด๋๋ฐ์์ "Hub"๋ฅผ ํด๋ฆญํ์ฌ ๋ชจ๋ธ์ ํ์ํ์ญ์์ค.
- 4"Phi-4 Mini" ๋๋ "Qwen3 8B"๋ฅผ ๊ฒ์ํ๊ณ "Download"๋ฅผ ํด๋ฆญํ์ญ์์ค. Hub๋ Hugging Face์์ GGUF ํ์ผ์ ๋ค์ด๋ก๋ํฉ๋๋ค.
- 5๋ค์ด๋ก๋ ์๋ฃ ํ "Thread"๋ฅผ ํด๋ฆญํ์ฌ ์ ๋ํ๋ฅผ ์์ํ์ญ์์ค. ์ฑํ ์ฐฝ ํ๋จ์ ๋ชจ๋ธ ์ ํ๊ธฐ์์ ๋ชจ๋ธ์ ์ ํํ์ญ์์ค.
- 6์ฒซ ๋ฒ์งธ ๋ฉ์์ง๋ฅผ ์ ๋ ฅํ์ญ์์ค. Jan์ LM Studio์ ๋์ผํ ๋ชจ๋ธ ํ์ผ์ ์ฌ์ฉํฉ๋๋ค โ ์ด๋ ์ฑ์์ ๋ค์ด๋ก๋ํ ๋ชจ๋ธ์ด๋ ๋ ์ฑ ๋ชจ๋์์ ์๋ํฉ๋๋ค.
๐กTip: Jan๊ณผ LM Studio๋ ๋์ผํ GGUF ๋ชจ๋ธ ํ์์ ์ฌ์ฉํฉ๋๋ค. ํ ์ฑ์์ ๋ค์ด๋ก๋ํ ๋ชจ๋ธ ํ์ผ์ ๋ค๋ฅธ ์ฑ์์ ์๋์ผ๋ก ์ง์ ํ ์ ์์ต๋๋ค. LM Studio์์ ์ด๋ฏธ ๋ชจ๋ธ์ ๋ค์ด๋ก๋ํ๊ณ Jan์ ์ํํด๋ณด๊ณ ์ถ๋ค๋ฉด(๋๋ ๊ทธ ๋ฐ๋), Jan์ LM Studio ๋ชจ๋ธ ๋๋ ํฐ๋ฆฌ(macOS์ ๊ฒฝ์ฐ ์ผ๋ฐ์ ์ผ๋ก ~/Library/Application Support/LM Studio/models)๋ก ์ง์ ํ์ฌ 2โ5 GB ์ฌ๋ค์ด๋ก๋๋ฅผ ์ ์ฝํ ์ ์์ต๋๋ค.
GPT4All: ์ค์ ๊ฐ์ด๋
GPT4All์ ๊ฐ์ฅ ๋จ์ํ๋ ๊ฒฝํ์ ์ ๊ณตํฉ๋๋ค โ ๋จ์ผ ์ฑํ ์ฐฝ๊ณผ ์ ๋ณ๋ ์ถ์ฒ ๋ชจ๋ธ ๋ชฉ๋ก. LM Studio์ Jan์ ์ต์ ์ด ๋๋ฌด ๋ง๊ณ ์ง๋ฌธ์ ์ ๋ ฅํ๊ณ ๋ต๋ณ๋ง ๋ฐ๊ณ ์ถ๋ค๋ฉด ์ฌ๊ธฐ์ ์์ํ์ญ์์ค.
- 1gpt4all.io๋ฅผ ๋ฐฉ๋ฌธํ์ฌ ํ๋ซํผ์ฉ ์ค์น ํ๋ก๊ทธ๋จ์ ๋ค์ด๋ก๋ํ์ญ์์ค.
- 2์ค์น ํ๋ก๊ทธ๋จ์ ์คํํ๊ณ GPT4All์ ์ฌ์ญ์์ค.
- 3Models ํญ์๋ ์ฌ์ด ์ค๋ช ์ด ์๋ ์ ๋ณ๋ ์ถ์ฒ ๋ชจ๋ธ ๋ชฉ๋ก์ด ํ์๋ฉ๋๋ค (์: "๋น ๋ฆ, ์ฝ๋์ ์ ํฉ", "์ผ๋ฐ ์ฑํ ์ ์ต์ "). ํ๋์จ์ด์ ๊ฐ์ฅ ์ ํฉํ ๋ชจ๋ธ์์ "Download"๋ฅผ ํด๋ฆญํ์ญ์์ค.
- 4๋ค์ด๋ก๋ ์๋ฃ ํ ์ฑํ ์ฐฝ์ด ์ ํ๋ ๋ชจ๋ธ๊ณผ ํจ๊ป ์๋์ผ๋ก ์ด๋ฆฝ๋๋ค. ์ฒซ ๋ฒ์งธ ๋ฉ์์ง๋ฅผ ์ ๋ ฅํ์ญ์์ค.
- 5GPT4All์ ๋ค์ค ๋ํ ๊ธฐ๋ก์ด ์์ต๋๋ค โ ๊ฐ ์ธ์ ์ ์ฒ์๋ถํฐ ์์ํฉ๋๋ค. ์ฅ๊ธฐ๊ฐ ๋ํ๋ณด๋ค ๋จ์ผ ์์ ์ฌ์ฉ์ ์ํด ์ค๊ณ๋์์ต๋๋ค.
๐กTip: GPT4All์๋ ๋ฌธ์ ํด๋(PDF, ํ ์คํธ ํ์ผ)๋ฅผ ์ถ๊ฐํ๊ณ ๊ทธ์ ๋ํด ์ง๋ฌธํ ์ ์๋ "LocalDocs" ๊ธฐ๋ฅ์ด ํฌํจ๋์ด ์์ต๋๋ค. ์ด๊ฒ์ LlamaIndex๋ AnythingLLM์ ์ค์ ํ์ง ์๊ณ ๋ ๊ธฐ๋ณธ์ ์ธ ๋ฌธ์ ์ง์์๋ต์ ์ ์ฉํ RAG์ ๋จ์ํ๋ ๋ฒ์ ์ ๋๋ค. ์ ํ๋๋ ์ ์ ํ RAG ์ค์ ์ ๋นํด ์ ํ์ ์ด์ง๋ง ์ถ๊ฐ ์ค์ ์ด ํ์ํ์ง ์์ต๋๋ค.
์ฒ์ ๋ค์ด๋ก๋ํ ๋ชจ๋ธ์?
์ฌ๋ฐ๋ฅธ ์ฒซ ๋ฒ์งธ ๋ชจ๋ธ์ ์ปดํจํฐ์ RAM ํฌ๊ธฐ์ ๋ฐ๋ผ ๋ฌ๋ผ์ง๋๋ค. RAM์ด ๋ง์์๋ก = ๋ ํฐ ๋ชจ๋ธ = ๋ ์ข์ ๋ต๋ณ์ด์ง๋ง, ์ด๋ค ์ต์ ์ปดํจํฐ๋ผ๋ ์ ์ฉํ ๊ฒ์ ์คํํ ์ ์์ต๋๋ค.
| ๊ฐ์ฉ RAM | ์ถ์ฒ ์ฒซ ๋ฒ์งธ ๋ชจ๋ธ | ๋ค์ด๋ก๋ ํฌ๊ธฐ | ์์ ์๋ |
|---|---|---|---|
| 8 GB ์ดํ | Phi-4 Mini (3.8B Q4) | ~2.7 GB | Apple Silicon์์ 15โ30 ํ ํฐ/์ด; Intel/AMD CPU ์ ์ฉ 5โ10 ํ ํฐ/์ด |
| 8โ16 GB | Llama 3.2 3B (Q4) ๋๋ Qwen3 8B (Q4) | 2.0โ4.9 GB | Apple Silicon์์ 20โ40 ํ ํฐ/์ด; CPU ์ ์ฉ 8โ15 ํ ํฐ/์ด |
| 16โ32 GB | Qwen3 14B (Q4) | ~8.9 GB | Apple Silicon์์ 15โ25 ํ ํฐ/์ด; x86 ์ค์๊ฐ์๋ GPU ํ์ |
| 32 GB+ (Apple Silicon) ๋๋ 24 GB VRAM (NVIDIA) | Llama 3.3 70B (Q4) | ~40 GB | Apple M5 Max์์ 10โ20 ํ ํฐ/์ด; RTX 4090์์ 15โ25 ํ ํฐ/์ด |
๐กTip: ๋ํํ์ผ๋ก ๋๊ปด์ง ๋งํผ ๋น ๋ฅด๊ฒ ์คํ๋๋(์ค์๊ฐ ํ์ดํ ์๋์์ ์ด๋น 8 ํ ํฐ ์ด์) ๊ฐ์ฅ ์์ ๋ชจ๋ธ๋ก ์์ํ์ญ์์ค. ๋๋ฆฐ ํฐ ๋ชจ๋ธ์ ๋น ๋ฅธ ์์ ๋ชจ๋ธ๋ณด๋ค ์ฌ์ฉํ๊ธฐ ๋์ฉ๋๋ค โ ๋ฌธ์ฅ๋ง๋ค 10์ด๋ฅผ ๊ธฐ๋ค๋ฆฌ๋ ๊ฒ์ ๋ชฉ์ ์ ํผ์ํฉ๋๋ค. ์์ ๋ชจ๋ธ์ ํ๊ณ๋ฅผ ๊ฒฝํํ ํ ๋ ํฐ ๋ชจ๋ธ๋ก ์ ๊ทธ๋ ์ด๋ํ์ญ์์ค.
ํ๋์จ์ด ์๊ตฌ ์ฌํญ
2026๋ ์ ๋ก์ปฌ AI๋ฅผ ์คํํ๊ธฐ ์ํด ๊ฒ์ด๋ฐ PC๋ ์ ์ฉ GPU๊ฐ ํ์ํ์ง ์์ต๋๋ค. Apple Silicon Mac์ ๋ก์ปฌ LLM์ ์ํ ์ต๊ณ ์ ์๋น์ ํ๋์จ์ด์ ๋๋ค; M1 ์ดํ์ ๋ชจ๋ MacBook Air๋ ์ํ ๋ชจ๋ธ์ ์ ์คํํฉ๋๋ค. Windows์ Linux์์๋ 8 GB RAM์ด ์๋ ๋ชจ๋ ๋ ธํธ๋ถ์์ 3Bโ7B ๋ชจ๋ธ์ CPU ์ถ๋ก ๋ชจ๋๊ฐ ์๋ํฉ๋๋ค.
๐ ํ ๋ฌธ์ฅ์ผ๋ก
2018๋ ์ดํ ์ ์กฐ๋ 8 GB RAM์ด ์๋ ๋ชจ๋ ๋ ธํธ๋ถ์ ๋ก์ปฌ AI ๋ชจ๋ธ์ ์คํํ ์ ์์ต๋๋ค โ Apple Silicon Mac์ด ๋ ๋น ๋ฅด๊ฒ ์คํํ์ง๋ง, CPU ์ ์ฉ Windows์ Linux ๊ธฐ๊ธฐ๋ 3Bโ7B ๋ชจ๋ธ์ ์ฌ์ฉ ๊ฐ๋ฅํ ์์ฑ ์๋๋ก ์คํํฉ๋๋ค.
๐ฌ ์ฝ๊ฒ ๋งํ๋ฉด
์ํ ๋ชจ๋ธ(Phi-4 Mini, Llama 3.2 3B)์๋ GPU๊ฐ ํ์ํ์ง ์์ต๋๋ค. ์ด ๋ชจ๋ธ๋ค์ CPU ์ถ๋ก ์ผ๋ก ์คํ๋๋ฉฐ ๋ชจ๋ ์ต์ ๋ ธํธ๋ถ์์ ํ์ดํ ์๋๋ก ์๋ต์ ์์ฑํฉ๋๋ค. 8 GB+ VRAM์ด ์๋ NVIDIA GPU๊ฐ ์๋ค๋ฉด LM Studio๊ฐ ์๋์ผ๋ก ์ฌ์ฉํ์ฌ ๋ ํฐ ๋ชจ๋ธ(Mistral Small, Qwen3 8B)์ ํจ์ฌ ๋น ๋ฅด๊ฒ ์คํํฉ๋๋ค. Apple Silicon Mac์ด ์๋ค๋ฉด ํตํฉ ๋ฉ๋ชจ๋ฆฌ ์ํคํ ์ฒ๋ก ์ธํด RAM ํฌ๊ธฐ๊น์ง์ ๋ชจ๋ธ์ ์คํํ ์ ์์ต๋๋ค.
- Apple Silicon (M1โM5): ๋ก์ปฌ LLM์ ์ํ ์ต๊ณ ์ ์๋น์ ํ๋์จ์ด. ํตํฉ ๋ฉ๋ชจ๋ฆฌ๋ GPU์ CPU๊ฐ RAM์ ๊ณต์ ํ๋ค๋ ๊ฒ์ ์๋ฏธํฉ๋๋ค โ 8 GB MacBook Air M3๋ Phi-4 Mini๋ฅผ ์ด๋น 20 ํ ํฐ ์ด์์ผ๋ก ์คํํฉ๋๋ค; 64 GB M5 Max๋ Llama 3.3 70B๋ฅผ ์คํํฉ๋๋ค.
- NVIDIA GPU (Windows/Linux): LM Studio์ Jan์์์ CUDA ๊ฐ์์ ์์ฑ ์๋๋ฅผ ํฌ๊ฒ ๋์ ๋๋ค. RTX 3060 12 GB๋ Mistral Small๊ณผ Qwen3 8B๋ฅผ ์ค์๊ฐ์ผ๋ก ์คํํฉ๋๋ค. RTX 4090 24 GB๋ 30B ๋ชจ๋ธ์ ์คํํฉ๋๋ค.
- AMD GPU (Windows/Linux): LM Studio์ Jan์์์ ROCm ์ง์์ด ๊ฐ์ ๋๊ณ ์์ง๋ง CUDA๋ณด๋ค ์ฑ์๋๊ฐ ๋ฎ์ต๋๋ค. AMD GPU๊ฐ ์๋ค๋ฉด GPU ๊ฐ์์ ์์กดํ๊ธฐ ์ ์ ํน์ ์นด๋์ ๋ํ LM Studio ๋ฆด๋ฆฌ์ค ๋ ธํธ๋ฅผ ํ์ธํ์ญ์์ค.
- Intel/AMD CPU ์ ์ฉ: 3Bโ7B ๋ชจ๋ธ์ 5โ15 ํ ํฐ/์ด๋ก ์คํ ๊ฐ๋ฅ โ ์ฌ์ฉ ๊ฐ๋ฅํ์ง๋ง ๋๋ฆฝ๋๋ค. ํ๋กฌํํธ๋ฅผ ๋ณด๋ด๊ณ ๋ค๋ฅธ ์ผ์ ํ๋ ์์ (์์ฝ, ์ด๋ฉ์ผ ์์ฑ)์๋ ์ค์๊ฐ ๋ํํ ์ฌ์ฉ๋ณด๋ค ๊ฒฝํ์ด ๋ ์ข์ต๋๋ค.
- RAM๊ณผ VRAM: ๋ชจ๋ธ์ด RAM(๋๋ VRAM)์ ์์ ํ ๋ง์์ผ ํฉ๋๋ค. 4B ๋ชจ๋ธ์ ~3 GB๊ฐ ํ์ํฉ๋๋ค; 8B ๋ชจ๋ธ์ ~5 GB; 14B ๋ชจ๋ธ์ ~9 GB; 70B ๋ชจ๋ธ์ ~42 GB. ๋ชจ๋ธ์ด ๋๋ฌด ํฌ๋ฉด LM Studio๊ฐ ๋ค์ด๋ก๋ ์ ์ ๊ฒฝ๊ณ ํฉ๋๋ค.
โ ๏ธWarning: ๊ฐ์ฉ RAM๋ณด๋ค ํฐ ๋ชจ๋ธ์ ์คํํ๋ ค ํ์ง ๋ง์ญ์์ค. ๋ชจ๋ธ์ด RAM์ ๋ง์ง ์์ผ๋ฉด LM Studio๊ฐ ๋์คํฌ๋ฅผ ์ค์์ผ๋ก ์ฌ์ฉํ์ฌ ์์ฑ ์๋๊ฐ ๋๋ฌด ๋๋ ค์ ธ(~0.5 ํ ํฐ/์ด) ์ฑ์ด ๊ณ ์ฅ๋ ๊ฒ์ฒ๋ผ ๋ณด์ ๋๋ค. ๋ค์ด๋ก๋ ์ ์ ํญ์ Discover ํญ์์ ๋ชจ๋ธ ํฌ๊ธฐ๋ฅผ ํ์ธํ๊ณ ๊ฐ์ฉ RAM๊ณผ ๋น๊ตํ์ญ์์ค.
์์ฃผ ํ๋ ์ค์
- RAM์ ๋นํด ๋๋ฌด ํฐ ๋ชจ๋ธ์ ๋ค์ด๋ก๋ํ๋ ๊ฒ. ๋ค์ด๋ก๋ํ๊ธฐ ์ ์ ๊ฐ์ฉ RAM์ ํ์ธํ์ญ์์ค. 16 GB ๊ธฐ๊ธฐ์์ 70B ๋ชจ๋ธ์ ๋์คํฌ๋ฅผ ์ค์์ผ๋ก ์ฌ์ฉํ์ฌ 10์ด๋ง๋ค 1 ํ ํฐ์ผ๋ก ์ถ๋ ฅ์ ์์ฑํฉ๋๋ค.
- 3B ๋ชจ๋ธ์ ํด๋ผ์ฐ๋ AI ํ์ง์ ๊ธฐ๋ํ๋ ๊ฒ. ์ํ ๋ก์ปฌ ๋ชจ๋ธ(3Bโ7B)์ GPT-5.5๋ Claude๋ณด๋ค ์ฑ๋ฅ์ด ๋ฎ์ต๋๋ค. ์๋ ๊ฒ๋ณด๋ค ๋ซ๊ณ ๋ง์ ์์ ์ ์ ์ฉํ์ง๋ง, ๋ ๋ง์ ์ค์๋ฅผ ํ๊ณ , ์ปจํ ์คํธ๋ฅผ ๋ ๋นจ๋ฆฌ ์๊ณ , ๋ ๋ฏธ๋ฌํ ์ถ๋ ฅ์ ์์ฑํฉ๋๋ค.
- Q4_K_M ์์ํ๋ฅผ ์ฌ์ฉํ์ง ์๋ ๊ฒ. LM Studio๋ ๋๋ถ๋ถ์ ๋ชจ๋ธ์ ๋ํด ๊ธฐ๋ณธ์ ์ผ๋ก Q4_K_M์ ์ฌ์ฉํ๋๋ฐ, ์ด๊ฒ์ด ์ฌ๋ฐ๋ฅธ ์ ํ์ ๋๋ค. Q8์ ์ ์ ํ์ง ํฅ์์ ์ํด ๋ ๋ฐฐ์ RAM์ด ํ์ํฉ๋๋ค; Q2๋ RAM์ด ๋ ํ์ํ์ง๋ง ์ถ๋ ฅ ํ์ง์ ๋์ ๋๊ฒ ์ ํ์ํต๋๋ค. ํน๋ณํ ์ด์ ๊ฐ ์๋ค๋ฉด Q4_K_M์ ์ ์งํ์ญ์์ค.
- ์ธ์ ์ฌ์ด์ ์ฑํ ์ ๋ซ์ ๊ธฐ๋ก์ ์๋ ๊ฒ. LM Studio์ Jan์์๋ ์ญ์ ํ์ง ์๋ ํ ๊ฐ ์ฑํ ์ธ์ ์ด ๊ธฐ๋ก์ ์ ์ฅํฉ๋๋ค. ์ค์ํ ๋ํ๋ฅผ ์ ์ฅํ๊ฑฐ๋ ๊ณ ์ ํ์ญ์์ค; ์ฑ์ ์ฌ์ค์นํ๊ฑฐ๋ ์ด๊ธฐํํ๋ฉด ๊ธฐ๋ก์ด ์ ์ง๋๋ค๊ณ ๊ฐ์ ํ์ง ๋ง์ญ์์ค.
- ํตํฉ์ ์ํด Local Server๋ฅผ ์คํํ์ง ์๋ ๊ฒ. ๋์ค์ ๋ก์ปฌ ๋ชจ๋ธ์ Obsidian, VS Code ๋๋ ๋ค๋ฅธ ๋๊ตฌ์ ํจ๊ป ์ฌ์ฉํ๊ณ ์ถ๋ค๋ฉด LM Studio์์ Local Server ํญ์ ํด๋ฆญํ๊ณ Start๋ฅผ ๋๋ฅด์ญ์์ค. ๋ค๋ฅธ ๋๊ตฌ๋ค์ OpenAI ํธํ API๋ฅผ ์ฌ์ฉํ์ฌ
http://localhost:1234์ ์ฐ๊ฒฐํฉ๋๋ค.
์ถ์ฒ
- LM Studio ๋ฆด๋ฆฌ์ค ๋ ธํธ ๋ฐ ํ๋์จ์ด ํธํ์ฑ โ lmstudio.ai
- Jan ๋ฌธ์ ๋ฐ ํ๋์จ์ด ์๊ตฌ ์ฌํญ โ jan.ai/docs
- GPT4All ๋ชจ๋ธ ๋ผ์ด๋ธ๋ฌ๋ฆฌ ๋ฐ LocalDocs ๋ฌธ์ โ gpt4all.io
- Phi-4 Mini ๊ธฐ์ ๋ณด๊ณ ์ โ Microsoft Research
- GGUF ์์ํ ํ์ ์ฌ์ โ llama.cpp
FAQ
๋ก์ปฌ AI ์ฑ ์คํ์ ๋น์ฉ์ด ๋๋์?
์ง์์ ์ธ ๋น์ฉ์ด ์์ต๋๋ค. LM Studio, Jan, GPT4All์ ๋ชจ๋ ๋ค์ด๋ก๋ํ๊ณ ์ฌ์ฉํ๋ ๋ฐ ๋ฌด๋ฃ์ ๋๋ค. ๋ชจ๋ธ๋ ๋ฌด๋ฃ์ ๋๋ค โ ์คํ์์ค์ด๋ฉฐ Hugging Face ๋๋ ์ ์ฌํ ์ ์ฅ์์์ ์ง์ ๋ค์ด๋ก๋๋ฉ๋๋ค. ์ ์ผํ ๋น์ฉ์ ์ ๊ธฐ(CPU/GPU ์คํ)์ ๋ชจ๋ธ์ ์ผํ์ฑ ๋ค์ด๋ก๋(๋ชจ๋ธ์ ๋ฐ๋ผ 2โ40 GB)์ ๋๋ค. ๊ตฌ๋ ๋ฃ, API ๋น์ฉ, ๋ฉ์์ง๋น ์๊ธ์ด ์์ต๋๋ค.
๋ก์ปฌ AI ์ฑ์ ์ฌ์ฉํ๋ ค๋ฉด ์ธํฐ๋ท ์ฐ๊ฒฐ์ด ํ์ํ๊ฐ์?
์ฑ๊ณผ ๋ชจ๋ธ ํ์ผ์ ์ด๊ธฐ ๋ค์ด๋ก๋์๋ง ํ์ํฉ๋๋ค. ๋ค์ด๋ก๋ ํ์๋ ๋ชจ๋ ๊ฒ์ด ๋ก์ปฌ์์ ์คํ๋ฉ๋๋ค โ ์ธํฐ๋ท ์ฐ๊ฒฐ์ด ํ์ํ์ง ์์ต๋๋ค. ๋นํ๊ธฐ์์, Wi-Fi ์๋ ํธํ ์์, ๋๋ ๋คํธ์ํฌ๊ฐ ์ ํ๋ ํ๊ฒฝ์์ ๋ก์ปฌ AI ์ฑ์ ์ฌ์ฉํ ์ ์์ต๋๋ค.
๋ก์ปฌ AI ์ฑ์ ์ผ๋ง๋ ์ฌ์ ์ธ๊ฐ์?
์์ ํ ์ฌ์ ์ ๋๋ค. ๋ํ, ํ๋กฌํํธ, ๋ชจ๋ธ ์๋ต์ด ์ปดํจํฐ๋ฅผ ๋ ๋์ง ์์ต๋๋ค. ํด๋ผ์ฐ๋ ์๋ฒ๊ฐ ์๊ณ , ๋ก๊ทธ๊ฐ ์๊ณ , ํ์ต ๋ฐ์ดํฐ ์์ง์ด ์์ต๋๋ค. LM Studio์๋ ์ ํ์ ๋ถ์ ๊ธฐ๋ฅ์ด ์์ต๋๋ค(์ค์ ์์ ๋นํ์ฑํ ๊ฐ๋ฅ). ํ์ง๋ง ์ฑํ ๋ด์ฉ ์์ฒด๋ ์ ์ก๋์ง ์์ต๋๋ค. Jan๊ณผ GPT4All์ ๊ธฐ๋ณธ์ ์ผ๋ก ์๊ฒฉ ์ธก์ ์ด ์์ต๋๋ค.
LM Studio์ Ollama์ ์ฐจ์ด์ ์ ๋ฌด์์ธ๊ฐ์?
LM Studio๋ ๊ทธ๋ํฝ ์ธํฐํ์ด์ค๋ฅผ ๊ฐ์ถ ๋ฐ์คํฌํฑ ์ฑ์ ๋๋ค โ ์๊ฐ์ ์ธํฐํ์ด์ค๋ฅผ ํตํด ์ํธ ์์ฉํฉ๋๋ค. Ollama๋ ๋ก์ปฌ ๋ชจ๋ธ ์๋ฒ๋ฅผ ์คํํ๋ ๋ช ๋ น์ค ๋๊ตฌ์ ๋๋ค โ ํฐ๋ฏธ๋์ด๋ API ํธ์ถ์ ํตํด ์ํธ ์์ฉํฉ๋๋ค. ๋น์ ๋ฌธ๊ฐ์๊ฒ๋ LM Studio๊ฐ ํจ์ฌ ์ฝ์ต๋๋ค. ์์ฒด ๋๊ตฌ์ ๋ก์ปฌ ๋ชจ๋ธ์ ํตํฉํ๊ณ ์ถ์ ๊ฐ๋ฐ์์๊ฒ๋ Ollama API๊ฐ ๋ ๋จ์ํฉ๋๋ค. ๋ ๊ฐ์ง ๋ชจ๋ ๋์ผํ GGUF ๋ชจ๋ธ ํ์ผ์ ์คํํฉ๋๋ค.
๊ตฌํ MacBook์์ ๋ก์ปฌ AI ์ฑ์ ์ฌ์ฉํ ์ ์๋์?
RAM ์๊ตฌ ์ฌํญ(3B ๋ชจ๋ธ์ ๊ฒฝ์ฐ ์ต์ 8 GB)์ ์ถฉ์กฑํ๋ค๋ฉด ๊ฐ๋ฅํฉ๋๋ค. 8 GB RAM์ด ์๋ 2018๋ ์ดํ MacBook Air ๋ฐ MacBook Pro ๋ชจ๋ธ์ Phi-4 Mini๋ฅผ ๋๋ฆฌ์ง๋ง ์ฌ์ฉ ๊ฐ๋ฅํ ์๋(Intel Mac์์ ~5โ10 ํ ํฐ/์ด)๋ก ์คํํ ์ ์์ต๋๋ค. Apple Silicon Mac(M1 ์ดํ)์ ํตํฉ ๋ฉ๋ชจ๋ฆฌ ์ํคํ ์ฒ์ Neural Engine์ผ๋ก ์ธํด ํจ์ฌ ๋น ๋ฆ ๋๋ค. 2020๋ MacBook Air M1์ Phi-4 Mini๋ฅผ ์ด๋น 20 ํ ํฐ ์ด์์ผ๋ก ์คํํฉ๋๋ค.
์ฌ๋ฌ ๋ชจ๋ธ์ ๋์์ ์คํํ ์ ์๋์?
LM Studio๋ ๊ทธ๋ํฝ ์ธํฐํ์ด์ค์์ ํ ๋ฒ์ ํ๋์ ๋ชจ๋ธ ๋ก๋ฉ์ ์ง์ํ์ง๋ง, RAM์ด ์ถฉ๋ถํ๋ค๋ฉด Local Server๋ฅผ ํตํด ์ฌ๋ฌ ๋ชจ๋ธ์ ๋์์ ์คํํ ์ ์์ต๋๋ค. Jan๊ณผ GPT4All์ ๋ชจ๋ธ ํ๋์ฉ ์คํํฉ๋๋ค. ๋ค์ค ๋ชจ๋ธ ์ํฌํ๋ก์ฐ์๋ Ollama๊ฐ ๋ ์ ์ฐํฉ๋๋ค โ ๋์ผํ ์๋ฒ์์ ์ฌ๋ฌ ๋ชจ๋ธ์ ๋์์ ์ ๊ณตํ ์ ์์ต๋๋ค.
ํฌ๋กฌ๋ถ์์ ์๋ํ๋ ๋ก์ปฌ AI ์ฑ์ ๋ฌด์์ธ๊ฐ์?
์ธ ๊ฐ์ง ์ค ์ด๋ ๊ฒ๋ ChromeOS์์ ๊ธฐ๋ณธ์ ์ผ๋ก ์๋ํ์ง ์์ต๋๋ค. ๊ทธ๋ฌ๋ Linux(Crostini)๊ฐ ํ์ฑํ๋ ํฌ๋กฌ๋ถ์ Linux ํฐ๋ฏธ๋์ ํตํด Jan์ด๋ Ollama๋ฅผ ์ค์นํ ์ ์์ต๋๋ค. ๊ฒฝํ์ด Windows๋ Mac๋ณด๋ค ๋ ๊ธฐ์ ์ ์ ๋๋ค. ์ข์ RAM(8 GB+)์ด ์๋ Android ํฌ๋กฌ๋ถ์์๋ Termux๋ Ollama๋ฅผ ์คํํ ์ ์์ง๋ง, ์ด๋ ๋ช ๋ น์ค ์ฌ์ฉ์ ์ต์ํด์ผ ํฉ๋๋ค.
์ต์ ๋ฒ์ ์ ๋ชจ๋ธ๋ก ์ ๋ฐ์ดํธํ๋ ค๋ฉด ์ด๋ป๊ฒ ํด์ผ ํ๋์?
LM Studio์์๋ Discover ํญ์ ์ด๊ณ , ์ต์ ๋ฒ์ ์ ๋ชจ๋ธ์ ๊ฒ์ํ๊ณ , ๋ค์ด๋ก๋ํ ํ Chat์ ๋ชจ๋ธ ์ ํ๊ธฐ์์ ์ ํํ์ญ์์ค. ์ด์ ๋ฒ์ ์ ์๋์ผ๋ก ์ญ์ ๋์ง ์์ต๋๋ค โ ๋์คํฌ ๊ณต๊ฐ์ด ํ์ํ๋ค๋ฉด Models ํญ์์ ์๋์ผ๋ก ์ญ์ ํ์ญ์์ค. Jan์์๋ Hub๊ฐ ๋ค์ด๋ก๋ํ ๋ชจ๋ธ์ ๋ํ ๊ฐ์ฉ ์ ๋ฐ์ดํธ๋ฅผ ํ์ํฉ๋๋ค. GPT4All์ ์ ๋ณ๋ ๋ชจ๋ธ ๋ชฉ๋ก์ ์ ๋ชจ๋ธ์ ํ์ํฉ๋๋ค.