ํต์ฌ ์์
- ํ ์ ์ด๋ ์ต๋ ๋ชจ๋ธ ํฌ๊ธฐ๊ฐ ์๋ ๋ฎ์ ์ง์ฐ ์๊ฐ๊ณผ ์ ๋ขฐํ ์ ์๋ ํจ์ ํธ์ถ์ ํ์๋ก ํฉ๋๋ค
- 4B ๋ชจ๋ธ์ ์ ์ ๋ ฅ ํ๋์จ์ด์ ์ ํฉํ๊ณ 8B ๋ชจ๋ธ์ GPU ๋๋ NPU๊ฐ ์๋ ๋ฏธ๋ PC์ ์ ํฉํฉ๋๋ค
- Gemma 3 4B (Google), Qwen3 4B (Alibaba), Qwen3 8B (Alibaba)๊ฐ ์ผ๋ฐ์ ์ด๊ณ ์ ์ง์๋๋ ์ ํ์ ๋๋ค
- Qwen3, Gemma 3, Phi-4-mini๋ ํ์ฌ Home Assistant ํด ํธ์ถ ์ง์์ด ๊ฒ์ฆ๋์ด ์์ต๋๋ค
- ์ฌ์ฉํ๋ ์ธ์ด๋ฅผ ๊ฐํ๊ฒ ์ง์ํ๋ ๋ชจ๋ธ์ ์ ํํ์ญ์์ค
- ๊น์ ๋ชจ๋ธ ์์์ ๋ฉ์ปค๋์ฆ์ local-llms ํด๋ฌ์คํฐ๋ก ์ฐ๊ฒฐํ์ญ์์ค
ํ ์ ์ด์ ์ค์ํ ๊ฒ
์ข์ ํ ์ ์ด ๋ชจ๋ธ์ ๊ฒฐ์ ํ๋ ์ธ ๊ฐ์ง: ์ง์ฐ ์๊ฐ, ์ ๋ขฐํ ์ ์๋ ํจ์ ํธ์ถ, ํ๋์จ์ด์ ๋ง๋ ํฌ๊ธฐ์ ๋๋ค. ๋ฒค์น๋งํฌ ๋ฆฌ๋๋ณด๋๋ ๋ฐ์์ฑ๋ณด๋ค ํจ์ฌ ๋ ์ค์ํฉ๋๋ค.
- ์ง์ฐ ์๊ฐ: ์์ฑ ๋ช ๋ น์ด ๊ฑฐ์ ์ฆ๊ฐ์ ์ผ๋ก ๋๊ปด์ ธ์ผ ํฉ๋๋ค. ๊ณ ์ฑ๋ฅ ํ๋์จ์ด์ ์ํ ๋ชจ๋ธ์ด ๋ ๋น ๋ฅด๊ฒ ์๋ตํฉ๋๋ค.
- ํจ์ ํธ์ถ: ๋ชจ๋ธ์ด ๊ตฌ์กฐํ๋ ์ฅ์น ๋์์ ์์ ์ ์ผ๋ก ์ถ๋ ฅํด์ผ ํฉ๋๋ค. ์ด๊ฒ์ด ๊ฒฐ์ ์ ์ธ ๋ฅ๋ ฅ์ ๋๋ค.
- ์ ํฉ์ฑ: ๋ชจ๋ธ์ด Home Assistant๋ฅผ ํธ์คํ ํ๋ ๊ธฐ๊ธฐ์์ ํธ์ํ๊ฒ ์คํ๋์ด์ผ ํฉ๋๋ค. ๋ก์ปฌ ์ค๋งํธ ํ์ ์ํ ์ต๊ณ ์ ํ๋์จ์ด๋ฅผ ์ฐธ์กฐํ์ญ์์ค.
๋จ์ถ ๋ชฉ๋ก
์ด ์ํ ๋ชจ๋ธ๋ค์ ๋ค์ํ ํ๋์จ์ด ์์ฐ์์ ํ ์ ์ด์ ์ผ๋ฐ์ ์ด๊ณ ์ ์ง์๋๋ ์ ํ์ ๋๋ค. ๊ฒฝ๋ ํ๋์จ์ด์๋ 4B ๋ชจ๋ธ์, GPU ๋๋ NPU๊ฐ ์์ ๋๋ 8B ๋ชจ๋ธ์ ์ฌ์ฉํ์ญ์์ค. Gemma 4 (2026๋ 6์)๊ฐ ์ต์ ์ต์ ์ ๋๋ค. Qwen3, Gemma 3, Phi-4-mini๋ ํ์ฌ Home Assistant ํด ํธ์ถ ์ง์์ด ๊ฒ์ฆ๋์ด ์์ต๋๋ค.
- Gemma 3 4B (Google): ๊ด๋ฒ์ํ ๋ค๊ตญ์ด ์ง์(140๊ฐ ์ด์ ์ธ์ด)์ ๊ฐ์ถ 40์ต ๋งค๊ฐ๋ณ์ ๋ชจ๋ธ๋ก ๊ฐ๋ ฅํ ์ ์ ๋ ฅ ์ ํ์
๋๋ค โ Ollama ํ๊ทธ
gemma3:4b. - Qwen3 4B (Alibaba): ์ ๋ขฐํ ์ ์๋ ํด ์ฌ์ฉ๊ณผ ์ฐ์ํ ๋ค๊ตญ์ด ์ง์์ ๊ฐ์ถ ๋น ๋ฅธ 4B ๋ชจ๋ธ๋ก CPU ๋๋ ๋ด์ฅ GPU์์ ๋ฎ์ ์ง์ฐ ์๊ฐ โ
qwen3:4b. - Phi-4-mini (Microsoft): ๋ช
๋ น ์ดํ์์ ํฌ๊ธฐ ์ด์์ ์ฑ๋ฅ์ ๋ฐํํ๋ ์ปดํฉํธํ 3.8B ๋ชจ๋ธ โ
phi4-mini. - Llama 3.2 3B (Meta): ์ฐ์ํ ํจ์ ํธ์ถ๋ก ํ๋ฒํ ํ๋์จ์ด์์ ์คํ๋๋ ๊ด๋ฒ์ํ๊ฒ ์ง์๋๋ 3B ๊ธฐ์ค ๋ชจ๋ธ โ
llama3.2:3b. - Qwen3 8B (Alibaba): GPU ๋๋ NPU์์ ์ต๊ณ ์ ํ์ง, Home Assistant ํด ํธ์ถ์ ์ ํธ ๋ชจ๋ธ โ
qwen3:8b.
๋น๊ต
ํ๋์จ์ด์ ์ธ์ด๋ก ์ ํํ์ญ์์ค: CPU ์ ์ฉ ๋๋ Pi๊ธ ํ๋์จ์ด์๋ ์ํ ๋ชจ๋ธ, GPU ํ์ฌ ๋ฏธ๋ PC์๋ 8B. ์๋ ํฌ๊ธฐ๋ ์ผ๋ฐ์ ์ธ 4๋นํธ ์์ํ์์ ๊ทผ์ฌ์น์ ๋๋ค. Ollama ํ๊ทธ๊ฐ ๋ค์ด๋ก๋ํ ์ ํํ ๋ชจ๋ธ์ ๋๋ค.
- ํํ๋ฆฐํธ๋ ๊ทผ์ฌ์น์ด๋ฉฐ ์์ํ์ ๋ฐ๋ผ ๋ฌ๋ผ์ง๋๋ค. VRAM ๋ฐ ์์ํ ์ฌ๋๋ local-llms ํด๋ฌ์คํฐ๋ก ์ฐ๊ฒฐํ์ญ์์ค.
| ๋ชจ๋ธ | ๋งค๊ฐ๋ณ์ | ๊ทผ์ฌ ํํ๋ฆฐํธ (Q4) | Ollama ํ๊ทธ | ์ต์ ์ฉ๋ |
|---|---|---|---|---|
| Gemma 3 4B | 4B | ~3 GB | gemma3:4b | ์ ์ ๋ ฅ ํธ์คํธ, 140๊ฐ ์ด์ ์ธ์ด |
| Qwen3 4B | 4B | ~2.5โ3 GB | qwen3:4b | ๋ฎ์ ์ง์ฐ ์๊ฐ, ๋ค๊ตญ์ด, ํด |
| Phi-4-mini | 3.8B | ~2.5โ3 GB | phi4-mini | ๊ฐ๋ ฅํ ๋ช ๋ น ์ดํ |
| Llama 3.2 3B | 3B | ~2โ3 GB | llama3.2:3b | ๊ด๋ฒ์ํ๊ฒ ์ง์๋๋ ๊ธฐ์ค ๋ชจ๋ธ |
| Qwen3 8B | 8B | ~5 GB | qwen3:8b | GPU/NPU์์ ์ต๊ณ ํ์ง; HA ์ ํธ ๋ชจ๋ธ |
ํ๋์จ์ด ์์ฐ๋ณ ์ ํ
Pi ๋๋ CPU ์ ์ฉ ๋ฏธ๋ PC์๋ 4B ๋ชจ๋ธ, GPU ๋๋ NPU๊ฐ ์์ ๋๋ 8B ๋ชจ๋ธ์ ์ ํํ์ญ์์ค. ์ด๋ ๊ฒ ํ๋ฉด ๋ชจ๋ ๊ณ์ธต์์ ์๋ต์ด ๋น ๋ฆ ๋๋ค.
- Raspberry Pi / ์ ์ ๋ ฅ: ๋ ๋๋ฆฐ ์๋ต์ ๊ฐ์ํ๊ณ Gemma 3 4B ๋๋ Qwen3 4B.
- ๋ฏธ๋ PC (CPU ์ ์ฉ): ๋ฐ์์ด ๋น ๋ฅธ ๊ธฐ๋ณธ๊ฐ์ผ๋ก Qwen3 4B ๋๋ Phi-4-mini.
- GPU/NPU ํ์ฌ ๋ฏธ๋ PC: ํ์ฉ ๊ฐ๋ฅํ ์ง์ฐ ์๊ฐ์ผ๋ก ์ต๊ณ ์ ํ์ง์ ์ํด Qwen3 8B โ Home Assistant + ๋ก์ปฌ AI๋ฅผ ์ํ ์ต๊ณ ์ ๋ฏธ๋ PC๋ฅผ ์ฐธ์กฐํ์ญ์์ค.
์ ํ ๋ฐฉ๋ฒ
4B ๋ชจ๋ธ๋ก ์์ํ์ฌ ์ง์ฐ ์๊ฐ๊ณผ ์ ๋ขฐํ ์ ์๋ ์ฅ์น ๋์์ ํ์ธํ๊ณ , ํ์ง์ด ๋ถ์กฑํ ๊ฒฝ์ฐ์๋ง 8B๋ก ์ ํํ์ญ์์ค. ๊ฒฐ์ ํ๊ธฐ ์ ์ ์ค์ ๋ช ๋ น์ผ๋ก ํ ์คํธํ์ญ์์ค.
- Ollama ํตํฉ์ ํตํด ์ค์นํ๊ณ ์ผ๋ฐ์ ์ธ ๋ช ๋ น์ ํ ์คํธํ์ญ์์ค.
- ์๋ต์ด ๋๋ฆฌ๋ฉด ํฌ๊ธฐ๋ฅผ ์ค์ด๊ฑฐ๋ GPU/NPU๋ฅผ ์ถ๊ฐํ์ญ์์ค.
- ๋์์ด ๋ถ์์ ํ๋ฉด ํจ์ ํธ์ถ๋ก ์๋ ค์ง ๋ชจ๋ธ์ ์ ํธํ์ญ์์ค.
- ๊น์ ๋ชจ๋ธ ์์์ ๋ฉ์ปค๋์ฆ์ ์ต๊ณ ์ ๋ก์ปฌ LLM 2026(ํฌ๋ก์ค ํด๋ฌ์คํฐ)๋ฅผ ์ฐธ์กฐํ์ญ์์ค. ์ด ๊ฐ์ด๋๋ ํ ์ ์ด ํนํ์ ๋๋ค.
์์ฃผ ๋ฌป๋ ์ง๋ฌธ
ํ ์ ์ด์ ์ฌ์ฉ ๊ฐ๋ฅํ ๊ฐ์ฅ ์ํ ๋ชจ๋ธ์ ๋ฌด์์ ๋๊น?
Llama 3.2 3B ๊ฐ์ 3B ๋ชจ๋ธ์ ์ ์ ๋ ฅ ํ๋์จ์ด์์ ์ ๋ขฐํ ์ ์๋ ์ฅ์น ์ ์ด๋ฅผ ์ํ ์ค์ฉ์ ์ธ ์ต์ ์ ์ ๋๋ค. ์ผ๋ถ ์ดํด๋ ฅ์ ์๋์ ๊ตํํฉ๋๋ค. ํ๋์จ์ด๊ฐ ํ์ฉํ๋ค๋ฉด Gemma 3 4B๋ Qwen3 4B ๊ฐ์ 4B ๋ชจ๋ธ์ด ๋ ๋์ ๊ท ํ์ ๋๋ค.
ํ ์ ์ด ๋ชจ๋ธ์ GPU๊ฐ ํ์ํฉ๋๊น?
CPU ๋๋ ๋ด์ฅ GPU์์ ์คํ๋๋ 4B ๋ชจ๋ธ์๋ ํ์ํ์ง ์์ต๋๋ค. GPU ๋๋ NPU๋ ์ฃผ๋ก ๋ ๋์ ์ดํด๋ฅผ ์ํด ๋ฎ์ ์ง์ฐ ์๊ฐ์ผ๋ก Qwen3 8B ๊ฐ์ 8B ๋ชจ๋ธ์ ์คํํ ์ ์๊ฒ ํฉ๋๋ค. ํ๋์จ์ด์ ๋ง๋ ๋ชจ๋ธ์ ์ ํํ์ญ์์ค.
์ด๋ค ๋ชจ๋ธ์ด ํจ์ ํธ์ถ์ ์ง์ํฉ๋๊น?
Qwen3, Gemma 3, Phi-4-mini๋ฅผ ํฌํจํ ํ๋ ์ํ ๋ชจ๋ธ์ ์ ๋ขฐํ ์ ์๋ ์ฅ์น ๋์์ ์ถ๋ ฅํ ์ ์๋ ๋ฅ๋ ฅ์ธ Home Assistant ํด/ํจ์ ํธ์ถ ์ง์์ด ๊ฒ์ฆ๋์ด ์์ต๋๋ค. ํ ์ ์ด์๋ ์ด๋ฅผ ์ง์ํ๋ ๊ฒ์ผ๋ก ๋ฌธ์ํ๋ ๋ชจ๋ธ์ ์ ํธํ์ญ์์ค.
Raspberry Pi์ ๊ฐ์ฅ ์ ํฉํ ๋ชจ๋ธ์ ๋ฌด์์ ๋๊น?
Gemma 3 4B๋ Qwen3 4B ๊ฐ์ 4B ๋ชจ๋ธ์ด Raspberry Pi์ ์ค์ฉ์ ์ธ ์ํ์ ์ด๋ฉฐ ์๋ต์ด ๋ฏธ๋ PC๋ณด๋ค ๋๋ฆฝ๋๋ค. ๋น ๋ฅธ ์ด์์คํดํธ๋ฅผ ์ํ๋ค๋ฉด GPU/NPU๋ก Qwen3 8B๋ฅผ ์คํํ๋ ๋ฏธ๋ PC๊ฐ ๋ ๋์ ํธ์คํธ์ ๋๋ค.