ํต์ฌ ์์
- ์์ CPU ํด๋ญ๋ณด๋ค RAM๊ณผ ๊ณ ์ฑ๋ฅ ๋ด์ฅ GPU ๋๋ NPU๋ฅผ ์ฐ์ ์ํ์ญ์์ค
- ์ ์ ๋ ฅ Intel N-์๋ฆฌ์ฆ ๋ฏธ๋ PC๋ Home Assistant์ ๋งค์ฐ ์ํ ๋ชจ๋ธ์ ์คํํฉ๋๋ค
- ๊ฐ๋ ฅํ iGPU๊ฐ ์๋ AMD Ryzen ๋๋ Intel Core i-์๋ฆฌ์ฆ ๋ฏธ๋ PC๋ 7B ๋ชจ๋ธ์ ์ฒ๋ฆฌํฉ๋๋ค
- ํ๋์ ๋ฏธ๋ PC๋ก Home Assistant, Ollama, Whisper, Frigate๋ฅผ ํจ๊ป ์คํํ ์ ์์ต๋๋ค
- ๋ ๋ง์ RAM์ผ๋ก ํ๋ธ ์์์ ๋ ํฐ ๋ชจ๋ธ์ ์คํํ ์ ์์ต๋๋ค
- VRAM ์ธ๋ถ ์ฌํญ์ ํฌ๋ก์ค ํด๋ฌ์คํฐ local-llms ํ๋์จ์ด ๊ฐ์ด๋๋ฅผ ์ฐธ์กฐํ์ญ์์ค
ํ๋์ ๊ธฐ๊ธฐ์์ HA + LLM์ ํ์ํ ๊ฒ
๋ชจ๋ธ๊ณผ Home Assistant๋ฅผ ์์ฉํ๊ธฐ์ ์ถฉ๋ถํ RAM๊ณผ ๋ชจ๋ธ์ ์๋ต์ฑ์ ์ ์งํ๊ธฐ ์ํ ๊ณ ์ฑ๋ฅ iGPU ๋๋ NPU๊ฐ ํ์ํฉ๋๋ค. CPU ํด๋ญ์ ์ด ์ํฌ๋ก๋์์ ๋ถ์ฐจ์ ์ ๋๋ค.
- RAM: ์ํ๋ ๋ชจ๋ธ ํฌ๊ธฐ์ ํ๋ธ ๋ฐ ๋ถ๊ฐ ๊ธฐ๋ฅ์ ์ํ ์ถฉ๋ถํ ์ฌ์ .
- ๊ทธ๋ํฝ/NPU: ๊ณ ์ฑ๋ฅ ๋ด์ฅ GPU ๋๋ NPU๋ LLM ๋ฐ Whisper ์ง์ฐ ์๊ฐ์ ์ค์ ๋๋ค.
- ์ ์ฅ์: Frigate๋ ์คํํ๋ค๋ฉด ๋ นํ๋ฅผ ์ํ ๊ณต๊ฐ โ ๋ก์ปฌ AI ๋ณด์ ์นด๋ฉ๋ผ๋ฅผ ์ฐธ์กฐํ์ญ์์ค.
๋ฏธ๋ PC ํด๋์ค
์ธ ๊ฐ์ง ํด๋์ค๊ฐ ๋๋ถ๋ถ์ ์๊ตฌ๋ฅผ ์ถฉ์กฑํฉ๋๋ค: ๊ฒฝ๋ AI๋ฅผ ์ํ ์ ์ ๋ ฅ N-์๋ฆฌ์ฆ, 7B ๋ชจ๋ธ์ ์ํ ๊ฐ๋ ฅํ iGPU๊ฐ ์๋ Ryzen/Core i-์๋ฆฌ์ฆ, ํจ์จ์ ์ธ ์จ-๋๋ฐ์ด์ค AI๋ฅผ ์ํ NPU ํ์ฌ ๋ฏธ๋ PC. ์ํ๋ ๋ชจ๋ธ ํฌ๊ธฐ์ ๋ฐ๋ผ ์ ํํ์ญ์์ค.
- ์ ์ ๋ ฅ Intel N-์๋ฆฌ์ฆ: ํจ์จ์ ์ด๊ณ ์ ๋ ดํฉ๋๋ค. Home Assistant์ ๋งค์ฐ ์ํ ๋ชจ๋ธ์ ์คํํ๋ฉฐ AI๋ ๋๋ฆฝ๋๋ค. ์์: Beelink EQ14 ๋๋ GMKtec G3 Plus (Intel N150).
- ๊ฐ๋ ฅํ iGPU๊ฐ ์๋ AMD Ryzen / Intel Core i-์๋ฆฌ์ฆ: ์ฌ์ฉ ๊ฐ๋ฅํ ์ง์ฐ ์๊ฐ์ผ๋ก 7B ๋ชจ๋ธ์ ์ํ ๋ ๋ง์ RAM ๋ฐ ๊ทธ๋ํฝ ์ฌ์ . ์์: Beelink SER8 (Ryzen 7 8845HS, Radeon 780M) ๋๋ Minisforum UM890 Pro.
- NPU ํ์ฌ ๋ฏธ๋ PC: ์ ๊ฒฝ ์ฒ๋ฆฌ ์ฅ์น๊ฐ ์๋ ์ต์ ๋จธ์ . ๊ฐ๋ ฅํ ๋ด์ฅ GPU(NPU๊ฐ ์๋)๊ฐ ๋ก์ปฌ LLM ์์ ์ ๋ด๋นํ๊ณ NPU๋ Frigate ๊ฐ์ ๋น์ ์์ ์ ์ง์ํฉ๋๋ค. ์์: GEEKOM A9 Max (Ryzen AI 9 HX 370).
๋น๊ต
๋ชฉํ ๋ชจ๋ธ์ ๋ง๊ฒ ํด๋์ค๋ฅผ ์ ํํ์ญ์์ค: ์ํ ๋ชจ๋ธ์๋ N-์๋ฆฌ์ฆ, 7B ๋ชจ๋ธ์๋ ๊ฐ๋ ฅํ iGPU๊ฐ ์๋ Ryzen/Core i. ๊ฐ๊ฒฉ์ ์๋์ ์ ๋๋ค.
- VRAM ๋ฐ ์์ํ ์ฌ๋๋ ํฌ๋ก์ค ํด๋ฌ์คํฐ ๋ก์ปฌ LLM์ ์ํ ์ต๊ณ ์ ๋ฏธ๋ PC๋ฅผ ์ฐธ์กฐํ์ญ์์ค.
| ๋ฏธ๋ PC ํด๋์ค | CPU | RAM ์ง์นจ | ๋ก์ปฌ LLM ์คํ | ์๋์ ๊ฐ๊ฒฉ |
|---|---|---|---|---|
| ์ ์ ๋ ฅ N-์๋ฆฌ์ฆ | Intel N-์๋ฆฌ์ฆ | ์ค๊ฐ | ๋งค์ฐ ์ํ ๋ชจ๋ธ, ๋๋ฆผ | ์ ๊ฐ |
| Ryzen / Core i (๊ฐ๋ ฅํ iGPU) | AMD Ryzen / Intel Core i | ์ถฉ๋ถ | ์ฌ์ฉ ๊ฐ๋ฅํ ์ง์ฐ ์๊ฐ์ผ๋ก ~7B๊น์ง | ์ค๊ฐ |
| NPU ํ์ฌ | ํ๋ CPU + NPU | ์ถฉ๋ถ | ํจ์จ์ ์ธ ์ํ/์คํ ๋ชจ๋ธ | ์ค~๊ณ ๊ฐ |
์์ฐ ๋ ์ฑ๋ฅ
ํ์ฉ ๊ฐ๋ฅํ ์ง์ฐ ์๊ฐ์ผ๋ก ๋ชฉํ ๋ชจ๋ธ์ ์คํํ๋ ๊ฐ์ฅ ์ ๋ ดํ ๊ธฐ๊ธฐ๋ฅผ ๊ตฌ๋งคํ์ญ์์ค. ์ผ๋ฐ์ ์ผ๋ก 7B ๋ชจ๋ธ์ ์ํ ๊ฐ๋ ฅํ iGPU๊ฐ ์๋ Ryzen/Core i ๋ฏธ๋ PC์ ๋๋ค. ์ฌ์ฉํ์ง ์์ CPU์ ๊ณผ๋ํ๊ฒ ์ง์ถํ์ง ๋ง์ญ์์ค.
- ๊ฒฝ์ ์ : ๋งค์ฐ ์ํ ๋ชจ๋ธ๊ณผ ํจ๊ป HA๋ฅผ ์ํ ์ ์ ๋ ฅ N-์๋ฆฌ์ฆ ๊ธฐ๊ธฐ.
- ๊ท ํ์ : 7B ๋ชจ๋ธ์ ์ํ ๊ฐ๋ ฅํ iGPU๊ฐ ์๋ Ryzen/Core i ๋ฏธ๋ PC.
- ๋ ๋์ ํ๋์จ์ด ๊ฒฐ์ (Pi ๋ ๋ฏธ๋ PC ๋ NAS)์ ๋ก์ปฌ ์ค๋งํธ ํ์ ์ํ ์ต๊ณ ์ ํ๋์จ์ด๋ฅผ ์ฐธ์กฐํ์ญ์์ค.
์ค์ ๋ฉ๋ชจ
Home Assistant OS ๋๋ ์ปจํ ์ด๋๋ฅผ ์คํํ๊ณ , Ollama๋ฅผ ์ค์นํ๋ฉฐ, ์ถ๋ก ์ iGPU/NPU๊ฐ ์ฌ์ฉ๋๋์ง ํ์ธํ์ญ์์ค. ์์ ์ฑ์ ์ํด ๊ธฐ๊ธฐ๋ฅผ ๋คํธ์ํฌ์ ์ ์ ์ผ๋ก ์ฐ๊ฒฐํ์ญ์์ค.
- Home Assistant๋ฅผ ์ค์นํ์ญ์์ค โ ์์ํ๊ธฐ๋ฅผ ์ฐธ์กฐํ์ญ์์ค.
- Ollama๋ฅผ ์ค์นํ๊ณ ์ํ ๋ชจ๋ธ์ ๋ค์ด๋ก๋ํ์ญ์์ค โ Ollama ์ค์น ๋ฐฉ๋ฒ์ ์ฐธ์กฐํ์ญ์์ค.
- Ollama๋ฅผ Home Assistant์ ์ฐ๊ฒฐํ์ญ์์ค โ Ollama ํตํฉ ๊ฐ์ด๋๋ฅผ ์ฐธ์กฐํ์ญ์์ค.
์์ฃผ ๋ฌป๋ ์ง๋ฌธ
ํ๋์ ๋ฏธ๋ PC๋ก Home Assistant์ ๋ก์ปฌ LLM ๋ชจ๋ ์คํํ ์ ์์ต๋๊น?
๋ค. ์ถฉ๋ถํ RAM๊ณผ ๊ณ ์ฑ๋ฅ ๋ด์ฅ GPU ๋๋ NPU๊ฐ ์๋ ๋ฏธ๋ PC๋ Home Assistant์ ์ํ ๋ก์ปฌ LLM์ ํจ๊ป ์คํํ๊ณ Whisper์ Frigate๋ฅผ ์ถ๊ฐํ ์ ์์ต๋๋ค. ์ด ๋จ์ผ ๊ธฐ๊ธฐ ์ ๊ทผ ๋ฐฉ์์ด ๋ก์ปฌ AI ์ค๋งํธ ํ์ ๊ตฌ์ถํ๋ ๊ฐ์ฅ ๊ฐ๋จํ ๋ฐฉ๋ฒ์ ๋๋ค.
RAM์ด ์ผ๋ง๋ ํ์ํฉ๋๊น?
๋ชฉํ ๋ชจ๋ธ๊ณผ Home Assistant ๋ฐ ๋ถ๊ฐ ๊ธฐ๋ฅ์ ์์ฉํ๊ธฐ์ ์ถฉ๋ถํ ์์ด ํ์ํฉ๋๋ค. ์ํ ๋ชจ๋ธ์ ์ ๋นํ RAM๋ง ํ์ํ์ง๋ง ํ๋ธ ์์์ 7B ๋ชจ๋ธ์ ํธ์ํ๊ฒ ์คํํ๋ ค๋ฉด ์ถฉ๋ถํ RAM์ด ๋์์ด ๋ฉ๋๋ค. ์คํํ ๊ฐ์ฅ ํฐ ๋ชจ๋ธ์ ๋ง๊ฒ RAM์ ์ ํํ์ญ์์ค.
Home Assistant ๋ฏธ๋ PC์๋ Intel๊ณผ AMD ์ค ์ด๋ ๊ฒ์ด ์ข์ต๋๊น?
๋ ๋ค ์๋ํฉ๋๋ค. ์ ์ ๋ ฅ Intel N-์๋ฆฌ์ฆ ๊ธฐ๊ธฐ๋ ๊ฒฝ๋ ์ฌ์ฉ์ ๊ฐ์ฅ ์ ๋ ดํ๊ณ , ๊ฐ๋ ฅํ ๋ด์ฅ GPU๊ฐ ์๋ AMD Ryzen ๋๋ Intel Core i ๋ฏธ๋ PC๋ 7B ๋ชจ๋ธ์ ๋ ์ ์ฒ๋ฆฌํฉ๋๋ค. ์ํ๋ ๋ชจ๋ธ ํฌ๊ธฐ์ ์ง์ฐ ์๊ฐ์ ๋ฐ๋ผ ์ ํํ์ญ์์ค.
๋ก์ปฌ LLM์ ์คํํ๋ ๊ฐ์ฅ ์ ๋ ดํ ๋ฏธ๋ PC๋ ๋ฌด์์ ๋๊น?
์ ์ ๋ ฅ Intel N-์๋ฆฌ์ฆ ๋ฏธ๋ PC๊ฐ Home Assistant์ ๋งค์ฐ ์ํ ๋ชจ๋ธ์ ์คํํ ์ ์๋ ๊ฐ์ฅ ์ ๋ ดํ ๊ฒ์ด์ง๋ง ์๋ต์ด ๋ ๋๋ฆฝ๋๋ค. ๋ ๋น ๋ฅธ 7B๊ธ ์ด์์คํดํธ๋ฅผ ์ํ๋ค๋ฉด ๊ฐ๋ ฅํ iGPU๊ฐ ์๋ Ryzen ๋๋ Core i ๋ฏธ๋ PC๋ก ์ ๊ทธ๋ ์ด๋ํ์ญ์์ค.