ํต์ฌ ์์
- MLC Chat์ Snapdragon 8 Elite์์ ์๋ ์ฐ์๋ฅผ ๊ฐ์ง๋๋ค. Hexagon NPU๋ Galaxy S25 Ultra์์ Qwen3 1.7B ๊ธฐ์ค ~40 tok/s, Phi-4 Mini ๊ธฐ์ค ~22 tok/s๋ฅผ ์ ๊ณตํฉ๋๋ค โ ๋์ผ ํ๋์จ์ด์์ CPU ์ ์ฉ ์ฑ๋ณด๋ค 3โ4๋ฐฐ ๋น ๋ฆ ๋๋ค.
- PocketPal AI๋ ๋๋ถ๋ถ์ Android ์ฌ์ฉ์์๊ฒ ์ต๊ณ ์ ์ ๋ฐ์ ์ ํ์ ๋๋ค. ์ ์ฒด GGUF ์ํ๊ณ๋ฅผ ์ง์ํ๊ณ , ๋ชจ๋ธ ๋ค์ด๋ก๋๋ฅผ ์ํ Hugging Face ํตํฉ, Android ์คํ ๋ฆฌ์ง ์ฌ๋ฐ๋ฅธ ์ฒ๋ฆฌ, 6๊ฐ ์ฑ ์ค ๊ฐ์ฅ ์ธ๋ จ๋ ๋ชจ๋ฐ์ผ ๋ค์ดํฐ๋ธ ์ธํฐํ์ด์ค๋ฅผ ๊ฐ์ถ๊ณ ์์ต๋๋ค.
- Ollama via Termux๋ Android์์ ์์ ํ OpenAI ํธํ ๋ก์ปฌ API๋ก ๊ฐ๋ ์ ์ผํ ๊ฒฝ๋ก์ ๋๋ค. ์ด๋ ๋๊ตฌ ์ฌ์ฉ, ํจ์ ํธ์ถ, ๋๋ ๋ก์ปฌ ์ฑ์ ์ค๋งํธํฐ ๋ชจ๋ธ์ ์ฐ๊ฒฐํ๋ ค๋ ๊ณ ๊ธ ์ฌ์ฉ์์๊ฒ ์ค์ํฉ๋๋ค.
- Tensor G5(Pixel 9 Pro)๋ ํ์ฌ ์ฑ์ NPU๋ฅผ ๋ ธ์ถํ์ง ์์ต๋๋ค. 6๊ฐ ์ฑ ๋ชจ๋ Pixel 9 Pro์์ CPU ์ ์ฉ์ผ๋ก ์คํ๋๋ฉฐ Phi-4 Mini ๊ธฐ์ค 10โ18 tok/s๋ฅผ ์ ๊ณตํฉ๋๋ค โ Snapdragon 8 Elite ๊ธฐ๊ธฐ์ ๋๋ฑํ ๊ฒฐ๊ณผ๋ณด๋ค ๋๋ฆฝ๋๋ค.
- Maid๋ F-Droid / Google ์๋ ์ ํ์ ๋๋ค. Play Store ์์กด ์์, Google ๊ณ์ ๋ถํ์, ํ์ผ ๊ด๋ฆฌ์์์ ์ง์ GGUF ๊ฐ์ ธ์ค๊ธฐ. Google ์๋น์ค๋ฅผ ํผํ๋ Android ์ฌ์ฉ์์๊ฒ ์ต์ ์ ๋๋ค.
- Android ๋ฐฑ๊ทธ๋ผ์ด๋ ์ ํ์ด ๊ฐ์ฅ ํฐ ์ฌ์ฉ์ฑ ๋ฌธ์ ์ ๋๋ค. Android๋ ๋๋ถ๋ถ์ ์ ์กฐ์ฌ ROM(ํนํ Samsung, OnePlus, Xiaomi)์์ ๋ฐฑ๊ทธ๋ผ์ด๋ ํ๋ก์ธ์ค๋ฅผ ์ ๊ทน์ ์ผ๋ก ์ข ๋ฃํฉ๋๋ค. ํ์ฑ ์ถ๋ก ์ ์ํํ๋ ์ฑ์ ์ต๊ทผ ์ฑ ํธ๋ ์ด์ ๊ณ ์ ํ๊ฑฐ๋ ๋ฐฐํฐ๋ฆฌ ์ต์ ํ ์ค์ ์์ ์์ธ๋ก ์ค์ ํด์ผ ์์ฑ ์ค ์ค๋จ์ ํผํ ์ ์์ต๋๋ค.
- ๋ชจ๋ธ ์คํ ๋ฆฌ์ง๊ฐ Android์ ๋ ๋ฒ์งธ ํฐ ๋ฌธ์ ์ ๋๋ค. ๊ฐ GGUF ๋ชจ๋ธ์ 1โ8 GB๋ฅผ ์ฐจ์งํฉ๋๋ค. Android์ ๋ด๋ถ ์คํ ๋ฆฌ์ง ํํฐ์ ๋ถํ ๋ก ์ธํด ๋ชจ๋ธ์ ์ฑ์ ํ๋ผ์ด๋น ๋๋ ํ ๋ฆฌ ๋๋ ํน๋ณํ ์ค์ ๋ ์์น์ ์ ์ฅํด์ผ ํฉ๋๋ค โ ๋๋ถ๋ถ์ ์ฑ์์ "๋ค์ด๋ก๋" ํด๋๋ ์๋ํ์ง ์์ต๋๋ค.
- Android์ ์ด์ ์ ์ค์ฌํฉ๋๋ค: Termux์ ์ฌ์ด๋๋ก๋ฉ์ผ๋ก iOS์์ ๊ตฌํ ๋ถ๊ฐ๋ฅํ ๋๊ตฌ๋ฅผ ์ฌ์ฉํ ์ ์์ต๋๋ค. Ollama via Termux๋ iPhone์์ ๋ถ๊ฐ๋ฅํฉ๋๋ค. F-Droid ์ฑ๊ณผ ADB ์ฌ์ด๋๋ก๋ฉ์ผ๋ก Google Play์ ์๋ ์ฑ์ ์ ๊ทผํ ์ ์์ต๋๋ค.
๋น ๋ฅธ ์ฌ์ค
- ํ ์คํธ ๊ธฐ๊ธฐ: Samsung Galaxy S25 Ultra(Snapdragon 8 Elite, 12 GB RAM), Google Pixel 9 Pro(Tensor G5, 16 GB RAM), OnePlus 13(Snapdragon 8 Elite, 16 GB RAM).
- ํ ์คํธ๋ ์นฉ์ ๊ณ์ด: Snapdragon 8 Elite(Hexagon NPU), Tensor G5(NPU๊ฐ ํ์ฌ ์ฑ์ ๋ ธ์ถ๋์ง ์์), MediaTek Dimensity 9400(APU ์ฌ์ ํฌํจ; ํ ์คํธ ๊ธฐ๊ธฐ ์๋).
- 12 GB Android ๊ธฐ๊ธฐ ์ต์ ๋ชจ๋ธ: Phi-4 Mini(3.8B, Q4_K_M์์ ~2.7 GB) โ 3๋์ ํ ์คํธ ์ค๋งํธํฐ ๋ชจ๋์์ 6๊ฐ ์ฑ ์ ์ฒด์์ ์๋ํฉ๋๋ค.
- 8 GB Android ๊ธฐ๊ธฐ ์ต์ ๋ชจ๋ธ: Qwen3 1.7B ๋๋ SmolLM2 1.7B โ ๋ชจ๋ ์ฑ์์ ์๋; ๋งค์ฐ ์ ํ๋ ๊ธฐ๊ธฐ์๋ Gemma 3 1B.
- 3B ๋ชจ๋ธ ์ต์ RAM: ๊ธฐ๊ธฐ RAM 6 GB. 6 GB ๋ฏธ๋ง์ 1.7B ๋ชจ๋ธ ์ฌ์ฉ.
- S25 Ultra์์ tok/s(Phi-4 Mini): MLC Chat ~22 tok/s(NPU ๊ฒฝ๋ก), PocketPal AI ~16 tok/s(CPU/Vulkan), Maid ~18 tok/s(Vulkan), Layla ~14 tok/s(CPU), Private AI ~13 tok/s(CPU), Ollama Termux ~10 tok/s(CPU).
- Play Store vs F-Droid: MLC Chat, Layla, PocketPal AI, Private AI๋ Google Play์ ์์ต๋๋ค. Maid๋ ์ฃผ๋ก F-Droid์ ์์ต๋๋ค. Ollama via Termux๋ F-Droid์ Termux๊ฐ ํ์ํฉ๋๋ค.
- Android ๊ณต์ ํจ๋ ํตํฉ: 2026๋ 5์ ๊ธฐ์ค PocketPal AI์ Layla๋ง Android ๊ณต์ ํจ๋ ์ ๋ ฅ์ ๋ค์ดํฐ๋ธ๋ก ์ฒ๋ฆฌํฉ๋๋ค.
๋น๊ต ํ
ํ ํฐ ์๋๋ Samsung Galaxy S25 Ultra(Snapdragon 8 Elite, 12 GB RAM)์์ Q4_K_M ์์ํ๋ก Phi-4 Mini๋ฅผ ์คํํ์ฌ ์ธก์ ๋์์ต๋๋ค. NPU ํ์ฉ์ ์ฑ์ ๋ฐ๋ผ ๋ค๋ฆ ๋๋ค โ MLC Chat์ 2026๋ 5์ ๊ธฐ์ค ๊ฒ์ฆ๋ Hexagon NPU ์ง์์ ๊ฐ์ง ์ ์ผํ ์ฑ์ ๋๋ค.
๐ ํ ๋ฌธ์ฅ์ผ๋ก
MLC Chat์ Snapdragon์ Hexagon NPU ์ง์ ๋๋ถ์ 2026๋ Android ๋ก์ปฌ LLM ์๋์์ ์ ๋๋ฅผ ์ฐจ์งํฉ๋๋ค โ Galaxy S25 Ultra์์ Phi-4 Mini ๊ธฐ์ค ~22 tok/s, Qwen3 1.7B ๊ธฐ์ค ~40 tok/s๋ฅผ ๋ฌ์ฑํ๋ฉฐ, ๋์ผ ํ๋์จ์ด์ CPU ์ ์ฉ ๋์๋ณด๋ค 2โ3๋ฐฐ ๋น ๋ฆ ๋๋ค.
๐ฌ ์ฝ๊ฒ ๋งํ๋ฉด
Snapdragon 8 Elite ์ค๋งํธํฐ์ ๊ฐ์ง๊ณ ์๊ณ ๊ฐ๋ฅํ ๊ฐ์ฅ ๋น ๋ฅธ ์ถ๋ก ์ ์ํ๋ค๋ฉด MLC Chat์ ์ ํํ์ญ์์ค. ์ต์์ ๋ชจ๋ธ ์ง์๊ณผ ๊ฐ์ฅ ์ธ๋ จ๋ ์ธํฐํ์ด์ค๋ฅผ ๊ฐ์ง ์ต๊ณ ์ ์ ๋ฐ์ ์ฑ์ ์ํ๋ค๋ฉด PocketPal AI๋ฅผ ์ ํํ์ญ์์ค. ์ค๋งํธํฐ์์ ์์ ํ ๋ก์ปฌ AI API๋ฅผ ์ํ๊ณ ํฐ๋ฏธ๋์ด ์ต์ํ๋ค๋ฉด Ollama via Termux๋ฅผ ์ ํํ์ญ์์ค. Google ์์ด ์์ ํ ์คํ์์ค์ธ ์ ํ์ ์ํ๋ค๋ฉด Maid๋ฅผ ์ ํํ์ญ์์ค. ๋ก์ปฌ AI๋ฅผ ์ฒ์ ์ ํ๊ณ ์์ ๋ ๋ชจ๋ธ ๋ค์ด๋ก๋๋ฅผ ์ํ๋ค๋ฉด Layla๋ฅผ ์ ํํ์ญ์์ค. ๋ฐ์ดํฐ ํ๋ผ์ด๋ฒ์์ ์ต์ ๊ถํ์ด ์ฃผ์ ๊ด์ฌ์ฌ๋ผ๋ฉด Private AI๋ฅผ ์ ํํ์ญ์์ค.
| ์ฑ | tok/s(S25 Ultra, Phi-4 Mini) | NPU ์ง์ | ์ต์ ์ฌ์ฉ ์ฌ๋ก |
|---|---|---|---|
| MLC Chat | ~22 tok/s(NPU ๊ฒฝ๋ก) | ์ โ Snapdragon 8 Elite์์ Hexagon NPU | Snapdragon ์ค๋งํธํฐ์์ ์๋๋ฅผ ์ฐ์ ์ํ๋ ์ฌ์ฉ์ |
| Maid | ~18 tok/s(GPU Vulkan) | ๋ถ๋ถ โ GPU Vulkan, ์ ์ฉ NPU ๊ฒฝ๋ก ์์ | ์คํ์์ค/F-Droid ์ฌ์ฉ์, ์ ์ฒด GGUF ์ ๊ทผ |
| Layla | ~14 tok/s(CPU) | ์๋์ค | ์ด๋ณด์, ์์ ๋ ๋ชจ๋ธ ๋ค์ด๋ก๋ |
| Ollama via Termux | ~10 tok/s(CPU) | ์๋์ค(ํ์ค Termux ๋น๋์์ CPU ์ ์ฉ) | ๊ณ ๊ธ ์ฌ์ฉ์, API ์ ๊ทผ, ๋๊ตฌ ์ฌ์ฉ |
| Private AI | ~13 tok/s(CPU) | ์๋์ค | ํ๋ผ์ด๋ฒ์ ์ฐ์ ์ฌ์ฉ์, ์ต์ ๊ถํ |
| PocketPal AI | ~16 tok/s(CPU/Vulkan) | ๋ถ๋ถ โ ์ง์ ๊ธฐ๊ธฐ์์ GPU Vulkan | ๋๋ถ๋ถ์ ์ฌ์ฉ์ โ ์ต๊ณ ์ ์ธํฐํ์ด์ค + ์ ์ฒด GGUF ์ํ๊ณ |
๐กTip: Pixel 9 Pro(Tensor G5)์์๋ MLC Chat์ด 1์ ์๋ฆฌ๋ฅผ ๋ด๋ ค๋์ต๋๋ค โ 6๊ฐ ์ฑ ๋ชจ๋ ๊ฑฐ๊ธฐ์ CPU ์ ์ฉ์ผ๋ก ์คํ๋๋ฉฐ, PocketPal AI์ Maid๊ฐ ์ธํฐํ์ด์ค ํ์ง๋ก ๋๊ฐ์ ๋ํ๋ ๋๋ค. Tensor G5์์๋ ํ์ฌ ์ถ๋ก ์ฑ์ ๋ํ NPU ์ด์ ์ด ์์ ํ ์ฌ๋ผ์ง๋๋ค.
โ ๏ธWarning: Layla์ Private AI์ tok/s ์์น๋ Phi-4 Mini Q4_K_M์ CPU ๊ฒฝ๋ก ์ถ์ ์น์ ๋๋ค. ์ค์ ์๋๋ ์ด ์ํ์ ๋ฐ๋ผ ๋ฌ๋ผ์ง๋๋ค โ ๋จ๊ฑฐ์ด ์ค๋งํธํฐ์์ ์ง์์ ์ธ ์ถ๋ก ์ ๋๊ฐ ์์ ์์น๋ณด๋ค 20โ30% ํ๋ฝํ ์ ์์ต๋๋ค.
์ด๋ค ์ฑ์ ์ ํํด์ผ ํฉ๋๊น?
์ฌ๋ฐ๋ฅธ ์ฑ์ ๊ธฐ๊ธฐ์ ์นฉ์ ๊ณผ ๋จ์ํจ ๋๋น ์ปค์คํฐ๋ง์ด์ง์ ์ผ๋ง๋ ์ค์ํ๋๋์ ๋ฐ๋ผ ๋ค๋ฆ ๋๋ค. Android ์ฌ์ฉ์๋ค์ ์ธ๋ จ๋ ๋ค์ดํฐ๋ธ ๊ฒฝํ(PocketPal AI, Layla)์ ์ํ๋ ์ฌ๋๊ณผ ์ต๋ ์ ์ด(Ollama via Termux, Maid)๋ฅผ ์ํ๋ ์ฌ๋์ผ๋ก ๋ช ํํ ๋๋ฉ๋๋ค. iPhone๊ณผ ๋ฌ๋ฆฌ Android๋ ๋ ๋ค ๊ฐ๋ฅํฉ๋๋ค. ๋ค์ํ ๊ธฐ๊ธฐ์์ ๋ชจ๋ธ ํฌ๊ธฐ์ RAM ์๊ตฌ์ฌํญ์ด ์ด๋ป๊ฒ ์ฐ๊ด๋๋์ง ๋ ์ ์ดํดํ๋ ค๋ฉด VRAM ์๊ตฌ์ฌํญ ๊ฐ์ด๋ โ๋ฅผ ์ฐธ์กฐํ์ญ์์ค.
๐ฌ ์ฝ๊ฒ ๋งํ๋ฉด
Snapdragon 8 Elite ์ค๋งํธํฐ์ ๊ฐ์ง๊ณ ์๊ณ ๊ฐ๋ฅํ ๊ฐ์ฅ ๋น ๋ฅธ ์ถ๋ก ์ ์ํ๋ค๋ฉด MLC Chat์ ์ ํํ์ญ์์ค. ์ต์์ ๋ชจ๋ธ ์ง์๊ณผ ๊ฐ์ฅ ์ธ๋ จ๋ ์ธํฐํ์ด์ค๋ฅผ ๊ฐ์ง ์ต๊ณ ์ ์ ๋ฐ์ ์ฑ์ ์ํ๋ค๋ฉด PocketPal AI๋ฅผ ์ ํํ์ญ์์ค. ์ค๋งํธํฐ์์ ์์ ํ ๋ก์ปฌ AI API๋ฅผ ์ํ๊ณ ํฐ๋ฏธ๋์ด ์ต์ํ๋ค๋ฉด Ollama via Termux๋ฅผ ์ ํํ์ญ์์ค. Google ์์ด ์์ ํ ์คํ์์ค์ธ ์ ํ์ ์ํ๋ค๋ฉด Maid๋ฅผ ์ ํํ์ญ์์ค. ๋ก์ปฌ AI๋ฅผ ์ฒ์ ์ ํ๊ณ ์์ ๋ ๋ชจ๋ธ ๋ค์ด๋ก๋๋ฅผ ์ํ๋ค๋ฉด Layla๋ฅผ ์ ํํ์ญ์์ค. ๋ฐ์ดํฐ ํ๋ผ์ด๋ฒ์์ ์ต์ ๊ถํ์ด ์ฃผ์ ๊ด์ฌ์ฌ๋ผ๋ฉด Private AI๋ฅผ ์ ํํ์ญ์์ค.
- Snapdragon 8 Elite ์ค๋งํธํฐ(S25 Ultra, OnePlus 13): MLC Chat์ผ๋ก ์์ํ์ญ์์ค. MLC Chat ๋ผ์ด๋ธ๋ฌ๋ฆฌ์ ์๋ ๋ชจ๋ธ์ด ํ์ํ๋ค๋ฉด PocketPal AI๋ฅผ ๋ ๋ฒ์งธ ์ฑ์ผ๋ก ์ถ๊ฐํ์ญ์์ค โ Vulkan ๊ฐ์ ์ถ๋ก ์ผ๋ก ์ ์ฒด GGUF ์ํ๊ณ๋ฅผ ์ปค๋ฒํฉ๋๋ค.
- Pixel 9 Pro(Tensor G5): NPU ์ด์ ์ด ์ฌ๋ผ์ง๋๋ค โ PocketPal AI๊ฐ ์ธํฐํ์ด์ค ํ์ง๊ณผ ๋ชจ๋ธ ํญ์ผ๋ก ์ต๊ณ ์ ์ ํ์ ๋๋ค. MLC Chat์ Tensor G5์์ CPU ์ ์ฉ์ผ๋ก ์ ํ๋์ด ์๋ ์ด์ ์ ์์ต๋๋ค.
- ๋ชจ๋ Android, ์ปค์คํฐ๋ง์ด์ง ์ฐ์ : Ollama via Termux + ์ฑํ ํ๋ก ํธ์๋(Alpaca, Chrome์ Open WebUI)๊ฐ ๊ฐ์ฅ ์ ๋ฅํ ์ค์ ์ ๋๋ค. ์ฝ 30๋ถ์ ํฐ๋ฏธ๋ ์์ ์ด ํ์ํ์ง๋ง OpenAI ํธํ API ์ ๊ทผ, ๋๊ตฌ ์ฌ์ฉ, ์ ์ฒด Ollama ๋ชจ๋ธ ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ฅผ ์ ๊ณตํฉ๋๋ค.
- Google ์๋ ์ค๋งํธํฐ/ํ๋ผ์ด๋ฒ์: F-Droid์ Maid. GrapheneOS, CalyxOS, ๊ธฐํ Google ์๋ ๋น๋์์ ์๋ํฉ๋๋ค. Play Services ์์กด ์์.
- RAM 8 GB ์ค๋งํธํฐ: 6๊ฐ ์ฑ ์ค ์ด๋ ๊ฒ์ด๋ Qwen3 1.7B ๋๋ SmolLM2 1.7B์ ํจ๊ป ์ฌ์ฉํ์ญ์์ค. PocketPal AI๋ ์ ํ๋ ๊ธฐ๊ธฐ์์ ๋ชจ๋ธ ์คํ ๋ฆฌ์ง๋ฅผ ๋ ์ฐ์ํ๊ฒ ์ฒ๋ฆฌํฉ๋๋ค.
- Samsung Galaxy(๋ชจ๋ ๋ชจ๋ธ): Samsung์ ์ ๊ทน์ ์ธ ๋ฐฑ๊ทธ๋ผ์ด๋ ํ๋ก์ธ์ค ์ข ๋ฃ๋ฅผ ์ฃผ์ํ์ญ์์ค. AI ์ฑ์ ์ต๊ทผ ์ฑ ํธ๋ ์ด์ ๊ณ ์ ํ๊ณ ๊ธฐ๊ธฐ ์ผ์ด โ ๋ฐฐํฐ๋ฆฌ โ ์ ์ ๋ชจ๋ ์ฑ์์ ์์ธ๋ก ์ถ๊ฐํ์ฌ ์ถ๋ก ์ค ์ค๋จ์ ํผํ์ญ์์ค.
๐กTip: Snapdragon ์ค๋งํธํฐ์ ๊ฐ์ง๊ณ ์๊ณ ์ฃผ๋ก ์คํ๋ผ์ธ ์ฑํ ์ ์ํ๋ค๋ฉด MLC Chat(์งง์ ์ธ์ ์ ์๋)๊ณผ PocketPal AI(MLC Chat ๋ผ์ด๋ธ๋ฌ๋ฆฌ์ ์๋ ๋ชจ๋ธ์ ์ฌ์ฉํ ๋ ๊ธด ์์ ) ๋ชจ๋ ์คํํ์ญ์์ค. ๋ ์ฑ์ ์๋ฒฝํ๊ฒ ๊ณต์กดํ๋ฉฐ ๋ณ๋์ ๋ชจ๋ธ ์คํ ๋ฆฌ์ง๋ฅผ ์ฌ์ฉํฉ๋๋ค.
์นฉ์ ๋น๊ต: Snapdragon vs MediaTek vs Tensor
Snapdragon 8 Elite๋ 2026๋ Android์์ ๋ก์ปฌ LLM ์ถ๋ก ์ ์ํด ๊ฐ์ฅ ์ ๋ฅํ ์นฉ์ ์ ๋๋ค โ Hexagon NPU๋ MLC Chat์์ ๊ฒ์ฆ๋ ์ง์์ ๋ฐ๋ ์ ์ผํ ๋ชจ๋ฐ์ผ NPU์ ๋๋ค. Tensor G5์ MediaTek Dimensity 9400์ 6๊ฐ ์ฑ ๋ชจ๋๋ฅผ CPU ์ ์ฉ ๋๋ GPU Vulkan ๋ชจ๋๋ก๋ง ์คํํฉ๋๋ค.
๐ ํ ๋ฌธ์ฅ์ผ๋ก
Snapdragon 8 Elite์ Hexagon NPU๋ 2026๋ Android์์ CPU ์ ์ฉ ์คํ๋ณด๋ค 2โ3๋ฐฐ ๋น ๋ฅธ ์ถ๋ก ์ ์ ๊ณตํฉ๋๋ค. ๋จ, MLC Chat๋ง์ด ์ด ์ด์ ์ ๋ ธ์ถํ๋ฉฐ โ ๋ค๋ฅธ ๋ชจ๋ ์ฑ์ ๋ชจ๋ ์นฉ์ ์์ CPU ๋๋ GPU Vulkan์ผ๋ก ํด๋ฐฑํฉ๋๋ค.
| ์นฉ์ | ํ์ฌ ๊ธฐ๊ธฐ | ํ์ฌ ์ฑ์ฉ NPU | ์ต์ ์ ์ถ๋ก ๊ฒฝ๋ก | Phi-4 Mini ์๋(์ถ์ ) |
|---|---|---|---|---|
| Snapdragon 8 Elite | Galaxy S25 ์๋ฆฌ์ฆ, OnePlus 13, Xiaomi 15 Pro | ์ โ MLCC๋ฅผ ํตํ Hexagon NPU(MLC Chat ์ ์ฉ) | Hexagon NPU(MLC Chat) ๋๋ GPU Vulkan(Maid, PocketPal) | ~22 tok/s(NPU) / ~16โ18 tok/s(Vulkan) |
| Google Tensor G5 | Pixel 9 ์๋ฆฌ์ฆ | ์๋์ค โ Google์ด ์์ฌ ์ฑ์ ์ํด NPU ์์ฝ | CPU(๋ชจ๋ ์ฑ์ด CPU ์ ์ฉ์ผ๋ก ์คํ) | ~12โ15 tok/s(CPU) |
| MediaTek Dimensity 9400 | Xiaomi 15 Ultra, Oppo Find X8 Pro, Vivo X200 Pro | ์ ํ์ โ ์คํ์ NNAPI ๊ฒฝ๋ก๋ฅผ ํตํ MediaTek APU ์ ๊ทผ | GPU Vulkan(ํ์ฌ ์ต์ ์ ํ); ์คํ์ NNAPI | ~14โ18 tok/s(Vulkan) / ~12 tok/s(CPU) |
| Snapdragon 8 Gen 3 | Galaxy S24 ์๋ฆฌ์ฆ, OnePlus 12 | ๋ถ๋ถ โ ์ด์ ์ธ๋ Hexagon, MLC Chat์์ ์ ํ์ ์ง์ | GPU Vulkan ๋๋ CPU | ~12โ15 tok/s(Vulkan) |
โ ๏ธWarning: Google์ Tensor G5 NPU๊ฐ ๋ก์ปฌ LLM ์ฑ์ ๋์์ด ๋๋ค๊ณ ๊ฐ์ ํ์ง ๋ง์ญ์์ค. Google์ NPU๋ ์์ฌ ML ์๋น์ค(Google ๋ฒ์ญ, ๋ น์๊ธฐ, ์ฌ์ง ์ฒ๋ฆฌ)๋ฅผ ์ํด ์์ฝ๋์ด ์์ต๋๋ค. ์ด ๊ฐ์ด๋์ 6๊ฐ ์ฑ์ ํฌํจํ ํ์ฌ ์ถ๋ก ์ฑ์ ๋ชจ๋ Pixel ์ค๋งํธํฐ์์ CPU ์ ์ฉ์ผ๋ก ์คํ๋ฉ๋๋ค. Pixel 9 Pro์ 16 GB RAM์ด ์ค์ ์ด์ ์ ๋๋ค โ ๋ ๋น ๋ฅธ ์ถ๋ก ์ด ์๋๋ผ ๋ ํฐ ๋ชจ๋ธ์ ์ํ ๋ ๋ง์ ๊ณต๊ฐ.
๐กTip: MediaTek Dimensity 9400 ์ค๋งํธํฐ์ Maid์ PocketPal AI์ GPU Vulkan ์ง์์ผ๋ก ํํ์ ๋ฐ์ต๋๋ค. Xiaomi 15 Ultra๋ Oppo Find X8 Pro๋ฅผ ๊ฐ์ง๊ณ ์๋ค๋ฉด ์ฑ ์ค์ ์์ Vulkan์ ํ์ฑํํ์ฌ CPU ๊ฒฝ๋ก ๋๋น 30โ40% ์๋ ํฅ์์ ์ป์ผ์ญ์์ค.
MLC Chat
MLC Chat(Machine Learning Compilation Chat)์ 2026๋ Snapdragon 8 Elite ๊ธฐ๊ธฐ์์ Android์ฉ ๊ฐ์ฅ ๋น ๋ฅธ ๋ก์ปฌ LLM ์ฑ์ ๋๋ค. MLC AI ํ์ด ๊ฐ๋ฐํ์ผ๋ฉฐ, MLCC ํ๋ ์์ํฌ๋ฅผ ์ฌ์ฉํ์ฌ Snapdragon์ Hexagon NPU๋ฅผ ์ง์ ๋์์ผ๋ก ๋ชจ๋ธ์ ์ปดํ์ผํฉ๋๋ค โ llama.cpp ๋๋ ์ผ๋ฐ Vulkan ๋ฐฑ์๋๋ฅผ ์ฌ์ฉํ๋ ์ฑ์์๋ ๋ถ๊ฐ๋ฅํ ์ต์ ํ ๊ฒฝ๋ก์ ๋๋ค.
- ๋ชจ๋ธ ๋ผ์ด๋ธ๋ฌ๋ฆฌ: ์์ ๋จ โ MLC Chat์ ๋ชจ๋ฐ์ผ ์ต์ ํ ์ฌ์ ์ปดํ์ผ ๋ชจ๋ธ ์ธํธ๋ฅผ ํฌํจํฉ๋๋ค(Qwen3 1.7B, Phi-4 Mini, Gemma 3 1B, Llama 3.2 1B). ์ปค์คํ ๋ชจ๋ธ ๊ฐ์ ธ์ค๊ธฐ๋ ๊ฐ๋ฅํ์ง๋ง MLC ์ปดํ์ผ ๋๊ตฌ ์ฒด์ธ์ด ํ์ํฉ๋๋ค โ ์ํด๋ฆญ ํ๋ก์ธ์ค๊ฐ ์๋๋๋ค.
- NPU ํ์ฉ: Snapdragon 8 Elite(Galaxy S25 Ultra, OnePlus 13)์์ Hexagon NPU ์ง์ ๊ฒ์ฆ๋จ. S25 Ultra์์ Qwen3 1.7B ๊ธฐ์ค ~40 tok/s, Phi-4 Mini ๊ธฐ์ค ~22 tok/s๋ก ์ธก์ ๋จ โ ๋์ผ ํ๋์จ์ด์์ CPU ์ ์ฉ ~12โ16 tok/s ๋๋น.
- ์ธํฐํ์ด์ค ํ์ง: ๊น๋ํ๊ณ ๊ธฐ๋ฅ์ ์ด๋ฉฐ ๋ฏธ๋๋ฉํจ. ์ฑํ ์ธํฐํ์ด์ค๋ง โ ์์คํ ํ๋กฌํํธ ํธ์ง๊ธฐ ์์, ์บ๋ฆญํฐ ์นด๋ ์์, ๋ค์ค ๋ชจ๋ธ ์ ํ ์์. ์ง์ค๋ ์ฑํ ์์ ์ ์ ํฉํ๋ฉฐ ๊ณ ๊ธ ์ฌ์ฉ์ ์ค์ ์๋ ์ ํฉํ์ง ์์ต๋๋ค.
- Android ๊ณต์ ํจ๋: 2026๋ 5์ ๊ธฐ์ค ์ง์๋์ง ์์ต๋๋ค. ํ์ค ๊ณต์ ํจ๋์ ํตํด ๋ค๋ฅธ ์ฑ์์ ํ ์คํธ๋ฅผ ๋ฐ์ ์ ์์ต๋๋ค.
- ์คํ๋ผ์ธ ์ ๋ขฐ์ฑ: ์ฐ์ํจ. ๋ชจ๋ธ์ด ์ปดํ์ผ๋๊ณ ์บ์๋๋ฉด MLC Chat์ ๋คํธ์ํฌ ํธ์ถ ์์ด ์๋ํฉ๋๋ค. ๋ฐฑ๊ทธ๋ผ์ด๋ ํ๋ก์ธ์ค๋ ์ผ๋ถ llama.cpp ๊ธฐ๋ฐ ์ฑ์ ๋นํด ์์ ์ ์ ๋๋ค.
- ์คํ ๋ฆฌ์ง: MLC Chat์ ์ปดํ์ผ๋ ๋ชจ๋ธ ๊ฐ์ค์น๋ฅผ ์ฑ ํ๋ผ์ด๋น ๋๋ ํ ๋ฆฌ์ ์ ์ฅํฉ๋๋ค(Snapdragon์ฉ ์ปดํ์ผ๋ Phi-4 Mini์ ๊ฒฝ์ฐ ~3 GB). ๋ค๋ฅธ ์ฑ์ผ๋ก ์ด์ ๋ถ๊ฐ๋ฅ โ GGUF ๊ธฐ๋ฐ ์ฑ ๋๋น ์ ํ ์ฌํญ.
- ์ค์น ๊ฒฝ๋ก: Google Play Store. ์์ค ์ฝ๋: github.com/mlc-ai/mlc-llm.
โ ๏ธWarning: MLC Chat์ ๋ชจ๋ธ ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ ์์ ๋๊ณ ์ปดํ์ผ๋ฉ๋๋ค. ๊ณต์ ๋ผ์ด๋ธ๋ฌ๋ฆฌ์ ์๋ ๋ชจ๋ธ(์: ํ์ธํ๋๋ Mistral Small ๋๋ ๋๋ฉ์ธ๋ณ ๋ชจ๋ธ)์ด ํ์ํ๋ค๋ฉด MLC Chat์ ๋์์ด ๋์ง ์์ต๋๋ค โ ์์ GGUF ์ง์์ ์ํด PocketPal AI๋ Maid๋ฅผ ์ฌ์ฉํ์ญ์์ค. MLC Chat์ ์ ์ฐ์ฑ์ด ์๋ ์๋ ๋๊ตฌ์ ๋๋ค.
Maid
Maid๋ F-Droid ์ฐ์ ๋ฐฐํฌ ๋ฐฉ์์ ์์ ํ ์คํ์์ค Android ๋ก์ปฌ LLM ์ฑ์ ๋๋ค โ Flutter๋ก ๋น๋๋์์ผ๋ฉฐ, llama.cpp๋ฅผ ์ถ๋ก ๋ฐฑ์๋๋ก ์ฌ์ฉํ๊ณ , Google Play ์์กด ์์ด ๋ฐฐํฌ๋ฉ๋๋ค. ํ์ผ ๊ด๋ฆฌ์์์ ์ง์ GGUF ๊ฐ์ ธ์ค๊ธฐ, ์ง์ ๊ธฐ๊ธฐ์์ GPU Vulkan ๊ฐ์, Google ์๋ Android ๋ฒ์ (GrapheneOS, CalyxOS)์์ ์๋์ ์ง์ํฉ๋๋ค.
- ๋ชจ๋ธ ๋ผ์ด๋ธ๋ฌ๋ฆฌ: ์ ํ ์์. ๋ชจ๋ GGUF ๋ชจ๋ธ ํ์ผ์ Android ํ์ผ ๊ด๋ฆฌ์ ๋๋ URL ๋ค์ด๋ก๋๋ก ๊ฐ์ ธ์ฌ ์ ์์ต๋๋ค. Hugging Face๋ ์ฑ ์์ ๋ผ์ด๋ธ๋ฌ๋ฆฌ์ ์๋ ๋ชจ๋ธ๋ ํฌํจ๋ฉ๋๋ค.
- NPU ํ์ฉ: ์ง์ ๊ธฐ๊ธฐ์์ GPU Vulkan ๊ฒฝ๋ก โ ์ ์ฉ NPU ์์. Snapdragon 8 Elite์์ Vulkan์ Phi-4 Mini ๊ธฐ์ค ~18 tok/s๋ฅผ ์ ๊ณตํฉ๋๋ค โ MLC Chat์ NPU ๊ฒฝ๋ก ~22 tok/s ๋๋น. Hexagon NPU ์ ๊ทผ ์์.
- ์ธํฐํ์ด์ค ํ์ง: ๊ธฐ๋ฅ์ ์ด์ง๋ง PocketPal AI๋ Layla๋ณด๋ค ๋ ์ธ๋ จ๋จ. ์์คํ ํ๋กฌํํธ ํธ์ง๊ธฐ, ์จ๋ ์กฐ์ , ๊ธฐ๋ณธ ์ฑํ ๊ธฐ๋ก ๊ด๋ฆฌ ์์. ์บ๋ฆญํฐ ์นด๋ ์ง์์ ์ ํ์ .
- Android ๊ณต์ ํจ๋: 2026๋ 5์ ๊ธฐ์ค ์ง์๋์ง ์์ต๋๋ค.
- ์คํ๋ผ์ธ ์ ๋ขฐ์ฑ: ์ฐ์ โ llama.cpp ๊ธฐ๋ฐ ์ถ๋ก ์ ์์ ์ ์ ๋๋ค. ์ ์กฐ์ฌ ROM(Samsung, OnePlus)์ ๋ฐฑ๊ทธ๋ผ์ด๋ ์ ํ์ ์ฌ์ ํ ์ ์ฉ๋ฉ๋๋ค.
- ์คํ ๋ฆฌ์ง: ๋ชจ๋ธ์ ์ฑ ํ๋ผ์ด๋น ๋๋ ํ ๋ฆฌ ๋๋ ์ฌ์ฉ์ ์ง์ ๊ฒฝ๋ก์ ์ ์ฅ๋ฉ๋๋ค. GGUF ํ์ผ์ ๊ณต์ ๊ฐ๋ฅํ Android ์คํ ๋ฆฌ์ง์ ๋ฐฐ์น๋๋ฉด Maid์ PocketPal AI ๊ฐ์ ์ด์ ๊ฐ๋ฅํฉ๋๋ค.
- ์ค์น ๊ฒฝ๋ก: F-Droid(๊ธฐ๋ณธ), GitHub ๋ฆด๋ฆฌ์ค. ์์ค ์ฝ๋: github.com/Mobile-Artificial-Intelligence/maid. Google Play์์ ๋ถ๊ฐ.
๐กTip: GrapheneOS๋ Google ์๋ Android ๋ฒ์ ์ ์ฌ์ฉํ๋ค๋ฉด Maid๊ฐ ์ต๊ณ ์ ์ ํ์ ๋๋ค โ Google Play Services ์์กด์ด ์์ต๋๋ค. F-Droid ํด๋ผ์ด์ธํธ๋ฅผ ํตํด ์ค์นํ๊ฑฐ๋ GitHub ๋ฆด๋ฆฌ์ค ํ์ด์ง์์ APK๋ฅผ ์ง์ ๋ค์ด๋ก๋ํ์ฌ ADB๋ก ์ฌ์ด๋๋ก๋ํ์ญ์์ค.
Layla
Layla๋ Android ๋ก์ปฌ LLM ์ฑ ์ค ์ด๋ณด์์๊ฒ ๊ฐ์ฅ ์ ๊ทผํ๊ธฐ ์ฌ์ด ์ฑ์ ๋๋ค โ ์์ ๋ ๋ค์ด๋ก๋ ํ๋ฆ ๋ค์ ๋ชจ๋ธ ๊ด๋ฆฌ๋ฅผ ์ถ์ํํ๊ณ , ํฐ๋ฏธ๋์ด ํ์ ์์ผ๋ฉฐ, ์ถ๋ก ์ค์ ์ ๋ ธ์ถํ์ง ์๊ณ ์ธ๋ จ๋ ์ฑํ ์ธํฐํ์ด์ค๋ฅผ ์ ๊ณตํฉ๋๋ค. ํธ๋ ์ด๋์คํ๋ ๋ ์์ ๋ชจ๋ธ ์ ํ๊ณผ CPU ์ ์ฉ ์ถ๋ก ์ ๋๋ค.
- ๋ชจ๋ธ ๋ผ์ด๋ธ๋ฌ๋ฆฌ: ์์ ๋จ, ๋ ์์ ์ธํธ. Layla๋ ๊ด๋ฆฌํ ๋ค์ด๋ก๋ ๊ฒฝํ์ ์ ๊ณตํฉ๋๋ค โ ์ฑ ๋ด ๋ผ์ด๋ธ๋ฌ๋ฆฌ์์ ๋ชจ๋ธ์ ์ ํํ๋ฉด ์๋์ผ๋ก ๋ค์ด๋ก๋๋๊ณ ์ค์ ๋ฉ๋๋ค. ์ปค์คํ GGUF ๊ฐ์ ธ์ค๊ธฐ๋ ์ฃผ์ ๊ธฐ๋ฅ์ด ์๋๋๋ค.
- NPU ํ์ฉ: CPU ์ ์ฉ ๊ฒฝ๋ก โ GPU Vulkan์ด๋ Hexagon NPU ์์. ์ด๋ก ์ธํด Layla๋ Snapdragon 8 Elite์์ 6๊ฐ ์ค ๊ฐ์ฅ ๋๋ฆฝ๋๋ค(Phi-4 Mini ๊ธฐ์ค ~14 tok/s). ๋จ, ๋ชจ๋ Android ์นฉ์ ์์ ์ผ๊ด๋ฉ๋๋ค.
- ์ธํฐํ์ด์ค ํ์ง: 6๊ฐ ์ฑ ์ค ์ฒ์ ์ฌ์ฉ์์๊ฒ ๊ฐ์ฅ ๋์. ๋ช ํํ ๋ํ ๊ด๋ฆฌ, ์ค์ ์ค๋ฒํค๋ ์์, ์ํํ ๋ชจ๋ธ ์ ํ์ด ์๋ ์ฑํ ์ค์ฌ ์ธํฐํ์ด์ค.
- Android ๊ณต์ ํจ๋: ์ง์๋จ โ Layla๋ Android ๊ณต์ ํจ๋์ ํตํด ๋ค๋ฅธ ์ฑ์์ ํ ์คํธ๋ฅผ ๋ฐ์ ์ ์์ผ๋ฉฐ, ์ด ๊ฐ์ด๋์์ ํ์ค Android ๊ณต์ ํ๋ฆ์ ํตํฉ๋ ๋ ์ฑ ์ค ํ๋์ ๋๋ค.
- ์คํ๋ผ์ธ ์ ๋ขฐ์ฑ: ์ํธ. ๋ชจ๋ธ ๋ค์ด๋ก๋ ํ ์์ ํ ์คํ๋ผ์ธ. ๋ก์ปฌ ์๋ฒ ํ๋ก์ธ์ค๋ฅผ ์คํํ์ง ์๊ธฐ ๋๋ฌธ์ ๋ฐฑ๊ทธ๋ผ์ด๋ ์ข ๋ฃ์ ๋ ์ทจ์ฝํฉ๋๋ค(Ollama via Termux์ ๋ฌ๋ฆฌ).
- ์คํ ๋ฆฌ์ง: Layla๊ฐ ๋ชจ๋ธ ์คํ ๋ฆฌ์ง๋ฅผ ๋ด๋ถ์ ์ผ๋ก ๊ด๋ฆฌํฉ๋๋ค. ์๋ ํ์ผ ๊ด๋ฆฌ ๋ถํ์.
- ์ค์น ๊ฒฝ๋ก: Google Play Store.
๐กTip: Layla์ ๊ณต์ ํจ๋ ์ง์์ Android ์ํฌํ๋ก์ฐ์์ ๋ ํนํ๊ฒ ์ ์ฉํฉ๋๋ค: ๋ชจ๋ ์ฑ์์ ํ ์คํธ ๊ฐ์กฐ โ ๊ณต์ โ Layla โ ๋ด์ฉ์ ๋ํด ์ง๋ฌธ. ์ด ์ฌ์ฉ ์ฌ๋ก โ ์ฑ ์ ํ ์์ด ์ ์ํ ์ปจํ ์คํธ ๋ด AI ์ง์ โ ๋ Layla๊ฐ ์ด ๋ชฉ๋ก์ ๋ค๋ฅธ ๋ชจ๋ ์ฑ์ ๋ฅ๊ฐํ๋ ๋ถ๋ถ์ ๋๋ค.
Ollama via Termux
Ollama via Termux๋ Android์์ ๋๊ตฌ ์ฌ์ฉ, ํจ์ ํธ์ถ, ํ์ฌ Android ์ฑ์ ๋ก์ปฌ์์ ์คํ ์ค์ธ ๋ชจ๋ธ์ ์ฐ๊ฒฐํ๋ ๊ธฐ๋ฅ์ ํฌํจํ ์์ ํ OpenAI ํธํ ๋ก์ปฌ API๋ก ๊ฐ๋ ์ ์ผํ ๊ฒฝ๋ก์ ๋๋ค. ์ค์ ์ 20โ30๋ถ์ด ๊ฑธ๋ฆฌ๊ณ ํฐ๋ฏธ๋ ์ฌ์ฉ์ ์ต์ํด์ผ ํ์ง๋ง, ๊ฒฐ๊ณผ๋ Mac๊ณผ Linux ์ฌ์ฉ์๊ฐ ๋ฐ์คํฌํฑ์์ ์คํํ๋ ๊ฒ๊ณผ ๋์ผํ Ollama ์ํ๊ณ๋ฅผ ์ค๋งํธํฐ์์ ์ฌ์ฉํ๋ ๊ฒ์ ๋๋ค.
- ๋ชจ๋ธ ๋ผ์ด๋ธ๋ฌ๋ฆฌ: ๋ฌด์ ํ โ `ollama pull [๋ชจ๋ธ๋ช ]`์ ํตํด ์ ์ฒด Ollama ๋ชจ๋ธ ๋ผ์ด๋ธ๋ฌ๋ฆฌ ์ฌ์ฉ ๊ฐ๋ฅ. ์ด ๊ฐ์ด๋์ ์ฑ ์ค ๊ฐ์ฅ ๋์ ๋ชจ๋ธ ์ ๊ทผ.
- NPU ํ์ฉ: ํ์ค Ollama ARM64 ๋น๋์์ CPU ์ ์ฉ. 2026๋ 5์ ๊ธฐ์ค ํ์ค Termux ์ค์ ์์ GPU Vulkan ๋๋ Hexagon NPU ์ง์ ์์. ์ด๋ก ์ธํด Ollama๋ ์์ tok/s์์ ๊ฐ์ฅ ๋๋ฆฝ๋๋ค(S25 Ultra์์ Phi-4 Mini ๊ธฐ์ค ~10 tok/s).
- ๋๊ตฌ ์ฌ์ฉ ๋ฐ ํจ์ ํธ์ถ: ์ง์๋จ โ Android์ Ollama๋ ๋ฐ์คํฌํฑ๊ณผ ๋์ผํ ๋ฐฉ์์ผ๋ก ๋๊ตฌ ์ฌ์ฉ์ ์ฒ๋ฆฌํฉ๋๋ค. ๋๊ตฌ ์ฌ์ฉ ๊ฐ๋ฅ ํ๋ก ํธ์๋๋ฅผ localhost:11434์ ์ฐ๊ฒฐํ์ญ์์ค.
- Android ๊ณต์ ํจ๋: ์ง์ ์ง์๋์ง ์์ต๋๋ค. ํด๊ฒฐ์ฑ : Termux:Widget ๋จ์ถํค๋ฅผ ์ฌ์ฉํ์ฌ ํด๋ฆฝ๋ณด๋ ๋ด์ฉ์ `ollama run [๋ชจ๋ธ]`์ ๋ณด๋ด์ญ์์ค.
- ๋ฐฑ๊ทธ๋ผ์ด๋ ์ ๋ขฐ์ฑ: ๋ฐฐํฐ๋ฆฌ ์ต์ ํ ํ์ดํธ๋ฆฌ์คํธ ์์ด๋ Samsung๊ณผ OnePlus์์ ๋ฌธ์ ์์. Termux:Widget ๋จ์ถํค๋ฅผ
ollama serve์ฉ์ผ๋ก ๋ง๋ค๊ณ ์ต๊ทผ ์ฑ ํธ๋ ์ด์ Termux๋ฅผ ๊ณ ์ ํ์ญ์์ค. Samsung One UI๋ Termux์ ๋ํด "์ ์ ๋ชจ๋ ์ฑ"์ ๋ช ์์ ์ผ๋ก ๋นํ์ฑํํด์ผ ํฉ๋๋ค. - ์ค์น ๊ฒฝ๋ก: F-Droid์์ Termux, ๊ทธ ํ curl์ ํตํ Ollama ์ค์น ์คํฌ๋ฆฝํธ.
- 1F-Droid์์ Termux๋ฅผ ์ค์นํ์ญ์์ค(Play Store ๋ฒ์ ์๋ โ Play Store ๋น๋๋ ์ค๋๋์ด Ollama ์ค์น๋ฅผ ์ค๋จ์ํต๋๋ค).
- 2Termux์์:
pkg update && pkg install curl - 3Ollama ์ค์น:
curl -fsSL https://ollama.com/install.sh | shโ ์ด๊ฒ์ด Android ARM64 ํ๊ฒฝ์ ๊ฐ์งํ๊ณ ์ฌ๋ฐ๋ฅธ ๋ฐ์ด๋๋ฆฌ๋ฅผ ์ค์นํฉ๋๋ค. - 4๋ชจ๋ธ ๋ค์ด๋ก๋:
ollama pull qwen3:1.7b๋๋ollama pull phi4-mini. - 5์๋ฒ ์์:
ollama serve(Termux ์ธ์ ์์ ์คํ ์ ์ง ๋๋ ๋ฐฑ๊ทธ๋ผ์ด๋ ์์ ฏ ์ฌ์ฉ). - 6Termux๋ฅผ ํตํด ์ํธ์์ฉ:
ollama run phi4-miniโ ๋๋http://localhost:11434์์ OpenAI ํธํ ์๋ํฌ์ธํธ๋ฅผ ์ง์ํ๋ ๋ชจ๋ ์ฑ ์ฐ๊ฒฐ.
โ ๏ธWarning: ์ค๋งํธํฐ์ Ollama via Termux๋ ๋ฐ์คํฌํฑ์ Ollama๋ณด๋ค ํ์ ํ ๋๋ฆฝ๋๋ค โ S25 Ultra์์ Phi-4 Mini ๊ธฐ์ค ~10 tok/s ๋ RTX 4090์์ 60+ tok/s. ์ฑ๋ฅ์ด ์๋ ํธ์์ฑ(์คํ๋ผ์ธ ์ฃผ๋จธ๋ API, ๋ฐ์คํฌํฑ์์ ๋จ์ด์ง ๊ณณ์์์ ๋น ๋ฅธ ์ฟผ๋ฆฌ)์ ์ํด ์ฌ์ฉํ์ญ์์ค. ๋ชจ๋ฐ์ผ์์ ๋ํ ๋ชจ๋ธ ํ์ง์ ์ํ๋ค๋ฉด Chrome์ Open WebUI๋ฅผ ํตํด Ollama๋ฅผ ์คํํ๋ ํ ๋จธ์ ์ ์๊ฒฉ์ผ๋ก ์ฐ๊ฒฐํ๋ ๊ฒ์ด ์ฌ์ ํ ์ต์ ์ ๋๋ค.
๐กTip: Termux:Widget ํ๋ฌ๊ทธ์ธ์ ์ค์นํ๊ณ ollama serve๋ฅผ ์คํํ๋ ์ํฐ์น ๋จ์ถํค๋ฅผ ๋ง๋์ญ์์ค. ์ด๋ ๊ฒ ํ๋ฉด Termux๋ฅผ ์ด์ง ์๊ณ ๋ Android ํ ํ๋ฉด ์์ ฏ์์ Ollama ์๋ฒ๋ฅผ ์์ํ ์ ์์ต๋๋ค. ์๋น์ค๊ฐ ์์๋๋ฉด localhost:11434๋ฅผ ์ฌ์ฉํ๋๋ก ์ค์ ๋ ๋ชจ๋ ์ฑ์ด ์๋์ผ๋ก ์ฐ๊ฒฐ๋ฉ๋๋ค.
Private AI
Private AI๋ ํ๋ผ์ด๋ฒ์ ์ค์ฌ์ Android ๋ก์ปฌ LLM ์ฑ์ ๋๋ค โ ์ต์ ๊ถํ, ๋คํธ์ํฌ ์๊ฒฉ ์ธก์ ์์, ๊ฐ๋จํ ๋น๊ธฐ์ ์ ์ค์ ์ผ๋ก ๋ชจ๋ ์ถ๋ก ์ด ๊ธฐ๊ธฐ ๋ด์ ๋จ๊ธฐ๋ฅผ ์ํ๋ ์ฌ์ฉ์๋ฅผ ์ํด ์ค๊ณ๋์์ต๋๋ค. ์ด ๊ฐ์ด๋์ ์ด๋ค ์ฑ๋ณด๋ค ๋ ์ ์ ๊ถํ์ ์์ฒญํ๋ฉฐ, ์ด๊ธฐ ๋ชจ๋ธ ๋ค์ด๋ก๋ ํ ์ธ๋ถ ์๋ฒ์ ์ ๊ทผํ์ง ์์ต๋๋ค.
- ๋ชจ๋ธ ๋ผ์ด๋ธ๋ฌ๋ฆฌ: ํ๋ผ์ด๋ฒ์ ๊ฒํ ์์ ์ธํธ. ๋ค์ด๋ก๋๋ ๊ฒ์ฆ ๊ฐ๋ฅํ ์์ค์์ ์ด๋ฃจ์ด์ง๋๋ค. ์์ Hugging Face ์ ์ฅ์ ์ ๊ทผ ์์ โ ์ ์ฐ์ฑ์ ํต์ ๋๊ณ ๊ฐ์ฌ ๊ฐ๋ฅํ ๋ชจ๋ธ ๊ณต๊ธ๊ณผ ๊ตํํฉ๋๋ค.
- NPU ํ์ฉ: CPU ์ ์ฉ ๊ฒฝ๋ก. ๋ชจ๋ ์นฉ์ ์์ ์ผ๊ด์ ์ผ๋ก Phi-4 Mini ๊ธฐ์ค ~13 tok/s(S25 Ultra).
- ์ธํฐํ์ด์ค ํ์ง: ๊น๋ํ๊ณ ๋ฏธ๋๋ฉํจ. ๋ํ ๋ด๋ณด๋ด๊ธฐ์ ์ฌ์ฉ ์๊ฒฉ ์ธก์ ์์ด ์ฑํ ์ค์ฌ. ๊ณ ๊ธ ์ค์ ์ต์ ๋ถ์กฑ(์จ๋, top-p, ์์คํ ํ๋กฌํํธ) โ ์๋์ ์ผ๋ก ๋จ์ํ๋จ.
- Android ๊ณต์ ํจ๋: 2026๋ 5์ ๊ธฐ์ค ์ง์๋์ง ์์ต๋๋ค.
- ์คํ๋ผ์ธ ์ ๋ขฐ์ฑ: ์ต๊ณ ์์ค. ์์ ํ ์คํ๋ผ์ธ์ผ๋ก ์๋ํ๋๋ก ์ค๊ณ๋จ. ๋ฐฑ๊ทธ๋ผ์ด๋ ๋คํธ์ํฌ ํธ์ถ ์์, ๋๊ธฐํ ์์, ๋ถ์ ์์.
- ๊ถํ: ์ต์ โ ์คํ ๋ฆฌ์ง ๋ฐ ๋ง์ดํฌ(์์ฑ ์ ๋ ฅ, ์ ํ ์ฌํญ) ์ ๊ทผ ์์ฒญ. ์ฐ๋ฝ์ฒ, ์์น, ๊ด๊ณ ID ๋ฏธ์์ฒญ.
- ์ค์น ๊ฒฝ๋ก: Google Play Store.
๐กTip: ์ฌ์ฉ ์ฌ๋ก์ ๋ฏผ๊ฐํ ์ ๋ฌธ ํ ์คํธ(๋ฒ๋ฅ ์ด์, ์๋ฃ ๋ฉ๋ชจ, ๊ธฐ๋ฐ ๋น์ฆ๋์ค ์ฝํ ์ธ )๊ฐ ํฌํจ๋๋ค๋ฉด Private AI์ ์ต์ ๊ถํ๊ณผ ๊ฐ์ฌ ๊ฐ๋ฅํ ์๊ฒฉ ์ธก์ ์๋ ์ํคํ ์ฒ๊ฐ ์ค์ํฉ๋๋ค. ์ผ๋ฐ์ ์ธ ์์ฐ์ฑ ์ฌ์ฉ์ ๊ฒฝ์ฐ PocketPal AI๊ฐ ๋ ๋์ ์ ๋ฐ์ ์ ํ์ด์ง๋ง, Private AI์ ์ ๋ขฐ ๋ชจ๋ธ์ด ๋ ๊ฒฌ๊ณ ํฉ๋๋ค.
PocketPal AI
PocketPal AI๋ 2026๋ ๋๋ถ๋ถ์ ์ฌ์ฉ์์๊ฒ Android์ฉ ์ต๊ณ ์ ์ ๋ฐ์ ๋ก์ปฌ LLM ์ฑ์ ๋๋ค. ์ ์ฒด GGUF ๋ชจ๋ธ ์ํ๊ณ(Hugging Face์ ๋ชจ๋ ๋ชจ๋ธ), GPU Vulkan ๊ฐ์, 6๊ฐ ์ฑ ์ค ๊ฐ์ฅ ์ธ๋ จ๋ ๋ชจ๋ฐ์ผ ๋ค์ดํฐ๋ธ ์ธํฐํ์ด์ค, Android ๊ณต์ ํจ๋ ์ง์ ์ง์, ์ฌ๋ฐ๋ฅธ Android ์คํ ๋ฆฌ์ง ์ฒ๋ฆฌ๋ฅผ ๊ฒฐํฉํฉ๋๋ค โ ์ด ๊ฐ์ด๋์ ๋ค๋ฅธ ์ด๋ค ์ฑ๋ ์ด ์กฐํฉ์ ๊ฐ์ถ์ง ๋ชปํ์ต๋๋ค.
- ๋ชจ๋ธ ๋ผ์ด๋ธ๋ฌ๋ฆฌ: ์ ์ฒด GGUF ์ํ๊ณ โ ์ฑ ๋ด์์ ์ง์ Hugging Face์์ ํ์ ๋ฐ ๋ค์ด๋ก๋, ๋๋ ๋ก์ปฌ GGUF ํ์ผ ๊ฐ์ ธ์ค๊ธฐ. Maid์ ๋์ผํ ํญ์ ์ปค๋ฒํ๋ ์์ ๋ ๊ฒ์ ์ธํฐํ์ด์ค ์ถ๊ฐ.
- NPU ํ์ฉ: ์ง์ ๊ธฐ๊ธฐ์์ GPU Vulkan ๊ฒฝ๋ก. Snapdragon 8 Elite์์ Phi-4 Mini ๊ธฐ์ค ~16 tok/s ์ ๊ณต โ MLC Chat์ NPU ๊ฒฝ๋ก(~22 tok/s) ๋๋น ๋ค์ง์ง๋ง ๋์ผ ๊ธฐ๊ธฐ์ ๋ชจ๋ CPU ์ ์ฉ ์ฑ๋ณด๋ค ์์ญ๋๋ค.
- ์ธํฐํ์ด์ค ํ์ง: 6๊ฐ ์ฑ ์ค ์ต๊ณ ์ ๋ชจ๋ฐ์ผ ๋ค์ดํฐ๋ธ ์ธํฐํ์ด์ค. ์ ์ค์ฒ ํ์, ๋ํ ๊ด๋ฆฌ, ์์คํ ํ๋กฌํํธ ํธ์ง๊ธฐ, ๋ชจ๋ธ ๋ฒค์น๋งํน, ๋ชจ๋ธ๋ณ ์ค์ ํจ๋. React Native + llama.rn์ผ๋ก ๋น๋๋จ.
- Android ๊ณต์ ํจ๋: ์ง์๋จ โ PocketPal AI์ Layla๋ ์ด ๊ฐ์ด๋์์ Android ๊ณต์ ํจ๋์ ํตํฉ๋ ์ ์ผํ ๋ ์ฑ์ ๋๋ค. ๋ชจ๋ ์ฑ์์ ํ ์คํธ ์ ํ โ ๊ณต์ โ PocketPal AI.
- ์คํ๋ผ์ธ ์ ๋ขฐ์ฑ: ์ฐ์ํจ. ๋ฐฑ๊ทธ๋ผ์ด๋ ์๋ฒ ํ๋ก์ธ์ค ์์(Ollama via Termux์ ๋ฌ๋ฆฌ) โ ์ถ๋ก ์ด ํ๋ก์ธ์ค ๋ด์์ ์คํ๋์ด ์๋ฒ ๊ธฐ๋ฐ ์ ๊ทผ์ ๊ดด๋กญํ๋ Android ๋ฐฑ๊ทธ๋ผ์ด๋ ์ข ๋ฃ ๋ฌธ์ ๋ฅผ ํผํฉ๋๋ค.
- ์คํ ๋ฆฌ์ง: ๊ธฐ๋ณธ์ ์ผ๋ก ์ฑ ํ๋ผ์ด๋น ์คํ ๋ฆฌ์ง์ GGUF ํ์ผ ์ ์ฅ, ์ธ๋ถ ์คํ ๋ฆฌ์ง๋ฅผ ๊ฐ๋ฆฌํค๋ ์ต์ ์์. ๋ชจ๋ธ ํ์ผ์ Android ๊ณต์ ์คํ ๋ฆฌ์ง๋ก ์ด๋ํ๋ฉด Maid๋ก ์ด์ ๊ฐ๋ฅํฉ๋๋ค.
- ์ค์น ๊ฒฝ๋ก: Google Play Store. ์์ค ์ฝ๋: github.com/a-ghorbani/pocketpal-ai.
๐กTip: PocketPal AI์ ์ฑ ๋ด ๋ชจ๋ธ ๋ฒค์น๋งํน ๋๊ตฌ(์งง์ ํ๋กฌํํธ ์คํ ํ tok/s ์ธก์ )๋ ํน์ ์ค๋งํธํฐ์์ ๋ชจ๋ธ ํฌ๊ธฐ๋ฅผ ๋น๊ตํ๋ ๋ฐ ์ ์ฉํฉ๋๋ค. Phi-4 Mini, Qwen3 1.7B, Qwen3 4B์์ ์คํํ์ฌ ์ผ์ ์ฌ์ฉ์ ๋ชจ๋ธ์ ์ ํํ๊ธฐ ์ ์ ๊ธฐ๊ธฐ์ ์ค์ฉ์ ์ธ ์๋ ์ํ์ ์ ์ฐพ์ผ์ญ์์ค.
Android ํํธํ: ์คํ ๋ฆฌ์ง, RAM, ๋ฐฑ๊ทธ๋ผ์ด๋ ์ ํ
Android ํํธํ๋ ๋ก์ปฌ LLM ์ฑ์ ์ธ ๊ฐ์ง ์ค์ง์ ์ธ ๋ฌธ์ ๋ฅผ ๋ง๋ญ๋๋ค: ์คํ ๋ฆฌ์ง ํํฐ์ ์ถฉ๋, ๋ถ์ผ์นํ RAM ํ ๋น, ์ ์กฐ์ฌ์ ๊ณต๊ฒฉ์ ์ธ ๋ฐฑ๊ทธ๋ผ์ด๋ ์ข ๋ฃ ์ ์ฑ . ์ด ์ธ ๊ฐ์ง๋ Samsung, OnePlus, Pixel, ๋ค๋ฅธ Android ์ ์กฐ์ฌ ๊ธฐ๊ธฐ์์ iOS์์๋ ๋ฐ์ํ์ง ์๋ ๋ฐฉ์์ผ๋ก ๋ชจ๋ธ ์ ๋ขฐ์ฑ์ ์ํฅ์ ๋ฏธ์นฉ๋๋ค.
๐ฌ ์ฝ๊ฒ ๋งํ๋ฉด
Android ํํธํ๋ Pixel 9 Pro์์ ์๋ฒฝํ๊ฒ ์๋ํ๋ ๋ก์ปฌ LLM ์ฑ์ด Galaxy S25 Ultra์์ ์ถ๋ก ๋์ค ๋ฉ์ถ ์ ์์์ ์๋ฏธํฉ๋๋ค โ ์ฑ์ด๋ ๋ชจ๋ธ ๋๋ฌธ์ด ์๋๋ผ Samsung์ ๋ฐฑ๊ทธ๋ผ์ด๋ ์ข ๋ฃ ์ ์ฑ ์ด ๋ฐฐํฐ๋ฆฌ๋ฅผ ์ ์ฝํ๊ธฐ ์ํด ํ๋ก์ธ์ค๋ฅผ ์ข ๋ฃํ๊ธฐ ๋๋ฌธ์ ๋๋ค. ๊ฐ Android ์ ์กฐ์ฌ๋ ์ด๋ฌํ ์ ์ฑ ์ ๋ค๋ฅด๊ฒ ์ปค์คํฐ๋ง์ด์งํฉ๋๋ค โ Pixel์ AOSP ํ์ค์ ๋ ๊ฐ๊น๊ณ ; Samsung, OnePlus, Xiaomi๋ ๋ชจ๋ ๊ธฐ๋ณธ์ ์ผ๋ก ๋ ๊ณต๊ฒฉ์ ์ธ ๋ฐฑ๊ทธ๋ผ์ด๋ ์ข ๋ฃ๋ฅผ ํฉ๋๋ค.
- ์คํ ๋ฆฌ์ง ํํฐ์
: Android์
/data/user/0/(์ฑ ํ๋ผ์ด๋น ์คํ ๋ฆฌ์ง)์/sdcard/(๊ณต์ ์คํ ๋ฆฌ์ง)๋ ๋ณ๋์ ํํฐ์ ์ ๋๋ค. ๋๋ถ๋ถ์ ๋ก์ปฌ LLM ์ฑ์ ์ฑ ํ๋ผ์ด๋น ์คํ ๋ฆฌ์ง์ ๋ชจ๋ธ์ ์ ์ฅํ๋๋ฐ, ์ด๋ ๋ฃจํธ ์์ด ํ์ผ ๊ด๋ฆฌ์์์ ํ์ํ ์ ์์ต๋๋ค. Maid์ PocketPal AI ๊ฐ์ GGUF ํ์ผ์ ๊ณต์ ํ๋ ค๋ฉด ๋จผ์ ๊ณต์ ์์น๋ก ๋ณต์ฌํด์ผ ํฉ๋๋ค. - RAM ํ ๋น: Android๋ ํ์ฌ ์ฑ์ ๋ฉ๋ชจ๋ฆฌ ํ ๋น์ ๋ณด์ฅํ์ง ์์ต๋๋ค. ์์คํ ์ด RAM์ด ํ์ํ๋ฉด ์ถ๋ก ํ๋ก์ธ์ค๋ฅผ ํฌํจํ ๋ฐฑ๊ทธ๋ผ์ด๋ ํ๋ก์ธ์ค๋ฅผ ์ข ๋ฃํฉ๋๋ค. RAM 12 GB ๊ธฐ๊ธฐ(S25 Ultra ๊ธฐ๋ณธ๊ฐ)์์๋ ํ์ฑ ์ฌ์ฉ ์ค ๊ฑฐ์ ๋ฌธ์ ๊ฐ ์์ต๋๋ค. RAM 8 GB ์ค๋งํธํฐ์์๋ ์ถ๋ก ์ค ๋ค๋ฅธ ์ฑ์ ์คํํ๋ฉด ์ค๋จ๋ ์ ์์ต๋๋ค.
- Samsung One UI ๋ฐฑ๊ทธ๋ผ์ด๋ ์ข ๋ฃ: ์ฃผ์ Android ์ ์กฐ์ฌ ์ค ๊ฐ์ฅ ๊ณต๊ฒฉ์ ์ ๋๋ค. ์ค์ โ ๊ธฐ๊ธฐ ์ผ์ด โ ๋ฐฐํฐ๋ฆฌ โ ๋ฐฑ๊ทธ๋ผ์ด๋ ์ฌ์ฉ ์ ํ โ ์ ์ ๋ชจ๋ ์ฑ์ผ๋ก ์ด๋ํ์ฌ ์ด ๋ชฉ๋ก์ ๋ชจ๋ LLM ์ฑ์ ์๋์ผ๋ก ์ ๊ฑฐํ์ญ์์ค. ๋ํ ์ต๊ทผ ์ฑ ์์ด์ฝ์ ๋๋ฌ ์ฑ์ ๊ณ ์ ํ์ญ์์ค.
- OnePlus OxygenOS ๋ฐฑ๊ทธ๋ผ์ด๋ ์ข ๋ฃ: Samsung๊ณผ ์ ์ฌํฉ๋๋ค. ์ค์ โ ๋ฐฐํฐ๋ฆฌ โ ๋ฐฐํฐ๋ฆฌ ์ต์ ํ๋ก ์ด๋ํ์ฌ LLM ์ฑ์ ์ฐพ์ "์ต์ ํํ์ง ์์"์ผ๋ก ์ค์ ํ์ญ์์ค. ์ถ๊ฐ๋ก ์ต๊ทผ ์ฑ ๊ฐ์์์ ์ฑ์ ๊ณ ์ ํ์ญ์์ค.
- Pixel(AOSP์ ๊ฐ์ฅ ๊ฐ๊น์): ๋ฐฑ๊ทธ๋ผ์ด๋ ๋์์ด ๊ฐ์ฅ ์์ธก ๊ฐ๋ฅํฉ๋๋ค.
FOREGROUND_SERVICE๊ถํ์ ์์ฒญํ๋ ์ฑ(PocketPal AI์ Maid๊ฐ ํด๋น)์ Pixel์์ ํ์ฑ ์ถ๋ก ์ค ์์ ์ ์ผ๋ก ์คํ๋ฉ๋๋ค. ๋งค์ฐ ๊ธด ์ธ์ ์๋ ๋ฐฐํฐ๋ฆฌ ์ต์ ํ ์ ์ธ๋ฅผ ๊ถ์ฅํฉ๋๋ค. - Xiaomi MIUI/HyperOS: Samsung ๋ค์์ผ๋ก ๊ฐ์ฅ ๊ณต๊ฒฉ์ ์ธ ๋ฐฑ๊ทธ๋ผ์ด๋ ์ข ๋ฃ. "๋ฐฐํฐ๋ฆฌ ์ ์ฝ" ๊ธฐ๋ฅ์ด ์์ฑ ๋์ค ์ถ๋ก ์ ์ข ๋ฃํ ์ ์์ต๋๋ค. ์ค์ โ ์ฑ โ ์ฑ ๊ด๋ฆฌ โ [์ฑ] โ ๋ฐฐํฐ๋ฆฌ ์ ์ฝ โ ์ ํ ์์์ผ๋ก ์ด๋ํ์ญ์์ค.
โ ๏ธWarning: ์ด๋ค ๋ก์ปฌ LLM ์ฑ์ ๋ํด์๋ Android์ ๊ธฐ๋ณธ ๋ฐฑ๊ทธ๋ผ์ด๋ ๋์์ ์์กดํ์ง ๋ง์ญ์์ค. Samsung๊ณผ OnePlus ๊ธฐ๊ธฐ์์๋ ๊ธฐ๋ณธ ์ ์ฑ ์ด ๋ฐฐํฐ๋ฆฌ ์ต์ ํ ์ค์ ์์ ์ฑ์ ๋ช ์์ ์ผ๋ก ํ์ดํธ๋ฆฌ์คํธ์ ์ถ๊ฐํ์ง ์๋ ํ ๊ธด ์ถ๋ก ์ธ์ (2๋ถ ์ด์)์ ์ค๋จ์ํต๋๋ค. ์ด๊ฒ์ด ์ด ๊ฐ์ด๋์ ๋ชจ๋ ์ฑ์์ "์ฑ์ด ์๋ต ์ค๊ฐ์ ๋ฉ์ท์ต๋๋ค" ๋ณด๊ณ ์ ๊ฐ์ฅ ํฐ ์์ธ์ ๋๋ค.
์ฌ์ด๋๋ก๋ ๋ฐ Termux ๊ฒฝ๋ก: Android์ ์ด์
Android์ ์ฌ์ด๋๋ก๋ฉ ๋ฐ Termux ์ํ๊ณ๋ iOS์์ ์กด์ฌํ์ง ์๋ ๋ก์ปฌ AI ๋๊ตฌ์ Android ์ฌ์ฉ์๊ฐ ์ ๊ทผํ ์ ์๊ฒ ํฉ๋๋ค. ์ด๊ฒ์ด 2026๋ ๋ก์ปฌ AI ์ฌ์ฉ์์ Android์ iPhone ๊ฐ์ ๊ฐ์ฅ ๋๋๋ฌ์ง ์ค์ง์ ์ฐจ์ด์ ๋๋ค.
๐ ํ ๋ฌธ์ฅ์ผ๋ก
Ollama via Termux โ ์ค๋งํธํฐ์ ์์ ํ ๋ก์ปฌ LLM API ์๋ฒ โ ๋ 2026๋ Android ๋ ์ ๊ธฐ๋ฅ์ ๋๋ค: Apple์ iOS ์๋๋ฐ์ค๊ฐ iPhone์์ ๋๋ฑํ ์ค์ ์ ๋ฐฉ์งํ์ฌ, ๊ธฐ๊ธฐ ๋ด OpenAI ํธํ API๊ฐ ํ์ํ ์ฌ์ฉ์์๊ฒ Android๊ฐ ์ ์ผํ ๋ชจ๋ฐ์ผ ํ๋ซํผ์ด ๋ฉ๋๋ค.
- Termux: Android ์ฑ ๋ด์ Linux ํ๊ฒฝ. F-Droid๋ฅผ ํตํด ์ค์น(Play Store ์๋). bash, Python, curl ๋ฐ Ollama๋ฅผ ํฌํจํ ๊ฑฐ์ ๋ชจ๋ Linux ARM64 ๋ฐ์ด๋๋ฆฌ ์คํ ๊ฐ๋ฅ. Termux๋ iOS์์ ์ฌ์ฉ ๋ถ๊ฐ; ๋๋ฑํ ๊ฒ(iSH)์ ๋ก์ปฌ API๋ฅผ ์ ๊ณตํ๊ธฐ ์ํ ๋คํธ์ํน ๊ธฐ๋ฅ์ด ์์ต๋๋ค.
- F-Droid ์ฌ์ด๋๋ก๋ฉ: Google Play ์์ด ์ฑ ์ค์น โ Maid, Termux ๋ฐ ๊ธฐํ ์คํ์์ค ๋ก์ปฌ AI ๋๊ตฌ์ ์ ์ฉํฉ๋๋ค. F-Droid ํด๋ผ์ด์ธํธ APK๋ฅผ ๋ค์ด๋ก๋ํ๊ณ , Android ๋ณด์ ์ค์ ์์ "์ ์ ์๋ ์์ค์์ ์ฑ ์ค์น"๋ฅผ ํ์ฑํํ๊ณ , F-Droid๋ฅผ ์ค์นํ ํ Google ๊ณ์ ์์ด F-Droid์ ๋์ด๋ ๋ชจ๋ ์ฑ์ ์ค์นํ์ญ์์ค.
- ADB ์ฌ์ด๋๋ก๋ฉ: ๊ณ ๊ธ ์ฌ์ฉ์๋ Android Debug Bridge๋ฅผ ํตํด ์ง์ APK๋ฅผ ์ฌ์ด๋๋ก๋ํ ์ ์์ต๋๋ค(`adb install [app.apk]`). ์ด๋ฅผ ํตํด Play Store ๋ชฉ๋ก์ด ์ง์ญ์ ๋ฐ๋ผ ์ ํ๋๊ฑฐ๋ ์ ๊ฑฐ๋ ์ฑ์ ์ค์นํ ์ ์์ต๋๋ค.
- ์ปค์คํ ROM์ ์ด์ : LineageOS, GrapheneOS, CalyxOS ์ฌ์ฉ์๋ Google Play๋ฅผ ์์ ํ ๋นํ์ฑํํ๊ณ F-Droid + ADB๋ฅผ ์ ์ผํ ์ฑ ์ค์น ๊ฒฝ๋ก๋ก ์ฌ์ฉํ ์ ์์ต๋๋ค. Maid์ Termux๋ ์ด๋ฌํ ํ๋ซํผ์์ ์์ ํ ์๋ํฉ๋๋ค. iOS์๋ ๋๋ฑํ ๊ฒ์ด ์์ต๋๋ค.
- Termux๋ฅผ ํตํ llama.cpp ์๋ฒ ๋ชจ๋: Ollama ์ธ์๋ llama.cpp ์์ฒด๋ฅผ Termux๋ฅผ ํตํด ์ปดํ์ผํ๊ณ ์๋ฒ ๋ชจ๋๋ก ์คํํ ์ ์์ต๋๋ค โ Ollama์ ๋นํด ๋ ๋ฎ์ ๋ฉ๋ชจ๋ฆฌ ์ฌ์ฉ์ ์ ํธํ๋ ์ผ๋ถ ์ฌ์ฉ์๊ฐ ์ ํธํ๋ ๋์ฒด ๋ก์ปฌ API๋ฅผ ์ ๊ณตํฉ๋๋ค.
๐กTip: Termux + Ollama ์ค์ ์ ๋์ผํ ์ค๋งํธํฐ์ ๋ค๋ฅธ ์ฑ์ ์ํ ๋ก์ปฌ API ์๋ฒ๋ก๋ ์๋ํฉ๋๋ค. ์๋ฅผ ๋ค์ด Obsidian(Local REST API ํ๋ฌ๊ทธ์ธ)๊ณผ ๊ฐ์ ์ฑ์ด๋ Shortcuts ์ ์ฌ ์ปค์คํ
์๋ํ๋ ์ธํฐ๋ท ์์ด AI ์์
์ ์คํํ๊ธฐ ์ํด localhost:11434/api/generate๋ฅผ ์ฟผ๋ฆฌํ ์ ์์ต๋๋ค โ ์ง์ ์ผ๋ก ์ ์ฉํ ํ ํ๋ฉด ์๋ํ ํจํด์
๋๋ค.
ํํ ์ค์
Android์์ ๋ก์ปฌ LLM ์ฑ์ ๋๋ถ๋ถ์ ์คํจ๋ ํผํ ์ ์๋ ๋ค ๊ฐ์ง ์ค์์์ ๋น๋กฏ๋ฉ๋๋ค.
- Play Store์์ Termux ์ค์น. Play Store ๋ฒ์ ์ Termux๋ ์ค๋๋์์ต๋๋ค(Termux๋ 2020๋
์ ์
๋ฐ์ดํธ๋ฅผ ์ค๋จํ์ต๋๋ค). ํ์ฌ ์ ์ง ๊ด๋ฆฌ๋๋ ๋น๋๋ F-Droid์ ์์ต๋๋ค.
pkg install curl๊ณผ Ollama ์ค์น ์คํฌ๋ฆฝํธ๋ Play Store ๋ฒ์ ์ Termux์์ ์คํจํฉ๋๋ค. - Pixel ์ค๋งํธํฐ์์ NPU ์๋ ๊ธฐ๋. Google์ Tensor G5 NPU๋ ํ์ฌ ์ฑ์์ ์ ๊ทผ ๋ถ๊ฐํฉ๋๋ค. 6๊ฐ ์ฑ ๋ชจ๋ ๋ชจ๋ Pixel ๋ชจ๋ธ์์ CPU ์ ์ฉ์ผ๋ก ์คํ๋ฉ๋๋ค. MLC Chat์ NPU ์ด์ ์ Snapdragon 8 Elite์์๋ง ์ ์ฉ๋๋ฉฐ Pixel๋ก๋ ์ด์ ๋์ง ์์ต๋๋ค.
- Samsung์์ ๋ฐฐํฐ๋ฆฌ ์ต์ ํ ํ์ดํธ๋ฆฌ์คํธ ๊ฑด๋๋. Galaxy ์ค๋งํธํฐ์ ๋ฐฑ๊ทธ๋ผ์ด๋ ํ๋ก์ธ์ค๋ฅผ ๊ณต๊ฒฉ์ ์ผ๋ก ์ข ๋ฃํฉ๋๋ค. 90์ด ์ด์ ์ง์๋๋ ์์ฑ์ Termux๋ LLM ์ฑ์ด ๋ช ์์ ์ผ๋ก ํ์ดํธ๋ฆฌ์คํธ์ ์์ผ๋ฉด ๋ฐฑ๊ทธ๋ผ์ด๋ ์ข ๋ฃ ์ ์ฑ ์ ์ํด ์ค๋จ๋ ๊ฐ๋ฅ์ฑ์ด ๋์ต๋๋ค.
- ๊ธฐ๊ธฐ์ ๋นํด ๋๋ฌด ํฐ ๋ชจ๋ธ ๋ค์ด๋ก๋. 7B Q4_K_M ๋ชจ๋ธ(~4.7 GB)์ ~6 GB์ ์ฌ์ฉ ๊ฐ๋ฅ RAM์ด ํ์ํฉ๋๋ค. ์์คํ ์ค๋ฒํค๋๊ฐ ์๋ 12 GB ์ค๋งํธํฐ์์๋ ๋นก๋นกํฉ๋๋ค. 8 GB ์ค๋งํธํฐ์์๋ ์์ฑ ๋์ค OOM์ผ๋ก ์ฑ์ด ์ถฉ๋ํฉ๋๋ค. 8โ10 GB ๊ธฐ๊ธฐ์๋ Phi-4 Mini(3.8B, ~2.7 GB), ๊ทธ ์ดํ์๋ Qwen3 1.7B(~1.1 GB)๋ฅผ ์ฌ์ฉํ์ญ์์ค.
- ๋ค์ด๋ก๋ ํด๋์ ์คํ ๋ฆฌ์ง๊ฐ ์ ๊ทผ ๊ฐ๋ฅํ๋ค๊ณ ๊ฐ์ . ๋๋ถ๋ถ์ ๋ก์ปฌ LLM ์ฑ์ ์ฑ ํ๋ผ์ด๋น ์คํ ๋ฆฌ์ง(`/data/user/0/[์ฑํจํค์ง]/`)์ ๋ชจ๋ธ ํ์ผ์ ์ ์ฅํ๋๋ฐ, ์ด๋ ๋ฃจํธ ์์ด ํ์ผ ๊ด๋ฆฌ์์์ ํ์ํ ์ ์์ต๋๋ค. GGUF๋ฅผ ๋ค์ด๋ก๋ ํด๋์ ๋ค์ด๋ก๋ํ๊ณ ์ฑ์ด ์ฐพ์ ๊ฒ์ด๋ผ ๊ธฐ๋ํ๋ค๋ฉด ์ฐพ์ง ๋ชปํ ๊ฒ์ ๋๋ค โ ์ฑ์ ๋ด์ฅ ๊ฐ์ ธ์ค๊ธฐ ๊ธฐ๋ฅ์ ์ฌ์ฉํ๊ฑฐ๋ ์ค์ ์์ ์ฌ๋ฐ๋ฅธ ๊ฒฝ๋ก๋ฅผ ๊ฐ๋ฆฌํค์ญ์์ค.
- ๋ ์ถ๋ก ์ฑ์ ๋์์ ์คํ. ๊ฐ ์ฑ์ ๋ชจ๋ธ์ RAM์ ๋ก๋ํฉ๋๋ค. 12 GB ์ค๋งํธํฐ์์ ๋ ๊ฐ์ 3B ๋ชจ๋ธ์ ์ด์ ์ฒด์ ์ ~5 GB๋ฅผ ๋จ๊ฒจ ์ข ๋ฃ๋ฅผ ์ ๋ฐํฉ๋๋ค. MLC Chat๊ณผ PocketPal AI๋ฅผ ๋ชจ๋ ์ฌ์ฉํ๋ค๋ฉด ๋ค๋ฅธ ์ฑ์ ์ด๊ธฐ ์ ์ ํ๋๋ฅผ ๋ซ์ผ์ญ์์ค.
์ถ์ฒ
- MLC Chat GitHub ๋ฐ ๋ฌธ์ โ github.com/mlc-ai/mlc-llm
- Maid GitHub (Mobile Artificial Intelligence) โ github.com/Mobile-Artificial-Intelligence/maid
- PocketPal AI GitHub โ github.com/a-ghorbani/pocketpal-ai
- Ollama ๊ณต์ ๋ฌธ์ โ ollama.com
- Termux ๊ณต์ ๋ฌธ์ โ wiki.termux.com
- Snapdragon 8 Elite Hexagon NPU ๊ธฐ์ ๋ฌธ์ โ Qualcomm Developer Network
- MediaTek Dimensity 9400 APU ์ฌ์ โ MediaTek ์ ํ ํ์ด์ง
- Google Tensor G5 ์นฉ ๊ฐ์ โ Google ํ๋์จ์ด ๋ฌธ์
- Android ๋ฐฐํฐ๋ฆฌ ์ต์ ํ ๋ฐ ๋ฐฑ๊ทธ๋ผ์ด๋ ํ๋ก์ธ์ค ์ ํ โ Android ๊ฐ๋ฐ์ ๋ฌธ์
FAQ
Pixel 9 Pro์์ 7B ๋ชจ๋ธ์ ์คํํ ์ ์์ต๋๊น?
์, Pixel 9 Pro์๋ 16 GB RAM์ด ์์ต๋๋ค โ 7B Q4_K_M ๋ชจ๋ธ(~4.7 GB ๋ชจ๋ธ ๊ฐ์ค์น)์ ์์คํ RAM์ด ๋จ์ ์ํ๋ก ์คํํ๊ธฐ์ ์ถฉ๋ถํฉ๋๋ค. ํด๋น ํฌ๊ธฐ์์ ์๋๋ ~8โ10 tok/s์ ๋๋ค(Tensor G5์์ CPU ์ ์ฉ). ์ด ์ฌ์ฉ ์ฌ๋ก์๋ PocketPal AI๋ Maid๋ฅผ 7B GGUF์ ํจ๊ป ์ฌ์ฉํ์ญ์์ค. Pixel 9 Pro์์ ์ค์๊ฐ ๋ํ ์๋๋ฅผ ์ํ๋ค๋ฉด Phi-4 Mini(3.8B, ~14 tok/s)๋ฅผ ๊ณ ์ํ์ญ์์ค.
์ด ์ฑ๋ค์ด Snapdragon NPU๋ฅผ ์ฌ์ฉํฉ๋๊น?
MLC Chat๋ง Snapdragon NPU๋ฅผ ์ฌ์ฉํ๋ฉฐ, Snapdragon 8 Elite ๊ธฐ๊ธฐ(Galaxy S25 ์๋ฆฌ์ฆ, OnePlus 13)์์๋ง Hexagon NPU๋ฅผ ์ฌ์ฉํฉ๋๋ค. ๋ค๋ฅธ 5๊ฐ ์ฑ์ CPU ๋๋ GPU Vulkan์ ์ฌ์ฉํฉ๋๋ค. Hexagon NPU๋ ๋์ผ ๊ธฐ๊ธฐ์ CPU ๊ฒฝ๋ก ๋๋น MLC Chat์์ 2โ3๋ฐฐ ๋น ๋ฅธ ์ถ๋ก ์ ์ ๊ณตํฉ๋๋ค.
Samsung Galaxy S22์์ ๋ก์ปฌ AI๋ฅผ ์คํํ ์ ์์ต๋๊น?
์, 8 GB RAM ๋ณํ์์ ๊ฐ๋ฅํฉ๋๋ค. Galaxy S22๋ Snapdragon 8 Gen 1(๋๋ ์ผ๋ถ ์ง์ญ์์ Exynos 2200)์ ์คํํฉ๋๋ค. PocketPal AI์ Maid๋ Qwen3 1.7B ๋๋ SmolLM2 1.7B์ ํจ๊ป ~8โ12 tok/s๋ก ์๋ํฉ๋๋ค. Phi-4 Mini(3.8B)๋ 8 GB RAM์์ ๊ฐ๋ฅํ์ง๋ง ๋นก๋นกํฉ๋๋ค โ ๋จผ์ ๋ค๋ฅธ ๋ชจ๋ ์ฑ์ ๋ซ์ผ์ญ์์ค. MLC Chat์ NPU ๊ฒฝ๋ก๋ Snapdragon 8 Gen 1์์ ๊ฒ์ฆ๋์ง ์์์ต๋๋ค.
๋ก์ปฌ AI๋ฅผ ์ํด ์ค๋งํธํฐ์ ๋ฃจํ ํด์ผ ํฉ๋๊น?
์๋์ค. ์ด ๊ฐ์ด๋์ 6๊ฐ ์ฑ์ ๋ชจ๋ ๋ฃจํ ๋์ง ์์ Android ์ค๋งํธํฐ์์ ์๋ํฉ๋๋ค. Termux๋ F-Droid APK์ ๋ํด "์ ์ ์๋ ์์ค์์ ์ฑ ์ค์น"๋ฅผ ํ์ฑํํด์ผ ํ์ง๋ง ์ด๋ ๋ฃจํ ์ด ์๋๋๋ค. ๋ฃจํ ์ ํ์ผ ๊ด๋ฆฌ์์์ ์ฑ์ ํ๋ผ์ด๋น ์คํ ๋ฆฌ์ง ๋๋ ํ ๋ฆฌ์ ์ ๊ทผํ๋ ๋ฐ๋ง ๊ด๋ จ ์์ต๋๋ค โ ์ถ๋ก ์๋ ํ์ํ์ง ์์ต๋๋ค.
์ด ์ฑ๋ค์ Termux์ ํจ๊ป ์ฌ์ฉํ ์ ์์ต๋๊น?
Ollama via Termux๋ ์์ฒด ์์ ํ ์ค์ ์ ๋๋ค โ Termux ๋ด์ Ollama๋ฅผ ์ค์นํ๊ณ Termux ํฐ๋ฏธ๋์ ํตํด ์ํธ์์ฉํฉ๋๋ค. ๋ค๋ฅธ 5๊ฐ ์ฑ(MLC Chat, Maid, Layla, Private AI, PocketPal AI)์ Termux์ ์ํธ์์ฉํ์ง ์๋ ๋ ๋ฆฝ Android ์ฑ์ ๋๋ค. ๊ณ ๊ธ ์ฌ์ฉ์๋ ๋ ๋ค ์คํํฉ๋๋ค: API ์ ๊ทผ์ ์ํ Termux์ Ollama์ ์ธ๋ จ๋ ์ฑํ ์ธํฐํ์ด์ค๋ฅผ ์ํ PocketPal AI.
Android ๋ฐฑ๊ทธ๋ผ์ด๋ ์ ํ์ ์ด๋ป๊ฒ ์ฒ๋ฆฌํฉ๋๊น?
๋ฐฑ๊ทธ๋ผ์ด๋ ์ ํ์ Android ๋ก์ปฌ LLM ์ฑ์ ๊ฐ์ฅ ํฐ ์ ๋ขฐ์ฑ ๋ฌธ์ ์ ๋๋ค. PocketPal AI์ Maid๋ FOREGROUND_SERVICE ๊ถํ์ ์์ฒญํ์ฌ ๋ฐฑ๊ทธ๋ผ์ด๋ ์ข ๋ฃ์ ๋ ๊ฐํฉ๋๋ค. Ollama via Termux๋ ๋ฐฐํฐ๋ฆฌ ์ต์ ํ ์ค์ ์์ Termux๊ฐ ๋ช ์์ ์ผ๋ก ํ์ดํธ๋ฆฌ์คํธ์ ์์ผ๋ฉด Samsung๊ณผ OnePlus์ ๋ฐฑ๊ทธ๋ผ์ด๋ ์ข ๋ฃ ์ ์ฑ ์ ์ทจ์ฝํฉ๋๋ค. Pixel์์ ๋ฐฑ๊ทธ๋ผ์ด๋ ๋์์ด ๋ ์์ธก ๊ฐ๋ฅํฉ๋๋ค. Samsung One UI์์๋ ๊ธฐ๊ธฐ ์ผ์ด โ ๋ฐฐํฐ๋ฆฌ โ ์ ์ ๋ชจ๋ ์ฑ์์ ๋ชจ๋ LLM ์ฑ์ ์๋์ผ๋ก ํ์ดํธ๋ฆฌ์คํธ์ ์ถ๊ฐํ์ญ์์ค.
๋ก์ปฌ AI ์ถ๋ ฅ์ ๋ค๋ฅธ ์ฑ๊ณผ ๊ณต์ ํ ์ ์์ต๋๊น?
์, ์ด๋ค ์ฑ์์๋ ๊ฐ๋ฅํฉ๋๋ค โ AI ์๋ต์ ๋ณต์ฌํ๊ณ ์ด๋๋ ๋ถ์ฌ๋ฃ์ผ์ญ์์ค. ๋ฐ๋ ๋ฐฉํฅ(๋ค๋ฅธ ์ฑ์์ AI๋ก ํ ์คํธ ์ ์ก)์ ๊ฒฝ์ฐ, 2026๋ 5์ ๊ธฐ์ค PocketPal AI์ Layla๋ง Android ๊ณต์ ํจ๋์ ํ์๋ฉ๋๋ค.
์ด ์ฑ๋ค์ด Android Auto๋ฅผ ์ง์ํฉ๋๊น?
์๋์ค. 2026๋ 5์ ๊ธฐ์ค 6๊ฐ ์ฑ ์ค ์ด๋ ๊ฒ๋ Android Auto๋ฅผ ์ง์ํ์ง ์์ต๋๋ค. Android Auto๋ ์ด์ ์ค ์คํํ ์ ์๋ ์ฑ์ ์ ํํ๋ฉฐ, ๋ก์ปฌ LLM ์ฑ๋ค์ ์ธ์ฆ์ ํ์ํ Auto ํธํ ์ธํฐํ์ด์ค๋ฅผ ๊ตฌ์ถํ์ง ์์์ต๋๋ค.
์ด๋ค ์ฑ์ด ๋ชจ๋ธ ์คํ ๋ฆฌ์ง๋ฅผ ๊ฐ์ฅ ์ ์ฒ๋ฆฌํฉ๋๊น?
PocketPal AI๊ฐ ๋ชจ๋ธ ์คํ ๋ฆฌ์ง๋ฅผ ๊ฐ์ฅ ์ฐ์ํ๊ฒ ์ฒ๋ฆฌํฉ๋๋ค โ ์ฑ ๋ด ๋ค์ด๋ก๋๋ฅผ ์ํด Hugging Face์ ์ง์ ํตํฉํ๊ณ , Android ์คํ ๋ฆฌ์ง ํํฐ์ ๋ถํ ์ ์ฌ๋ฐ๋ฅด๊ฒ ์ฒ๋ฆฌํ๋ฉฐ, ๋ชจ๋ธ ๊ด๋ฆฌ ์ธํฐํ์ด์ค๋ฅผ ์ ๊ณตํฉ๋๋ค. Maid๋ ํ์ผ ์์คํ ์ ํตํด GGUF ํ์ผ์ ์๋์ผ๋ก ๊ด๋ฆฌํ๊ณ ์ ํ๋ ์ฌ์ฉ์์๊ฒ ์ต์ ์ ๋๋ค. MLC Chat์ ๋ค๋ฅธ ์ฑ์ผ๋ก ์ด์ ๋ถ๊ฐ๋ฅํ ๋ ์ ์ปดํ์ผ๋ ๋ชจ๋ธ ํ์์ ์ฌ์ฉํฉ๋๋ค.
์ฌ๋ฌ ๋ชจ๋ธ์ ๋์์ ์คํํ ์ ์์ต๋๊น?
๋ ๋ชจ๋ธ๊ณผ Android ์ด์ ์ฒด์ ์ค๋ฒํค๋๋ฅผ ์ํ ์ถฉ๋ถํ RAM์ด ๊ธฐ๊ธฐ์ ์๋ ๊ฒฝ์ฐ์๋ง ๊ฐ๋ฅํฉ๋๋ค. Pixel 9 Pro(16 GB)์์: ๋ ๊ฐ์ Phi-4 Mini ๋ชจ๋ธ(๊ฐ 2.7 GB)์ ์ด์ ์ฒด์ ์ ~10 GB๋ฅผ ๋จ๊ฒจ์ค๋๋ค โ ๊ธฐ์ ์ ์ผ๋ก ๊ฐ๋ฅํ์ง๋ง ๋งค์ฐ ๋นก๋นกํฉ๋๋ค. ์ค์ ๋ก๋ ๋ค๋ฅธ ์ฑ์ ์ด๊ธฐ ์ ์ ํ ์ฑ์ ๋ซ์ผ์ญ์์ค. Ollama via Termux๋ ๋จ์ผ ollama serve ํ๋ก์ธ์ค๋ก ๋ชจ๋ธ ์ ํ์ ์ง์ํ๋ฉฐ, ํ ๋ฒ์ ํ๋์ ๋ชจ๋ธ์ ๋ก๋ํฉ๋๋ค.