Skip to main content
PromptQuorumPromptQuorum
ํ™ˆ/๊ณ ๊ธ‰ ๋กœ์ปฌ LLM/2026๋…„ Android์šฉ ์ตœ๊ณ ์˜ ๋กœ์ปฌ LLM ์•ฑ: ์‹ค์ œ ์Šค๋งˆํŠธํฐ์œผ๋กœ ๋น„๊ตํ•œ 6๊ฐ€์ง€ ์•ฑ
Mobile & Edge LLMs

2026๋…„ Android์šฉ ์ตœ๊ณ ์˜ ๋กœ์ปฌ LLM ์•ฑ: ์‹ค์ œ ์Šค๋งˆํŠธํฐ์œผ๋กœ ๋น„๊ตํ•œ 6๊ฐ€์ง€ ์•ฑ

ยท14๋ถ„ ๋ถ„๋Ÿ‰ยทHans Kuepper ์ € ยท PromptQuorum ์ฐฝ๋ฆฝ์ž, ๋ฉ€ํ‹ฐ ๋ชจ๋ธ AI ๋””์ŠคํŒจ์น˜ ๋„๊ตฌ ยท PromptQuorum

MLC Chat์€ 2026๋…„ Android์—์„œ ๊ฐ€์žฅ ๋น ๋ฅธ ๋กœ์ปฌ LLM ์•ฑ์ž…๋‹ˆ๋‹ค โ€” Galaxy S25 Ultra์™€ OnePlus 13์—์„œ Snapdragon์˜ Hexagon NPU๋ฅผ ํ™œ์šฉํ•ด Qwen3 1.7B ๊ธฐ์ค€ ~40 tokens/s๋ฅผ ๋‹ฌ์„ฑํ•˜๋ฉฐ, ๋™์ผ ๊ธฐ๊ธฐ์—์„œ CPU ์ „์šฉ ์•ฑ์˜ 8โ€“12 tokens/s๋ฅผ ํฌ๊ฒŒ ์•ž์„ญ๋‹ˆ๋‹ค. PocketPal AI๋Š” ๋Œ€๋ถ€๋ถ„์˜ ์‚ฌ์šฉ์ž์—๊ฒŒ ์ตœ๊ณ ์˜ ๊ท ํ˜• ์žกํžŒ ์„ ํƒ์ž…๋‹ˆ๋‹ค: ๋ชจ๋“  GGUF ๋ชจ๋ธ ์ง€์›, ์„ธ๋ จ๋œ ๋„ค์ดํ‹ฐ๋ธŒ ์ธํ„ฐํŽ˜์ด์Šค, Android ์Šคํ† ๋ฆฌ์ง€ ์˜ฌ๋ฐ”๋ฅธ ์ฒ˜๋ฆฌ๋ฅผ ๊ฐ–์ถ”๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. Ollama via Termux๋Š” ๊ณ ๊ธ‰ ์‚ฌ์šฉ์ž๋ฅผ ์œ„ํ•œ ๊ฒฝ๋กœ์ž…๋‹ˆ๋‹ค โ€” ์ „์ฒด Ollama ์ƒํƒœ๊ณ„(๋ชจ๋“  ๋ชจ๋ธ, OpenAI ํ˜ธํ™˜ API, ๋„๊ตฌ ์‚ฌ์šฉ)๋ฅผ ์Šค๋งˆํŠธํฐ์—์„œ ์ด์šฉํ•  ์ˆ˜ ์žˆ์œผ๋ฉฐ, ํ„ฐ๋ฏธ๋„ ์„ค์ •์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค. Maid๋Š” ์ˆœ์ˆ˜ ์˜คํ”ˆ์†Œ์Šค ์„ ํƒ์ง€์ž…๋‹ˆ๋‹ค: F-Droid ๋ฐฐํฌ, Play Store ์˜์กด ์—†์Œ, ํŒŒ์ผ ๊ด€๋ฆฌ์ž์—์„œ ์ง์ ‘ GGUF ๊ฐ€์ ธ์˜ค๊ธฐ. Layla๋Š” ์ดˆ๋ณด์ž ์นœํ™”์ ์ธ ์•ฑ์œผ๋กœ ์—„์„ ๋œ ๋ชจ๋ธ ๋‹ค์šด๋กœ๋“œ๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. Private AI๋Š” ๊ฐ„๋‹จํ•œ ๋น„๊ธฐ์ˆ ์  ์„ค์ •์œผ๋กœ ์™„์ „ํ•œ ํ”„๋ผ์ด๋ฒ„์‹œ๋ฅผ ์ค‘์‹œํ•ฉ๋‹ˆ๋‹ค. Android ์‚ฌ์šฉ์ž๋Š” iPhone๋ณด๋‹ค ๊ฒฐ์ •์ ์ธ ์ด์ ์„ ๊ฐ€์ง‘๋‹ˆ๋‹ค: ์‚ฌ์ด๋“œ๋กœ๋”ฉ, Termux, F-Droid ์„ค์น˜ ๊ธฐ๋Šฅ์ด iOS์—์„œ๋Š” ๋ถˆ๊ฐ€๋Šฅํ•œ ๋„๊ตฌ๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.

2026๋…„์— 6๊ฐ€์ง€ Android ์•ฑ์ด ์ธํ„ฐ๋„ท ์—ฐ๊ฒฐ ์—†์ด ๋Œ€ํ˜• ์–ธ์–ด ๋ชจ๋ธ์„ ์™„์ „ํžˆ ์˜คํ”„๋ผ์ธ์œผ๋กœ ์‹คํ–‰ํ•ฉ๋‹ˆ๋‹ค: MLC Chat, Maid, Layla, Ollama via Termux, Private AI, PocketPal AI. ๊ฐ ์•ฑ์€ NPU ํ™œ์šฉ ๋ฐฉ์‹, ๋ชจ๋ธ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ์˜ ํญ, Android ํ†ตํ•ฉ ์ˆ˜์ค€์—์„œ ์ฐจ์ด๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค โ€” ์ตœ์ ์˜ ์„ ํƒ์€ ์†๋„(MLC Chat์˜ Hexagon NPU), ์ตœ๋Œ€ ๋ชจ๋ธ ์œ ์—ฐ์„ฑ(Ollama via Termux), ๋˜๋Š” ์„ธ๋ จ๋œ ๋„ค์ดํ‹ฐ๋ธŒ ์ธํ„ฐํŽ˜์ด์Šค(Layla ๋˜๋Š” PocketPal AI) ์ค‘ ๋ฌด์—‡์„ ์›ํ•˜๋А๋ƒ์— ๋‹ฌ๋ ค ์žˆ์Šต๋‹ˆ๋‹ค. ์ด ๊ฐ€์ด๋“œ๋Š” Samsung Galaxy S25 Ultra(Snapdragon 8 Elite), Pixel 9 Pro(Tensor G5), OnePlus 13(Snapdragon 8 Elite)์—์„œ ์—ฌ์„ฏ ์•ฑ์„ ๋น„๊ตํ•˜๋ฉฐ, Snapdragon Hexagon NPU vs MediaTek APU vs Tensor G5์˜ ์ถ”๋ก  ์„ฑ๋Šฅ, Android ํŒŒํŽธํ™”์˜ ํ˜„์‹ค, ๊ฐ ์•ฑ์˜ ์Šคํ† ๋ฆฌ์ง€ยท๋ฐฑ๊ทธ๋ผ์šด๋“œ ์ œํ•œยทAndroid ๊ณต์œ  ํŒจ๋„ ์ฒ˜๋ฆฌ ๋ฐฉ์‹์„ ๋‹ค๋ฃน๋‹ˆ๋‹ค.

์Šฌ๋ผ์ด๋“œ ๋ฑ: 2026๋…„ Android์šฉ ์ตœ๊ณ ์˜ ๋กœ์ปฌ LLM ์•ฑ: ์‹ค์ œ ์Šค๋งˆํŠธํฐ์œผ๋กœ ๋น„๊ตํ•œ 6๊ฐ€์ง€ ์•ฑ

์ด ํ”„๋ ˆ์  ํ…Œ์ด์…˜์€ ๋‹ค์Œ์„ ๋‹ค๋ฃน๋‹ˆ๋‹ค: 3๋Œ€์˜ ์‹ค์ œ ์Šค๋งˆํŠธํฐ(Galaxy S25 Ultra, Pixel 9 Pro, OnePlus 13)์—์„œ ๋น„๊ตํ•œ Android์šฉ ๋กœ์ปฌ LLM ์•ฑ 6์ข…, ์†๋„ ํ‘œ(MLC Chat ~40 tok/s with Snapdragon Hexagon NPU, PocketPal AI ~16 tok/s), ์นฉ์…‹ ๋น„๊ต(Snapdragon 8 Elite vs Tensor G5 vs MediaTek Dimensity 9400), ์‚ฌ์šฉ ์‚ฌ๋ก€๋ณ„ ์•ฑ ์„ ํƒ ๊ฐ€์ด๋“œ, Android ๋ฐฑ๊ทธ๋ผ์šด๋“œ ์ œํ•œ ํ•ด๊ฒฐ์ฑ…, ํ”ผํ•ด์•ผ ํ•  6๊ฐ€์ง€ ํ”ํ•œ ์‹ค์ˆ˜. PDF๋ฅผ Android ๋กœ์ปฌ AI ์ฐธ์กฐ ์นด๋“œ๋กœ ๋‹ค์šด๋กœ๋“œํ•˜์‹ญ์‹œ์˜ค.

์•„๋ž˜ ์Šฌ๋ผ์ด๋“œ๋ฅผ ํƒ์ƒ‰ํ•˜๊ฑฐ๋‚˜ ์˜คํ”„๋ผ์ธ ์ฐธ์กฐ์šฉ์œผ๋กœ PDF๋ฅผ ๋‹ค์šด๋กœ๋“œํ•˜์‹ญ์‹œ์˜ค. ์ฐธ์กฐ ์นด๋“œ ๋‹ค์šด๋กœ๋“œ(PDF)

ํ•ต์‹ฌ ์š”์ 

  • MLC Chat์€ Snapdragon 8 Elite์—์„œ ์†๋„ ์šฐ์œ„๋ฅผ ๊ฐ€์ง‘๋‹ˆ๋‹ค. Hexagon NPU๋Š” Galaxy S25 Ultra์—์„œ Qwen3 1.7B ๊ธฐ์ค€ ~40 tok/s, Phi-4 Mini ๊ธฐ์ค€ ~22 tok/s๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค โ€” ๋™์ผ ํ•˜๋“œ์›จ์–ด์—์„œ CPU ์ „์šฉ ์•ฑ๋ณด๋‹ค 3โ€“4๋ฐฐ ๋น ๋ฆ…๋‹ˆ๋‹ค.
  • PocketPal AI๋Š” ๋Œ€๋ถ€๋ถ„์˜ Android ์‚ฌ์šฉ์ž์—๊ฒŒ ์ตœ๊ณ ์˜ ์ „๋ฐ˜์  ์„ ํƒ์ž…๋‹ˆ๋‹ค. ์ „์ฒด GGUF ์ƒํƒœ๊ณ„๋ฅผ ์ง€์›ํ•˜๊ณ , ๋ชจ๋ธ ๋‹ค์šด๋กœ๋“œ๋ฅผ ์œ„ํ•œ Hugging Face ํ†ตํ•ฉ, Android ์Šคํ† ๋ฆฌ์ง€ ์˜ฌ๋ฐ”๋ฅธ ์ฒ˜๋ฆฌ, 6๊ฐœ ์•ฑ ์ค‘ ๊ฐ€์žฅ ์„ธ๋ จ๋œ ๋ชจ๋ฐ”์ผ ๋„ค์ดํ‹ฐ๋ธŒ ์ธํ„ฐํŽ˜์ด์Šค๋ฅผ ๊ฐ–์ถ”๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค.
  • Ollama via Termux๋Š” Android์—์„œ ์™„์ „ํ•œ OpenAI ํ˜ธํ™˜ ๋กœ์ปฌ API๋กœ ๊ฐ€๋Š” ์œ ์ผํ•œ ๊ฒฝ๋กœ์ž…๋‹ˆ๋‹ค. ์ด๋Š” ๋„๊ตฌ ์‚ฌ์šฉ, ํ•จ์ˆ˜ ํ˜ธ์ถœ, ๋˜๋Š” ๋กœ์ปฌ ์•ฑ์„ ์Šค๋งˆํŠธํฐ ๋ชจ๋ธ์— ์—ฐ๊ฒฐํ•˜๋ ค๋Š” ๊ณ ๊ธ‰ ์‚ฌ์šฉ์ž์—๊ฒŒ ์ค‘์š”ํ•ฉ๋‹ˆ๋‹ค.
  • Tensor G5(Pixel 9 Pro)๋Š” ํƒ€์‚ฌ ์•ฑ์— NPU๋ฅผ ๋…ธ์ถœํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. 6๊ฐœ ์•ฑ ๋ชจ๋‘ Pixel 9 Pro์—์„œ CPU ์ „์šฉ์œผ๋กœ ์‹คํ–‰๋˜๋ฉฐ Phi-4 Mini ๊ธฐ์ค€ 10โ€“18 tok/s๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค โ€” Snapdragon 8 Elite ๊ธฐ๊ธฐ์˜ ๋™๋“ฑํ•œ ๊ฒฐ๊ณผ๋ณด๋‹ค ๋А๋ฆฝ๋‹ˆ๋‹ค.
  • Maid๋Š” F-Droid / Google ์—†๋Š” ์„ ํƒ์ž…๋‹ˆ๋‹ค. Play Store ์˜์กด ์—†์Œ, Google ๊ณ„์ • ๋ถˆํ•„์š”, ํŒŒ์ผ ๊ด€๋ฆฌ์ž์—์„œ ์ง์ ‘ GGUF ๊ฐ€์ ธ์˜ค๊ธฐ. Google ์„œ๋น„์Šค๋ฅผ ํ”ผํ•˜๋Š” Android ์‚ฌ์šฉ์ž์—๊ฒŒ ์ตœ์ ์ž…๋‹ˆ๋‹ค.
  • Android ๋ฐฑ๊ทธ๋ผ์šด๋“œ ์ œํ•œ์ด ๊ฐ€์žฅ ํฐ ์‚ฌ์šฉ์„ฑ ๋ฌธ์ œ์ž…๋‹ˆ๋‹ค. Android๋Š” ๋Œ€๋ถ€๋ถ„์˜ ์ œ์กฐ์‚ฌ ROM(ํŠนํžˆ Samsung, OnePlus, Xiaomi)์—์„œ ๋ฐฑ๊ทธ๋ผ์šด๋“œ ํ”„๋กœ์„ธ์Šค๋ฅผ ์ ๊ทน์ ์œผ๋กœ ์ข…๋ฃŒํ•ฉ๋‹ˆ๋‹ค. ํ™œ์„ฑ ์ถ”๋ก ์„ ์ˆ˜ํ–‰ํ•˜๋Š” ์•ฑ์€ ์ตœ๊ทผ ์•ฑ ํŠธ๋ ˆ์ด์— ๊ณ ์ •ํ•˜๊ฑฐ๋‚˜ ๋ฐฐํ„ฐ๋ฆฌ ์ตœ์ ํ™” ์„ค์ •์—์„œ ์˜ˆ์™ธ๋กœ ์„ค์ •ํ•ด์•ผ ์ƒ์„ฑ ์ค‘ ์ค‘๋‹จ์„ ํ”ผํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
  • ๋ชจ๋ธ ์Šคํ† ๋ฆฌ์ง€๊ฐ€ Android์˜ ๋‘ ๋ฒˆ์งธ ํฐ ๋ฌธ์ œ์ž…๋‹ˆ๋‹ค. ๊ฐ GGUF ๋ชจ๋ธ์€ 1โ€“8 GB๋ฅผ ์ฐจ์ง€ํ•ฉ๋‹ˆ๋‹ค. Android์˜ ๋‚ด๋ถ€ ์Šคํ† ๋ฆฌ์ง€ ํŒŒํ‹ฐ์…˜ ๋ถ„ํ• ๋กœ ์ธํ•ด ๋ชจ๋ธ์€ ์•ฑ์˜ ํ”„๋ผ์ด๋น— ๋””๋ ‰ํ† ๋ฆฌ ๋˜๋Š” ํŠน๋ณ„ํžˆ ์„ค์ •๋œ ์œ„์น˜์— ์ €์žฅํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค โ€” ๋Œ€๋ถ€๋ถ„์˜ ์•ฑ์—์„œ "๋‹ค์šด๋กœ๋“œ" ํด๋”๋Š” ์ž‘๋™ํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.
  • Android์˜ ์ด์ ์€ ์‹ค์žฌํ•ฉ๋‹ˆ๋‹ค: Termux์™€ ์‚ฌ์ด๋“œ๋กœ๋”ฉ์œผ๋กœ iOS์—์„œ ๊ตฌํ˜„ ๋ถˆ๊ฐ€๋Šฅํ•œ ๋„๊ตฌ๋ฅผ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. Ollama via Termux๋Š” iPhone์—์„œ ๋ถˆ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค. F-Droid ์•ฑ๊ณผ ADB ์‚ฌ์ด๋“œ๋กœ๋”ฉ์œผ๋กœ Google Play์— ์—†๋Š” ์•ฑ์— ์ ‘๊ทผํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

๋น ๋ฅธ ์‚ฌ์‹ค

  • ํ…Œ์ŠคํŠธ ๊ธฐ๊ธฐ: Samsung Galaxy S25 Ultra(Snapdragon 8 Elite, 12 GB RAM), Google Pixel 9 Pro(Tensor G5, 16 GB RAM), OnePlus 13(Snapdragon 8 Elite, 16 GB RAM).
  • ํ…Œ์ŠคํŠธ๋œ ์นฉ์…‹ ๊ณ„์—ด: Snapdragon 8 Elite(Hexagon NPU), Tensor G5(NPU๊ฐ€ ํƒ€์‚ฌ ์•ฑ์— ๋…ธ์ถœ๋˜์ง€ ์•Š์Œ), MediaTek Dimensity 9400(APU ์‚ฌ์–‘ ํฌํ•จ; ํ…Œ์ŠคํŠธ ๊ธฐ๊ธฐ ์•„๋‹˜).
  • 12 GB Android ๊ธฐ๊ธฐ ์ตœ์  ๋ชจ๋ธ: Phi-4 Mini(3.8B, Q4_K_M์—์„œ ~2.7 GB) โ€” 3๋Œ€์˜ ํ…Œ์ŠคํŠธ ์Šค๋งˆํŠธํฐ ๋ชจ๋‘์—์„œ 6๊ฐœ ์•ฑ ์ „์ฒด์—์„œ ์ž‘๋™ํ•ฉ๋‹ˆ๋‹ค.
  • 8 GB Android ๊ธฐ๊ธฐ ์ตœ์  ๋ชจ๋ธ: Qwen3 1.7B ๋˜๋Š” SmolLM2 1.7B โ€” ๋ชจ๋“  ์•ฑ์—์„œ ์ž‘๋™; ๋งค์šฐ ์ œํ•œ๋œ ๊ธฐ๊ธฐ์—๋Š” Gemma 3 1B.
  • 3B ๋ชจ๋ธ ์ตœ์†Œ RAM: ๊ธฐ๊ธฐ RAM 6 GB. 6 GB ๋ฏธ๋งŒ์€ 1.7B ๋ชจ๋ธ ์‚ฌ์šฉ.
  • S25 Ultra์—์„œ tok/s(Phi-4 Mini): MLC Chat ~22 tok/s(NPU ๊ฒฝ๋กœ), PocketPal AI ~16 tok/s(CPU/Vulkan), Maid ~18 tok/s(Vulkan), Layla ~14 tok/s(CPU), Private AI ~13 tok/s(CPU), Ollama Termux ~10 tok/s(CPU).
  • Play Store vs F-Droid: MLC Chat, Layla, PocketPal AI, Private AI๋Š” Google Play์— ์žˆ์Šต๋‹ˆ๋‹ค. Maid๋Š” ์ฃผ๋กœ F-Droid์— ์žˆ์Šต๋‹ˆ๋‹ค. Ollama via Termux๋Š” F-Droid์˜ Termux๊ฐ€ ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.
  • Android ๊ณต์œ  ํŒจ๋„ ํ†ตํ•ฉ: 2026๋…„ 5์›” ๊ธฐ์ค€ PocketPal AI์™€ Layla๋งŒ Android ๊ณต์œ  ํŒจ๋„ ์ž…๋ ฅ์„ ๋„ค์ดํ‹ฐ๋ธŒ๋กœ ์ฒ˜๋ฆฌํ•ฉ๋‹ˆ๋‹ค.

๋น„๊ต ํ‘œ

ํ† ํฐ ์†๋„๋Š” Samsung Galaxy S25 Ultra(Snapdragon 8 Elite, 12 GB RAM)์—์„œ Q4_K_M ์–‘์žํ™”๋กœ Phi-4 Mini๋ฅผ ์‹คํ–‰ํ•˜์—ฌ ์ธก์ •๋˜์—ˆ์Šต๋‹ˆ๋‹ค. NPU ํ™œ์šฉ์€ ์•ฑ์— ๋”ฐ๋ผ ๋‹ค๋ฆ…๋‹ˆ๋‹ค โ€” MLC Chat์€ 2026๋…„ 5์›” ๊ธฐ์ค€ ๊ฒ€์ฆ๋œ Hexagon NPU ์ง€์›์„ ๊ฐ€์ง„ ์œ ์ผํ•œ ์•ฑ์ž…๋‹ˆ๋‹ค.

๐Ÿ“ ํ•œ ๋ฌธ์žฅ์œผ๋กœ

MLC Chat์€ Snapdragon์˜ Hexagon NPU ์ง€์› ๋•๋ถ„์— 2026๋…„ Android ๋กœ์ปฌ LLM ์†๋„์—์„œ ์„ ๋‘๋ฅผ ์ฐจ์ง€ํ•ฉ๋‹ˆ๋‹ค โ€” Galaxy S25 Ultra์—์„œ Phi-4 Mini ๊ธฐ์ค€ ~22 tok/s, Qwen3 1.7B ๊ธฐ์ค€ ~40 tok/s๋ฅผ ๋‹ฌ์„ฑํ•˜๋ฉฐ, ๋™์ผ ํ•˜๋“œ์›จ์–ด์˜ CPU ์ „์šฉ ๋Œ€์•ˆ๋ณด๋‹ค 2โ€“3๋ฐฐ ๋น ๋ฆ…๋‹ˆ๋‹ค.

๐Ÿ’ฌ ์‰ฝ๊ฒŒ ๋งํ•˜๋ฉด

Snapdragon 8 Elite ์Šค๋งˆํŠธํฐ์„ ๊ฐ€์ง€๊ณ  ์žˆ๊ณ  ๊ฐ€๋Šฅํ•œ ๊ฐ€์žฅ ๋น ๋ฅธ ์ถ”๋ก ์„ ์›ํ•œ๋‹ค๋ฉด MLC Chat์„ ์„ ํƒํ•˜์‹ญ์‹œ์˜ค. ์ตœ์ƒ์˜ ๋ชจ๋ธ ์ง€์›๊ณผ ๊ฐ€์žฅ ์„ธ๋ จ๋œ ์ธํ„ฐํŽ˜์ด์Šค๋ฅผ ๊ฐ€์ง„ ์ตœ๊ณ ์˜ ์ „๋ฐ˜์  ์•ฑ์„ ์›ํ•œ๋‹ค๋ฉด PocketPal AI๋ฅผ ์„ ํƒํ•˜์‹ญ์‹œ์˜ค. ์Šค๋งˆํŠธํฐ์—์„œ ์™„์ „ํ•œ ๋กœ์ปฌ AI API๋ฅผ ์›ํ•˜๊ณ  ํ„ฐ๋ฏธ๋„์ด ์ต์ˆ™ํ•˜๋‹ค๋ฉด Ollama via Termux๋ฅผ ์„ ํƒํ•˜์‹ญ์‹œ์˜ค. Google ์—†์ด ์™„์ „ํžˆ ์˜คํ”ˆ์†Œ์Šค์ธ ์„ ํƒ์„ ์›ํ•œ๋‹ค๋ฉด Maid๋ฅผ ์„ ํƒํ•˜์‹ญ์‹œ์˜ค. ๋กœ์ปฌ AI๋ฅผ ์ฒ˜์Œ ์ ‘ํ•˜๊ณ  ์—„์„ ๋œ ๋ชจ๋ธ ๋‹ค์šด๋กœ๋“œ๋ฅผ ์›ํ•œ๋‹ค๋ฉด Layla๋ฅผ ์„ ํƒํ•˜์‹ญ์‹œ์˜ค. ๋ฐ์ดํ„ฐ ํ”„๋ผ์ด๋ฒ„์‹œ์™€ ์ตœ์†Œ ๊ถŒํ•œ์ด ์ฃผ์š” ๊ด€์‹ฌ์‚ฌ๋ผ๋ฉด Private AI๋ฅผ ์„ ํƒํ•˜์‹ญ์‹œ์˜ค.

์•ฑtok/s(S25 Ultra, Phi-4 Mini)NPU ์ง€์›์ตœ์  ์‚ฌ์šฉ ์‚ฌ๋ก€
MLC Chat~22 tok/s(NPU ๊ฒฝ๋กœ)์˜ˆ โ€” Snapdragon 8 Elite์—์„œ Hexagon NPUSnapdragon ์Šค๋งˆํŠธํฐ์—์„œ ์†๋„๋ฅผ ์šฐ์„ ์‹œํ•˜๋Š” ์‚ฌ์šฉ์ž
Maid~18 tok/s(GPU Vulkan)๋ถ€๋ถ„ โ€” GPU Vulkan, ์ „์šฉ NPU ๊ฒฝ๋กœ ์—†์Œ์˜คํ”ˆ์†Œ์Šค/F-Droid ์‚ฌ์šฉ์ž, ์ „์ฒด GGUF ์ ‘๊ทผ
Layla~14 tok/s(CPU)์•„๋‹ˆ์˜ค์ดˆ๋ณด์ž, ์—„์„ ๋œ ๋ชจ๋ธ ๋‹ค์šด๋กœ๋“œ
Ollama via Termux~10 tok/s(CPU)์•„๋‹ˆ์˜ค(ํ‘œ์ค€ Termux ๋นŒ๋“œ์—์„œ CPU ์ „์šฉ)๊ณ ๊ธ‰ ์‚ฌ์šฉ์ž, API ์ ‘๊ทผ, ๋„๊ตฌ ์‚ฌ์šฉ
Private AI~13 tok/s(CPU)์•„๋‹ˆ์˜คํ”„๋ผ์ด๋ฒ„์‹œ ์šฐ์„  ์‚ฌ์šฉ์ž, ์ตœ์†Œ ๊ถŒํ•œ
PocketPal AI~16 tok/s(CPU/Vulkan)๋ถ€๋ถ„ โ€” ์ง€์› ๊ธฐ๊ธฐ์—์„œ GPU Vulkan๋Œ€๋ถ€๋ถ„์˜ ์‚ฌ์šฉ์ž โ€” ์ตœ๊ณ ์˜ ์ธํ„ฐํŽ˜์ด์Šค + ์ „์ฒด GGUF ์ƒํƒœ๊ณ„

๐Ÿ’กTip: Pixel 9 Pro(Tensor G5)์—์„œ๋Š” MLC Chat์ด 1์œ„ ์ž๋ฆฌ๋ฅผ ๋‚ด๋ ค๋†“์Šต๋‹ˆ๋‹ค โ€” 6๊ฐœ ์•ฑ ๋ชจ๋‘ ๊ฑฐ๊ธฐ์„œ CPU ์ „์šฉ์œผ๋กœ ์‹คํ–‰๋˜๋ฉฐ, PocketPal AI์™€ Maid๊ฐ€ ์ธํ„ฐํŽ˜์ด์Šค ํ’ˆ์งˆ๋กœ ๋‘๊ฐ์„ ๋‚˜ํƒ€๋ƒ…๋‹ˆ๋‹ค. Tensor G5์—์„œ๋Š” ํƒ€์‚ฌ ์ถ”๋ก  ์•ฑ์— ๋Œ€ํ•œ NPU ์ด์ ์ด ์™„์ „ํžˆ ์‚ฌ๋ผ์ง‘๋‹ˆ๋‹ค.

โš ๏ธWarning: Layla์™€ Private AI์˜ tok/s ์ˆ˜์น˜๋Š” Phi-4 Mini Q4_K_M์˜ CPU ๊ฒฝ๋กœ ์ถ”์ •์น˜์ž…๋‹ˆ๋‹ค. ์‹ค์ œ ์†๋„๋Š” ์—ด ์ƒํƒœ์— ๋”ฐ๋ผ ๋‹ฌ๋ผ์ง‘๋‹ˆ๋‹ค โ€” ๋œจ๊ฑฐ์šด ์Šค๋งˆํŠธํฐ์—์„œ ์ง€์†์ ์ธ ์ถ”๋ก ์€ ๋ƒ‰๊ฐ ์‹œ์ž‘ ์ˆ˜์น˜๋ณด๋‹ค 20โ€“30% ํ•˜๋ฝํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์–ด๋–ค ์•ฑ์„ ์„ ํƒํ•ด์•ผ ํ•ฉ๋‹ˆ๊นŒ?

์˜ฌ๋ฐ”๋ฅธ ์•ฑ์€ ๊ธฐ๊ธฐ์˜ ์นฉ์…‹๊ณผ ๋‹จ์ˆœํ•จ ๋Œ€๋น„ ์ปค์Šคํ„ฐ๋งˆ์ด์ง•์„ ์–ผ๋งˆ๋‚˜ ์ค‘์‹œํ•˜๋А๋ƒ์— ๋”ฐ๋ผ ๋‹ค๋ฆ…๋‹ˆ๋‹ค. Android ์‚ฌ์šฉ์ž๋“ค์€ ์„ธ๋ จ๋œ ๋„ค์ดํ‹ฐ๋ธŒ ๊ฒฝํ—˜(PocketPal AI, Layla)์„ ์›ํ•˜๋Š” ์‚ฌ๋žŒ๊ณผ ์ตœ๋Œ€ ์ œ์–ด(Ollama via Termux, Maid)๋ฅผ ์›ํ•˜๋Š” ์‚ฌ๋žŒ์œผ๋กœ ๋ช…ํ™•ํžˆ ๋‚˜๋‰ฉ๋‹ˆ๋‹ค. iPhone๊ณผ ๋‹ฌ๋ฆฌ Android๋Š” ๋‘˜ ๋‹ค ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค. ๋‹ค์–‘ํ•œ ๊ธฐ๊ธฐ์—์„œ ๋ชจ๋ธ ํฌ๊ธฐ์™€ RAM ์š”๊ตฌ์‚ฌํ•ญ์ด ์–ด๋–ป๊ฒŒ ์—ฐ๊ด€๋˜๋Š”์ง€ ๋” ์ž˜ ์ดํ•ดํ•˜๋ ค๋ฉด VRAM ์š”๊ตฌ์‚ฌํ•ญ ๊ฐ€์ด๋“œ โ†’๋ฅผ ์ฐธ์กฐํ•˜์‹ญ์‹œ์˜ค.

๐Ÿ’ฌ ์‰ฝ๊ฒŒ ๋งํ•˜๋ฉด

Snapdragon 8 Elite ์Šค๋งˆํŠธํฐ์„ ๊ฐ€์ง€๊ณ  ์žˆ๊ณ  ๊ฐ€๋Šฅํ•œ ๊ฐ€์žฅ ๋น ๋ฅธ ์ถ”๋ก ์„ ์›ํ•œ๋‹ค๋ฉด MLC Chat์„ ์„ ํƒํ•˜์‹ญ์‹œ์˜ค. ์ตœ์ƒ์˜ ๋ชจ๋ธ ์ง€์›๊ณผ ๊ฐ€์žฅ ์„ธ๋ จ๋œ ์ธํ„ฐํŽ˜์ด์Šค๋ฅผ ๊ฐ€์ง„ ์ตœ๊ณ ์˜ ์ „๋ฐ˜์  ์•ฑ์„ ์›ํ•œ๋‹ค๋ฉด PocketPal AI๋ฅผ ์„ ํƒํ•˜์‹ญ์‹œ์˜ค. ์Šค๋งˆํŠธํฐ์—์„œ ์™„์ „ํ•œ ๋กœ์ปฌ AI API๋ฅผ ์›ํ•˜๊ณ  ํ„ฐ๋ฏธ๋„์ด ์ต์ˆ™ํ•˜๋‹ค๋ฉด Ollama via Termux๋ฅผ ์„ ํƒํ•˜์‹ญ์‹œ์˜ค. Google ์—†์ด ์™„์ „ํžˆ ์˜คํ”ˆ์†Œ์Šค์ธ ์„ ํƒ์„ ์›ํ•œ๋‹ค๋ฉด Maid๋ฅผ ์„ ํƒํ•˜์‹ญ์‹œ์˜ค. ๋กœ์ปฌ AI๋ฅผ ์ฒ˜์Œ ์ ‘ํ•˜๊ณ  ์—„์„ ๋œ ๋ชจ๋ธ ๋‹ค์šด๋กœ๋“œ๋ฅผ ์›ํ•œ๋‹ค๋ฉด Layla๋ฅผ ์„ ํƒํ•˜์‹ญ์‹œ์˜ค. ๋ฐ์ดํ„ฐ ํ”„๋ผ์ด๋ฒ„์‹œ์™€ ์ตœ์†Œ ๊ถŒํ•œ์ด ์ฃผ์š” ๊ด€์‹ฌ์‚ฌ๋ผ๋ฉด Private AI๋ฅผ ์„ ํƒํ•˜์‹ญ์‹œ์˜ค.

  • Snapdragon 8 Elite ์Šค๋งˆํŠธํฐ(S25 Ultra, OnePlus 13): MLC Chat์œผ๋กœ ์‹œ์ž‘ํ•˜์‹ญ์‹œ์˜ค. MLC Chat ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ์— ์—†๋Š” ๋ชจ๋ธ์ด ํ•„์š”ํ•˜๋‹ค๋ฉด PocketPal AI๋ฅผ ๋‘ ๋ฒˆ์งธ ์•ฑ์œผ๋กœ ์ถ”๊ฐ€ํ•˜์‹ญ์‹œ์˜ค โ€” Vulkan ๊ฐ€์† ์ถ”๋ก ์œผ๋กœ ์ „์ฒด GGUF ์ƒํƒœ๊ณ„๋ฅผ ์ปค๋ฒ„ํ•ฉ๋‹ˆ๋‹ค.
  • Pixel 9 Pro(Tensor G5): NPU ์ด์ ์ด ์‚ฌ๋ผ์ง‘๋‹ˆ๋‹ค โ€” PocketPal AI๊ฐ€ ์ธํ„ฐํŽ˜์ด์Šค ํ’ˆ์งˆ๊ณผ ๋ชจ๋ธ ํญ์œผ๋กœ ์ตœ๊ณ ์˜ ์„ ํƒ์ž…๋‹ˆ๋‹ค. MLC Chat์€ Tensor G5์—์„œ CPU ์ „์šฉ์œผ๋กœ ์ „ํ™˜๋˜์–ด ์†๋„ ์ด์ ์„ ์žƒ์Šต๋‹ˆ๋‹ค.
  • ๋ชจ๋“  Android, ์ปค์Šคํ„ฐ๋งˆ์ด์ง• ์šฐ์„ : Ollama via Termux + ์ฑ„ํŒ… ํ”„๋ก ํŠธ์—”๋“œ(Alpaca, Chrome์˜ Open WebUI)๊ฐ€ ๊ฐ€์žฅ ์œ ๋Šฅํ•œ ์„ค์ •์ž…๋‹ˆ๋‹ค. ์•ฝ 30๋ถ„์˜ ํ„ฐ๋ฏธ๋„ ์ž‘์—…์ด ํ•„์š”ํ•˜์ง€๋งŒ OpenAI ํ˜ธํ™˜ API ์ ‘๊ทผ, ๋„๊ตฌ ์‚ฌ์šฉ, ์ „์ฒด Ollama ๋ชจ๋ธ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.
  • Google ์—†๋Š” ์Šค๋งˆํŠธํฐ/ํ”„๋ผ์ด๋ฒ„์‹œ: F-Droid์˜ Maid. GrapheneOS, CalyxOS, ๊ธฐํƒ€ Google ์—†๋Š” ๋นŒ๋“œ์—์„œ ์ž‘๋™ํ•ฉ๋‹ˆ๋‹ค. Play Services ์˜์กด ์—†์Œ.
  • RAM 8 GB ์Šค๋งˆํŠธํฐ: 6๊ฐœ ์•ฑ ์ค‘ ์–ด๋А ๊ฒƒ์ด๋“  Qwen3 1.7B ๋˜๋Š” SmolLM2 1.7B์™€ ํ•จ๊ป˜ ์‚ฌ์šฉํ•˜์‹ญ์‹œ์˜ค. PocketPal AI๋Š” ์ œํ•œ๋œ ๊ธฐ๊ธฐ์—์„œ ๋ชจ๋ธ ์Šคํ† ๋ฆฌ์ง€๋ฅผ ๋” ์šฐ์•„ํ•˜๊ฒŒ ์ฒ˜๋ฆฌํ•ฉ๋‹ˆ๋‹ค.
  • Samsung Galaxy(๋ชจ๋“  ๋ชจ๋ธ): Samsung์˜ ์ ๊ทน์ ์ธ ๋ฐฑ๊ทธ๋ผ์šด๋“œ ํ”„๋กœ์„ธ์Šค ์ข…๋ฃŒ๋ฅผ ์ฃผ์˜ํ•˜์‹ญ์‹œ์˜ค. AI ์•ฑ์„ ์ตœ๊ทผ ์•ฑ ํŠธ๋ ˆ์ด์— ๊ณ ์ •ํ•˜๊ณ  ๊ธฐ๊ธฐ ์ผ€์–ด โ†’ ๋ฐฐํ„ฐ๋ฆฌ โ†’ ์ ˆ์ „ ๋ชจ๋“œ ์•ฑ์—์„œ ์˜ˆ์™ธ๋กœ ์ถ”๊ฐ€ํ•˜์—ฌ ์ถ”๋ก  ์ค‘ ์ค‘๋‹จ์„ ํ”ผํ•˜์‹ญ์‹œ์˜ค.

๐Ÿ’กTip: Snapdragon ์Šค๋งˆํŠธํฐ์„ ๊ฐ€์ง€๊ณ  ์žˆ๊ณ  ์ฃผ๋กœ ์˜คํ”„๋ผ์ธ ์ฑ„ํŒ…์„ ์›ํ•œ๋‹ค๋ฉด MLC Chat(์งง์€ ์„ธ์…˜์˜ ์†๋„)๊ณผ PocketPal AI(MLC Chat ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ์— ์—†๋Š” ๋ชจ๋ธ์„ ์‚ฌ์šฉํ•œ ๋” ๊ธด ์ž‘์—…) ๋ชจ๋‘ ์‹คํ–‰ํ•˜์‹ญ์‹œ์˜ค. ๋‘ ์•ฑ์€ ์™„๋ฒฝํ•˜๊ฒŒ ๊ณต์กดํ•˜๋ฉฐ ๋ณ„๋„์˜ ๋ชจ๋ธ ์Šคํ† ๋ฆฌ์ง€๋ฅผ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค.

์นฉ์…‹ ๋น„๊ต: Snapdragon vs MediaTek vs Tensor

Snapdragon 8 Elite๋Š” 2026๋…„ Android์—์„œ ๋กœ์ปฌ LLM ์ถ”๋ก ์„ ์œ„ํ•ด ๊ฐ€์žฅ ์œ ๋Šฅํ•œ ์นฉ์…‹์ž…๋‹ˆ๋‹ค โ€” Hexagon NPU๋Š” MLC Chat์—์„œ ๊ฒ€์ฆ๋œ ์ง€์›์„ ๋ฐ›๋Š” ์œ ์ผํ•œ ๋ชจ๋ฐ”์ผ NPU์ž…๋‹ˆ๋‹ค. Tensor G5์™€ MediaTek Dimensity 9400์€ 6๊ฐœ ์•ฑ ๋ชจ๋‘๋ฅผ CPU ์ „์šฉ ๋˜๋Š” GPU Vulkan ๋ชจ๋“œ๋กœ๋งŒ ์‹คํ–‰ํ•ฉ๋‹ˆ๋‹ค.

๐Ÿ“ ํ•œ ๋ฌธ์žฅ์œผ๋กœ

Snapdragon 8 Elite์˜ Hexagon NPU๋Š” 2026๋…„ Android์—์„œ CPU ์ „์šฉ ์‹คํ–‰๋ณด๋‹ค 2โ€“3๋ฐฐ ๋น ๋ฅธ ์ถ”๋ก ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. ๋‹จ, MLC Chat๋งŒ์ด ์ด ์ด์ ์„ ๋…ธ์ถœํ•˜๋ฉฐ โ€” ๋‹ค๋ฅธ ๋ชจ๋“  ์•ฑ์€ ๋ชจ๋“  ์นฉ์…‹์—์„œ CPU ๋˜๋Š” GPU Vulkan์œผ๋กœ ํด๋ฐฑํ•ฉ๋‹ˆ๋‹ค.

์นฉ์…‹ํƒ‘์žฌ ๊ธฐ๊ธฐํƒ€์‚ฌ ์•ฑ์šฉ NPU์ตœ์„ ์˜ ์ถ”๋ก  ๊ฒฝ๋กœPhi-4 Mini ์†๋„(์ถ”์ •)
Snapdragon 8 EliteGalaxy S25 ์‹œ๋ฆฌ์ฆˆ, OnePlus 13, Xiaomi 15 Pro์˜ˆ โ€” MLCC๋ฅผ ํ†ตํ•œ Hexagon NPU(MLC Chat ์ „์šฉ)Hexagon NPU(MLC Chat) ๋˜๋Š” GPU Vulkan(Maid, PocketPal)~22 tok/s(NPU) / ~16โ€“18 tok/s(Vulkan)
Google Tensor G5Pixel 9 ์‹œ๋ฆฌ์ฆˆ์•„๋‹ˆ์˜ค โ€” Google์ด ์ž์‚ฌ ์•ฑ์„ ์œ„ํ•ด NPU ์˜ˆ์•ฝCPU(๋ชจ๋“  ์•ฑ์ด CPU ์ „์šฉ์œผ๋กœ ์‹คํ–‰)~12โ€“15 tok/s(CPU)
MediaTek Dimensity 9400Xiaomi 15 Ultra, Oppo Find X8 Pro, Vivo X200 Pro์ œํ•œ์  โ€” ์‹คํ—˜์  NNAPI ๊ฒฝ๋กœ๋ฅผ ํ†ตํ•œ MediaTek APU ์ ‘๊ทผGPU Vulkan(ํƒ€์‚ฌ ์ตœ์„  ์„ ํƒ); ์‹คํ—˜์  NNAPI~14โ€“18 tok/s(Vulkan) / ~12 tok/s(CPU)
Snapdragon 8 Gen 3Galaxy S24 ์‹œ๋ฆฌ์ฆˆ, OnePlus 12๋ถ€๋ถ„ โ€” ์ด์ „ ์„ธ๋Œ€ Hexagon, MLC Chat์—์„œ ์ œํ•œ์  ์ง€์›GPU Vulkan ๋˜๋Š” CPU~12โ€“15 tok/s(Vulkan)

โš ๏ธWarning: Google์˜ Tensor G5 NPU๊ฐ€ ๋กœ์ปฌ LLM ์•ฑ์— ๋„์›€์ด ๋œ๋‹ค๊ณ  ๊ฐ€์ •ํ•˜์ง€ ๋งˆ์‹ญ์‹œ์˜ค. Google์˜ NPU๋Š” ์ž์‚ฌ ML ์„œ๋น„์Šค(Google ๋ฒˆ์—ญ, ๋…น์Œ๊ธฐ, ์‚ฌ์ง„ ์ฒ˜๋ฆฌ)๋ฅผ ์œ„ํ•ด ์˜ˆ์•ฝ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค. ์ด ๊ฐ€์ด๋“œ์˜ 6๊ฐœ ์•ฑ์„ ํฌํ•จํ•œ ํƒ€์‚ฌ ์ถ”๋ก  ์•ฑ์€ ๋ชจ๋“  Pixel ์Šค๋งˆํŠธํฐ์—์„œ CPU ์ „์šฉ์œผ๋กœ ์‹คํ–‰๋ฉ๋‹ˆ๋‹ค. Pixel 9 Pro์˜ 16 GB RAM์ด ์‹ค์ œ ์ด์ ์ž…๋‹ˆ๋‹ค โ€” ๋” ๋น ๋ฅธ ์ถ”๋ก ์ด ์•„๋‹ˆ๋ผ ๋” ํฐ ๋ชจ๋ธ์„ ์œ„ํ•œ ๋” ๋งŽ์€ ๊ณต๊ฐ„.

๐Ÿ’กTip: MediaTek Dimensity 9400 ์Šค๋งˆํŠธํฐ์€ Maid์™€ PocketPal AI์˜ GPU Vulkan ์ง€์›์œผ๋กœ ํ˜œํƒ์„ ๋ฐ›์Šต๋‹ˆ๋‹ค. Xiaomi 15 Ultra๋‚˜ Oppo Find X8 Pro๋ฅผ ๊ฐ€์ง€๊ณ  ์žˆ๋‹ค๋ฉด ์•ฑ ์„ค์ •์—์„œ Vulkan์„ ํ™œ์„ฑํ™”ํ•˜์—ฌ CPU ๊ฒฝ๋กœ ๋Œ€๋น„ 30โ€“40% ์†๋„ ํ–ฅ์ƒ์„ ์–ป์œผ์‹ญ์‹œ์˜ค.

MLC Chat

MLC Chat(Machine Learning Compilation Chat)์€ 2026๋…„ Snapdragon 8 Elite ๊ธฐ๊ธฐ์—์„œ Android์šฉ ๊ฐ€์žฅ ๋น ๋ฅธ ๋กœ์ปฌ LLM ์•ฑ์ž…๋‹ˆ๋‹ค. MLC AI ํŒ€์ด ๊ฐœ๋ฐœํ–ˆ์œผ๋ฉฐ, MLCC ํ”„๋ ˆ์ž„์›Œํฌ๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ Snapdragon์˜ Hexagon NPU๋ฅผ ์ง์ ‘ ๋Œ€์ƒ์œผ๋กœ ๋ชจ๋ธ์„ ์ปดํŒŒ์ผํ•ฉ๋‹ˆ๋‹ค โ€” llama.cpp ๋˜๋Š” ์ผ๋ฐ˜ Vulkan ๋ฐฑ์—”๋“œ๋ฅผ ์‚ฌ์šฉํ•˜๋Š” ์•ฑ์—์„œ๋Š” ๋ถˆ๊ฐ€๋Šฅํ•œ ์ตœ์ ํ™” ๊ฒฝ๋กœ์ž…๋‹ˆ๋‹ค.

  • ๋ชจ๋ธ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ: ์—„์„ ๋จ โ€” MLC Chat์€ ๋ชจ๋ฐ”์ผ ์ตœ์ ํ™” ์‚ฌ์ „ ์ปดํŒŒ์ผ ๋ชจ๋ธ ์„ธํŠธ๋ฅผ ํฌํ•จํ•ฉ๋‹ˆ๋‹ค(Qwen3 1.7B, Phi-4 Mini, Gemma 3 1B, Llama 3.2 1B). ์ปค์Šคํ…€ ๋ชจ๋ธ ๊ฐ€์ ธ์˜ค๊ธฐ๋Š” ๊ฐ€๋Šฅํ•˜์ง€๋งŒ MLC ์ปดํŒŒ์ผ ๋„๊ตฌ ์ฒด์ธ์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค โ€” ์›ํด๋ฆญ ํ”„๋กœ์„ธ์Šค๊ฐ€ ์•„๋‹™๋‹ˆ๋‹ค.
  • NPU ํ™œ์šฉ: Snapdragon 8 Elite(Galaxy S25 Ultra, OnePlus 13)์—์„œ Hexagon NPU ์ง€์› ๊ฒ€์ฆ๋จ. S25 Ultra์—์„œ Qwen3 1.7B ๊ธฐ์ค€ ~40 tok/s, Phi-4 Mini ๊ธฐ์ค€ ~22 tok/s๋กœ ์ธก์ •๋จ โ€” ๋™์ผ ํ•˜๋“œ์›จ์–ด์—์„œ CPU ์ „์šฉ ~12โ€“16 tok/s ๋Œ€๋น„.
  • ์ธํ„ฐํŽ˜์ด์Šค ํ’ˆ์งˆ: ๊น”๋”ํ•˜๊ณ  ๊ธฐ๋Šฅ์ ์ด๋ฉฐ ๋ฏธ๋‹ˆ๋ฉ€ํ•จ. ์ฑ„ํŒ… ์ธํ„ฐํŽ˜์ด์Šค๋งŒ โ€” ์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ ํŽธ์ง‘๊ธฐ ์—†์Œ, ์บ๋ฆญํ„ฐ ์นด๋“œ ์—†์Œ, ๋‹ค์ค‘ ๋ชจ๋ธ ์ „ํ™˜ ์—†์Œ. ์ง‘์ค‘๋œ ์ฑ„ํŒ… ์ž‘์—…์— ์ ํ•ฉํ•˜๋ฉฐ ๊ณ ๊ธ‰ ์‚ฌ์šฉ์ž ์„ค์ •์—๋Š” ์ ํ•ฉํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.
  • Android ๊ณต์œ  ํŒจ๋„: 2026๋…„ 5์›” ๊ธฐ์ค€ ์ง€์›๋˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ํ‘œ์ค€ ๊ณต์œ  ํŒจ๋„์„ ํ†ตํ•ด ๋‹ค๋ฅธ ์•ฑ์—์„œ ํ…์ŠคํŠธ๋ฅผ ๋ฐ›์„ ์ˆ˜ ์—†์Šต๋‹ˆ๋‹ค.
  • ์˜คํ”„๋ผ์ธ ์‹ ๋ขฐ์„ฑ: ์šฐ์ˆ˜ํ•จ. ๋ชจ๋ธ์ด ์ปดํŒŒ์ผ๋˜๊ณ  ์บ์‹œ๋˜๋ฉด MLC Chat์€ ๋„คํŠธ์›Œํฌ ํ˜ธ์ถœ ์—†์ด ์ž‘๋™ํ•ฉ๋‹ˆ๋‹ค. ๋ฐฑ๊ทธ๋ผ์šด๋“œ ํ”„๋กœ์„ธ์Šค๋Š” ์ผ๋ถ€ llama.cpp ๊ธฐ๋ฐ˜ ์•ฑ์— ๋น„ํ•ด ์•ˆ์ •์ ์ž…๋‹ˆ๋‹ค.
  • ์Šคํ† ๋ฆฌ์ง€: MLC Chat์€ ์ปดํŒŒ์ผ๋œ ๋ชจ๋ธ ๊ฐ€์ค‘์น˜๋ฅผ ์•ฑ ํ”„๋ผ์ด๋น— ๋””๋ ‰ํ† ๋ฆฌ์— ์ €์žฅํ•ฉ๋‹ˆ๋‹ค(Snapdragon์šฉ ์ปดํŒŒ์ผ๋œ Phi-4 Mini์˜ ๊ฒฝ์šฐ ~3 GB). ๋‹ค๋ฅธ ์•ฑ์œผ๋กœ ์ด์‹ ๋ถˆ๊ฐ€๋Šฅ โ€” GGUF ๊ธฐ๋ฐ˜ ์•ฑ ๋Œ€๋น„ ์ œํ•œ ์‚ฌํ•ญ.
  • ์„ค์น˜ ๊ฒฝ๋กœ: Google Play Store. ์†Œ์Šค ์ฝ”๋“œ: github.com/mlc-ai/mlc-llm.

โš ๏ธWarning: MLC Chat์˜ ๋ชจ๋ธ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ๋Š” ์—„์„ ๋˜๊ณ  ์ปดํŒŒ์ผ๋ฉ๋‹ˆ๋‹ค. ๊ณต์‹ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ์— ์—†๋Š” ๋ชจ๋ธ(์˜ˆ: ํŒŒ์ธํŠœ๋‹๋œ Mistral Small ๋˜๋Š” ๋„๋ฉ”์ธ๋ณ„ ๋ชจ๋ธ)์ด ํ•„์š”ํ•˜๋‹ค๋ฉด MLC Chat์€ ๋„์›€์ด ๋˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค โ€” ์ž„์˜ GGUF ์ง€์›์„ ์œ„ํ•ด PocketPal AI๋‚˜ Maid๋ฅผ ์‚ฌ์šฉํ•˜์‹ญ์‹œ์˜ค. MLC Chat์€ ์œ ์—ฐ์„ฑ์ด ์•„๋‹Œ ์†๋„ ๋„๊ตฌ์ž…๋‹ˆ๋‹ค.

Maid

Maid๋Š” F-Droid ์šฐ์„  ๋ฐฐํฌ ๋ฐฉ์‹์˜ ์™„์ „ํ•œ ์˜คํ”ˆ์†Œ์Šค Android ๋กœ์ปฌ LLM ์•ฑ์ž…๋‹ˆ๋‹ค โ€” Flutter๋กœ ๋นŒ๋“œ๋˜์—ˆ์œผ๋ฉฐ, llama.cpp๋ฅผ ์ถ”๋ก  ๋ฐฑ์—”๋“œ๋กœ ์‚ฌ์šฉํ•˜๊ณ , Google Play ์˜์กด ์—†์ด ๋ฐฐํฌ๋ฉ๋‹ˆ๋‹ค. ํŒŒ์ผ ๊ด€๋ฆฌ์ž์—์„œ ์ง์ ‘ GGUF ๊ฐ€์ ธ์˜ค๊ธฐ, ์ง€์› ๊ธฐ๊ธฐ์—์„œ GPU Vulkan ๊ฐ€์†, Google ์—†๋Š” Android ๋ฒ„์ „(GrapheneOS, CalyxOS)์—์„œ ์ž‘๋™์„ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค.

  • ๋ชจ๋ธ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ: ์ œํ•œ ์—†์Œ. ๋ชจ๋“  GGUF ๋ชจ๋ธ ํŒŒ์ผ์„ Android ํŒŒ์ผ ๊ด€๋ฆฌ์ž ๋˜๋Š” URL ๋‹ค์šด๋กœ๋“œ๋กœ ๊ฐ€์ ธ์˜ฌ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. Hugging Face๋‚˜ ์•ฑ ์—„์„  ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ์— ์—†๋Š” ๋ชจ๋ธ๋„ ํฌํ•จ๋ฉ๋‹ˆ๋‹ค.
  • NPU ํ™œ์šฉ: ์ง€์› ๊ธฐ๊ธฐ์—์„œ GPU Vulkan ๊ฒฝ๋กœ โ€” ์ „์šฉ NPU ์—†์Œ. Snapdragon 8 Elite์—์„œ Vulkan์€ Phi-4 Mini ๊ธฐ์ค€ ~18 tok/s๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค โ€” MLC Chat์˜ NPU ๊ฒฝ๋กœ ~22 tok/s ๋Œ€๋น„. Hexagon NPU ์ ‘๊ทผ ์—†์Œ.
  • ์ธํ„ฐํŽ˜์ด์Šค ํ’ˆ์งˆ: ๊ธฐ๋Šฅ์ ์ด์ง€๋งŒ PocketPal AI๋‚˜ Layla๋ณด๋‹ค ๋œ ์„ธ๋ จ๋จ. ์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ ํŽธ์ง‘๊ธฐ, ์˜จ๋„ ์กฐ์ ˆ, ๊ธฐ๋ณธ ์ฑ„ํŒ… ๊ธฐ๋ก ๊ด€๋ฆฌ ์žˆ์Œ. ์บ๋ฆญํ„ฐ ์นด๋“œ ์ง€์›์€ ์ œํ•œ์ .
  • Android ๊ณต์œ  ํŒจ๋„: 2026๋…„ 5์›” ๊ธฐ์ค€ ์ง€์›๋˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.
  • ์˜คํ”„๋ผ์ธ ์‹ ๋ขฐ์„ฑ: ์šฐ์ˆ˜ โ€” llama.cpp ๊ธฐ๋ฐ˜ ์ถ”๋ก ์€ ์•ˆ์ •์ ์ž…๋‹ˆ๋‹ค. ์ œ์กฐ์‚ฌ ROM(Samsung, OnePlus)์˜ ๋ฐฑ๊ทธ๋ผ์šด๋“œ ์ œํ•œ์€ ์—ฌ์ „ํžˆ ์ ์šฉ๋ฉ๋‹ˆ๋‹ค.
  • ์Šคํ† ๋ฆฌ์ง€: ๋ชจ๋ธ์€ ์•ฑ ํ”„๋ผ์ด๋น— ๋””๋ ‰ํ† ๋ฆฌ ๋˜๋Š” ์‚ฌ์šฉ์ž ์ง€์ • ๊ฒฝ๋กœ์— ์ €์žฅ๋ฉ๋‹ˆ๋‹ค. GGUF ํŒŒ์ผ์€ ๊ณต์œ  ๊ฐ€๋Šฅํ•œ Android ์Šคํ† ๋ฆฌ์ง€์— ๋ฐฐ์น˜๋˜๋ฉด Maid์™€ PocketPal AI ๊ฐ„์— ์ด์‹ ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค.
  • ์„ค์น˜ ๊ฒฝ๋กœ: F-Droid(๊ธฐ๋ณธ), GitHub ๋ฆด๋ฆฌ์Šค. ์†Œ์Šค ์ฝ”๋“œ: github.com/Mobile-Artificial-Intelligence/maid. Google Play์—์„œ ๋ถˆ๊ฐ€.

๐Ÿ’กTip: GrapheneOS๋‚˜ Google ์—†๋Š” Android ๋ฒ„์ „์„ ์‚ฌ์šฉํ•œ๋‹ค๋ฉด Maid๊ฐ€ ์ตœ๊ณ ์˜ ์„ ํƒ์ž…๋‹ˆ๋‹ค โ€” Google Play Services ์˜์กด์ด ์—†์Šต๋‹ˆ๋‹ค. F-Droid ํด๋ผ์ด์–ธํŠธ๋ฅผ ํ†ตํ•ด ์„ค์น˜ํ•˜๊ฑฐ๋‚˜ GitHub ๋ฆด๋ฆฌ์Šค ํŽ˜์ด์ง€์—์„œ APK๋ฅผ ์ง์ ‘ ๋‹ค์šด๋กœ๋“œํ•˜์—ฌ ADB๋กœ ์‚ฌ์ด๋“œ๋กœ๋“œํ•˜์‹ญ์‹œ์˜ค.

Layla

Layla๋Š” Android ๋กœ์ปฌ LLM ์•ฑ ์ค‘ ์ดˆ๋ณด์ž์—๊ฒŒ ๊ฐ€์žฅ ์ ‘๊ทผํ•˜๊ธฐ ์‰ฌ์šด ์•ฑ์ž…๋‹ˆ๋‹ค โ€” ์—„์„ ๋œ ๋‹ค์šด๋กœ๋“œ ํ๋ฆ„ ๋’ค์— ๋ชจ๋ธ ๊ด€๋ฆฌ๋ฅผ ์ถ”์ƒํ™”ํ•˜๊ณ , ํ„ฐ๋ฏธ๋„์ด ํ•„์š” ์—†์œผ๋ฉฐ, ์ถ”๋ก  ์„ค์ •์„ ๋…ธ์ถœํ•˜์ง€ ์•Š๊ณ  ์„ธ๋ จ๋œ ์ฑ„ํŒ… ์ธํ„ฐํŽ˜์ด์Šค๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. ํŠธ๋ ˆ์ด๋“œ์˜คํ”„๋Š” ๋” ์ž‘์€ ๋ชจ๋ธ ์„ ํƒ๊ณผ CPU ์ „์šฉ ์ถ”๋ก ์ž…๋‹ˆ๋‹ค.

  • ๋ชจ๋ธ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ: ์—„์„ ๋จ, ๋” ์ž‘์€ ์„ธํŠธ. Layla๋Š” ๊ด€๋ฆฌํ˜• ๋‹ค์šด๋กœ๋“œ ๊ฒฝํ—˜์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค โ€” ์•ฑ ๋‚ด ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ์—์„œ ๋ชจ๋ธ์„ ์„ ํƒํ•˜๋ฉด ์ž๋™์œผ๋กœ ๋‹ค์šด๋กœ๋“œ๋˜๊ณ  ์„ค์ •๋ฉ๋‹ˆ๋‹ค. ์ปค์Šคํ…€ GGUF ๊ฐ€์ ธ์˜ค๊ธฐ๋Š” ์ฃผ์š” ๊ธฐ๋Šฅ์ด ์•„๋‹™๋‹ˆ๋‹ค.
  • NPU ํ™œ์šฉ: CPU ์ „์šฉ ๊ฒฝ๋กœ โ€” GPU Vulkan์ด๋‚˜ Hexagon NPU ์—†์Œ. ์ด๋กœ ์ธํ•ด Layla๋Š” Snapdragon 8 Elite์—์„œ 6๊ฐœ ์ค‘ ๊ฐ€์žฅ ๋А๋ฆฝ๋‹ˆ๋‹ค(Phi-4 Mini ๊ธฐ์ค€ ~14 tok/s). ๋‹จ, ๋ชจ๋“  Android ์นฉ์…‹์—์„œ ์ผ๊ด€๋ฉ๋‹ˆ๋‹ค.
  • ์ธํ„ฐํŽ˜์ด์Šค ํ’ˆ์งˆ: 6๊ฐœ ์•ฑ ์ค‘ ์ฒ˜์Œ ์‚ฌ์šฉ์ž์—๊ฒŒ ๊ฐ€์žฅ ๋†’์Œ. ๋ช…ํ™•ํ•œ ๋Œ€ํ™” ๊ด€๋ฆฌ, ์„ค์ • ์˜ค๋ฒ„ํ—ค๋“œ ์—†์Œ, ์›ํ™œํ•œ ๋ชจ๋ธ ์ „ํ™˜์ด ์žˆ๋Š” ์ฑ„ํŒ… ์ค‘์‹ฌ ์ธํ„ฐํŽ˜์ด์Šค.
  • Android ๊ณต์œ  ํŒจ๋„: ์ง€์›๋จ โ€” Layla๋Š” Android ๊ณต์œ  ํŒจ๋„์„ ํ†ตํ•ด ๋‹ค๋ฅธ ์•ฑ์—์„œ ํ…์ŠคํŠธ๋ฅผ ๋ฐ›์„ ์ˆ˜ ์žˆ์œผ๋ฉฐ, ์ด ๊ฐ€์ด๋“œ์—์„œ ํ‘œ์ค€ Android ๊ณต์œ  ํ๋ฆ„์— ํ†ตํ•ฉ๋œ ๋‘ ์•ฑ ์ค‘ ํ•˜๋‚˜์ž…๋‹ˆ๋‹ค.
  • ์˜คํ”„๋ผ์ธ ์‹ ๋ขฐ์„ฑ: ์–‘ํ˜ธ. ๋ชจ๋ธ ๋‹ค์šด๋กœ๋“œ ํ›„ ์™„์ „ํžˆ ์˜คํ”„๋ผ์ธ. ๋กœ์ปฌ ์„œ๋ฒ„ ํ”„๋กœ์„ธ์Šค๋ฅผ ์‹คํ–‰ํ•˜์ง€ ์•Š๊ธฐ ๋•Œ๋ฌธ์— ๋ฐฑ๊ทธ๋ผ์šด๋“œ ์ข…๋ฃŒ์— ๋œ ์ทจ์•ฝํ•ฉ๋‹ˆ๋‹ค(Ollama via Termux์™€ ๋‹ฌ๋ฆฌ).
  • ์Šคํ† ๋ฆฌ์ง€: Layla๊ฐ€ ๋ชจ๋ธ ์Šคํ† ๋ฆฌ์ง€๋ฅผ ๋‚ด๋ถ€์ ์œผ๋กœ ๊ด€๋ฆฌํ•ฉ๋‹ˆ๋‹ค. ์ˆ˜๋™ ํŒŒ์ผ ๊ด€๋ฆฌ ๋ถˆํ•„์š”.
  • ์„ค์น˜ ๊ฒฝ๋กœ: Google Play Store.

๐Ÿ’กTip: Layla์˜ ๊ณต์œ  ํŒจ๋„ ์ง€์›์€ Android ์›Œํฌํ”Œ๋กœ์šฐ์—์„œ ๋…ํŠนํ•˜๊ฒŒ ์œ ์šฉํ•ฉ๋‹ˆ๋‹ค: ๋ชจ๋“  ์•ฑ์—์„œ ํ…์ŠคํŠธ ๊ฐ•์กฐ โ†’ ๊ณต์œ  โ†’ Layla โ†’ ๋‚ด์šฉ์— ๋Œ€ํ•ด ์งˆ๋ฌธ. ์ด ์‚ฌ์šฉ ์‚ฌ๋ก€ โ€” ์•ฑ ์ „ํ™˜ ์—†์ด ์‹ ์†ํ•œ ์ปจํ…์ŠคํŠธ ๋‚ด AI ์ง€์› โ€” ๋Š” Layla๊ฐ€ ์ด ๋ชฉ๋ก์˜ ๋‹ค๋ฅธ ๋ชจ๋“  ์•ฑ์„ ๋Šฅ๊ฐ€ํ•˜๋Š” ๋ถ€๋ถ„์ž…๋‹ˆ๋‹ค.

Ollama via Termux

Ollama via Termux๋Š” Android์—์„œ ๋„๊ตฌ ์‚ฌ์šฉ, ํ•จ์ˆ˜ ํ˜ธ์ถœ, ํƒ€์‚ฌ Android ์•ฑ์„ ๋กœ์ปฌ์—์„œ ์‹คํ–‰ ์ค‘์ธ ๋ชจ๋ธ์— ์—ฐ๊ฒฐํ•˜๋Š” ๊ธฐ๋Šฅ์„ ํฌํ•จํ•œ ์™„์ „ํ•œ OpenAI ํ˜ธํ™˜ ๋กœ์ปฌ API๋กœ ๊ฐ€๋Š” ์œ ์ผํ•œ ๊ฒฝ๋กœ์ž…๋‹ˆ๋‹ค. ์„ค์ •์— 20โ€“30๋ถ„์ด ๊ฑธ๋ฆฌ๊ณ  ํ„ฐ๋ฏธ๋„ ์‚ฌ์šฉ์— ์ต์ˆ™ํ•ด์•ผ ํ•˜์ง€๋งŒ, ๊ฒฐ๊ณผ๋Š” Mac๊ณผ Linux ์‚ฌ์šฉ์ž๊ฐ€ ๋ฐ์Šคํฌํ†ฑ์—์„œ ์‹คํ–‰ํ•˜๋Š” ๊ฒƒ๊ณผ ๋™์ผํ•œ Ollama ์ƒํƒœ๊ณ„๋ฅผ ์Šค๋งˆํŠธํฐ์—์„œ ์‚ฌ์šฉํ•˜๋Š” ๊ฒƒ์ž…๋‹ˆ๋‹ค.

  • ๋ชจ๋ธ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ: ๋ฌด์ œํ•œ โ€” `ollama pull [๋ชจ๋ธ๋ช…]`์„ ํ†ตํ•ด ์ „์ฒด Ollama ๋ชจ๋ธ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ ์‚ฌ์šฉ ๊ฐ€๋Šฅ. ์ด ๊ฐ€์ด๋“œ์˜ ์•ฑ ์ค‘ ๊ฐ€์žฅ ๋„“์€ ๋ชจ๋ธ ์ ‘๊ทผ.
  • NPU ํ™œ์šฉ: ํ‘œ์ค€ Ollama ARM64 ๋นŒ๋“œ์—์„œ CPU ์ „์šฉ. 2026๋…„ 5์›” ๊ธฐ์ค€ ํ‘œ์ค€ Termux ์„ค์ •์—์„œ GPU Vulkan ๋˜๋Š” Hexagon NPU ์ง€์› ์—†์Œ. ์ด๋กœ ์ธํ•ด Ollama๋Š” ์›์‹œ tok/s์—์„œ ๊ฐ€์žฅ ๋А๋ฆฝ๋‹ˆ๋‹ค(S25 Ultra์—์„œ Phi-4 Mini ๊ธฐ์ค€ ~10 tok/s).
  • ๋„๊ตฌ ์‚ฌ์šฉ ๋ฐ ํ•จ์ˆ˜ ํ˜ธ์ถœ: ์ง€์›๋จ โ€” Android์˜ Ollama๋Š” ๋ฐ์Šคํฌํ†ฑ๊ณผ ๋™์ผํ•œ ๋ฐฉ์‹์œผ๋กœ ๋„๊ตฌ ์‚ฌ์šฉ์„ ์ฒ˜๋ฆฌํ•ฉ๋‹ˆ๋‹ค. ๋„๊ตฌ ์‚ฌ์šฉ ๊ฐ€๋Šฅ ํ”„๋ก ํŠธ์—”๋“œ๋ฅผ localhost:11434์— ์—ฐ๊ฒฐํ•˜์‹ญ์‹œ์˜ค.
  • Android ๊ณต์œ  ํŒจ๋„: ์ง์ ‘ ์ง€์›๋˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ํ•ด๊ฒฐ์ฑ…: Termux:Widget ๋‹จ์ถ•ํ‚ค๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ํด๋ฆฝ๋ณด๋“œ ๋‚ด์šฉ์„ `ollama run [๋ชจ๋ธ]`์— ๋ณด๋‚ด์‹ญ์‹œ์˜ค.
  • ๋ฐฑ๊ทธ๋ผ์šด๋“œ ์‹ ๋ขฐ์„ฑ: ๋ฐฐํ„ฐ๋ฆฌ ์ตœ์ ํ™” ํ™”์ดํŠธ๋ฆฌ์ŠคํŠธ ์—†์ด๋Š” Samsung๊ณผ OnePlus์—์„œ ๋ฌธ์ œ ์žˆ์Œ. Termux:Widget ๋‹จ์ถ•ํ‚ค๋ฅผ ollama serve์šฉ์œผ๋กœ ๋งŒ๋“ค๊ณ  ์ตœ๊ทผ ์•ฑ ํŠธ๋ ˆ์ด์— Termux๋ฅผ ๊ณ ์ •ํ•˜์‹ญ์‹œ์˜ค. Samsung One UI๋Š” Termux์— ๋Œ€ํ•ด "์ ˆ์ „ ๋ชจ๋“œ ์•ฑ"์„ ๋ช…์‹œ์ ์œผ๋กœ ๋น„ํ™œ์„ฑํ™”ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.
  • ์„ค์น˜ ๊ฒฝ๋กœ: F-Droid์—์„œ Termux, ๊ทธ ํ›„ curl์„ ํ†ตํ•œ Ollama ์„ค์น˜ ์Šคํฌ๋ฆฝํŠธ.
  1. 1
    F-Droid์—์„œ Termux๋ฅผ ์„ค์น˜ํ•˜์‹ญ์‹œ์˜ค(Play Store ๋ฒ„์ „ ์•„๋‹˜ โ€” Play Store ๋นŒ๋“œ๋Š” ์˜ค๋ž˜๋˜์–ด Ollama ์„ค์น˜๋ฅผ ์ค‘๋‹จ์‹œํ‚ต๋‹ˆ๋‹ค).
  2. 2
    Termux์—์„œ: pkg update && pkg install curl
  3. 3
    Ollama ์„ค์น˜: curl -fsSL https://ollama.com/install.sh | sh โ€” ์ด๊ฒƒ์ด Android ARM64 ํ™˜๊ฒฝ์„ ๊ฐ์ง€ํ•˜๊ณ  ์˜ฌ๋ฐ”๋ฅธ ๋ฐ”์ด๋„ˆ๋ฆฌ๋ฅผ ์„ค์น˜ํ•ฉ๋‹ˆ๋‹ค.
  4. 4
    ๋ชจ๋ธ ๋‹ค์šด๋กœ๋“œ: ollama pull qwen3:1.7b ๋˜๋Š” ollama pull phi4-mini.
  5. 5
    ์„œ๋ฒ„ ์‹œ์ž‘: ollama serve(Termux ์„ธ์…˜์—์„œ ์‹คํ–‰ ์œ ์ง€ ๋˜๋Š” ๋ฐฑ๊ทธ๋ผ์šด๋“œ ์œ„์ ฏ ์‚ฌ์šฉ).
  6. 6
    Termux๋ฅผ ํ†ตํ•ด ์ƒํ˜ธ์ž‘์šฉ: ollama run phi4-mini โ€” ๋˜๋Š” http://localhost:11434์—์„œ OpenAI ํ˜ธํ™˜ ์—”๋“œํฌ์ธํŠธ๋ฅผ ์ง€์›ํ•˜๋Š” ๋ชจ๋“  ์•ฑ ์—ฐ๊ฒฐ.

โš ๏ธWarning: ์Šค๋งˆํŠธํฐ์˜ Ollama via Termux๋Š” ๋ฐ์Šคํฌํ†ฑ์˜ Ollama๋ณด๋‹ค ํ˜„์ €ํžˆ ๋А๋ฆฝ๋‹ˆ๋‹ค โ€” S25 Ultra์—์„œ Phi-4 Mini ๊ธฐ์ค€ ~10 tok/s ๋Œ€ RTX 4090์—์„œ 60+ tok/s. ์„ฑ๋Šฅ์ด ์•„๋‹Œ ํŽธ์˜์„ฑ(์˜คํ”„๋ผ์ธ ์ฃผ๋จธ๋‹ˆ API, ๋ฐ์Šคํฌํ†ฑ์—์„œ ๋–จ์–ด์ง„ ๊ณณ์—์„œ์˜ ๋น ๋ฅธ ์ฟผ๋ฆฌ)์„ ์œ„ํ•ด ์‚ฌ์šฉํ•˜์‹ญ์‹œ์˜ค. ๋ชจ๋ฐ”์ผ์—์„œ ๋Œ€ํ˜• ๋ชจ๋ธ ํ’ˆ์งˆ์„ ์›ํ•œ๋‹ค๋ฉด Chrome์˜ Open WebUI๋ฅผ ํ†ตํ•ด Ollama๋ฅผ ์‹คํ–‰ํ•˜๋Š” ํ™ˆ ๋จธ์‹ ์— ์›๊ฒฉ์œผ๋กœ ์—ฐ๊ฒฐํ•˜๋Š” ๊ฒƒ์ด ์—ฌ์ „ํžˆ ์ตœ์„ ์ž…๋‹ˆ๋‹ค.

๐Ÿ’กTip: Termux:Widget ํ”Œ๋Ÿฌ๊ทธ์ธ์„ ์„ค์น˜ํ•˜๊ณ  ollama serve๋ฅผ ์‹คํ–‰ํ•˜๋Š” ์›ํ„ฐ์น˜ ๋‹จ์ถ•ํ‚ค๋ฅผ ๋งŒ๋“œ์‹ญ์‹œ์˜ค. ์ด๋ ‡๊ฒŒ ํ•˜๋ฉด Termux๋ฅผ ์—ด์ง€ ์•Š๊ณ ๋„ Android ํ™ˆ ํ™”๋ฉด ์œ„์ ฏ์—์„œ Ollama ์„œ๋ฒ„๋ฅผ ์‹œ์ž‘ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์„œ๋น„์Šค๊ฐ€ ์‹œ์ž‘๋˜๋ฉด localhost:11434๋ฅผ ์‚ฌ์šฉํ•˜๋„๋ก ์„ค์ •๋œ ๋ชจ๋“  ์•ฑ์ด ์ž๋™์œผ๋กœ ์—ฐ๊ฒฐ๋ฉ๋‹ˆ๋‹ค.

Private AI

Private AI๋Š” ํ”„๋ผ์ด๋ฒ„์‹œ ์ค‘์‹ฌ์˜ Android ๋กœ์ปฌ LLM ์•ฑ์ž…๋‹ˆ๋‹ค โ€” ์ตœ์†Œ ๊ถŒํ•œ, ๋„คํŠธ์›Œํฌ ์›๊ฒฉ ์ธก์ • ์—†์Œ, ๊ฐ„๋‹จํ•œ ๋น„๊ธฐ์ˆ ์  ์„ค์ •์œผ๋กœ ๋ชจ๋“  ์ถ”๋ก ์ด ๊ธฐ๊ธฐ ๋‚ด์— ๋‚จ๊ธฐ๋ฅผ ์›ํ•˜๋Š” ์‚ฌ์šฉ์ž๋ฅผ ์œ„ํ•ด ์„ค๊ณ„๋˜์—ˆ์Šต๋‹ˆ๋‹ค. ์ด ๊ฐ€์ด๋“œ์˜ ์–ด๋–ค ์•ฑ๋ณด๋‹ค ๋” ์ ์€ ๊ถŒํ•œ์„ ์š”์ฒญํ•˜๋ฉฐ, ์ดˆ๊ธฐ ๋ชจ๋ธ ๋‹ค์šด๋กœ๋“œ ํ›„ ์™ธ๋ถ€ ์„œ๋ฒ„์— ์ ‘๊ทผํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

  • ๋ชจ๋ธ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ: ํ”„๋ผ์ด๋ฒ„์‹œ ๊ฒ€ํ†  ์—„์„  ์„ธํŠธ. ๋‹ค์šด๋กœ๋“œ๋Š” ๊ฒ€์ฆ ๊ฐ€๋Šฅํ•œ ์†Œ์Šค์—์„œ ์ด๋ฃจ์–ด์ง‘๋‹ˆ๋‹ค. ์ž„์˜ Hugging Face ์ €์žฅ์†Œ ์ ‘๊ทผ ์—†์Œ โ€” ์œ ์—ฐ์„ฑ์„ ํ†ต์ œ๋˜๊ณ  ๊ฐ์‚ฌ ๊ฐ€๋Šฅํ•œ ๋ชจ๋ธ ๊ณต๊ธ‰๊ณผ ๊ตํ™˜ํ•ฉ๋‹ˆ๋‹ค.
  • NPU ํ™œ์šฉ: CPU ์ „์šฉ ๊ฒฝ๋กœ. ๋ชจ๋“  ์นฉ์…‹์—์„œ ์ผ๊ด€์ ์œผ๋กœ Phi-4 Mini ๊ธฐ์ค€ ~13 tok/s(S25 Ultra).
  • ์ธํ„ฐํŽ˜์ด์Šค ํ’ˆ์งˆ: ๊น”๋”ํ•˜๊ณ  ๋ฏธ๋‹ˆ๋ฉ€ํ•จ. ๋Œ€ํ™” ๋‚ด๋ณด๋‚ด๊ธฐ์™€ ์‚ฌ์šฉ ์›๊ฒฉ ์ธก์ • ์—†์ด ์ฑ„ํŒ… ์ค‘์‹ฌ. ๊ณ ๊ธ‰ ์„ค์ • ์˜ต์…˜ ๋ถ€์กฑ(์˜จ๋„, top-p, ์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ) โ€” ์˜๋„์ ์œผ๋กœ ๋‹จ์ˆœํ™”๋จ.
  • Android ๊ณต์œ  ํŒจ๋„: 2026๋…„ 5์›” ๊ธฐ์ค€ ์ง€์›๋˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.
  • ์˜คํ”„๋ผ์ธ ์‹ ๋ขฐ์„ฑ: ์ตœ๊ณ  ์ˆ˜์ค€. ์™„์ „ํžˆ ์˜คํ”„๋ผ์ธ์œผ๋กœ ์ž‘๋™ํ•˜๋„๋ก ์„ค๊ณ„๋จ. ๋ฐฑ๊ทธ๋ผ์šด๋“œ ๋„คํŠธ์›Œํฌ ํ˜ธ์ถœ ์—†์Œ, ๋™๊ธฐํ™” ์—†์Œ, ๋ถ„์„ ์—†์Œ.
  • ๊ถŒํ•œ: ์ตœ์†Œ โ€” ์Šคํ† ๋ฆฌ์ง€ ๋ฐ ๋งˆ์ดํฌ(์Œ์„ฑ ์ž…๋ ฅ, ์„ ํƒ ์‚ฌํ•ญ) ์ ‘๊ทผ ์š”์ฒญ. ์—ฐ๋ฝ์ฒ˜, ์œ„์น˜, ๊ด‘๊ณ  ID ๋ฏธ์š”์ฒญ.
  • ์„ค์น˜ ๊ฒฝ๋กœ: Google Play Store.

๐Ÿ’กTip: ์‚ฌ์šฉ ์‚ฌ๋ก€์— ๋ฏผ๊ฐํ•œ ์ „๋ฌธ ํ…์ŠคํŠธ(๋ฒ•๋ฅ  ์ดˆ์•ˆ, ์˜๋ฃŒ ๋ฉ”๋ชจ, ๊ธฐ๋ฐ€ ๋น„์ฆˆ๋‹ˆ์Šค ์ฝ˜ํ…์ธ )๊ฐ€ ํฌํ•จ๋œ๋‹ค๋ฉด Private AI์˜ ์ตœ์†Œ ๊ถŒํ•œ๊ณผ ๊ฐ์‚ฌ ๊ฐ€๋Šฅํ•œ ์›๊ฒฉ ์ธก์ • ์—†๋Š” ์•„ํ‚คํ…์ฒ˜๊ฐ€ ์ค‘์š”ํ•ฉ๋‹ˆ๋‹ค. ์ผ๋ฐ˜์ ์ธ ์ƒ์‚ฐ์„ฑ ์‚ฌ์šฉ์˜ ๊ฒฝ์šฐ PocketPal AI๊ฐ€ ๋” ๋‚˜์€ ์ „๋ฐ˜์  ์„ ํƒ์ด์ง€๋งŒ, Private AI์˜ ์‹ ๋ขฐ ๋ชจ๋ธ์ด ๋” ๊ฒฌ๊ณ ํ•ฉ๋‹ˆ๋‹ค.

PocketPal AI

PocketPal AI๋Š” 2026๋…„ ๋Œ€๋ถ€๋ถ„์˜ ์‚ฌ์šฉ์ž์—๊ฒŒ Android์šฉ ์ตœ๊ณ ์˜ ์ „๋ฐ˜์  ๋กœ์ปฌ LLM ์•ฑ์ž…๋‹ˆ๋‹ค. ์ „์ฒด GGUF ๋ชจ๋ธ ์ƒํƒœ๊ณ„(Hugging Face์˜ ๋ชจ๋“  ๋ชจ๋ธ), GPU Vulkan ๊ฐ€์†, 6๊ฐœ ์•ฑ ์ค‘ ๊ฐ€์žฅ ์„ธ๋ จ๋œ ๋ชจ๋ฐ”์ผ ๋„ค์ดํ‹ฐ๋ธŒ ์ธํ„ฐํŽ˜์ด์Šค, Android ๊ณต์œ  ํŒจ๋„ ์ง์ ‘ ์ง€์›, ์˜ฌ๋ฐ”๋ฅธ Android ์Šคํ† ๋ฆฌ์ง€ ์ฒ˜๋ฆฌ๋ฅผ ๊ฒฐํ•ฉํ•ฉ๋‹ˆ๋‹ค โ€” ์ด ๊ฐ€์ด๋“œ์˜ ๋‹ค๋ฅธ ์–ด๋–ค ์•ฑ๋„ ์ด ์กฐํ•ฉ์„ ๊ฐ–์ถ”์ง€ ๋ชปํ–ˆ์Šต๋‹ˆ๋‹ค.

  • ๋ชจ๋ธ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ: ์ „์ฒด GGUF ์ƒํƒœ๊ณ„ โ€” ์•ฑ ๋‚ด์—์„œ ์ง์ ‘ Hugging Face์—์„œ ํƒ์ƒ‰ ๋ฐ ๋‹ค์šด๋กœ๋“œ, ๋˜๋Š” ๋กœ์ปฌ GGUF ํŒŒ์ผ ๊ฐ€์ ธ์˜ค๊ธฐ. Maid์™€ ๋™์ผํ•œ ํญ์„ ์ปค๋ฒ„ํ•˜๋˜ ์—„์„ ๋œ ๊ฒ€์ƒ‰ ์ธํ„ฐํŽ˜์ด์Šค ์ถ”๊ฐ€.
  • NPU ํ™œ์šฉ: ์ง€์› ๊ธฐ๊ธฐ์—์„œ GPU Vulkan ๊ฒฝ๋กœ. Snapdragon 8 Elite์—์„œ Phi-4 Mini ๊ธฐ์ค€ ~16 tok/s ์ œ๊ณต โ€” MLC Chat์˜ NPU ๊ฒฝ๋กœ(~22 tok/s) ๋Œ€๋น„ ๋’ค์ง€์ง€๋งŒ ๋™์ผ ๊ธฐ๊ธฐ์˜ ๋ชจ๋“  CPU ์ „์šฉ ์•ฑ๋ณด๋‹ค ์•ž์„ญ๋‹ˆ๋‹ค.
  • ์ธํ„ฐํŽ˜์ด์Šค ํ’ˆ์งˆ: 6๊ฐœ ์•ฑ ์ค‘ ์ตœ๊ณ ์˜ ๋ชจ๋ฐ”์ผ ๋„ค์ดํ‹ฐ๋ธŒ ์ธํ„ฐํŽ˜์ด์Šค. ์ œ์Šค์ฒ˜ ํƒ์ƒ‰, ๋Œ€ํ™” ๊ด€๋ฆฌ, ์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ ํŽธ์ง‘๊ธฐ, ๋ชจ๋ธ ๋ฒค์น˜๋งˆํ‚น, ๋ชจ๋ธ๋ณ„ ์„ค์ • ํŒจ๋„. React Native + llama.rn์œผ๋กœ ๋นŒ๋“œ๋จ.
  • Android ๊ณต์œ  ํŒจ๋„: ์ง€์›๋จ โ€” PocketPal AI์™€ Layla๋Š” ์ด ๊ฐ€์ด๋“œ์—์„œ Android ๊ณต์œ  ํŒจ๋„์— ํ†ตํ•ฉ๋œ ์œ ์ผํ•œ ๋‘ ์•ฑ์ž…๋‹ˆ๋‹ค. ๋ชจ๋“  ์•ฑ์—์„œ ํ…์ŠคํŠธ ์„ ํƒ โ†’ ๊ณต์œ  โ†’ PocketPal AI.
  • ์˜คํ”„๋ผ์ธ ์‹ ๋ขฐ์„ฑ: ์šฐ์ˆ˜ํ•จ. ๋ฐฑ๊ทธ๋ผ์šด๋“œ ์„œ๋ฒ„ ํ”„๋กœ์„ธ์Šค ์—†์Œ(Ollama via Termux์™€ ๋‹ฌ๋ฆฌ) โ€” ์ถ”๋ก ์ด ํ”„๋กœ์„ธ์Šค ๋‚ด์—์„œ ์‹คํ–‰๋˜์–ด ์„œ๋ฒ„ ๊ธฐ๋ฐ˜ ์ ‘๊ทผ์„ ๊ดด๋กญํžˆ๋Š” Android ๋ฐฑ๊ทธ๋ผ์šด๋“œ ์ข…๋ฃŒ ๋ฌธ์ œ๋ฅผ ํ”ผํ•ฉ๋‹ˆ๋‹ค.
  • ์Šคํ† ๋ฆฌ์ง€: ๊ธฐ๋ณธ์ ์œผ๋กœ ์•ฑ ํ”„๋ผ์ด๋น— ์Šคํ† ๋ฆฌ์ง€์— GGUF ํŒŒ์ผ ์ €์žฅ, ์™ธ๋ถ€ ์Šคํ† ๋ฆฌ์ง€๋ฅผ ๊ฐ€๋ฆฌํ‚ค๋Š” ์˜ต์…˜ ์žˆ์Œ. ๋ชจ๋ธ ํŒŒ์ผ์€ Android ๊ณต์œ  ์Šคํ† ๋ฆฌ์ง€๋กœ ์ด๋™ํ•˜๋ฉด Maid๋กœ ์ด์‹ ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค.
  • ์„ค์น˜ ๊ฒฝ๋กœ: Google Play Store. ์†Œ์Šค ์ฝ”๋“œ: github.com/a-ghorbani/pocketpal-ai.

๐Ÿ’กTip: PocketPal AI์˜ ์•ฑ ๋‚ด ๋ชจ๋ธ ๋ฒค์น˜๋งˆํ‚น ๋„๊ตฌ(์งง์€ ํ”„๋กฌํ”„ํŠธ ์‹คํ–‰ ํ›„ tok/s ์ธก์ •)๋Š” ํŠน์ • ์Šค๋งˆํŠธํฐ์—์„œ ๋ชจ๋ธ ํฌ๊ธฐ๋ฅผ ๋น„๊ตํ•˜๋Š” ๋ฐ ์œ ์šฉํ•ฉ๋‹ˆ๋‹ค. Phi-4 Mini, Qwen3 1.7B, Qwen3 4B์—์„œ ์‹คํ–‰ํ•˜์—ฌ ์ผ์ƒ ์‚ฌ์šฉ์— ๋ชจ๋ธ์„ ์„ ํƒํ•˜๊ธฐ ์ „์— ๊ธฐ๊ธฐ์˜ ์‹ค์šฉ์ ์ธ ์†๋„ ์ƒํ•œ์„ ์„ ์ฐพ์œผ์‹ญ์‹œ์˜ค.

Android ํŒŒํŽธํ™”: ์Šคํ† ๋ฆฌ์ง€, RAM, ๋ฐฑ๊ทธ๋ผ์šด๋“œ ์ œํ•œ

Android ํŒŒํŽธํ™”๋Š” ๋กœ์ปฌ LLM ์•ฑ์— ์„ธ ๊ฐ€์ง€ ์‹ค์งˆ์ ์ธ ๋ฌธ์ œ๋ฅผ ๋งŒ๋“ญ๋‹ˆ๋‹ค: ์Šคํ† ๋ฆฌ์ง€ ํŒŒํ‹ฐ์…˜ ์ถฉ๋Œ, ๋ถˆ์ผ์น˜ํ•œ RAM ํ• ๋‹น, ์ œ์กฐ์‚ฌ์˜ ๊ณต๊ฒฉ์ ์ธ ๋ฐฑ๊ทธ๋ผ์šด๋“œ ์ข…๋ฃŒ ์ •์ฑ…. ์ด ์„ธ ๊ฐ€์ง€๋Š” Samsung, OnePlus, Pixel, ๋‹ค๋ฅธ Android ์ œ์กฐ์‚ฌ ๊ธฐ๊ธฐ์—์„œ iOS์—์„œ๋Š” ๋ฐœ์ƒํ•˜์ง€ ์•Š๋Š” ๋ฐฉ์‹์œผ๋กœ ๋ชจ๋ธ ์‹ ๋ขฐ์„ฑ์— ์˜ํ–ฅ์„ ๋ฏธ์นฉ๋‹ˆ๋‹ค.

๐Ÿ’ฌ ์‰ฝ๊ฒŒ ๋งํ•˜๋ฉด

Android ํŒŒํŽธํ™”๋Š” Pixel 9 Pro์—์„œ ์™„๋ฒฝํ•˜๊ฒŒ ์ž‘๋™ํ•˜๋Š” ๋กœ์ปฌ LLM ์•ฑ์ด Galaxy S25 Ultra์—์„œ ์ถ”๋ก  ๋„์ค‘ ๋ฉˆ์ถœ ์ˆ˜ ์žˆ์Œ์„ ์˜๋ฏธํ•ฉ๋‹ˆ๋‹ค โ€” ์•ฑ์ด๋‚˜ ๋ชจ๋ธ ๋•Œ๋ฌธ์ด ์•„๋‹ˆ๋ผ Samsung์˜ ๋ฐฑ๊ทธ๋ผ์šด๋“œ ์ข…๋ฃŒ ์ •์ฑ…์ด ๋ฐฐํ„ฐ๋ฆฌ๋ฅผ ์ ˆ์•ฝํ•˜๊ธฐ ์œ„ํ•ด ํ”„๋กœ์„ธ์Šค๋ฅผ ์ข…๋ฃŒํ•˜๊ธฐ ๋•Œ๋ฌธ์ž…๋‹ˆ๋‹ค. ๊ฐ Android ์ œ์กฐ์‚ฌ๋Š” ์ด๋Ÿฌํ•œ ์ •์ฑ…์„ ๋‹ค๋ฅด๊ฒŒ ์ปค์Šคํ„ฐ๋งˆ์ด์ง•ํ•ฉ๋‹ˆ๋‹ค โ€” Pixel์€ AOSP ํ‘œ์ค€์— ๋” ๊ฐ€๊น๊ณ ; Samsung, OnePlus, Xiaomi๋Š” ๋ชจ๋‘ ๊ธฐ๋ณธ์ ์œผ๋กœ ๋” ๊ณต๊ฒฉ์ ์ธ ๋ฐฑ๊ทธ๋ผ์šด๋“œ ์ข…๋ฃŒ๋ฅผ ํ•ฉ๋‹ˆ๋‹ค.

  • ์Šคํ† ๋ฆฌ์ง€ ํŒŒํ‹ฐ์…˜: Android์˜ /data/user/0/(์•ฑ ํ”„๋ผ์ด๋น— ์Šคํ† ๋ฆฌ์ง€)์™€ /sdcard/(๊ณต์œ  ์Šคํ† ๋ฆฌ์ง€)๋Š” ๋ณ„๋„์˜ ํŒŒํ‹ฐ์…˜์ž…๋‹ˆ๋‹ค. ๋Œ€๋ถ€๋ถ„์˜ ๋กœ์ปฌ LLM ์•ฑ์€ ์•ฑ ํ”„๋ผ์ด๋น— ์Šคํ† ๋ฆฌ์ง€์— ๋ชจ๋ธ์„ ์ €์žฅํ•˜๋Š”๋ฐ, ์ด๋Š” ๋ฃจํŠธ ์—†์ด ํŒŒ์ผ ๊ด€๋ฆฌ์ž์—์„œ ํƒ์ƒ‰ํ•  ์ˆ˜ ์—†์Šต๋‹ˆ๋‹ค. Maid์™€ PocketPal AI ๊ฐ„์— GGUF ํŒŒ์ผ์„ ๊ณต์œ ํ•˜๋ ค๋ฉด ๋จผ์ € ๊ณต์œ  ์œ„์น˜๋กœ ๋ณต์‚ฌํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.
  • RAM ํ• ๋‹น: Android๋Š” ํƒ€์‚ฌ ์•ฑ์— ๋ฉ”๋ชจ๋ฆฌ ํ• ๋‹น์„ ๋ณด์žฅํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ์‹œ์Šคํ…œ์ด RAM์ด ํ•„์š”ํ•˜๋ฉด ์ถ”๋ก  ํ”„๋กœ์„ธ์Šค๋ฅผ ํฌํ•จํ•œ ๋ฐฑ๊ทธ๋ผ์šด๋“œ ํ”„๋กœ์„ธ์Šค๋ฅผ ์ข…๋ฃŒํ•ฉ๋‹ˆ๋‹ค. RAM 12 GB ๊ธฐ๊ธฐ(S25 Ultra ๊ธฐ๋ณธ๊ฐ’)์—์„œ๋Š” ํ™œ์„ฑ ์‚ฌ์šฉ ์ค‘ ๊ฑฐ์˜ ๋ฌธ์ œ๊ฐ€ ์—†์Šต๋‹ˆ๋‹ค. RAM 8 GB ์Šค๋งˆํŠธํฐ์—์„œ๋Š” ์ถ”๋ก  ์ค‘ ๋‹ค๋ฅธ ์•ฑ์„ ์‹คํ–‰ํ•˜๋ฉด ์ค‘๋‹จ๋  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
  • Samsung One UI ๋ฐฑ๊ทธ๋ผ์šด๋“œ ์ข…๋ฃŒ: ์ฃผ์š” Android ์ œ์กฐ์‚ฌ ์ค‘ ๊ฐ€์žฅ ๊ณต๊ฒฉ์ ์ž…๋‹ˆ๋‹ค. ์„ค์ • โ†’ ๊ธฐ๊ธฐ ์ผ€์–ด โ†’ ๋ฐฐํ„ฐ๋ฆฌ โ†’ ๋ฐฑ๊ทธ๋ผ์šด๋“œ ์‚ฌ์šฉ ์ œํ•œ โ†’ ์ ˆ์ „ ๋ชจ๋“œ ์•ฑ์œผ๋กœ ์ด๋™ํ•˜์—ฌ ์ด ๋ชฉ๋ก์˜ ๋ชจ๋“  LLM ์•ฑ์„ ์ˆ˜๋™์œผ๋กœ ์ œ๊ฑฐํ•˜์‹ญ์‹œ์˜ค. ๋˜ํ•œ ์ตœ๊ทผ ์•ฑ ์•„์ด์ฝ˜์„ ๋ˆŒ๋Ÿฌ ์•ฑ์„ ๊ณ ์ •ํ•˜์‹ญ์‹œ์˜ค.
  • OnePlus OxygenOS ๋ฐฑ๊ทธ๋ผ์šด๋“œ ์ข…๋ฃŒ: Samsung๊ณผ ์œ ์‚ฌํ•ฉ๋‹ˆ๋‹ค. ์„ค์ • โ†’ ๋ฐฐํ„ฐ๋ฆฌ โ†’ ๋ฐฐํ„ฐ๋ฆฌ ์ตœ์ ํ™”๋กœ ์ด๋™ํ•˜์—ฌ LLM ์•ฑ์„ ์ฐพ์•„ "์ตœ์ ํ™”ํ•˜์ง€ ์•Š์Œ"์œผ๋กœ ์„ค์ •ํ•˜์‹ญ์‹œ์˜ค. ์ถ”๊ฐ€๋กœ ์ตœ๊ทผ ์•ฑ ๊ฐœ์š”์—์„œ ์•ฑ์„ ๊ณ ์ •ํ•˜์‹ญ์‹œ์˜ค.
  • Pixel(AOSP์— ๊ฐ€์žฅ ๊ฐ€๊นŒ์›€): ๋ฐฑ๊ทธ๋ผ์šด๋“œ ๋™์ž‘์ด ๊ฐ€์žฅ ์˜ˆ์ธก ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค. FOREGROUND_SERVICE ๊ถŒํ•œ์„ ์š”์ฒญํ•˜๋Š” ์•ฑ(PocketPal AI์™€ Maid๊ฐ€ ํ•ด๋‹น)์€ Pixel์—์„œ ํ™œ์„ฑ ์ถ”๋ก  ์ค‘ ์•ˆ์ •์ ์œผ๋กœ ์‹คํ–‰๋ฉ๋‹ˆ๋‹ค. ๋งค์šฐ ๊ธด ์„ธ์…˜์—๋Š” ๋ฐฐํ„ฐ๋ฆฌ ์ตœ์ ํ™” ์ œ์™ธ๋ฅผ ๊ถŒ์žฅํ•ฉ๋‹ˆ๋‹ค.
  • Xiaomi MIUI/HyperOS: Samsung ๋‹ค์Œ์œผ๋กœ ๊ฐ€์žฅ ๊ณต๊ฒฉ์ ์ธ ๋ฐฑ๊ทธ๋ผ์šด๋“œ ์ข…๋ฃŒ. "๋ฐฐํ„ฐ๋ฆฌ ์ ˆ์•ฝ" ๊ธฐ๋Šฅ์ด ์ƒ์„ฑ ๋„์ค‘ ์ถ”๋ก ์„ ์ข…๋ฃŒํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์„ค์ • โ†’ ์•ฑ โ†’ ์•ฑ ๊ด€๋ฆฌ โ†’ [์•ฑ] โ†’ ๋ฐฐํ„ฐ๋ฆฌ ์ ˆ์•ฝ โ†’ ์ œํ•œ ์—†์Œ์œผ๋กœ ์ด๋™ํ•˜์‹ญ์‹œ์˜ค.

โš ๏ธWarning: ์–ด๋–ค ๋กœ์ปฌ LLM ์•ฑ์— ๋Œ€ํ•ด์„œ๋„ Android์˜ ๊ธฐ๋ณธ ๋ฐฑ๊ทธ๋ผ์šด๋“œ ๋™์ž‘์— ์˜์กดํ•˜์ง€ ๋งˆ์‹ญ์‹œ์˜ค. Samsung๊ณผ OnePlus ๊ธฐ๊ธฐ์—์„œ๋Š” ๊ธฐ๋ณธ ์ •์ฑ…์ด ๋ฐฐํ„ฐ๋ฆฌ ์ตœ์ ํ™” ์„ค์ •์—์„œ ์•ฑ์„ ๋ช…์‹œ์ ์œผ๋กœ ํ™”์ดํŠธ๋ฆฌ์ŠคํŠธ์— ์ถ”๊ฐ€ํ•˜์ง€ ์•Š๋Š” ํ•œ ๊ธด ์ถ”๋ก  ์„ธ์…˜(2๋ถ„ ์ด์ƒ)์„ ์ค‘๋‹จ์‹œํ‚ต๋‹ˆ๋‹ค. ์ด๊ฒƒ์ด ์ด ๊ฐ€์ด๋“œ์˜ ๋ชจ๋“  ์•ฑ์—์„œ "์•ฑ์ด ์‘๋‹ต ์ค‘๊ฐ„์— ๋ฉˆ์ท„์Šต๋‹ˆ๋‹ค" ๋ณด๊ณ ์˜ ๊ฐ€์žฅ ํฐ ์›์ธ์ž…๋‹ˆ๋‹ค.

Android ๊ณต์œ  ํŒจ๋„ ํ†ตํ•ฉ

Android ๊ณต์œ  ํŒจ๋„ ํ†ตํ•ฉ โ€” ๋ชจ๋“  ์•ฑ์—์„œ ํ…์ŠคํŠธ๋ฅผ ์„ ํƒํ•˜๊ณ  ๋กœ์ปฌ AI๋กœ ๋ณด๋‚ด๋Š” ๊ธฐ๋Šฅ โ€” ์€ 6๊ฐœ ์•ฑ ์ค‘ ๋‘ ๊ฐœ๋งŒ ์ง€์›ํ•ฉ๋‹ˆ๋‹ค: PocketPal AI์™€ Layla. ์ด ๋‹จ์ผ ๊ธฐ๋Šฅ์ด ๋กœ์ปฌ AI๋ฅผ ๋…๋ฆฝ ์•ฑ์ด ์•„๋‹Œ ์ง„์ •ํ•œ ์‹œ์Šคํ…œ ์ˆ˜์ค€ ๋„๊ตฌ๋กœ ๋งŒ๋“ญ๋‹ˆ๋‹ค.

  • ์ž‘๋™ ๋ฐฉ์‹: ๋ชจ๋“  Android ์•ฑ(์›น ๋ธŒ๋ผ์šฐ์ €, ์ด๋ฉ”์ผ, PDF ๋ฆฌ๋”, ๋ฉ”์‹œ์ง• ์•ฑ)์—์„œ ํ…์ŠคํŠธ ์„ ํƒ โ†’ ๊ณต์œ  ํƒญ โ†’ PocketPal AI ๋˜๋Š” Layla ์„ ํƒ โ†’ ์„ ํƒํ•œ ํ…์ŠคํŠธ๊ฐ€ ์ฑ„ํŒ… ์ž…๋ ฅ ํ•„๋“œ์— ๋ฏธ๋ฆฌ ์ฑ„์›Œ์ง.
  • PocketPal AI ๊ณต์œ  ํŒจ๋„: ์ผ๋ฐ˜ ํ…์ŠคํŠธ ์ˆ˜์‹ . ์„ ํƒํ•œ ํ…์ŠคํŠธ๊ฐ€ ๋ฏธ๋ฆฌ ์ฑ„์›Œ์ง„ ์ƒˆ ๋Œ€ํ™” ์—ด๊ธฐ. ๊ทธ ํ›„ ํ”„๋กฌํ”„ํŠธ ์ถ”๊ฐ€(์˜ˆ: "์š”์•ฝํ•ด ์ฃผ์„ธ์š”", "ํ•œ๊ตญ์–ด๋กœ ๋ฒˆ์—ญํ•ด ์ฃผ์„ธ์š”", "์‚ฌ์‹ค์„ ํ™•์ธํ•ด ์ฃผ์„ธ์š”") ๊ฐ€๋Šฅ.
  • Layla ๊ณต์œ  ํŒจ๋„: ๋™์ผํ•œ ๊ธฐ๋ณธ ๊ธฐ๋Šฅ. ๊ณต์œ  ํŒจ๋„์—์„œ ์ฑ„ํŒ… ์ธํ„ฐํŽ˜์ด์Šค๋กœ์˜ ์ „ํ™˜์ด ์•ฝ๊ฐ„ ๋” ๋งค๋„๋Ÿฌ์›€.
  • MLC Chat, Maid, Ollama via Termux, Private AI: 2026๋…„ 5์›” ๊ธฐ์ค€ Android ๊ณต์œ  ํŒจ๋„์— ํ‘œ์‹œ๋˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ํ…์ŠคํŠธ๋ฅผ ์ด๋Ÿฌํ•œ ์•ฑ์— ์ˆ˜๋™์œผ๋กœ ๋ณต์‚ฌ ๋ฐ ๋ถ™์—ฌ๋„ฃ์–ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.
  • ์‹ค์šฉ์  ์‚ฌ์šฉ ์‚ฌ๋ก€: ์›น ํƒ์ƒ‰ ์ค‘ ๊ธฐ์‚ฌ ์š”์•ฝ, ์ด๋ฉ”์ผ ๋ฒˆ์—ญ, ๋ฉ”์‹œ์ง€ ๋‹ต์žฅ ์ดˆ์•ˆ ์ž‘์„ฑ, ๋‹จ๋ฝ ํŒฉํŠธ ์ฒดํฌ โ€” ๋ชจ๋‘ ํ…์ŠคํŠธ๊ฐ€ ๊ธฐ๊ธฐ๋ฅผ ๋– ๋‚˜๊ฑฐ๋‚˜ ํด๋ผ์šฐ๋“œ API๋ฅผ ๊ฑด๋“œ๋ฆฌ์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

๐Ÿ’กTip: ์ „์ฒด ๋ชจ๋ธ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ(Layla๋‚˜ PocketPal AI์˜ ์—„์„ ๋œ ์„ธํŠธ์— ์—†๋Š” ๋ชจ๋ธ ํฌํ•จ)๋ฅผ ์‚ฌ์šฉํ•˜๋ฉด์„œ ๊ณต์œ  ํŒจ๋„ ํ†ตํ•ฉ์„ ์›ํ•˜๋Š” ๊ณ ๊ธ‰ ์‚ฌ์šฉ์ž๋ฅผ ์œ„ํ•œ ํ•ด๊ฒฐ์ฑ…: ํ…์ŠคํŠธ ๋ณต์‚ฌ โ†’ PocketPal AI ์—ด๊ธฐ โ†’ ๋ชจ๋“  GGUF ๋ชจ๋ธ ๋กœ๋“œ โ†’ ๋ถ™์—ฌ๋„ฃ๊ธฐ. PocketPal AI์˜ Hugging Face ํ†ตํ•ฉ์œผ๋กœ ์ปค์Šคํ…€ ๋ชจ๋ธ์„ ๋กœ๋“œํ•˜๊ณ  ๊ณต์œ  ๋Œ€์ƒ ์•ฑ์œผ๋กœ ๊ณ„์† ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์‚ฌ์ด๋“œ๋กœ๋“œ ๋ฐ Termux ๊ฒฝ๋กœ: Android์˜ ์ด์ 

Android์˜ ์‚ฌ์ด๋“œ๋กœ๋”ฉ ๋ฐ Termux ์ƒํƒœ๊ณ„๋Š” iOS์—์„œ ์กด์žฌํ•˜์ง€ ์•Š๋Š” ๋กœ์ปฌ AI ๋„๊ตฌ์— Android ์‚ฌ์šฉ์ž๊ฐ€ ์ ‘๊ทผํ•  ์ˆ˜ ์žˆ๊ฒŒ ํ•ฉ๋‹ˆ๋‹ค. ์ด๊ฒƒ์ด 2026๋…„ ๋กœ์ปฌ AI ์‚ฌ์šฉ์—์„œ Android์™€ iPhone ๊ฐ„์˜ ๊ฐ€์žฅ ๋‘๋“œ๋Ÿฌ์ง„ ์‹ค์งˆ์  ์ฐจ์ด์ž…๋‹ˆ๋‹ค.

๐Ÿ“ ํ•œ ๋ฌธ์žฅ์œผ๋กœ

Ollama via Termux โ€” ์Šค๋งˆํŠธํฐ์˜ ์™„์ „ํ•œ ๋กœ์ปฌ LLM API ์„œ๋ฒ„ โ€” ๋Š” 2026๋…„ Android ๋…์  ๊ธฐ๋Šฅ์ž…๋‹ˆ๋‹ค: Apple์˜ iOS ์ƒŒ๋“œ๋ฐ•์Šค๊ฐ€ iPhone์—์„œ ๋™๋“ฑํ•œ ์„ค์ •์„ ๋ฐฉ์ง€ํ•˜์—ฌ, ๊ธฐ๊ธฐ ๋‚ด OpenAI ํ˜ธํ™˜ API๊ฐ€ ํ•„์š”ํ•œ ์‚ฌ์šฉ์ž์—๊ฒŒ Android๊ฐ€ ์œ ์ผํ•œ ๋ชจ๋ฐ”์ผ ํ”Œ๋žซํผ์ด ๋ฉ๋‹ˆ๋‹ค.

  • Termux: Android ์•ฑ ๋‚ด์˜ Linux ํ™˜๊ฒฝ. F-Droid๋ฅผ ํ†ตํ•ด ์„ค์น˜(Play Store ์•„๋‹˜). bash, Python, curl ๋ฐ Ollama๋ฅผ ํฌํ•จํ•œ ๊ฑฐ์˜ ๋ชจ๋“  Linux ARM64 ๋ฐ”์ด๋„ˆ๋ฆฌ ์‹คํ–‰ ๊ฐ€๋Šฅ. Termux๋Š” iOS์—์„œ ์‚ฌ์šฉ ๋ถˆ๊ฐ€; ๋™๋“ฑํ•œ ๊ฒƒ(iSH)์€ ๋กœ์ปฌ API๋ฅผ ์ œ๊ณตํ•˜๊ธฐ ์œ„ํ•œ ๋„คํŠธ์›Œํ‚น ๊ธฐ๋Šฅ์ด ์—†์Šต๋‹ˆ๋‹ค.
  • F-Droid ์‚ฌ์ด๋“œ๋กœ๋”ฉ: Google Play ์—†์ด ์•ฑ ์„ค์น˜ โ€” Maid, Termux ๋ฐ ๊ธฐํƒ€ ์˜คํ”ˆ์†Œ์Šค ๋กœ์ปฌ AI ๋„๊ตฌ์— ์œ ์šฉํ•ฉ๋‹ˆ๋‹ค. F-Droid ํด๋ผ์ด์–ธํŠธ APK๋ฅผ ๋‹ค์šด๋กœ๋“œํ•˜๊ณ , Android ๋ณด์•ˆ ์„ค์ •์—์„œ "์•Œ ์ˆ˜ ์—†๋Š” ์†Œ์Šค์—์„œ ์•ฑ ์„ค์น˜"๋ฅผ ํ™œ์„ฑํ™”ํ•˜๊ณ , F-Droid๋ฅผ ์„ค์น˜ํ•œ ํ›„ Google ๊ณ„์ • ์—†์ด F-Droid์— ๋‚˜์—ด๋œ ๋ชจ๋“  ์•ฑ์„ ์„ค์น˜ํ•˜์‹ญ์‹œ์˜ค.
  • ADB ์‚ฌ์ด๋“œ๋กœ๋”ฉ: ๊ณ ๊ธ‰ ์‚ฌ์šฉ์ž๋Š” Android Debug Bridge๋ฅผ ํ†ตํ•ด ์ง์ ‘ APK๋ฅผ ์‚ฌ์ด๋“œ๋กœ๋“œํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค(`adb install [app.apk]`). ์ด๋ฅผ ํ†ตํ•ด Play Store ๋ชฉ๋ก์ด ์ง€์—ญ์— ๋”ฐ๋ผ ์ œํ•œ๋˜๊ฑฐ๋‚˜ ์ œ๊ฑฐ๋œ ์•ฑ์„ ์„ค์น˜ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
  • ์ปค์Šคํ…€ ROM์˜ ์ด์ : LineageOS, GrapheneOS, CalyxOS ์‚ฌ์šฉ์ž๋Š” Google Play๋ฅผ ์™„์ „ํžˆ ๋น„ํ™œ์„ฑํ™”ํ•˜๊ณ  F-Droid + ADB๋ฅผ ์œ ์ผํ•œ ์•ฑ ์„ค์น˜ ๊ฒฝ๋กœ๋กœ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. Maid์™€ Termux๋Š” ์ด๋Ÿฌํ•œ ํ”Œ๋žซํผ์—์„œ ์™„์ „ํžˆ ์ž‘๋™ํ•ฉ๋‹ˆ๋‹ค. iOS์—๋Š” ๋™๋“ฑํ•œ ๊ฒƒ์ด ์—†์Šต๋‹ˆ๋‹ค.
  • Termux๋ฅผ ํ†ตํ•œ llama.cpp ์„œ๋ฒ„ ๋ชจ๋“œ: Ollama ์™ธ์—๋„ llama.cpp ์ž์ฒด๋ฅผ Termux๋ฅผ ํ†ตํ•ด ์ปดํŒŒ์ผํ•˜๊ณ  ์„œ๋ฒ„ ๋ชจ๋“œ๋กœ ์‹คํ–‰ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค โ€” Ollama์— ๋น„ํ•ด ๋” ๋‚ฎ์€ ๋ฉ”๋ชจ๋ฆฌ ์‚ฌ์šฉ์„ ์„ ํ˜ธํ•˜๋Š” ์ผ๋ถ€ ์‚ฌ์šฉ์ž๊ฐ€ ์„ ํ˜ธํ•˜๋Š” ๋Œ€์ฒด ๋กœ์ปฌ API๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.

๐Ÿ’กTip: Termux + Ollama ์„ค์ •์€ ๋™์ผํ•œ ์Šค๋งˆํŠธํฐ์˜ ๋‹ค๋ฅธ ์•ฑ์„ ์œ„ํ•œ ๋กœ์ปฌ API ์„œ๋ฒ„๋กœ๋„ ์ž‘๋™ํ•ฉ๋‹ˆ๋‹ค. ์˜ˆ๋ฅผ ๋“ค์–ด Obsidian(Local REST API ํ”Œ๋Ÿฌ๊ทธ์ธ)๊ณผ ๊ฐ™์€ ์•ฑ์ด๋‚˜ Shortcuts ์œ ์‚ฌ ์ปค์Šคํ…€ ์ž๋™ํ™”๋Š” ์ธํ„ฐ๋„ท ์—†์ด AI ์ž‘์—…์„ ์‹คํ–‰ํ•˜๊ธฐ ์œ„ํ•ด localhost:11434/api/generate๋ฅผ ์ฟผ๋ฆฌํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค โ€” ์ง„์ •์œผ๋กœ ์œ ์šฉํ•œ ํ™ˆ ํ™”๋ฉด ์ž๋™ํ™” ํŒจํ„ด์ž…๋‹ˆ๋‹ค.

ํ”ํ•œ ์‹ค์ˆ˜

Android์—์„œ ๋กœ์ปฌ LLM ์•ฑ์˜ ๋Œ€๋ถ€๋ถ„์˜ ์‹คํŒจ๋Š” ํ”ผํ•  ์ˆ˜ ์žˆ๋Š” ๋„ค ๊ฐ€์ง€ ์‹ค์ˆ˜์—์„œ ๋น„๋กฏ๋ฉ๋‹ˆ๋‹ค.

  • Play Store์—์„œ Termux ์„ค์น˜. Play Store ๋ฒ„์ „์˜ Termux๋Š” ์˜ค๋ž˜๋˜์—ˆ์Šต๋‹ˆ๋‹ค(Termux๋Š” 2020๋…„์— ์—…๋ฐ์ดํŠธ๋ฅผ ์ค‘๋‹จํ–ˆ์Šต๋‹ˆ๋‹ค). ํ˜„์žฌ ์œ ์ง€ ๊ด€๋ฆฌ๋˜๋Š” ๋นŒ๋“œ๋Š” F-Droid์— ์žˆ์Šต๋‹ˆ๋‹ค. pkg install curl๊ณผ Ollama ์„ค์น˜ ์Šคํฌ๋ฆฝํŠธ๋Š” Play Store ๋ฒ„์ „์˜ Termux์—์„œ ์‹คํŒจํ•ฉ๋‹ˆ๋‹ค.
  • Pixel ์Šค๋งˆํŠธํฐ์—์„œ NPU ์†๋„ ๊ธฐ๋Œ€. Google์˜ Tensor G5 NPU๋Š” ํƒ€์‚ฌ ์•ฑ์—์„œ ์ ‘๊ทผ ๋ถˆ๊ฐ€ํ•ฉ๋‹ˆ๋‹ค. 6๊ฐœ ์•ฑ ๋ชจ๋‘ ๋ชจ๋“  Pixel ๋ชจ๋ธ์—์„œ CPU ์ „์šฉ์œผ๋กœ ์‹คํ–‰๋ฉ๋‹ˆ๋‹ค. MLC Chat์˜ NPU ์ด์ ์€ Snapdragon 8 Elite์—์„œ๋งŒ ์ ์šฉ๋˜๋ฉฐ Pixel๋กœ๋Š” ์ด์ „๋˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.
  • Samsung์—์„œ ๋ฐฐํ„ฐ๋ฆฌ ์ตœ์ ํ™” ํ™”์ดํŠธ๋ฆฌ์ŠคํŠธ ๊ฑด๋„ˆ๋œ€. Galaxy ์Šค๋งˆํŠธํฐ์€ ๋ฐฑ๊ทธ๋ผ์šด๋“œ ํ”„๋กœ์„ธ์Šค๋ฅผ ๊ณต๊ฒฉ์ ์œผ๋กœ ์ข…๋ฃŒํ•ฉ๋‹ˆ๋‹ค. 90์ดˆ ์ด์ƒ ์ง€์†๋˜๋Š” ์ƒ์„ฑ์€ Termux๋‚˜ LLM ์•ฑ์ด ๋ช…์‹œ์ ์œผ๋กœ ํ™”์ดํŠธ๋ฆฌ์ŠคํŠธ์— ์—†์œผ๋ฉด ๋ฐฑ๊ทธ๋ผ์šด๋“œ ์ข…๋ฃŒ ์ •์ฑ…์— ์˜ํ•ด ์ค‘๋‹จ๋  ๊ฐ€๋Šฅ์„ฑ์ด ๋†’์Šต๋‹ˆ๋‹ค.
  • ๊ธฐ๊ธฐ์— ๋น„ํ•ด ๋„ˆ๋ฌด ํฐ ๋ชจ๋ธ ๋‹ค์šด๋กœ๋“œ. 7B Q4_K_M ๋ชจ๋ธ(~4.7 GB)์€ ~6 GB์˜ ์‚ฌ์šฉ ๊ฐ€๋Šฅ RAM์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค. ์‹œ์Šคํ…œ ์˜ค๋ฒ„ํ—ค๋“œ๊ฐ€ ์žˆ๋Š” 12 GB ์Šค๋งˆํŠธํฐ์—์„œ๋Š” ๋นก๋นกํ•ฉ๋‹ˆ๋‹ค. 8 GB ์Šค๋งˆํŠธํฐ์—์„œ๋Š” ์ƒ์„ฑ ๋„์ค‘ OOM์œผ๋กœ ์•ฑ์ด ์ถฉ๋Œํ•ฉ๋‹ˆ๋‹ค. 8โ€“10 GB ๊ธฐ๊ธฐ์—๋Š” Phi-4 Mini(3.8B, ~2.7 GB), ๊ทธ ์ดํ•˜์—๋Š” Qwen3 1.7B(~1.1 GB)๋ฅผ ์‚ฌ์šฉํ•˜์‹ญ์‹œ์˜ค.
  • ๋‹ค์šด๋กœ๋“œ ํด๋”์˜ ์Šคํ† ๋ฆฌ์ง€๊ฐ€ ์ ‘๊ทผ ๊ฐ€๋Šฅํ•˜๋‹ค๊ณ  ๊ฐ€์ •. ๋Œ€๋ถ€๋ถ„์˜ ๋กœ์ปฌ LLM ์•ฑ์€ ์•ฑ ํ”„๋ผ์ด๋น— ์Šคํ† ๋ฆฌ์ง€(`/data/user/0/[์•ฑํŒจํ‚ค์ง€]/`)์— ๋ชจ๋ธ ํŒŒ์ผ์„ ์ €์žฅํ•˜๋Š”๋ฐ, ์ด๋Š” ๋ฃจํŠธ ์—†์ด ํŒŒ์ผ ๊ด€๋ฆฌ์ž์—์„œ ํƒ์ƒ‰ํ•  ์ˆ˜ ์—†์Šต๋‹ˆ๋‹ค. GGUF๋ฅผ ๋‹ค์šด๋กœ๋“œ ํด๋”์— ๋‹ค์šด๋กœ๋“œํ•˜๊ณ  ์•ฑ์ด ์ฐพ์„ ๊ฒƒ์ด๋ผ ๊ธฐ๋Œ€ํ•œ๋‹ค๋ฉด ์ฐพ์ง€ ๋ชปํ•  ๊ฒƒ์ž…๋‹ˆ๋‹ค โ€” ์•ฑ์˜ ๋‚ด์žฅ ๊ฐ€์ ธ์˜ค๊ธฐ ๊ธฐ๋Šฅ์„ ์‚ฌ์šฉํ•˜๊ฑฐ๋‚˜ ์„ค์ •์—์„œ ์˜ฌ๋ฐ”๋ฅธ ๊ฒฝ๋กœ๋ฅผ ๊ฐ€๋ฆฌํ‚ค์‹ญ์‹œ์˜ค.
  • ๋‘ ์ถ”๋ก  ์•ฑ์„ ๋™์‹œ์— ์‹คํ–‰. ๊ฐ ์•ฑ์€ ๋ชจ๋ธ์„ RAM์— ๋กœ๋“œํ•ฉ๋‹ˆ๋‹ค. 12 GB ์Šค๋งˆํŠธํฐ์—์„œ ๋‘ ๊ฐœ์˜ 3B ๋ชจ๋ธ์€ ์šด์˜ ์ฒด์ œ์— ~5 GB๋ฅผ ๋‚จ๊ฒจ ์ข…๋ฃŒ๋ฅผ ์œ ๋ฐœํ•ฉ๋‹ˆ๋‹ค. MLC Chat๊ณผ PocketPal AI๋ฅผ ๋ชจ๋‘ ์‚ฌ์šฉํ•œ๋‹ค๋ฉด ๋‹ค๋ฅธ ์•ฑ์„ ์—ด๊ธฐ ์ „์— ํ•˜๋‚˜๋ฅผ ๋‹ซ์œผ์‹ญ์‹œ์˜ค.

์ถœ์ฒ˜

  • MLC Chat GitHub ๋ฐ ๋ฌธ์„œ โ€” github.com/mlc-ai/mlc-llm
  • Maid GitHub (Mobile Artificial Intelligence) โ€” github.com/Mobile-Artificial-Intelligence/maid
  • PocketPal AI GitHub โ€” github.com/a-ghorbani/pocketpal-ai
  • Ollama ๊ณต์‹ ๋ฌธ์„œ โ€” ollama.com
  • Termux ๊ณต์‹ ๋ฌธ์„œ โ€” wiki.termux.com
  • Snapdragon 8 Elite Hexagon NPU ๊ธฐ์ˆ  ๋ฌธ์„œ โ€” Qualcomm Developer Network
  • MediaTek Dimensity 9400 APU ์‚ฌ์–‘ โ€” MediaTek ์ œํ’ˆ ํŽ˜์ด์ง€
  • Google Tensor G5 ์นฉ ๊ฐœ์š” โ€” Google ํ•˜๋“œ์›จ์–ด ๋ฌธ์„œ
  • Android ๋ฐฐํ„ฐ๋ฆฌ ์ตœ์ ํ™” ๋ฐ ๋ฐฑ๊ทธ๋ผ์šด๋“œ ํ”„๋กœ์„ธ์Šค ์ œํ•œ โ€” Android ๊ฐœ๋ฐœ์ž ๋ฌธ์„œ

FAQ

Pixel 9 Pro์—์„œ 7B ๋ชจ๋ธ์„ ์‹คํ–‰ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๊นŒ?

์˜ˆ, Pixel 9 Pro์—๋Š” 16 GB RAM์ด ์žˆ์Šต๋‹ˆ๋‹ค โ€” 7B Q4_K_M ๋ชจ๋ธ(~4.7 GB ๋ชจ๋ธ ๊ฐ€์ค‘์น˜)์„ ์‹œ์Šคํ…œ RAM์ด ๋‚จ์€ ์ƒํƒœ๋กœ ์‹คํ–‰ํ•˜๊ธฐ์— ์ถฉ๋ถ„ํ•ฉ๋‹ˆ๋‹ค. ํ•ด๋‹น ํฌ๊ธฐ์—์„œ ์†๋„๋Š” ~8โ€“10 tok/s์ž…๋‹ˆ๋‹ค(Tensor G5์—์„œ CPU ์ „์šฉ). ์ด ์‚ฌ์šฉ ์‚ฌ๋ก€์—๋Š” PocketPal AI๋‚˜ Maid๋ฅผ 7B GGUF์™€ ํ•จ๊ป˜ ์‚ฌ์šฉํ•˜์‹ญ์‹œ์˜ค. Pixel 9 Pro์—์„œ ์‹ค์‹œ๊ฐ„ ๋Œ€ํ™” ์†๋„๋ฅผ ์›ํ•œ๋‹ค๋ฉด Phi-4 Mini(3.8B, ~14 tok/s)๋ฅผ ๊ณ ์ˆ˜ํ•˜์‹ญ์‹œ์˜ค.

์ด ์•ฑ๋“ค์ด Snapdragon NPU๋ฅผ ์‚ฌ์šฉํ•ฉ๋‹ˆ๊นŒ?

MLC Chat๋งŒ Snapdragon NPU๋ฅผ ์‚ฌ์šฉํ•˜๋ฉฐ, Snapdragon 8 Elite ๊ธฐ๊ธฐ(Galaxy S25 ์‹œ๋ฆฌ์ฆˆ, OnePlus 13)์—์„œ๋งŒ Hexagon NPU๋ฅผ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค. ๋‹ค๋ฅธ 5๊ฐœ ์•ฑ์€ CPU ๋˜๋Š” GPU Vulkan์„ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค. Hexagon NPU๋Š” ๋™์ผ ๊ธฐ๊ธฐ์˜ CPU ๊ฒฝ๋กœ ๋Œ€๋น„ MLC Chat์—์„œ 2โ€“3๋ฐฐ ๋น ๋ฅธ ์ถ”๋ก ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.

Samsung Galaxy S22์—์„œ ๋กœ์ปฌ AI๋ฅผ ์‹คํ–‰ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๊นŒ?

์˜ˆ, 8 GB RAM ๋ณ€ํ˜•์—์„œ ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค. Galaxy S22๋Š” Snapdragon 8 Gen 1(๋˜๋Š” ์ผ๋ถ€ ์ง€์—ญ์—์„œ Exynos 2200)์„ ์‹คํ–‰ํ•ฉ๋‹ˆ๋‹ค. PocketPal AI์™€ Maid๋Š” Qwen3 1.7B ๋˜๋Š” SmolLM2 1.7B์™€ ํ•จ๊ป˜ ~8โ€“12 tok/s๋กœ ์ž‘๋™ํ•ฉ๋‹ˆ๋‹ค. Phi-4 Mini(3.8B)๋Š” 8 GB RAM์—์„œ ๊ฐ€๋Šฅํ•˜์ง€๋งŒ ๋นก๋นกํ•ฉ๋‹ˆ๋‹ค โ€” ๋จผ์ € ๋‹ค๋ฅธ ๋ชจ๋“  ์•ฑ์„ ๋‹ซ์œผ์‹ญ์‹œ์˜ค. MLC Chat์˜ NPU ๊ฒฝ๋กœ๋Š” Snapdragon 8 Gen 1์—์„œ ๊ฒ€์ฆ๋˜์ง€ ์•Š์•˜์Šต๋‹ˆ๋‹ค.

๋กœ์ปฌ AI๋ฅผ ์œ„ํ•ด ์Šค๋งˆํŠธํฐ์„ ๋ฃจํŒ…ํ•ด์•ผ ํ•ฉ๋‹ˆ๊นŒ?

์•„๋‹ˆ์˜ค. ์ด ๊ฐ€์ด๋“œ์˜ 6๊ฐœ ์•ฑ์€ ๋ชจ๋‘ ๋ฃจํŒ…๋˜์ง€ ์•Š์€ Android ์Šค๋งˆํŠธํฐ์—์„œ ์ž‘๋™ํ•ฉ๋‹ˆ๋‹ค. Termux๋Š” F-Droid APK์— ๋Œ€ํ•ด "์•Œ ์ˆ˜ ์—†๋Š” ์†Œ์Šค์—์„œ ์•ฑ ์„ค์น˜"๋ฅผ ํ™œ์„ฑํ™”ํ•ด์•ผ ํ•˜์ง€๋งŒ ์ด๋Š” ๋ฃจํŒ…์ด ์•„๋‹™๋‹ˆ๋‹ค. ๋ฃจํŒ…์€ ํŒŒ์ผ ๊ด€๋ฆฌ์ž์—์„œ ์•ฑ์˜ ํ”„๋ผ์ด๋น— ์Šคํ† ๋ฆฌ์ง€ ๋””๋ ‰ํ† ๋ฆฌ์— ์ ‘๊ทผํ•˜๋Š” ๋ฐ๋งŒ ๊ด€๋ จ ์žˆ์Šต๋‹ˆ๋‹ค โ€” ์ถ”๋ก ์—๋Š” ํ•„์š”ํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

์ด ์•ฑ๋“ค์„ Termux์™€ ํ•จ๊ป˜ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๊นŒ?

Ollama via Termux๋Š” ์ž์ฒด ์™„์ „ํ•œ ์„ค์ •์ž…๋‹ˆ๋‹ค โ€” Termux ๋‚ด์— Ollama๋ฅผ ์„ค์น˜ํ•˜๊ณ  Termux ํ„ฐ๋ฏธ๋„์„ ํ†ตํ•ด ์ƒํ˜ธ์ž‘์šฉํ•ฉ๋‹ˆ๋‹ค. ๋‹ค๋ฅธ 5๊ฐœ ์•ฑ(MLC Chat, Maid, Layla, Private AI, PocketPal AI)์€ Termux์™€ ์ƒํ˜ธ์ž‘์šฉํ•˜์ง€ ์•Š๋Š” ๋…๋ฆฝ Android ์•ฑ์ž…๋‹ˆ๋‹ค. ๊ณ ๊ธ‰ ์‚ฌ์šฉ์ž๋Š” ๋‘˜ ๋‹ค ์‹คํ–‰ํ•ฉ๋‹ˆ๋‹ค: API ์ ‘๊ทผ์„ ์œ„ํ•œ Termux์˜ Ollama์™€ ์„ธ๋ จ๋œ ์ฑ„ํŒ… ์ธํ„ฐํŽ˜์ด์Šค๋ฅผ ์œ„ํ•œ PocketPal AI.

Android ๋ฐฑ๊ทธ๋ผ์šด๋“œ ์ œํ•œ์„ ์–ด๋–ป๊ฒŒ ์ฒ˜๋ฆฌํ•ฉ๋‹ˆ๊นŒ?

๋ฐฑ๊ทธ๋ผ์šด๋“œ ์ œํ•œ์€ Android ๋กœ์ปฌ LLM ์•ฑ์˜ ๊ฐ€์žฅ ํฐ ์‹ ๋ขฐ์„ฑ ๋ฌธ์ œ์ž…๋‹ˆ๋‹ค. PocketPal AI์™€ Maid๋Š” FOREGROUND_SERVICE ๊ถŒํ•œ์„ ์š”์ฒญํ•˜์—ฌ ๋ฐฑ๊ทธ๋ผ์šด๋“œ ์ข…๋ฃŒ์— ๋” ๊ฐ•ํ•ฉ๋‹ˆ๋‹ค. Ollama via Termux๋Š” ๋ฐฐํ„ฐ๋ฆฌ ์ตœ์ ํ™” ์„ค์ •์—์„œ Termux๊ฐ€ ๋ช…์‹œ์ ์œผ๋กœ ํ™”์ดํŠธ๋ฆฌ์ŠคํŠธ์— ์—†์œผ๋ฉด Samsung๊ณผ OnePlus์˜ ๋ฐฑ๊ทธ๋ผ์šด๋“œ ์ข…๋ฃŒ ์ •์ฑ…์— ์ทจ์•ฝํ•ฉ๋‹ˆ๋‹ค. Pixel์—์„œ ๋ฐฑ๊ทธ๋ผ์šด๋“œ ๋™์ž‘์ด ๋” ์˜ˆ์ธก ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค. Samsung One UI์—์„œ๋Š” ๊ธฐ๊ธฐ ์ผ€์–ด โ†’ ๋ฐฐํ„ฐ๋ฆฌ โ†’ ์ ˆ์ „ ๋ชจ๋“œ ์•ฑ์—์„œ ๋ชจ๋“  LLM ์•ฑ์„ ์ˆ˜๋™์œผ๋กœ ํ™”์ดํŠธ๋ฆฌ์ŠคํŠธ์— ์ถ”๊ฐ€ํ•˜์‹ญ์‹œ์˜ค.

๋กœ์ปฌ AI ์ถœ๋ ฅ์„ ๋‹ค๋ฅธ ์•ฑ๊ณผ ๊ณต์œ ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๊นŒ?

์˜ˆ, ์–ด๋–ค ์•ฑ์—์„œ๋“  ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค โ€” AI ์‘๋‹ต์„ ๋ณต์‚ฌํ•˜๊ณ  ์–ด๋””๋“  ๋ถ™์—ฌ๋„ฃ์œผ์‹ญ์‹œ์˜ค. ๋ฐ˜๋Œ€ ๋ฐฉํ–ฅ(๋‹ค๋ฅธ ์•ฑ์—์„œ AI๋กœ ํ…์ŠคํŠธ ์ „์†ก)์˜ ๊ฒฝ์šฐ, 2026๋…„ 5์›” ๊ธฐ์ค€ PocketPal AI์™€ Layla๋งŒ Android ๊ณต์œ  ํŒจ๋„์— ํ‘œ์‹œ๋ฉ๋‹ˆ๋‹ค.

์ด ์•ฑ๋“ค์ด Android Auto๋ฅผ ์ง€์›ํ•ฉ๋‹ˆ๊นŒ?

์•„๋‹ˆ์˜ค. 2026๋…„ 5์›” ๊ธฐ์ค€ 6๊ฐœ ์•ฑ ์ค‘ ์–ด๋А ๊ฒƒ๋„ Android Auto๋ฅผ ์ง€์›ํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค. Android Auto๋Š” ์šด์ „ ์ค‘ ์‹คํ–‰ํ•  ์ˆ˜ ์žˆ๋Š” ์•ฑ์„ ์ œํ•œํ•˜๋ฉฐ, ๋กœ์ปฌ LLM ์•ฑ๋“ค์€ ์ธ์ฆ์— ํ•„์š”ํ•œ Auto ํ˜ธํ™˜ ์ธํ„ฐํŽ˜์ด์Šค๋ฅผ ๊ตฌ์ถ•ํ•˜์ง€ ์•Š์•˜์Šต๋‹ˆ๋‹ค.

์–ด๋–ค ์•ฑ์ด ๋ชจ๋ธ ์Šคํ† ๋ฆฌ์ง€๋ฅผ ๊ฐ€์žฅ ์ž˜ ์ฒ˜๋ฆฌํ•ฉ๋‹ˆ๊นŒ?

PocketPal AI๊ฐ€ ๋ชจ๋ธ ์Šคํ† ๋ฆฌ์ง€๋ฅผ ๊ฐ€์žฅ ์šฐ์•„ํ•˜๊ฒŒ ์ฒ˜๋ฆฌํ•ฉ๋‹ˆ๋‹ค โ€” ์•ฑ ๋‚ด ๋‹ค์šด๋กœ๋“œ๋ฅผ ์œ„ํ•ด Hugging Face์™€ ์ง์ ‘ ํ†ตํ•ฉํ•˜๊ณ , Android ์Šคํ† ๋ฆฌ์ง€ ํŒŒํ‹ฐ์…˜ ๋ถ„ํ• ์„ ์˜ฌ๋ฐ”๋ฅด๊ฒŒ ์ฒ˜๋ฆฌํ•˜๋ฉฐ, ๋ชจ๋ธ ๊ด€๋ฆฌ ์ธํ„ฐํŽ˜์ด์Šค๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. Maid๋Š” ํŒŒ์ผ ์‹œ์Šคํ…œ์„ ํ†ตํ•ด GGUF ํŒŒ์ผ์„ ์ˆ˜๋™์œผ๋กœ ๊ด€๋ฆฌํ•˜๊ณ ์ž ํ•˜๋Š” ์‚ฌ์šฉ์ž์—๊ฒŒ ์ตœ์ ์ž…๋‹ˆ๋‹ค. MLC Chat์€ ๋‹ค๋ฅธ ์•ฑ์œผ๋กœ ์ด์‹ ๋ถˆ๊ฐ€๋Šฅํ•œ ๋…์  ์ปดํŒŒ์ผ๋œ ๋ชจ๋ธ ํ˜•์‹์„ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค.

์—ฌ๋Ÿฌ ๋ชจ๋ธ์„ ๋™์‹œ์— ์‹คํ–‰ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๊นŒ?

๋‘ ๋ชจ๋ธ๊ณผ Android ์šด์˜ ์ฒด์ œ ์˜ค๋ฒ„ํ—ค๋“œ๋ฅผ ์œ„ํ•œ ์ถฉ๋ถ„ํ•œ RAM์ด ๊ธฐ๊ธฐ์— ์žˆ๋Š” ๊ฒฝ์šฐ์—๋งŒ ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค. Pixel 9 Pro(16 GB)์—์„œ: ๋‘ ๊ฐœ์˜ Phi-4 Mini ๋ชจ๋ธ(๊ฐ 2.7 GB)์€ ์šด์˜ ์ฒด์ œ์— ~10 GB๋ฅผ ๋‚จ๊ฒจ์ค๋‹ˆ๋‹ค โ€” ๊ธฐ์ˆ ์ ์œผ๋กœ ๊ฐ€๋Šฅํ•˜์ง€๋งŒ ๋งค์šฐ ๋นก๋นกํ•ฉ๋‹ˆ๋‹ค. ์‹ค์ œ๋กœ๋Š” ๋‹ค๋ฅธ ์•ฑ์„ ์—ด๊ธฐ ์ „์— ํ•œ ์•ฑ์„ ๋‹ซ์œผ์‹ญ์‹œ์˜ค. Ollama via Termux๋Š” ๋‹จ์ผ ollama serve ํ”„๋กœ์„ธ์Šค๋กœ ๋ชจ๋ธ ์ „ํ™˜์„ ์ง€์›ํ•˜๋ฉฐ, ํ•œ ๋ฒˆ์— ํ•˜๋‚˜์˜ ๋ชจ๋ธ์„ ๋กœ๋“œํ•ฉ๋‹ˆ๋‹ค.

โ† ๊ณ ๊ธ‰ ๋กœ์ปฌ LLM์œผ๋กœ ๋Œ์•„๊ฐ€๊ธฐ

Android ๋กœ์ปฌ LLM ์•ฑ 2026: MLC Chat, Maid ๋“ฑ ๋น„๊ต | PromptQuorum