ํต์ฌ ์์
- ์จ๋๋ฐ์ด์ค ์ถ๋ก ์ iPad Pro M4(16GB)์ ๊ณ ๊ธํ ์๋๋ก์ด๋(8GB ์ด์)์์ ์ค์ฉ์ ์ ๋๋ค. ์ด ์๊ณ์น ์ดํ์์๋ ์์ฑ ์๋๊ฐ ์ค์๊ฐ ์ฌ์ฉ์ ๋๋ฌด ๋๋ฆฝ๋๋ค. ๋๋ถ๋ถ์ ํ๋ธ๋ฆฟ ์ฌ์ฉ์์๊ฒ๋ ์ํ ๊ธฐ๊ธฐ ์๊ฒฉ ์ฐ๊ฒฐ์ด ์ต์ ์ ๋ฐฉ๋ฒ์ ๋๋ค.
- ์๊ฒฉ ์ฐ๊ฒฐ์ด ๋๋ถ๋ถ์ ์ฌ๋๋ค์๊ฒ ๊ถ์ฅํ๋ ์ ๊ทผ ๋ฐฉ์์ ๋๋ค. ์ํ Wi-Fi ๋คํธ์ํฌ์ MacยทPC์์ Ollama๋ฅผ ์คํํ๊ณ ํ๋ธ๋ฆฟ(RAMยทOS ๋ฌด๊ด)์ ์ฐ๊ฒฐํ์ญ์์ค. ์ํ ๊ธฐ๊ธฐ๊ฐ 70B ๋ชจ๋ธ์ ์คํํ๊ณ ํ๋ธ๋ฆฟ์ ํฐ์น ์ฑํ ์ธํฐํ์ด์ค๋ฅผ ์ ๊ณตํฉ๋๋ค. ํ๋ธ๋ฆฟ์ ๋ชจ๋ธ์ ๋ค์ด๋ก๋ํ ํ์๊ฐ ์์ต๋๋ค.
- LLM Farm๊ณผ Pocket Paladin์ด iPad ๋ค์ดํฐ๋ธ ์ต์ ์ ๋๋ค. ๋ ๋ค iPad์ Apple Silicon ์นฉ์์ GGUF ๋ชจ๋ธ์ ๋ก์ปฌ๋ก ์คํํฉ๋๋ค. LLM Farm์ ์ค์ ์ต์ ์ด ๋ ๋ง๊ณ , Pocket Paladin์ ์ด๋ณด์์๊ฒ ๋ ์ฝ์ต๋๋ค.
- Termux + Ollama๊ฐ ์๋๋ก์ด๋ ์ ๊ทผ ๋ฐฉ์์ ๋๋ค. ํฐ๋ฏธ๋ ์ฌ์ฉ์ ์ต์ํด์ผ ํ์ง๋ง RAM 8GB ์ด์์ ๋ชจ๋ ์๋๋ก์ด๋ ๊ธฐ๊ธฐ์์ ์๋ํฉ๋๋ค. Ollama๋ Termux์์ ์คํ๋์ด localhost:11434์์ ๋ชจ๋ธ์ ์ ๊ณตํฉ๋๋ค.
- ๋๋ถ๋ถ์ ํ๋ธ๋ฆฟ ์ต์ ์จ๋๋ฐ์ด์ค ๋ชจ๋ธ: Phi-4 Mini(3.8B). ์ฌ์ฉ ๊ฐ๋ฅํ RAM 6GB ์ด์์ ๊ธฐ๊ธฐ์์ ์๋ํ๋ฉฐ, ์ผ์์ ์ธ ๋๋ถ๋ถ์ ์์ ์์ ์ฌ์ฉ ๊ฐ๋ฅํ ์ถ๋ ฅ์ ์์ฑํ๊ณ ๋น ๋ฅธ ์ฐ๊ฒฐ ์ 5~10๋ถ ๋ด ๋ค์ด๋ก๋ ๊ฐ๋ฅํฉ๋๋ค.
- ํ๋ธ๋ฆฟ ๋ธ๋ผ์ฐ์ ์์ Open WebUI๊ฐ ๊ฐ์ฅ ๊ฐ๋จํ ์๊ฒฉ ์ฐ๊ฒฐ ์ธํฐํ์ด์ค์
๋๋ค. ์ํ MacยทPC๊ฐ
192.168.x.x:3000์์ Open WebUI๋ฅผ ์คํํ๊ณ ์๋ค๋ฉด, ํ๋ธ๋ฆฟ ๋ธ๋ผ์ฐ์ ์์ ํด๋น ์ฃผ์๋ฅผ ์ฌ์ญ์์ค โ ์ฑ ์ค์น ์์ด, ์ค์ ์์ด, ์์ ํ ์ฑํ ์ธํฐํ์ด์ค๋ฅผ ์ ๊ณตํฉ๋๋ค. - SillyTavern์ ๋ชจ๋ฐ์ผ ์ต์ ํ ์ธํฐํ์ด์ค๋ฅผ ์ ๊ณตํฉ๋๋ค. ํ๋ธ๋ฆฟ์์ ์บ๋ฆญํฐ ์นด๋ ๋กคํ๋ ์ด ๋ฐ ํฝ์ ์ฌ์ฉ ์, ์ํ ๊ธฐ๊ธฐ์์ ์คํ ์ค์ธ SillyTavern์ ํ๋ธ๋ฆฟ ๋ธ๋ผ์ฐ์ ๋ก ์ ์ํ๋ฉด ์ ์๋ํฉ๋๋ค; RisuAI๋ ๊ฐ์ฅ ๋ฐ์ด๋ ๋ค์ดํฐ๋ธ ๋ชจ๋ฐ์ผ ์ง์์ ์ ๊ณตํฉ๋๋ค.
๋น ๋ฅธ ์ฌ์ค
- iPad ์ฑ: LLM Farm(๋ฌด๋ฃ, ์คํ์์ค), Pocket Paladin(๋ฌด๋ฃ ํฐ์ด + ์ ๋ฃ), PocketLLM(๊ตฌํ, ๋นํ์ฑ).
- ์๋๋ก์ด๋ ๋ฐฉ๋ฒ: Termux + Ollama(CLI) ๋๋ MNN LLM(์ฑ, ์ ํ๋ ๋ชจ๋ธ ์ง์).
- ์๊ฒฉ ์ฐ๊ฒฐ: ํ๋ธ๋ฆฟ ๋ธ๋ผ์ฐ์ โ ์ํ ๊ธฐ๊ธฐ ๋ก์ปฌ IP์ Open WebUI ๋๋ ๊ฐ๋จํ ์ฑํ ์ธํฐํ์ด์ค.
- ์จ๋๋ฐ์ด์ค ์ต์ ์ฌ์: iPad Air M2(8GB) โ 3B ๋ชจ๋ธ; iPad Pro M4(16GB) โ 7B~8B ๋ชจ๋ธ.
- ์๋๋ก์ด๋ ์จ๋๋ฐ์ด์ค ์ต์ ์ฌ์: RAM 8GB ๊ธฐ๊ธฐ(Samsung Galaxy Tab S10+, OnePlus Pad 2).
- ์ต์ ์จ๋๋ฐ์ด์ค ๋ชจ๋ธ: ๋๋ถ๋ถ์ ํ๋ธ๋ฆฟ์ Phi-4 Mini(3.8B, 2.7GB); ๋งค์ฐ ์ ํ๋ ๊ธฐ๊ธฐ์ Qwen3 1.7B.
- ์๊ฒฉ ์ฐ๊ฒฐ ์๋: ํ๋ธ๋ฆฟ ํ๋์จ์ด๊ฐ ์๋ Wi-Fi ํ์ง๊ณผ ์ํ ๊ธฐ๊ธฐ ์์ฑ ์๋์ ์์กดํฉ๋๋ค.
๋ ๊ฐ์ง ๋ชจ๋: ์จ๋๋ฐ์ด์ค vs ์๊ฒฉ ์ฐ๊ฒฐ
๊ฐ์ฅ ์ค์ํ ๊ฒฐ์ ์ ์ด๋ค ์ฑ์ ์ฌ์ฉํ ์ง๊ฐ ์๋๋ผ, ํ๋ธ๋ฆฟ์์ ์ถ๋ก ์ ์คํํ ์ง ์ํ์ ๋ ๊ฐ๋ ฅํ ๊ธฐ๊ธฐ์์ ์คํํ ์ง์ ๋๋ค. ๊ฐ ๋ชจ๋๋ ์๋ก ๋ค๋ฅธ ํ๋์จ์ด ์๊ตฌ ์ฌํญ๊ณผ ์ฑ๋ฅ ํ๊ณ๋ฅผ ๊ฐ์ง๋๋ค.
๐ ํ ๋ฌธ์ฅ์ผ๋ก
ํ๋ธ๋ฆฟ์์ AI๋ฅผ ์คํํ๋ ์ค์ฉ์ ์ธ ๋ ๊ฐ์ง ๋ชจ๋: ์จ๋๋ฐ์ด์ค ์ถ๋ก (๋ชจ๋ธ์ด ํ๋ธ๋ฆฟ ์นฉ์์ ์คํ, 3B~7B ๋ชจ๋ธ๋ก ์ ํ)๊ณผ ์๊ฒฉ ์ฐ๊ฒฐ(ํ๋ธ๋ฆฟ์ด Ollama์ Open WebUI๋ฅผ ํตํด ๋ ํฐ ๋ชจ๋ธ์ ์คํํ๋ ์ํ MacยทPC์ ๋ธ๋ผ์ฐ์ ํ๋ฉด ์ญํ ).
๐ฌ ์ฝ๊ฒ ๋งํ๋ฉด
์จ๋๋ฐ์ด์ค ๋ชจ๋: ๋ชจ๋ธ์ด ํ๋ธ๋ฆฟ์ ์์ด ์คํ๋ผ์ธ์ผ๋ก ์๋ํฉ๋๋ค. ์ํ ๋ชจ๋ธ(3B, ๊ณ ๊ธํ iPad Pro๋ผ๋ฉด 7B ์ ๋)๋ก ์ ํ๋๋ฉฐ ํด๋ผ์ฐ๋ AI๋ณด๋ค ๋๋ฆฝ๋๋ค. ์๊ฒฉ ๋ชจ๋: ์ํ MacยทPC๊ฐ Ollama์ 70B ๋ชจ๋ธ์ ์คํํ๊ณ ํ๋ธ๋ฆฟ์ ๋ธ๋ผ์ฐ์ ์์ ์ฑํ ๋ง ํ์ํฉ๋๋ค โ ํ๋ธ๋ฆฟ ํ๋ฉด์์ 70B ๋ชจ๋ธ์ ์ ์ฒด ํ์ง์ ์ป๊ณ , ํ๋ธ๋ฆฟ์ ๋ชจ๋ธ์ด ์ ์ฅ๋์ง ์์ผ๋ฉฐ, ์ํ ๊ธฐ๊ธฐ๊ฐ ์ผ์ ธ ๋์ผํ Wi-Fi์ ์ฐ๊ฒฐ๋์ด ์์ด์ผ ํฉ๋๋ค. ์คํ๋ผ์ธ ์ฌ์ฉ์ด ํน๋ณํ ํ์ํ์ง ์๋ค๋ฉด ์๊ฒฉ ์ฐ๊ฒฐ์ ์ ํํ์ญ์์ค.
| ์์ | ์จ๋๋ฐ์ด์ค | ์๊ฒฉ ์ฐ๊ฒฐ |
|---|---|---|
| ๋ชจ๋ธ ํฌ๊ธฐ ํ๊ณ | 3B~8B(iPad Pro M4); 3B(๋๋ถ๋ถ์ ํ๋ธ๋ฆฟ) | ๋ฌด์ ํ โ ์ํ ๊ธฐ๊ธฐ๊ฐ ๋ชจ๋ ๋ชจ๋ธ ์คํ |
| ์คํ๋ผ์ธ ์ฌ์ฉ | ๊ฐ๋ฅ โ Wi-Fi ์์ด ์๋ | ๋ถ๊ฐ โ ์ํ Wi-Fi ํ์ |
| ์์ฑ ์๋ | ๋ณดํต(iPad Pro M4 10~25 tok/์ด) | ์ํ ๊ธฐ๊ธฐ์ ์์กด(์ต๋ 40+ tok/์ด) |
| ํ๋ธ๋ฆฟ ์ ์ฅ ๊ณต๊ฐ | ๋ชจ๋ธ๋น 2~10GB | ์์ โ ๋ชจ๋ธ์ด ์ํ ๊ธฐ๊ธฐ์ ์กด์ฌ |
| ์ค์ ๋ณต์ก์ฑ | ๋ฎ์(์ฑ + ๋ชจ๋ธ ํ์ผ ๋ค์ด๋ก๋) | ๋ฎ์~์ค๊ฐ(์ํ ๊ธฐ๊ธฐ์ Ollama + Open WebUI ํ์) |
| ์ ํฉํ ์ฉ๋ | ์ฌํ, ์คํ๋ผ์ธ ์ฌ์ฉ, 3B ๋ชจ๋ธ ์์ | ํ์ง ์ฐ์ ์ฌ์ฉ, 70B ๋ชจ๋ธ, ํธ์์ฑ |
๐กTip: ์ํ์ Ollama๋ฅผ ์คํํ ์ ์๋ MacยทPC๊ฐ ์๋ค๋ฉด ์๊ฒฉ ์ฐ๊ฒฐ๋ถํฐ ์์ํ์ญ์์ค. ๋ชจ๋ธ ํ์ผ์ ํ๋ธ๋ฆฟ์ ์ ์ฅํ๊ฑฐ๋ ๋ชจ๋ฐ์ผ ์ฑ์ ์ ํ์ ๋ค๋ฃฐ ํ์ ์์ด ์ฆ์ ๋ ๋์ ๋ชจ๋ธ ํ์ง์ ํ๋ธ๋ฆฟ์์ ์ป์ ์ ์์ต๋๋ค. ์คํ๋ผ์ธ ์ฌ์ฉ์ด ํ์ํ๋ค๊ณ ๋๋ผ๋ฉด ๋์ค์ ์จ๋๋ฐ์ด์ค ๊ธฐ๋ฅ์ ์ถ๊ฐํ์ญ์์ค.
iPad: ์จ๋๋ฐ์ด์ค ์ถ๋ก
iPad Pro M4(16GB)๋ง์ด 7B ๋ชจ๋ธ์ ํธ์ํ ์๋๋ก ์คํํ๋ ์ ์ผํ iPad์ ๋๋ค. iPad Air M2(8GB)์ M3(8GB)๋ 3B ๋ชจ๋ธ์ ์ ์ ํ๊ฒ ์คํํฉ๋๋ค. RAM 8GB์ iPhone(iPhone 15 Pro Max)๋ LLM Farm์ ํตํด ์ํ ๋ชจ๋ธ์ ์คํํฉ๋๋ค.
- LLM Farm(๋ฌด๋ฃ, ์คํ์์ค): Hugging Face์์ GGUF ๋ชจ๋ธ์ ๋ค์ด๋ก๋ํ์ฌ Apple Silicon์์ llama.cpp๋ก ์คํํฉ๋๋ค. iOS ๋ค์ดํฐ๋ธ ์ต์ ์ค ์ต๊ณ ์ฑ๋ฅ. ์ฑํ ๋ฐ ์์ฑ ๋ชจ๋ ์ง์. App Store์์ ์ค์นํ์ญ์์ค.
- Pocket Paladin(๋ฌด๋ฃ ํฐ์ด + ๊ตฌ๋ ): ์ ๋ณ๋ ๋ชจ๋ธ ๋ค์ด๋ก๋, LLM Farm๋ณด๋ค ๊น๋ํ ์ธํฐํ์ด์ค, ์ด๊ธฐ ์ฌ์ฉ ๊ฒฝํ์ด ์ฝ๊ฐ ๋ ์ฝ์ต๋๋ค. ๋ฌด๋ฃ ํฐ์ด๋ 3B ๋ชจ๋ธ ํฌํจ; ๊ตฌ๋ ์ ๋ ํฐ ๋ชจ๋ธ๊ณผ API ๋ชจ๋ ์ ๊ธ ํด์ .
- ๋ชจ๋ธ ๊ฐ์ ธ์ค๊ธฐ: LLM Farm์์ ๋ชจ๋ธ ๋ผ์ด๋ธ๋ฌ๋ฆฌ ์์ด์ฝ ํญ โ "URL์์ ๋ชจ๋ธ ์ถ๊ฐ" โ GGUF ํ์ผ์ Hugging Face ์ง์ ๋ค์ด๋ก๋ URL ๋ถ์ฌ๋ฃ๊ธฐ. ๋๋ Apple ํ์ผ์ ์ฌ์ฉํด ๋ค๋ฅธ ๊ณณ์์ ๋ค์ด๋ก๋ํ GGUF๋ฅผ ์ ์กํ์ญ์์ค. ๋ชจ๋ธ์ iCloud๊ฐ ์๋ ์ฑ ๋ก์ปฌ ์คํ ๋ฆฌ์ง์ ์ ์ฅ๋ฉ๋๋ค.
- iPad RAM ๊ด๋ฆฌ: iOS๋ ๋ฐฑ๊ทธ๋ผ์ด๋ ์ฑ์ RAM์ ์ ๊ทน์ ์ผ๋ก ๊ด๋ฆฌํฉ๋๋ค. 8GB iPad์์ 7B ๋ชจ๋ธ ์คํ ์ ์ ๋ค๋ฅธ ๋ชจ๋ ์ฑ์ ๋ซ์ผ์ญ์์ค โ ๋ค๋ฅธ ์ฑ์ด ๋ฉ๋ชจ๋ฆฌ๋ฅผ ํ์๋ก ํ๋ฉด iOS๊ฐ ๋ชจ๋ธ์ ์ ๊ฑฐํฉ๋๋ค. 16GB iPad Pro M4์์๋ ๊ฑฐ์ ๋ฌธ์ ๊ฐ ์์ต๋๋ค.
- ์์ฑ ์๋ ๊ธฐ๋์น: iPad Pro M4(16GB): Phi-4 Mini ~20 tok/์ด, Llama 3.2 3B ~30 tok/์ด, Gemma 3 4B ~18 tok/์ด. iPad Air M2(8GB): 3B ๋ชจ๋ธ ~12~18 tok/์ด; 7B ๋ชจ๋ธ ~5~8 tok/์ด(์ค์๊ฐ ์ฑํ ์ ๋๋ฌด ๋๋ฆผ).
โ ๏ธWarning: 8GB iPad์์ 7B ๋ชจ๋ธ์ ์ค์๊ฐ ์ฑํ ์ ์คํํ๋ ค ํ์ง ๋ง์ญ์์ค. ์ด๋น 5~8 ํ ํฐ ์๋๋ก ๊ฐ ์๋ต์ 15~30์ด๊ฐ ๊ฑธ๋ฆฝ๋๋ค. ํ๋กฌํํธ๋ฅผ ๋ณด๋ด๊ณ ๊ธฐ๋ค๋ฆฌ๋ ์์ฝ ์์ ์๋ ์ฌ์ฉ ๊ฐ๋ฅํ์ง๋ง ๋ํ์ฉ์ผ๋ก๋ ๋ถํธํฉ๋๋ค. 8GB ๊ธฐ๊ธฐ์์๋ 3B ๋ชจ๋ธ์ ์ฌ์ฉํ๊ณ , 7B ์ด์ ๋ชจ๋ธ์ ์ํด์๋ 16GB ๊ธฐ๊ธฐ๋ก ์ ๊ทธ๋ ์ด๋ํ๊ฑฐ๋ ์๊ฒฉ ์ฐ๊ฒฐ๋ก ์ ํํ์ญ์์ค.
Android: ์จ๋๋ฐ์ด์ค ์ถ๋ก
**์๋๋ก์ด๋ ์จ๋๋ฐ์ด์ค ์ถ๋ก ์ Termux + Ollama๋ฅผ ์ฌ์ฉํฉ๋๋ค โ Termux๋ Android์์ Ollama๋ฅผ ๋ค์ดํฐ๋ธ๋ก ์คํํ๋ Linux ํฐ๋ฏธ๋ ์๋ฎฌ๋ ์ดํฐ์ ๋๋ค.** iPad ์ฑ ๊ฒฝํ๋ณด๋ค ๊ธฐ์ ์ ์ด์ง๋ง Ollama ์ ์ฒด ์ํ๊ณ์ ์ ๊ทผํ ์ ์์ต๋๋ค.
- 3B ์ด์ ๋ชจ๋ธ ์ง์ ๊ธฐ๊ธฐ: ์ต์ RAM 8GB(Samsung Galaxy Tab S10+, OnePlus Pad 2, Xiaomi Pad 7 Pro). RAM 6GB ๊ธฐ๊ธฐ๋ Qwen3 1.7B๋ง ์คํ ๊ฐ๋ฅ.
- Pixel Tablet ์จ๋๋ฐ์ด์ค ๋น๊ถ์ฅ: Pixel Tablet(2023, 8GB Tensor G2)์ ๋ก์ปฌ ์ถ๋ก ๊ถ์ฅ ๊ธฐ๊ธฐ ๋ชฉ๋ก์์ ์ ์ธ๋ฉ๋๋ค โ Tensor G2๋ LLM ์ถ๋ก ์์ Snapdragon 8 Gen 3ยทDimensity 9300๋ณด๋ค ํ์ ํ ๋๋ฆฌ๋ฉฐ, Phi-4 Mini์์ 4~7 tok/์ด(๋ํ์ฉ์ผ๋ก ๋๋ฌด ๋๋ฆผ)๋ฅผ ๊ธฐ๋กํฉ๋๋ค. Pixel Tablet ์ฌ์ฉ์๋ ์ํ ๊ธฐ๊ธฐ ์๊ฒฉ ์ฐ๊ฒฐ์ ์ฌ์ฉํ์ญ์์ค.
- Snapdragon 8 Gen 3ยทDimensity 9300์ 2026๋ ์จ๋๋ฐ์ด์ค ์ถ๋ก ์์ ๊ฐ์ฅ ๋น ๋ฅธ Android ์นฉ์ ๋๋ค. ์์ฑ ์๋: 1.7B ๋ชจ๋ธ ~15~25 tok/์ด; 3B ๋ชจ๋ธ ~8~12 tok/์ด.
- ๋ชจ๋ธ ์ ์ฅ: Android์๋ ํตํฉ ๋ฉ๋ชจ๋ฆฌ๊ฐ ์์ต๋๋ค โ ๋๋ถ๋ถ์ Termux ์ค์ ์์ ๋ชจ๋ธ์ GPU ๊ฐ์ ์์ด ์์คํ RAM์์ ์คํ๋ฉ๋๋ค. GPU ๊ฐ์์ Termux:NVIDIA ๋๋ ํน์ Vulkan ๋น๋๊ฐ ํ์ํ๋ฉฐ ์ค์ ์ด ๋ ๋ณต์กํฉ๋๋ค.
- ๋์ ์ฑ: MNN LLM(Alibaba, ๋ฌด๋ฃ, ์ ํ๋ ๋ชจ๋ธ์ฉ Android ์จ๋๋ฐ์ด์ค ์ถ๋ก ์ฑ)์ ์ค์ ์ด ๋ ๊ฐ๋จํ์ง๋ง Ollama๋ณด๋ค ๋ชจ๋ธ ์ ํ์ด ์ ํ์ ์ ๋๋ค. AI Runnerยทllamafile๋ Android ๋น๋๊ฐ ์์ผ๋ฉฐ ์ง์์ ๋ค์ํฉ๋๋ค.
- ์ผ๋ณธ Xperia ์ ์ฉ ์ค์ ๊ฐ์ด๋์ ํ๋์จ์ด ํธํ์ฑ ํ๋ <a href="/ko/prompt-bites/run-local-llm-on-xperia-japan" class="text-primary hover:underline">์ผ๋ณธ Xperia ์ค๋งํธํฐ์์ ๋ก์ปฌ LLM ์คํ ๋ฐฉ๋ฒ</a>์ ์ฐธ์กฐํ์ญ์์ค.
- 1F-Droid์์ Termux๋ฅผ ์ค์นํ์ญ์์ค(Play Store ๋ฒ์ ์๋ โ Play Store ๋น๋๋ ๊ตฌ์์ด๊ณ ํ์ํ ํจํค์ง๊ฐ ์์ต๋๋ค).
- 2Termux์์:
pkg update && pkg install curl - 3Ollama ARM ๋ฐ์ด๋๋ฆฌ ๋ค์ด๋ก๋:
curl -fsSL https://ollama.com/install.sh | shโ ๋๋ถ๋ถ์ ์๋๋ก์ด๋ ํ๋ธ๋ฆฟ๊ณผ ํธํ๋๋ ARM64 ๋น๋๋ฅผ ์ค์นํฉ๋๋ค. - 4๋ชจ๋ธ ๋ค์ด๋ก๋:
ollama pull phi4-mini๋๋ollama pull qwen3:1.7b. - 5์๋ฒ ์์:
ollama serve(์ด Termux ์ธ์ ์ ํ์ฑ ์ํ๋ก ์ ์ง). - 6Termux๋ก ์ฑํ :
ollama run phi4-miniโ ๋๋ ๋ธ๋ผ์ฐ์ ๋ฅผ ์ด์ดhttp://localhost:11434๋ก ์ด๋ํด API์ ์ ์. ๊ทธ๋ํฝ ์ธํฐํ์ด์ค๋ฅผ ์ํ๋ฉด ๋ก์ปฌ Ollama ์๋ํฌ์ธํธ์ ์ฐ๊ฒฐํ๋ Android ์ฑํ ์ฑ์ ์ค์นํ์ญ์์ค.
๐กTip: Termux:Widget ํ๋ฌ๊ทธ์ธ์ ์ค์นํ๊ณ "ollama serve"๋ฅผ ์คํํ๋ ๋ฐ๋ก๊ฐ๊ธฐ๋ฅผ ๋ง๋์ญ์์ค โ ์ด๋ ๊ฒ ํ๋ฉด Termux๋ฅผ ์๋์ผ๋ก ์ด์ง ์๊ณ ๋ Android ํ ํ๋ฉด์์ Ollama ์๋ฒ๋ฅผ ์์ํ ์ ์์ต๋๋ค. Ollama๊ฐ ์๋น ์ค์ด๋ฉด localhost:11434์ ์ฐ๊ฒฐํ๋๋ก ์ค์ ๋ ์ฑํ ์ฑ์ ์ด๋ฉด ๋ฉ๋๋ค.
์ํ ๊ธฐ๊ธฐ ์๊ฒฉ ์ฐ๊ฒฐ
๋๋ถ๋ถ์ ํ๋ธ๋ฆฟ ์ฌ์ฉ์๋ฅผ ์ํ ๊ฐ์ฅ ๊ฐ๋จํ ์ค์ : ์ํ MacยทPC์์ Ollama์ Open WebUI๋ฅผ ์คํํ๊ณ ๋์ผํ Wi-Fi ๋คํธ์ํฌ์ ํ๋ธ๋ฆฟ ๋ธ๋ผ์ฐ์ ๋ก ์ฑํ ์ธํฐํ์ด์ค์ ์ ์ํ์ญ์์ค. ํ๋ธ๋ฆฟ์ ์ํ์์ Ollama๋ฅผ ์คํํ๋ ๋ ๊ฐ๋ ฅํ ๊ธฐ๊ธฐ์ ํฐ์น ์ธํฐํ์ด์ค๊ฐ ๋ฉ๋๋ค โ ์ํ ๊ธฐ๊ธฐ ํ๋์จ์ด ์ ํ ์ ๋ ธํธ๋ถ ๊ฐ์ด๋๋ฅผ ์ฐธ์กฐํ์ญ์์ค.
๐ ํ ๋ฌธ์ฅ์ผ๋ก
OllamaยทOpen WebUI๋ฅผ ์คํํ๋ ์ํ ๊ธฐ๊ธฐ์ ์๊ฒฉ ์ฐ๊ฒฐํ๋ฉด ๋ชจ๋ ํ๋ธ๋ฆฟ์ด ๋ธ๋ผ์ฐ์ ๋ฅผ ํตํด 70B ๋ชจ๋ธ์ ์์ ํ ์ ๊ทผํ ์ ์์ต๋๋ค โ ํ๋ธ๋ฆฟ์ ๋ชจ๋ธ ์ ์ฅ ์์, ์ฑ ์ค์น ์์, ๋ชจ๋ธ ํ์ง ํํ ์์.
๐ฌ ์ฝ๊ฒ ๋งํ๋ฉด
MacยทPC์์: Ollama ์ค์น, ๋ชจ๋ธ ๋ค์ด๋ก๋, Open WebUI ์ค์น(๋จ์ผ Docker ๋ช ๋ น), ๋ก์ปฌ ๋คํธ์ํฌ IP์ ๋ฐ์ธ๋ฉํ์ฌ ์คํ. ํ๋ธ๋ฆฟ์์: Safari ๋๋ Chrome ์ด์ด http://[Mac-IP]:3000 ์ ์, ์์ ํ AI ์ฑํ ์ธํฐํ์ด์ค ์ ๊ณต. ๋ชจ๋ธ์ Mac์์ ์คํ; ํ๋ธ๋ฆฟ์ ์ฑํ ๋ง ํ์. ๋ชจ๋ ํ๋ธ๋ฆฟ, OS, ํ๋ฉด ํฌ๊ธฐ์์ ์๋.
- 1์ํ ๊ธฐ๊ธฐ์์: Ollama ์ค์น(macOS:
brew install ollama, Windows: ollama.com์์ ๋ค์ด๋ก๋). ๋ชจ๋ธ ๋ค์ด๋ก๋:ollama pull llama3.3:70b(๋๋ ์ํ๋ ๋ชจ๋ธ). ๋คํธ์ํฌ ๋ฐ์ธ๋ฉ์ผ๋ก Ollama ์์:OLLAMA_HOST=0.0.0.0:11434 ollama serve. - 2Open WebUI ์ค์น(ํ๋ธ๋ฆฟ ์นํ์ ์ธ ์ฑํ ์ธํฐํ์ด์ค):
docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=http://host.docker.internal:11434 --name open-webui ghcr.io/open-webui/open-webui:main. Open WebUI๋ ์ด์ `http://[๊ธฐ๊ธฐ-IP]:3000`์์ ์ ๊ทผ ๊ฐ๋ฅ. - 3์ํ ๊ธฐ๊ธฐ ๋ก์ปฌ IP ํ์ธ: macOS์์ ์์คํ ํ๊ฒฝ์ค์ โ ๋คํธ์ํฌ โ ํ์ฌ ๋คํธ์ํฌ โ IP ์ฃผ์. Windows์์ ๋ช ๋ น ํ๋กฌํํธ์์
ipconfig์คํ ํ IPv4 ์ฃผ์ ํ์ธ. IP๋ฅผ ๊ธฐ๋กํ์ญ์์ค(์ผ๋ฐ์ ์ผ๋ก192.168.x.x). - 4ํ๋ธ๋ฆฟ์์: Safari(iPad) ๋๋ Chrome(Android) ์ด๊ธฐ. `http://[๊ธฐ๊ธฐ-IP]:3000` ์ ์. Open WebUI์์ ๊ณ์ ์์ฑ(๋ก์ปฌ ์ ์ฉ, ํด๋ผ์ฐ๋ ์์). ๋๋กญ๋ค์ด ๋ฉ๋ด์์ ๋ชจ๋ธ ์ ํ. ์ฑํ ์์.
- 5๋ณด์: ์ด ์ค์ ์ ๋ก์ปฌ ๋คํธ์ํฌ ์ ์ฉ์ ๋๋ค. ์ธ์ฆ ์์ด ํฌํธ 3000์ ์ธํฐ๋ท์ ๋ ธ์ถํ์ง ๋ง์ญ์์ค(Open WebUI๋ ๋ด์ฅ ๊ด๋ฆฌ์ ๊ณ์ ์์คํ ์ ๊ฐ์ถ๊ณ ์์ต๋๋ค). ์ฐ๊ฒฐ์ ์ผ๋ฐ HTTP์ ๋๋ค โ ๊ณต๊ณต Wi-Fi์์ ๋ฏผ๊ฐํ ์ ๋ณด๋ฅผ ์ ์กํ์ง ๋ง์ญ์์ค.
๐กTip: ํ๋ธ๋ฆฟ ํ ํ๋ฉด์ ์ํ ๊ธฐ๊ธฐ์ Open WebUI URL์ ๋ถ๋งํฌํ์ญ์์ค(Safari: ๊ณต์ โ ํ ํ๋ฉด์ ์ถ๊ฐ; Chrome: ์ ์ธ ๊ฐ ๋ฉ๋ด โ ํ ํ๋ฉด์ ์ถ๊ฐ). ์ด๋ ๊ฒ ํ๋ฉด ๋ค์ดํฐ๋ธ ์ฑ์ฒ๋ผ ๋๊ปด์ง๋๋ค. iPad์์ Safari์ ์ ์ฒด ํ๋ฉด ์น ์ฑ์ ์ฑ๊ณผ ์ ์ฌํ ๊ฒฝํ์ ์ํด ๋ธ๋ผ์ฐ์ ๋ฐ๋ฅผ ์จ๊น๋๋ค.
๊ธฐ๊ธฐ๋ณ ๋ชจ๋ธ ์ถ์ฒ
๋ชจ๋ธ ์ ํ์ ์ ํธ๋๊ฐ ์๋ ์ฌ์ฉ ๊ฐ๋ฅํ RAM์ ์ํด ๊ฒฐ์ ๋ฉ๋๋ค. ์๋ ํ๋ ๊ธฐ๊ธฐ RAM์ ์ค์๊ฐ ์๋(8 tok/์ด ์ด์)๋ก ์คํ ๊ฐ๋ฅํ ๊ฐ์ฅ ํฐ ๋ชจ๋ธ์ ๋งคํํฉ๋๋ค. ๋ชจ๋ธ ๋ ์ด์ด์ ๋ํด์๋ 2026๋ ๋ชจ๋ฐ์ผ LLM ๋ชจ๋ธ ๋น๊ต๋ฅผ, ๋ชจ๋ ํ๋์จ์ด ๋ ๋ฒจ์ ๋ ๋์ ๋ชจ๋ธ ๊ฐ์๋ 2026๋ ์ต๊ณ ์ ๋ก์ปฌ LLM์ ์ฐธ์กฐํ์ญ์์ค.
| ๊ธฐ๊ธฐ / RAM | ๊ถ์ฅ ๋ชจ๋ธ | ์๋ | ์ ํฉํ ์ฉ๋ |
|---|---|---|---|
| iPad Air M2/M3(8GB) | Phi-4 Mini Q4 | ~15~18 tok/์ด | ๊ธ์ฐ๊ธฐ ์ง์, ์์ฝ |
| iPad Pro M4(16GB) | Llama 3.2 3B / Gemma 3 4B Q4 | ~25~30 tok/์ด / ~15~20 tok/์ด | ์ค์ LLM ์ํฌ์คํ ์ด์ , RAG, ํฝ์ ์์ฑ |
| Android 8GB(Tab S10+) | Termux+Ollama๋ก Phi-4 Mini Q4 | ~10~15 tok/์ด | Termux์ ์ต์ํ ๊ณ ๊ธ ์ฌ์ฉ์ |
| Android 6GB | Qwen3 1.7B Q4 | ~15~20 tok/์ด | ๊ฐ๋ฒผ์ด ์ฑํ , ๋ฒ์ญ, ๊ฐ๋จํ ์์ |
| Pixel Tablet(8GB) | ์๊ฒฉ ์ฐ๊ฒฐ๋ง | N/A | Tensor G2๊ฐ ์จ๋๋ฐ์ด์ค์ ๋๋ฌด ๋๋ฆผ |
| ๋ชจ๋ ํ๋ธ๋ฆฟ(์๊ฒฉ) | ์ํ ๊ธฐ๊ธฐ์ ๋ชจ๋ ๋ชจ๋ธ | ~20~40 tok/์ด | ํ์ง ์ฐ์ ์ฌ์ฉ, 70B ๋ชจ๋ธ |
๐กTip: ์ผ์์ ์ธ ๋๋ถ๋ถ์ ์์ (ํ ์คํธ ์์ฑ, ์ง๋ฌธ ์๋ต, ์ฝํ ์ธ ์์ฝ)์์ ํ๋ธ๋ฆฟ์ Phi-4 Mini(3.8B)๋ ์ถฉ๋ถํ ์ ๋ฅํฉ๋๋ค. 70B ๋ชจ๋ธ ๋๋น ๋ถ์กฑํ ์ : ๋ณต์กํ ๋ค๋จ๊ณ ์ถ๋ก , ์ฌ์ธํ ์ฐฝ์์ ๊ธ์ฐ๊ธฐ, ์ฅ๋ฌธ ๋ฌธ์ ๋ถ์. ์ด๋ฌํ ์์ ์๋ ๋ ํฐ ๋ชจ๋ธ์ ์คํํ๋ ์ํ ๊ธฐ๊ธฐ์ ์๊ฒฉ ์ฐ๊ฒฐํ์ญ์์ค.
ํ๋ธ๋ฆฟ ๋ก์ปฌ AI ํ๋ฐํธ์๋
ํ๋ธ๋ฆฟ์์ ์ฌ์ฉํ๋ ์ฑํ ์ธํฐํ์ด์ค๋ ์ฌ์ฉ์ฑ์ ํฌ๊ฒ ์ํฅ์ ๋ฏธ์นฉ๋๋ค. ์ผ๋ถ ํ๋ฐํธ์๋๋ ๋ชจ๋ฐ์ผ์ฉ์ผ๋ก ์ค๊ณ๋์์ผ๋ฉฐ, ๋ค๋ฅธ ๊ฒ๋ค์ ์ฃผ๋ก ๋ฐ์คํฌํฑ์ฉ์ผ๋ก ํ๋ธ๋ฆฟ์์๋ ๊ฒจ์ฐ ์ฌ์ฉ ๊ฐ๋ฅํฉ๋๋ค.
- Open WebUI(๋ธ๋ผ์ฐ์ ): ์ผ๋ฐ ์ฑํ ์ฉ ์ต๊ณ ์ ๋ชจ๋ฐ์ผ ์นํ์ ์น ์ธํฐํ์ด์ค. Safari ๋๋ Chrome์์ ๋ชจ๋ ๋ก์ปฌIP:ํฌํธ์์ ์๋. ํ๋ธ๋ฆฟ ํ๋ฉด ๋น์จ์ ์ ์ ์. ์๊ฒฉ ์ฐ๊ฒฐ ์ค์ ์ ๊ถ์ฅ.
- LLM Farm(iPad ์ฑ): iOS ์ ์ฉ ์ค๊ณ, iPad ์ ์ฒด ํ๋ฉด ํ์ฉ. iPad์์ ๊ฐ์ฅ ์ ๋ฅํ ์จ๋๋ฐ์ด์ค ์ถ๋ก ์ต์ . ๋ฐ์คํฌํฑ ์ฑ๋ณด๋ค ์ธ๋ จ๋จ์ ๋ํ์ง๋ง iOS ์ถ๋ก ์ ์ํด ํน๋ณํ ์ ์๋จ.
- Pocket Paladin(iPad ์ฑ): LLM Farm๋ณด๋ค ๊น๋ํ ์ธํฐํ์ด์ค, ์ผ๋ฐ ์ฌ์ฉ์์ฉ ์ค๊ณ. ๋ฌด๋ฃ ํฐ์ด๋ 3B ๋ชจ๋ธ ์คํ; ์ ๋ฃ ํฐ์ด๋ ๋ ํฐ ๋ชจ๋ธ๊ณผ API ์ ๊ทผ ์ ๊ธ ํด์ .
- RisuAI(๋ธ๋ผ์ฐ์ , ๋ชจ๋ฐ์ผ ์ต์ ํ): ์บ๋ฆญํฐ ์นด๋ ๋กคํ๋ ์ดยทํฝ์ ์ ์ํ ์ต๊ณ ์ ๋ชจ๋ฐ์ผ ๊ฒฝํ. ์๊ฒฉ Ollama ์ธ์คํด์ค์ ์ฐ๊ฒฐ ๊ฐ๋ฅ. iPad Safari์์ ๊ฑฐ์ ๋ค์ดํฐ๋ธ ์์ค์ ์ธํฐํ์ด์ค๋ก ์๋.
- SillyTavern(๋ธ๋ผ์ฐ์ ): ์๊ฒฉ Ollama ์ธ์คํด์ค์ ์ฐ๊ฒฐ๋ iPad Safari์์ ์๋. ๋ชจ๋ฐ์ผ ์ต์ ํ๋์ง ์์์ง๋ง ๊ธฐ๋ฅ์ . ์ผ๋ถ ํ์ฅ ๊ธฐ๋ฅ์ ๋ชจ๋ฐ์ผ Safari์์ ์๋ํ์ง ์์ต๋๋ค.
- Termux CLI(Android): ๋ช ๋ น์ค ์ ์ฉ. ์คํฌ๋ฆฝํ ์์ ์ ์ ์ฉ; ๋ณด์กฐ ์ฑ ์์ด๋ ๋ํ์ฉ์ผ๋ก ์ค์ฉ์ ์ด์ง ์์.
๐กTip: iPad์์ ์บ๋ฆญํฐ ์นด๋ ๋กคํ๋ ์ดยทํฝ์ ์ฌ์ฉ ์, Llama 3.3 70B๋ฅผ ์คํํ๋ ์๊ฒฉ Ollama ์ธ์คํด์ค์ ์ฐ๊ฒฐ๋ RisuAI๊ฐ 2026๋ ์ต๊ณ ์ ์กฐํฉ์ ๋๋ค. RisuAI์ ๋ชจ๋ฐ์ผ ์ธํฐํ์ด์ค๋ ํฐ์น์ ์ต์ ํ๋์์ผ๋ฉฐ, ์๊ฒฉ ์ฐ๊ฒฐ์ ํ๋ธ๋ฆฟ์ ๋ค์ด๊ฐ ์ ์๋ ์ด๋ค ๋ชจ๋ธ๋ณด๋ค ํจ์ฌ ๋์ ์บ๋ฆญํฐ ๋ชฉ์๋ฆฌ๋ฅผ ์์ฑํ๋ 70B ๋ชจ๋ธ์ ์ ๊ทผํ ์ ์๊ฒ ํฉ๋๋ค.
ํํ ์ค์
- 8GB ํ๋ธ๋ฆฟ์์ 7B ๋ชจ๋ธ ์คํ. 5~8 tok/์ด ์๋๋ ๋ํ์ฉ์ผ๋ก ๋๋ฌด ๋๋ฆฝ๋๋ค. 8GB ๊ธฐ๊ธฐ ์จ๋๋ฐ์ด์ค ์ฑํ ์๋ 3B ๋ชจ๋ธ์ ์ฌ์ฉํ๊ณ , 7B ์ด์ ํ์ง์ ์๊ฒฉ ์ฐ๊ฒฐ์ ์ฌ์ฉํ์ญ์์ค.
- Android์์ Play Store์ Termux ์ฌ์ฉ. Termux์ Play Store ๋ฒ์ ์ ๊ตฌ์์ด๊ณ Ollama์ ํ์ํ ํจํค์ง๊ฐ ์์ต๋๋ค. ํญ์ F-Droid์์ Termux๋ฅผ ์ค์นํ์ญ์์ค.
- ์ธ์ฆ ์์ด Open WebUI๋ฅผ ์ธํฐ๋ท์ ๋ ธ์ถ. Open WebUI๋ ๊ธฐ๋ณธ์ ์ผ๋ก ๋น๋ฐ๋ฒํธ๊ฐ ์์ต๋๋ค. ์ํ ๋คํธ์ํฌ ์ธ๋ถ์ ๋ ธ์ถํ๋ฉด URL์ ์ฐพ์ ๋๊ตฌ๋ ๋ชจ๋ธ์ ์ ๊ทผํ ์ ์์ต๋๋ค. ๊ด๋ฆฌ์ ๊ณ์ ์์คํ ์ ํ์ฑํํ๊ณ ๋ฐฉํ๋ฒฝ์ ์ฌ์ฉํ์ญ์์ค.
- 8GB iPad์์ ์จ๋๋ฐ์ด์ค ์คํ ์ ๋ค๋ฅธ ์ฑ์ ๋ซ์ง ์์. iOS๋ RAM์์ ๋ฐฑ๊ทธ๋ผ์ด๋ ์ฑ์ ์ ๊ฑฐํฉ๋๋ค. 8GB iPad์ 3B ๋ชจ๋ธ์ ~3.5GB๋ฅผ ์ฌ์ฉํ๋ฉฐ, iOS๊ฐ ๋ค๋ฅธ ์ฑ์ ์ํด ํด๋น ๋ฉ๋ชจ๋ฆฌ๋ฅผ ํ์ํ๋ฉด ๋ชจ๋ธ์ด ์คํจํฉ๋๋ค. ์ถ๋ก ์์ ์ ๋ค๋ฅธ ๋ชจ๋ ์ฑ์ ๋ซ์ผ์ญ์์ค.
- ๋ชจ๋ฐ์ผ ๋ธ๋ผ์ฐ์ ์์ ๋ฐ์คํฌํฑ ์์ค์ ์ธํฐํ์ด์ค ๊ธฐ๋. SillyTavern๊ณผ ์ผ๋ถ ๋ค๋ฅธ ํ๋ฐํธ์๋๋ ์ฃผ๋ก ๋ฐ์คํฌํฑ์ฉ์ ๋๋ค. ๋ธ๋ผ์ฐ์ ์์์ ๋ชจ๋ฐ์ผ ๊ฒฝํ์ ๊ธฐ๋ฅํ์ง๋ง ์ธ๋ จ๋์ง ์์ต๋๋ค. ๋ชจ๋ฐ์ผ UX๋ฅผ ์ํด์๋ RisuAI ๋๋ Open WebUI๋ฅผ ์ ํธํ์ญ์์ค.
์ถ์ฒ
- LLM Farm(iOS) ๋ฌธ์ ๋ฐ GitHub โ github.com/guinmoon
- Pocket Paladin iOS ์ฑ โ App Store
- Ollama Termux ARM ๋น๋ โ Ollama ๋ฌธ์
- Open WebUI ๋ฌธ์ โ docs.openwebui.com
- Apple M4 ์นฉ ์ฌ์, ๋ฉ๋ชจ๋ฆฌ ๋์ญํญยทNeural Engine โ Apple Silicon
์์ฃผ ๋ฌป๋ ์ง๋ฌธ
iPad์์ AI๋ฅผ ์คํํ ์ ์์ต๋๊น?
๋ค, iPad Pro M4(16GB) ๋ฐ iPad Air M2/M3(8GB)์์ ๊ฐ๋ฅํฉ๋๋ค. iPad Pro M4๋ LLM Farm ๋๋ Pocket Paladin์ ์ฌ์ฉํด Phi-4 Mini์ Llama 3.2 3B๋ฅผ ์ค์๊ฐ์ผ๋ก ์คํํฉ๋๋ค. iPad Air M2๋ 3B ๋ชจ๋ธ์ ์ ์ ํ๊ฒ ์คํํฉ๋๋ค. iPad์์ 7B ์ด์ ๋ชจ๋ธ์๋ ์ํ MacยทPC์์ Ollama๋ฅผ ์คํํ๋ ์๊ฒฉ ์ฐ๊ฒฐ์ ๊ถ์ฅํฉ๋๋ค โ iPad๋ ์ฑํ ์ ํ์ํ์ง๋ง ์ํ ๊ธฐ๊ธฐ๊ฐ ์ถ๋ก ์ ์ฒ๋ฆฌํฉ๋๋ค.
์๋๋ก์ด๋ ํ๋ธ๋ฆฟ์์ AI๋ฅผ ์คํํ ์ ์์ต๋๊น?
๋ค, Termux + Ollama๋ฅผ ์ฌ์ฉํด RAM 8GB ์ด์์ ๊ธฐ๊ธฐ์์ ๊ฐ๋ฅํฉ๋๋ค. Samsung Galaxy Tab S10+(12GB RAM)๋ Phi-4 Mini๋ฅผ ~10~15 tok/์ด๋ก ์คํํฉ๋๋ค. RAM 6GB ๊ธฐ๊ธฐ๋ Qwen3 1.7B๋ฅผ ์คํํ ์ ์์ต๋๋ค. ์ค์ ์๋ F-Droid์ Termux์ ์ผ๋ถ ํฐ๋ฏธ๋ ๋ช ๋ น์ ๋ํ ์น์ํจ์ด ํ์ํฉ๋๋ค. ๋๋ถ๋ถ์ Android ํ๋ธ๋ฆฟ ์ฌ์ฉ์์๊ฒ ์ํ ๊ธฐ๊ธฐ ์๊ฒฉ ์ฐ๊ฒฐ์ด ๋ ๊ฐ๋จํ ๋ฐฉ๋ฒ์ ๋๋ค.
ํ๋ธ๋ฆฟ ์จ๋๋ฐ์ด์ค AI๊ฐ ์ธํฐ๋ท ์์ด ์๋ํฉ๋๊น?
๋ค. ๋ชจ๋ธ์ด ๋ค์ด๋ก๋๋๊ณ ์ฑ์ด ์ค์น๋๋ฉด iPad(LLM Farm, Pocket Paladin)์ Android(Termux + Ollama)์ ์จ๋๋ฐ์ด์ค ์ถ๋ก ์ ์ธํฐ๋ท ์ฐ๊ฒฐ ์์ด ์๋ํฉ๋๋ค. ์ด๊ฒ์ด ์๊ฒฉ ์ฐ๊ฒฐ ์ ๊ทผ ๋ฐฉ์ ๋๋น ์จ๋๋ฐ์ด์ค์ ์ฃผ์ ์ด์ ์ค ํ๋์ ๋๋ค โ ์๊ฒฉ ์ฐ๊ฒฐ ๋ฐฉ์์ ์ํ Wi-Fi๊ฐ ํ์ํฉ๋๋ค.
iPad์์ ์ต๊ณ ์ AI ์ฑ์ ๋ฌด์์ ๋๊น?
์จ๋๋ฐ์ด์ค ์ถ๋ก : LLM Farm(๋ ๋ง์ ์ต์ , ์คํ์์ค) ๋๋ Pocket Paladin(๋ ๊ฐ๋จํ ์ธํฐํ์ด์ค). ์ํ Ollama ์๋ฒ์ ์๊ฒฉ ์ฐ๊ฒฐ: Safari์ Open WebUI(์ต๊ณ ์ ์ผ๋ฐ ์ฑํ ), Safari์ RisuAI(๋กคํ๋ ์ดยท์บ๋ฆญํฐ ํฝ์ ์ต๊ณ ). ์ต์ ์ ์ ํ์ ์จ๋๋ฐ์ด์ค ๊ธฐ๋ฅ, ์คํ๋ผ์ธ ์ฌ์ฉ, ๋๋ ์ต๊ณ ์ ์ธํฐํ์ด์ค ํ์ง ์ค ๋ฌด์์ ์ํ๋๋์ ๋ฐ๋ผ ๋ค๋ฆ ๋๋ค.
Android์์ Termux + Ollama๋ ์์ ํฉ๋๊น?
๋ค. Termux๋ ์๋ฐฑ๋ง ๊ฐ๋ฐ์๊ฐ ์ฌ์ฉํ๋ ์ ๊ฒ์ฆ๋ Android ํฐ๋ฏธ๋ ์๋ฎฌ๋ ์ดํฐ์ ๋๋ค. Termux์ Ollama๋ ๋ก์ปฌ ์ ์ฉ API(๊ธฐ๋ณธ์ ์ผ๋ก localhost:11434)๋ฅผ ์ ๊ณตํฉ๋๋ค โ ๋ฐ์ธ๋ฉ ์ฃผ์๋ฅผ ๋ช ์์ ์ผ๋ก ๋ณ๊ฒฝํ์ง ์๋ ํ ๋คํธ์ํฌ์ ๋ค๋ฅธ ๊ธฐ๊ธฐ์์ ์ ๊ทผํ ์ ์์ต๋๋ค. ๋ชจ๋ธ ํ์ผ์ Android ๊ณต์ ์คํ ๋ฆฌ์ง๊ฐ ์๋ Termux์ ๊ฐ์ธ ์คํ ๋ฆฌ์ง์ ์ ์ฅ๋ฉ๋๋ค.
ํ๋ธ๋ฆฟ์์ ChatGPT์ ์ ์ฌํ ํ์ง์ ์๋ต์ ๋ก์ปฌ๋ก ์ป์ ์ ์์ต๋๊น?
๊ฑฐ์ ๊ฐ๋ฅํ์ง๋ง ์ฌ๋ฐ๋ฅธ ์ค์ ์ด ํ์ํฉ๋๋ค. GPT-5.5 ํ์ง์๋ 70B ์ด์์ ๋ชจ๋ธ์ด ํ์ํฉ๋๋ค. ํ๋ธ๋ฆฟ์์: iPad Pro M4(16GB)๋ 70B ๋ชจ๋ธ์ ์คํํ ์ ์์ต๋๋ค โ 3B~8B ๋ชจ๋ธ๋ง ๋ค์ด๊ฐ๋๋ค. ์๊ฒฉ ์ฐ๊ฒฐ์ ํตํด: ์ํ ๊ธฐ๊ธฐ์ 24GB GPU(RTX 4090) ๋๋ 64GB ํตํฉ ๋ฉ๋ชจ๋ฆฌ(Mac M5 Max)๊ฐ ์๋ค๋ฉด Llama 3.3 70B๋ฅผ ์คํํ ์ ์๊ณ , ํ๋ธ๋ฆฟ์ ๋ธ๋ผ์ฐ์ ์ Open WebUI๋ฅผ ํตํด ๊ทธ ํ์ง์ ์ ๊ทผํฉ๋๋ค. ์ด๊ฒ์ด ํ๋ธ๋ฆฟ์์ ํด๋ผ์ฐ๋ AI ํ์ง์ ๊ฐ์ฅ ๊ทผ์ ํ ๋ฐฉ๋ฒ์ ๋๋ค.
๋ ธํธ๋ถ ๋ฎ๊ฐ๋ฅผ ๋ซ์๋ ์ํ Ollama ์๋ฒ๊ฐ ๊ณ์ ์คํ๋๊ฒ ํ๋ ค๋ฉด ์ด๋ป๊ฒ ํด์ผ ํฉ๋๊น?
macOS์์ ๋ฎ๊ฐ ๋ซ๊ธฐ ์ ์ ์ ์ฑ ์ค์ : ์์คํ ํ๊ฒฝ์ค์ โ ๋ฐฐํฐ๋ฆฌ โ "Power Nap ํ์ฑํ" ๋นํ์ฑํ, Amphetamine ๊ฐ์ ๋๊ตฌ๋ก ์ ์ ์ฐ๊ฒฐ ์ ์ ์ ๋ฐฉ์ง. Windows์์ ์ ์ ์ต์ โ ์ ์ ๊ณํ ์ค์ ๋ณ๊ฒฝ โ ์ ์ ์ฐ๊ฒฐ ์ "์ ๋ ์ ํจ"์ผ๋ก ์ค์ . ๋๋ ์ฃผ ๋ ธํธ๋ถ ๋์ ํญ์ ์ผ์ง ๊ธฐ๊ธฐ(๋ฏธ๋ PC, NAS, ์ฌํ์ฉํ ๊ตฌํ ๋ ธํธ๋ถ)์์ Ollama๋ฅผ ์คํํ์ญ์์ค.
ํ๋ธ๋ฆฟ์์ AI๋ฅผ ์คํํ๋ฉด ๋ฐฐํฐ๋ฆฌ๊ฐ ๋นจ๋ฆฌ ์๋ชจ๋ฉ๋๊น?
๋ค โ ์จ๋๋ฐ์ด์ค ์ถ๋ก ์ CPU/GPU ์ง์ฝ์ ์ ๋๋ค. iPad Pro M4์์ ํ์ฑ ๋ํ์ Phi-4 Mini๋ฅผ ์คํํ๋ฉด ์๊ฐ๋น ์ฝ 20~30% ๋ฐฐํฐ๋ฆฌ๊ฐ ์๋ชจ๋ฉ๋๋ค. ์ฅ์๊ฐ ์ฌ์ฉ ์ ํ๋ธ๋ฆฟ์ ์ถฉ์ ์ํ๋ก ์ ์งํ์ญ์์ค. ์ํ ๊ธฐ๊ธฐ์ ์๊ฒฉ ์ฐ๊ฒฐํ๋ฉด ํ๋ธ๋ฆฟ ๋ฐฐํฐ๋ฆฌ ์๋ชจ๊ฐ ํ์ ํ ์ค์ด๋ญ๋๋ค โ ํ๋ธ๋ฆฟ์ ๋จ์ง ์น ํ์ด์ง๋ฅผ ํ์ํฉ๋๋ค.
AI ์ถ๋ก ์ค์ ํ๋ธ๋ฆฟ์ ์ด ์ฐ๋กํ๋ง์ด ๋ฐ์ํฉ๋๊น?
๋ค, ํนํ ๋ฅ๋ ๋๊ฐ ์๋ iPad Air M2/M3 ๋ฐ Android ํ๋ธ๋ฆฟ์์ ๋ฐ์ํฉ๋๋ค. iPad Pro M4๋ ๋ ๋์ ์ด ๋ง์ง์ ๊ฐ์ง๋ฉฐ ๋์ ๋๋ ์ฐ๋กํ๋ง ์ ์ ~10~15๋ถ๊ฐ ์์ฑ ์๋๋ฅผ ์ ์งํฉ๋๋ค. Android ํ๋ธ๋ฆฟ์ ๋ ๋นจ๋ฆฌ ์ฐ๋กํ๋ง๋ฉ๋๋ค(5~8๋ถ์ ์ง์์ ์ธ ์ถ๋ก ). ์ํ ๋ฐฉ๋ฒ: ๋ ์งง์ ์์ฑ ์ฒญํฌ(์๋ต๋น 200~400 ํ ํฐ) ์ฌ์ฉ, ๋ฑ๋ฑํ ํ๋ฉด ์์ ํ๋ธ๋ฆฟ ๋๊ธฐ, ๋์์ CPU๋ฅผ ๋ง์ด ์ฌ์ฉํ๋ ๋ค๋ฅธ ์ฑ ์คํ ํผํ๊ธฐ.
ํ๋ธ๋ฆฟ AI ์ฌ์ฉ์ ๊ฐ์ฅ ์ ํฉํ ํค๋ณด๋๋ ๋ฌด์์ ๋๊น?
iPad Pro M4์ฉ Apple Magic Keyboard(ํธ๋ํจ๋ ํฌํจ)๊ฐ ๊ฐ์ฅ ์ธ๋ จ๋ ์ค์ ์ ๋๋ค โ Safari + Open WebUI์์ ์ ์ฒด ํค๋ณด๋ ๋จ์ถํค ์๋, ํธ๋ํจ๋๋ก ๊ธด ์๋ต์์ ํ ์คํธ ์ ํ ๊ฐ๋ฅ. Logitech Combo Touch๊ฐ ๊ฒฝ์ ์ ์ธ ๋์์ ๋๋ค. Android: Bluetooth ํค๋ณด๋ ๋ชจ๋ Termux์์ ์๋ํ์ง๋ง ๊ฒฝํ์ด ๋ ๊ฑฐ์นฉ๋๋ค(ํฐ๋ฏธ๋ ์ ์ฉ). ๊ธ์ฐ๊ธฐ ์์ ์ ๊ฒฝ์ฐ iPad Pro + Magic Keyboard๋ ํ๋ธ๋ฆฟ์ ๊ธ์ฐ๊ธฐ ์ค์ฌ AI ์ํฌ์คํ ์ด์ ์ผ๋ก ๋ณํํฉ๋๋ค.
iPad์์ SillyTavern์ ์คํํ ์ ์์ต๋๊น?
๋ค, ์๊ฒฉ ์ฐ๊ฒฐ์ ํตํด ๊ฐ๋ฅํฉ๋๋ค. SillyTavern์ ์ํ MacยทPC์์ ์คํ๋๊ณ iPad Safari๊ฐ ๋ก์ปฌ IP๋ก ์ฐ๊ฒฐ๋ฉ๋๋ค. ๋ชจ๋ฐ์ผ ์ธํฐํ์ด์ค๋ ๊ธฐ๋ฅํ์ง๋ง ์ธ๋ จ๋์ง ์์ต๋๋ค โ ์ผ๋ถ ํ์ฅ ๊ธฐ๋ฅ(regex ๋๊ตฌ, ๊ทธ๋ฃน ์ฑํ ํจ๋)์ ์๋ํ์ง๋ง ์ข๊ฒ ๋๊ปด์ง๋๋ค. ๋กคํ๋ ์ด์ ํนํํ์ฌ, RisuAI๋ SillyTavern๋ณด๋ค ๋ ๋์ ๋ชจ๋ฐ์ผ ์ธํฐํ์ด์ค๋ฅผ ๊ฐ์ถ๋ฉฐ, ๋ ๋ค ์ํ ๊ธฐ๊ธฐ์ ๋์ผํ Ollama ๋ฐฑ์๋์ ์ฐ๊ฒฐํ ์ ์์ต๋๋ค.
ํ๋ธ๋ฆฟ์์ ์ฅ๋ฌธ RAG๋ฅผ ์ฒ๋ฆฌํ ์ ์์ต๋๊น?
์จ๋๋ฐ์ด์ค์์๋ ๋ถ๊ฐ๋ฅํฉ๋๋ค โ ํ๋ธ๋ฆฟ์ 1,000๊ฐ ์ด์์ ๋ฌธ์๋ฅผ ์๋ฒ ๋ฉํ๋ ๊ฒ์ ์ค์ฉ์ ์ด์ง ์์ต๋๋ค. ์๊ฒฉ ์ฐ๊ฒฐ์ ํตํด์๋ ๊ฐ๋ฅํฉ๋๋ค โ ์ํ ๊ธฐ๊ธฐ๊ฐ RAG ํ์ดํ๋ผ์ธ์ ์ฒ๋ฆฌํ๊ณ ํ๋ธ๋ฆฟ์ ์ฑํ ์ธํฐํ์ด์ค๋ฅผ ํ์ํฉ๋๋ค. ์ํ ๊ธฐ๊ธฐ์์ ์คํ๋๋ AnythingLLM์ ํ๋ธ๋ฆฟ ๋ธ๋ผ์ฐ์ ๋ก ์ ์ํ๋ฉด ํ๋ธ๋ฆฟ ์ธก ์ ํ ์์ด ๋ชจ๋ ํฌ๊ธฐ์ ๋ฌธ์ ์ปฌ๋ ์ ์ ์ฒ๋ฆฌํฉ๋๋ค. ํ๋ธ๋ฆฟ์์ RAG๋ฅผ ์ํ๋ ํ์์ด๋ ์ง์ ๋ ธ๋์์๊ฒ ์๊ฒฉ ์ฐ๊ฒฐ์ด ์ ์ผํ ์ค์ฉ์ ์ต์ ์ ๋๋ค.
ํ๋ธ๋ฆฟ AI์ ํจ๊ป ์ธ๋ถ ๋ชจ๋ํฐ๋ฅผ ์ฌ์ฉํ ์ ์์ต๋๊น?
๋ค, iPad Pro M4์์๋ Stage Manager + ์ธ๋ถ ๋์คํ๋ ์ด๋ก ๋ค์ค ์ฐฝ ์ค์ ์ด ๊ฐ๋ฅํฉ๋๋ค; ์ธ๋ถ ๋ชจ๋ํฐ์ Open WebUI, iPad ํ๋ฉด์ ๋ ธํธ/์๋ณธ ๋ฌธ์. Galaxy Tab S10 Ultra๋ ์ธ๋ถ ๋์คํ๋ ์ด๋ก DeX ๋ชจ๋๋ฅผ ์ง์ํด ๋ค์ค ๋ชจ๋ํฐ AI ์ํฌํ๋ก๊ฐ ๊ฐ๋ฅํฉ๋๋ค. DeX ๋ชจ๋ ์๋ Android ํ๋ธ๋ฆฟ์ ํ๋ฉด์ ๋ฏธ๋ฌ๋งํฉ๋๋ค โ ๋ ์ ์ฉํฉ๋๋ค. iPad Pro + ์ธ๋ถ ๋ชจ๋ํฐ + Magic Keyboard๋ 2026๋ ํ๋ธ๋ฆฟ์ด ์ค์ AI ์ํฌ์คํ ์ด์ ์ ๊ฐ์ฅ ๊ทผ์ ํ๊ฒ ๋ฉ๋๋ค.
๋ก์ปฌ AI์ ํ๋ธ๋ฆฟ์ด ์ค๋งํธํฐ๋ณด๋ค ๋ซ์ต๋๊น?
์ง์ค์ ์ธ ํ์ดํ ์์ (์ด์ ์์ฑ, RAG, ๊ธด ๋ํ)์๋ ๋ค โ ํค๋ณด๋ ์ง์๊ณผ ํ๋ฉด ํฌ๊ธฐ๊ฐ ์ค์ํฉ๋๋ค. ๋น ๋ฅธ ์ฑํ , ์์ฑ ์ฟผ๋ฆฌ, ์ด๋ ์ค ์ฌ์ฉ์๋ ์ด๋ฏธ ๊ฐ๊ณ ์๋ ์ค๋งํธํฐ์ด ๋ซ์ต๋๋ค. iPad Pro M4๋ ๋ก์ปฌ AI์์ ํ๋๊ทธ์ญ ์ค๋งํธํฐ์ ํฌ๊ฒ ๋ฅ๊ฐํ๋ ์ ์ผํ ํ๋ธ๋ฆฟ์ ๋๋ค; ์ค๊ธ ํ๋ธ๋ฆฟ๊ณผ ์ค๋งํธํฐ์ ๋๋ต ๋๋ฑํฉ๋๋ค. ๋๋ถ๋ถ์ ๋ ์๋ ํน๋ณํ ๋ก์ปฌ AI๋ฅผ ์ํด ํ๋ธ๋ฆฟ์ ๊ตฌ๋งคํด์๋ ์ ๋ฉ๋๋ค โ ๋ค๋ฅธ ์ด์ ๋ก ์ํ๋ค๋ฉด ๊ตฌ๋งคํ์ญ์์ค; AI ๊ธฐ๋ฅ์ ๋ณด๋์ค์ ๋๋ค.