핵심 요점
- PocketPal AI가 최고의 무료 기본 선택입니다. 오픈 소스, App Store 설치, Hugging Face의 모든 GGUF 모델 지원. iPhone 16 Pro에서 Phi-4 Mini를 ~10–15 토큰/초로 실행합니다. 대부분의 iPhone 사용자를 위한 권장 출발점.
- Private LLM이 최고의 유료 선택입니다 (~10€ 일회 구매, 구독 없음). 큐레이션된 모델 라이브러리, iOS Shortcuts 통합, "Siri야, Private LLM에게 물어봐" Siri 지원. 핸즈프리 음성 접근이나 워크플로 자동화를 원한다면 지불할 가치가 있습니다.
- MLC Chat이 Apple Silicon에서 가장 빠릅니다. Metal GPU 가속과 함께 MLC LLM을 사용하여 동일한 하드웨어에서 llama.cpp 기반 앱보다 25–35% 더 빠르게 토큰을 생성합니다. PocketPal AI보다 더 작은 모델 선택.
- LLM Farm이 가장 구성 가능합니다. 다른 앱들이 숨기는 샘플링 매개변수(온도, top-p, mirostat), 모델별 시스템 프롬프트, 채팅 템플릿을 노출합니다. 특정 사용 사례를 위해 모델을 조정하는 사용자에게 이상적.
- Apple Intelligence는 기기 내에 있지만 독립 앱이 아닙니다. Apple의 ~3B 기반 모델은 iPhone 15 Pro 이상의 iOS 18+에서 실행됩니다. 시스템 기능(작문 도구, 스마트 답장, 알림 요약)을 지원하지만 채팅 인터페이스로는 직접 접근할 수 없습니다.
- iPhone 16 Pro / 17 Pro 권장 모델: Phi-4 Mini (3.8B Q4_K_M, ~2.7 GB). 8 GB RAM 티어에서 품질과 속도의 최고 균형. 6 GB RAM이 있는 구형 iPhone (iPhone 14 Pro): Qwen3 1.7B 또는 SmolLM 2 1.7B.
- 어떤 앱도 탈옥이 필요하지 않습니다. 다섯 가지 모두 표준 iOS에서 작동합니다. PocketPal AI, Private LLM, MLC Chat, LLM Farm은 App Store에 있으며 Apple Intelligence는 iOS에 내장되어 있습니다.
빠른 사실
- 테스트된 앱: PocketPal AI, Private LLM, MLC Chat, LLM Farm, Apple Intelligence (시스템).
- 테스트 기기: iPhone 16 Pro (A18 Pro, 8 GB RAM) 및 iPhone 17 Pro (A19 Pro).
- 추론 엔진: llama.cpp (PocketPal AI, LLM Farm), Metal을 사용한 MLC LLM (MLC Chat), 독점 기기 내 런타임 (Private LLM, Apple Intelligence).
- 3B+ 모델을 위한 최소 iPhone: 1.7B에는 iPhone 14 Pro (A16, 6 GB RAM); 3B–4B에는 iPhone 15 Pro / 16 Pro / 17 Pro (8 GB+).
- 최고의 무료 앱: PocketPal AI — App Store, 오픈 소스, 모델 유연성.
- 최고의 유료 앱: Private LLM — ~10€ 일회 구매, Shortcuts + Siri 지원.
- 오프라인: 다섯 가지 모두 모델을 다운로드하면 완전히 오프라인으로 작동합니다. 클라우드 호출 없음.
iPhone에서 먼저 설치할 앱
대부분의 사용자에게: App Store에서 PocketPal AI를 설치하고 Phi-4 Mini (3.8B Q4_K_M)를 다운로드하십시오. 이 조합은 iPhone 14 Pro 이상에서 작동하고, 비용이 들지 않으며, 일상적인 채팅, 요약, 빠른 작문에 유용한 결과를 제공합니다. 이것이 충족하지 못하는 특정 필요가 있을 때만 다른 앱을 선택하십시오.
📍 한 문장으로
2026년 대부분의 iPhone 사용자에게는 PocketPal AI (무료, App Store)를 설치하고 Phi-4 Mini를 다운로드하십시오 — 6 GB+ RAM이 있는 모든 iPhone에서 일상적인 채팅, 요약, 작문을 커버합니다.
💬 쉽게 말하면
2026년에 5개의 앱이 iPhone에서 완전히 AI를 실행합니다. PocketPal AI가 최고의 무료 출발점입니다 — 설치하고, 2.7 GB 모델 파일을 한 번 다운로드하면 WiFi 없이 기차에서 작동하는 개인 채팅 보조를 갖게 됩니다. Private LLM은 Siri가 로컬 모델과 통신하기를 원한다면 유료 선택입니다. MLC Chat이 가장 빠릅니다. LLM Farm이 가장 유연합니다. Apple Intelligence는 iOS에 내장되어 있지만 채팅 앱이 아닙니다. PocketPal AI가 사용 사례의 90%를 커버합니다.
결정: iPhone용 어떤 로컬 AI 앱?
Use a local LLM if:
- •오프라인으로 작동하는 무료 채팅 AI를 원한다 → PocketPal AI
- •Siri가 로컬 모델과 통신하기를 원한다 → Private LLM
- •Apple Silicon에서 가장 빠른 생성 속도를 원한다 → MLC Chat
- •샘플링 매개변수와 채팅 템플릿을 조정하고 싶다 → LLM Farm
- •Mail / 메시지 / 메모에서 작문 도움만 필요하다 → Apple Intelligence (내장)
Use a cloud model if:
- •70B+ 모델 품질이 필요하다 (Llama 3.3 70B, GPT-5.5 수준) → 클라우드를 사용하거나 Ollama를 실행하는 홈 머신에 원격 연결
- •GPT-5.5, Claude Opus 또는 Gemini에 구체적으로 접근이 필요하다 → 클라우드 앱 (로컬에서 사용 불가)
- •실시간 비전 또는 텍스트 이상의 멀티모달 출력이 필요하다 → 클라우드 (2026년에 기기 내 멀티모달은 제한적)
Quick decision:
- →무료 + 사용자의 90%에게 작동: PocketPal AI
- →유료 + 네이티브 iOS 통합: Private LLM
- →칩에서 가장 빠름: MLC Chat
💡Tip: 나중에 Private LLM을 구매할 계획이더라도 먼저 PocketPal AI를 설치하십시오. PocketPal AI를 사용하여 iPhone 모델에서 기기 내 추론이 사용 사례에 충분히 빠른지 확인하십시오. 그렇다면 Private LLM의 iOS Shortcuts 및 Siri 통합이 ~10€의 가치가 있는지 결정하십시오. 그렇지 않다면 지불하기 전에 10€를 절약했습니다.
iPhone 앱 비교표
다섯 개의 앱은 대부분의 사용자에게 중요한 세 가지 축에서 차이가 납니다: 비용, 모델 유연성, iOS 통합. 속도 차이는 존재하지만 이 앱들 중 어느 것과 클라우드 LLM 사이의 격차보다는 작습니다.
📍 한 문장으로
PocketPal AI가 최고의 무료 기본 선택, Private LLM이 최고의 유료 선택, MLC Chat이 가장 빠름, LLM Farm이 가장 구성 가능, Apple Intelligence가 시스템 내장입니다.
💬 쉽게 말하면
선택은 보통 세 가지로 좁혀집니다: 유료를 원합니까 (Private LLM)? 최대 속도를 원합니까 (MLC Chat)? 아니면 설정을 조정하는 유연성을 원합니까 (LLM Farm)? 그 외의 모든 것에는 PocketPal AI가 기본 선택입니다. 표의 데이터는 Q4_K_M 양자화를 가정합니다 — 2026년 모바일 추론의 표준.
| 앱 | 가격 | 토큰/초 (Phi-4 Mini, 16 Pro) | 개인 정보 보호 | 이상적인 대상 |
|---|---|---|---|---|
| PocketPal AI | 무료 (오픈 소스) | ~10–15 | 로컬 전용, 원격 측정 없음 | 대부분을 위한 무료 기본 선택 |
| Private LLM | ~10€ 일회 구매 | ~10–14 | 로컬 전용, 옵트인 분석 | iOS Shortcuts + Siri 통합 |
| MLC Chat | 무료 (오픈 소스) | ~14–20 (Metal 가속) | 로컬 전용, 원격 측정 없음 | Apple Silicon에서 가장 빠름 |
| LLM Farm | 무료 (오픈 소스) | ~10–15 | 로컬 전용, 원격 측정 없음 | 샘플링을 조정하는 고급 사용자 |
| Apple Intelligence | 무료 (iOS 18+ 내장) | N/A (시스템 기능) | 로컬 + Private Cloud Compute 옵트인 | Mail, 메시지, 메모에서 작문 지원 |
Apple Neural Engine (ANE) 대 Metal 참고: PocketPal AI와 LLM Farm은 추론을 위해 Metal Performance Shaders와 함께 llama.cpp를 사용하며, GPU에서 실행됩니다. MLC Chat은 더 깊은 Metal 최적화와 함께 MLC LLM을 사용하여 동일한 하드웨어에서 25–35% 더 많은 토큰/초를 달성합니다. Apple Intelligence는 시스템 3B 모델에 ANE를 구체적으로 사용하며, Metal 기반 추론보다 에너지 효율이 높지만 유연성이 낮습니다. A18 Pro (iPhone 16 Pro)와 A19 Pro (iPhone 17 Pro) 모두 ANE가 향상되었지만, 서드파티 채팅 앱은 ANE를 직접 타겟팅할 수 없습니다 — 그것은 Apple Intelligence와 Apple API를 위해 예약되어 있습니다.
💡Tip: 토큰/초 수치는 Q4_K_M 양자화 (2026년 모바일 추론의 표준)와 다른 무거운 앱이 실행되지 않는 유휴 iPhone을 가정합니다. 백그라운드 앱은 성능을 10–30% 저하시킵니다. iPhone 17 Pro의 토큰/초는 A19 Pro의 개선으로 iPhone 16 Pro보다 약 20–30% 높습니다.
PocketPal AI: 무료 오픈 소스 선택
PocketPal AI는 2026년 대부분의 iPhone 사용자를 위한 권장 출발점입니다. 무료, 오픈 소스 (GitHub: a-ghorbani/pocketpal-ai), App Store에서 이용 가능하며 Hugging Face의 모든 GGUF 모델을 지원합니다. 앱은 내부적으로 Apple Silicon 최적화와 함께 llama.cpp를 사용합니다.
- 무엇인가: llama.cpp를 사용하여 GGUF 모델을 로컬로 실행하는 iOS 앱. 구독 없음, 원격 측정 없음, 계정 불필요.
- 설치: App Store → "PocketPal AI". 무료 다운로드.
- 모델 추가: 앱에서 모델 → "Hugging Face에서 추가" → 검색 (예: "phi-4-mini-instruct-Q4_K_M") → 다운로드 탭. 모델은 앱의 로컬 저장소에 저장됩니다 (Phi-4 Mini Q4의 경우 ~2.7 GB).
- 생성 속도 (iPhone 16 Pro): Phi-4 Mini ~10–15 tok/초, Llama 3.2 3B ~12–18 tok/초, Gemma 3 4B ~7–10 tok/초, Qwen3 1.7B ~18–24 tok/초.
- 이상적인 대상: 계정 없이 App Store에서 설치 가능한 무료 채팅 앱을 원하는 사람, 커뮤니티가 게시한 모든 GGUF 모델을 지원합니다.
💡Tip: PocketPal AI의 모델 선택기에는 기기 RAM에 맞는 것으로 확인된 모델을 표시하는 "추천" 필터가 있습니다. iPhone 16 Pro (8 GB RAM)의 경우 선택기는 최대 ~4B 파라미터 모델의 Q4_K_M 변형을 권장합니다. 이 필터를 신뢰하십시오 — 너무 큰 모델을 실행하면 iOS가 응답 도중에 앱을 닫습니다.
Private LLM: iOS 통합 유료 선택
Private LLM은 2026년 iPhone을 위한 가장 강력한 유료 선택입니다 (~10€ 일회 구매, 구독 없음). App Store에서만 이용 가능하며 최적화된 모델의 큐레이션된 라이브러리가 제공됩니다. 차별화 요소는 iOS 통합입니다: Shortcuts 작업과 "Siri야, Private LLM에게 물어봐" 음성 명령.
- 무엇인가: Apple Silicon에 최적화된 독점 기기 내 런타임과 큐레이션된 모델 라이브러리가 있는 유료 iOS 앱.
- 설치: App Store → "Private LLM". 일회 구매 ~10€ (구독 없음).
- 큐레이션된 모델 라이브러리: iPhone에 대해 사전 테스트 및 최적화된 ~30개 모델, Llama 3.2 3B, Phi-4 Mini, Mistral Small Instruct 및 여러 검열되지 않은 변형 포함. PocketPal AI보다 유연성이 낮지만 충돌을 일으키는 모델을 설치하는 위험이 없습니다.
- iOS Shortcuts: Private LLM은 Shortcuts 자동화에서 연결할 수 있는 "Private LLM으로 텍스트 생성" 작업을 노출합니다. 홈 화면 버튼이나 NFC 태그에서 로컬 AI를 트리거하는 데 유용합니다.
- Siri 통합: "Siri야, Private LLM에게 [질문] 물어봐"는 프롬프트를 기기 내 모델로 보내고 Siri가 응답을 큰 소리로 읽습니다. 인터넷 연결 없이 작동합니다. 지연시간은 채팅 인터페이스보다 높습니다 (~3–5초 후 오디오 시작).
⚠️Warning: Private LLM의 ~10€ 가격은 iPhone 앱만 커버합니다. macOS 버전은 별도 구매이며, iPad 버전은 iPhone과 유니버설입니다 (하나의 구매로 둘 다 커버). 지불하기 전에 필요한 플랫폼을 확인하십시오. Apple 가족 공유가 가족 구성원을 위한 앱을 커버합니다.
MLC Chat: Apple Silicon 최적화
MLC Chat (MLC LLM 프로젝트 제공)은 GPU Metal 가속 덕분에 2026년 iPhone에서 가장 빠른 로컬 LLM 앱입니다. 무료, 오픈 소스이며 표준 GGUF 대신 MLC LLM 도구 체인에 의해 컴파일된 모델을 실행합니다.
- 무엇인가: Apple Silicon에서 MLC LLM의 Metal 가속 추론을 시연하는 MLC LLM 프로젝트의 iOS 참조 앱.
- 설치: App Store → "MLC Chat". 무료.
- 속도 이점: 동일한 iPhone에서 동일한 모델에 대해 llama.cpp 기반 앱보다 ~25–35% 빠릅니다. iPhone 16 Pro에서: Phi-4 Mini ~14–20 tok/초 (PocketPal AI의 ~10–15 대비).
- 모델 라이브러리: PocketPal AI보다 더 작음 — MLC LLM 프로젝트가 iOS용으로 컴파일한 모델로 제한됩니다. 현재 Llama 3.2 3B, Phi-4 Mini, Gemma 3 4B, RedPajama 등 포함. 모든 Hugging Face GGUF가 작동하지는 않습니다.
- 이상적인 대상: 모델 유연성보다 속도를 우선시하는 사용자. 목표 모델이 MLC 라이브러리에 있다면 MLC Chat이 iPhone에서 가장 빠른 선택입니다.
💡Tip: MLC LLM의 Metal 가속은 Neural Engine이 덜 강력한 구형 iPhone에서 더 중요합니다. iPhone 17 Pro에서는 A19 Pro의 향상된 Neural Engine이 llama.cpp의 상대적 단점을 줄이기 때문에 MLC Chat과 PocketPal AI 사이의 차이가 줄어듭니다. iPhone 14 Pro와 15 Pro에서는 MLC Chat의 이점이 더 큽니다.
LLM Farm: 가장 구성 가능
LLM Farm은 2026년 iPhone에서 가장 구성 가능한 로컬 LLM 앱입니다. 무료, 오픈 소스 (GitHub: guinmoon/LLMFarm)이며 다른 앱들이 숨기는 샘플링 매개변수를 노출합니다. 기본값을 수용하는 대신 모델 동작을 조정하려는 사용자에게 이상적.
- 무엇인가: 광범위한 구성 옵션을 갖춘 GGUF 모델을 실행하는 @guinmoon 개발자의 iOS 앱.
- 설치: App Store → "LLM Farm". 무료.
- 모델 추가: 모델 라이브러리 아이콘 탭 → "URL에서 모델 추가" → GGUF 파일의 Hugging Face 직접 다운로드 링크 붙여넣기. Apple 파일을 통해 GGUF를 전송할 수도 있습니다.
- 노출된 구성: 온도, top-p, top-k, mirostat 샘플링, 반복 패널티, 모델별 시스템 프롬프트, 채팅 템플릿 선택, 컨텍스트 창 길이. 대부분의 앱이 숨기는 모든 설정이 여기서 편집 가능합니다.
- 생성 속도: PocketPal AI와 비슷 (둘 다 llama.cpp 사용). iPhone 16 Pro에서: Phi-4 Mini ~10–15 tok/초.
- 이상적인 대상: 샘플링 구성을 비교하거나 세 개의 설정 메뉴를 탐색하지 않고 다른 채팅 템플릿을 테스트하려는 개발자, 프롬프트 엔지니어, 사용자.
💡Tip: LLM Farm이 노출하는 mirostat 샘플링은 표준 온도/top-p 샘플링이 반복적인 결과를 생성하는 창작 작문 작업에 유용합니다. 출발점으로 목표 엔트로피 ~5.0과 학습률 0.1로 mirostat 모드 2를 설정하십시오. PocketPal AI와 Private LLM은 mirostat를 전혀 노출하지 않습니다.
Apple Intelligence: 시스템 내장 기기 내 AI
Apple Intelligence는 iPhone 15 Pro 이상 (최소 8 GB RAM의 A17 Pro 칩)에서 기기 내에서 Apple의 자체 ~3B 기반 모델을 실행합니다. 채팅 앱이 아닙니다 — Mail (스마트 답장), 메시지 (작문 도구), 메모 (요약), 알림 요약에서 시스템 기능을 지원합니다. 모델은 PocketPal AI나 Private LLM과 같은 방식으로 사용자 프롬프트에 직접 접근할 수 없습니다.
- 어디에 있나: iOS 18+에 내장. 설정 → Apple Intelligence 및 Siri에서 활성화.
- 하드웨어 요구 사항: iPhone 15 Pro / 15 Pro Max, iPhone 16 시리즈, iPhone 17 시리즈. 구형 iPhone (14 이하)은 Apple Intelligence를 지원하지 않습니다.
- 기기 내 기능: 모든 텍스트 필드 내 작문 도구 (재작성, 요약, 교정), Mail 및 메시지에서 스마트 답장, 알림 요약, Genmoji 생성.
- Private Cloud Compute: 기기 내 모델 용량을 초과하는 작업의 경우 Apple Intelligence는 Private Cloud Compute (PCC)로 전환합니다 — 사용자 데이터가 유지되지 않는다는 암호화 보장과 함께 더 큰 모델을 실행하는 Apple 운영 서버. PCC는 옵트인이며 비활성화할 수 있습니다.
- 채팅 앱과의 관계: Apple Intelligence는 대체제가 아닌 보완제입니다. iOS 앱 내에서 텍스트 재작성 및 요약을 처리합니다; PocketPal AI / Private LLM / MLC Chat / LLM Farm은 임의 질문을 위한 전용 채팅 인터페이스를 제공합니다.
💡Tip: Apple Intelligence만 필요하다면 (이메일 재작성, 알림 요약), 독립 채팅 앱이 필요하지 않습니다. "양자 터널링을 간단한 용어로 설명해줘" 또는 "X에 대한 프로젝트 계획 만들어줘"와 같은 질문을 모델에게 하고 싶다면 네 개의 채팅 앱 중 하나를 설치하십시오 — Apple Intelligence는 그 인터페이스를 노출하지 않습니다.
iPhone 모델별 권장 모델
iPhone의 RAM이 칩 세대가 아닌 모델 크기 제한을 결정합니다. 6 GB iPhone (14 Pro, 15)은 1.7B 모델을 편안하게 실행할 수 있습니다; 8 GB iPhone (15 Pro, 16 Pro, 17 Pro)은 3B–4B 모델을 편안하게, 7B 모델은 느리게 실행합니다. 모바일만이 아닌 모든 하드웨어의 더 넓은 모델 환경을 위해서는 2026년 최고의 로컬 LLM을 참조하십시오.
| iPhone 티어 (연도, RAM) | 권장 모델 | 다운로드 크기 | 예상 속도 |
|---|---|---|---|
| iPhone 17 Pro (2025, 8–12 GB) | Phi-4 Mini 또는 Llama 3.2 3B (Q4_K_M) | ~2.5–2.7 GB | ~13–20 tok/초 |
| iPhone 16 Pro / 16 Pro Max (2024, 8 GB) | Phi-4 Mini (3.8B Q4_K_M) | ~2.7 GB | ~10–15 tok/초 |
| iPhone 15 Pro / Pro Max (2023, 8 GB) | Phi-4 Mini (3.8B Q4_K_M) | ~2.7 GB | ~8–12 tok/초 |
| iPhone 14 Pro / Pro Max (2022, 6 GB) | Qwen3 1.7B 또는 SmolLM 2 1.7B (Q4_K_M) | ~1.1 GB | ~15–20 tok/초 |
| iPhone 14 / 15 / 16 (비Pro, 6 GB) | Qwen3 1.7B 또는 SmolLM 2 1.7B (Q4_K_M) | ~1.1 GB | ~12–18 tok/초 |
| iPhone SE / 구형 모델 (4 GB) | 기기 내 LLM에는 권장하지 않음 | — | — |
💡Tip: 6 GB 구형 iPhone의 경우 Qwen3 1.7B가 2026년에 모델 크기와 품질의 최고 균형입니다. SmolLM 2 1.7B (HuggingFace)도 비슷합니다. 둘 다 일관된 짧은 응답 (1–3 단락)을 생성하지만 다단계 추론에는 어려움을 겪습니다. 6 GB iPhone에 Phi-4 Mini를 설치하지 마십시오 — 명목상 맞지만 iOS가 메모리 압박 시 앱을 닫을 것입니다.
배터리 소모 및 열 제한
iPhone에서의 기기 내 LLM 추론은 CPU/GPU 집약적이며 열을 발생시킵니다. 활성 추론 (모델이 토큰 생성 중)은 ~3–5 W를 소비합니다; 지속적인 생성은 칩을 제한하고 iPhone 16 Pro에서 시간당 약 20–30%의 배터리를 소모합니다.
- 배터리 소모 (활성 채팅): Phi-4 Mini를 실행하는 iPhone 16 Pro에서 시간당 ~20–30%. iPhone 17 Pro는 더 높은 최대 전력으로 인해 약간 더 빨리 소모되지만, 작업 부하를 더 빨리 완료하여 보상합니다.
- 열 제한은 ~10–15분의 연속 생성 후에 나타납니다. 칩이 ~38°C 표면 온도에 도달하면 iOS가 클록 속도를 줄여 토큰/초가 30–50% 떨어집니다. 폰이 식으면 전체 속도가 복원됩니다.
- 완화: 열 분산을 허용하기 위해 긴 추론 세션 중 iPhone을 단단한 표면 위에 앞면을 위로 놓으십시오 (손이나 주머니에 넣지 말고). 수동 방열판이 있는 케이스가 도움이 되지만 짧은 상호작용에는 거의 필요하지 않습니다.
- 팬텀 소모: 생성 후 채팅 앱을 백그라운드에 열어두면 RAM은 할당되어 있지만 추론이 실행되지 않습니다 — 배터리 영향은 최소입니다. 앱을 완전히 닫으면 ~3 GB RAM이 해제됩니다.
- 추론 중 MagSafe 충전: iPhone 17 Pro와 16 Pro에서는 허용됩니다 (둘 다 개선된 열 설계를 가집니다). iPhone 15 Pro에서는 충전과 추론의 조합이 더 빨리 열 한계에 도달할 수 있습니다 — 이후에 충전하는 것이 좋습니다.
⚠️Warning: 직사광선이나 뜨거운 차에서 기기 내 LLM 추론을 실행하지 마십시오. 주변 열과 추론 부하의 조합이 몇 분 안에 칩을 열 한계를 넘어 밀어붙여 공격적인 제한과 잠재적으로 "iPhone이 식어야 합니다" 경고를 활성화합니다. 채팅 앱은 닫히지 않지만 생성이 크게 느려집니다.
iOS Shortcuts, Siri 및 사이드로딩
iOS 통합은 앱에 따라 크게 다릅니다. Private LLM이 가장 깊은 통합을 가집니다 (Shortcuts + Siri); PocketPal AI, MLC Chat, LLM Farm은 2026년에 Shortcuts 작업이 없는 독립 채팅 앱입니다.
Private LLM Shortcut: 선택된 텍스트 요약
“1. 작업: "선택된 텍스트 가져오기" (iOS Share Sheet 입력). 2. 작업: "Private LLM으로 텍스트 생성" → 프롬프트: "다음 텍스트를 세 가지 핵심 포인트로 요약하십시오: [선택된 텍스트]" → 모델: Phi-4 Mini. 3. 작업: "결과 보여주기" 또는 "클립보드에 복사". Share Sheet에 추가하여 모든 앱의 선택된 텍스트에 대해 완전히 오프라인으로 실행하십시오.”
Apple Intelligence Shortcut: 어조 재작성
“1. 작업: "클립보드 가져오기". 2. 작업: "모델 사용" → 모델: 기기 내 → 프롬프트: "이것을 전문적이고 간결한 어조로 재작성하십시오: [클립보드]". 3. 작업: "클립보드에 복사". 잠금 화면 위젯에 할당하여 복사한 내용을 한 번의 탭으로 재작성하십시오.”
- Private LLM은 "Private LLM으로 텍스트 생성" Shortcuts 작업과 "Siri야, Private LLM에게 [질문] 물어봐" 음성 트리거를 노출합니다. 네 개의 채팅 앱 중 iOS와 가장 네이티브하게 통합되어 있습니다.
- PocketPal AI는 독립 채팅 앱입니다 — Shortcuts 작업 없음, Siri 통합 없음. 앱을 열고 채팅합니다. Shortcuts 지원 계획은 GitHub 이슈에서 추적되지만 2026년 5월 기준으로 게시되지 않았습니다.
- MLC Chat은 MLC LLM 프로젝트를 위한 참조 앱입니다 — iOS 통합 최소. Shortcuts 작업 없음.
- LLM Farm은 독립 채팅 앱입니다 — Shortcuts 작업 없음.
- Apple Intelligence는 "모델 사용" 작업 (iOS 18.4+)을 통해 iOS Shortcuts와 통합됩니다. 이것은 프롬프트를 기기 내 3B 모델 또는 Private Cloud Compute로 보냅니다 (구성 가능). 기기 내 출력은 다른 Shortcuts 작업으로 연결될 수 있습니다.
- 사이드로딩: 이 앱들 중 어느 것도 사이드로딩이나 탈옥이 필요하지 않습니다. 네 개의 채팅 앱은 App Store에 있습니다; Apple Intelligence는 iOS에 내장되어 있습니다. EU 사용자는 2026년에 DMA에 따라 대안 마켓플레이스를 통해 설치할 수도 있지만 앱은 App Store 버전과 동일합니다.
💡Tip: 운전 중이나 요리 중 핸즈프리 사용을 위해 Private LLM의 "Siri야, Private LLM에게 물어봐"가 폰을 터치하지 않고 작동하는 유일한 기기 내 옵션입니다. Apple Intelligence는 Siri를 통해 음성을 지원하지만 시스템 작업 (작문, 요약, 앱 작업)에만 — 채팅 앱처럼 일반적인 Q&A를 노출하지 않습니다.
흔한 실수
- iPhone RAM이 허용하는 것보다 더 큰 모델 설치. 8 GB iPhone에서 7B 모델은 ~3–5 토큰/초로 생성하며 iOS가 다른 앱을 위해 메모리를 회수할 때 닫힙니다. iPhone 티어에 권장된 모델을 사용하십시오 (8 GB 기기에는 3B–4B, 6 GB 기기에는 1.7B).
- 기기 내 모델에서 클라우드 AI 품질을 기대함. Phi-4 Mini (3.8B)는 크기 대비 인상적이지만 GPT-5.5가 아닙니다. 채팅, 요약, 작문, 빠른 질문에 사용하십시오 — 다단계 추론, 복잡한 코드 생성이나 뉘앙스 있는 창작 작문에는 사용하지 마십시오.
- 직사광선이나 뜨거운 차에서 추론 실행. 열 제한은 몇 분 안에 나타납니다. 생성이 30–50% 느려지고 "iPhone이 식어야 합니다" 경고가 나타날 수 있습니다. 주변 온도에서 추론을 실행하십시오.
- 각각 3 GB 모델이 있는 채팅 앱 3개 이상 설치. 중복 모델에 ~10 GB 저장소를 소비하게 됩니다. 앱 하나와 모델 하나를 선택하고; 필요한지 확실해질 때까지 나머지를 삭제하십시오.
- Apple Intelligence를 채팅 앱으로 혼동. Apple Intelligence에는 채팅 인터페이스가 없습니다 — 시스템 기능을 지원합니다. 모델에게 질문하려면 PocketPal AI, Private LLM, MLC Chat 또는 LLM Farm을 별도로 설치하십시오.
출처
- PocketPal AI — github.com/a-ghorbani/pocketpal-ai (오픈 소스 iOS 앱).
- Private LLM — App Store 목록 및 개발자 문서.
- MLC Chat / MLC LLM 프로젝트 — llm.mlc.ai (Metal 가속 iOS 배포).
- LLM Farm — github.com/guinmoon/LLMFarm (오픈 소스 iOS 앱).
- Apple Intelligence 및 기기 내 기반 모델 — Apple Machine Learning Research 및 Apple Developer 문서.
자주 묻는 질문
iPhone이 정말로 7B 모델을 실행할 수 있습니까?
기술적으로는 iPhone 15 Pro 이상 (8 GB RAM)에서 가능하지만 사용 가능한 속도는 아닙니다. iPhone 16 Pro에서 7B Q4 모델은 ~3–5 토큰/초로 생성합니다 — 채팅에는 답답합니다. iOS는 또한 다른 앱이 메모리를 필요로 할 때 앱을 닫는 경향이 있습니다. 일상적인 기기 내 채팅에는 3B–4B 모델 (Phi-4 Mini, Llama 3.2 3B, Gemma 3 4B)을 사용하십시오. 7B+ 품질을 위해서는 Ollama를 실행하는 홈 Mac 또는 PC에 원격으로 연결하십시오.
로컬 AI가 iPhone 배터리를 소모합니까?
예 — 활성 추론은 ~3–5 W를 소비하고 iPhone 16 Pro에서 시간당 약 20–30%의 배터리를 소모합니다. 가끔 사용 (몇 개의 프롬프트)의 경우 영향이 작습니다. 지속적인 사용 (긴 대화, 여러 요약 작업)의 경우 iPhone을 연결된 상태로 유지하십시오. 활성 추론 없이 RAM에 저장된 모델 자체는 배터리에 최소한의 영향을 미칩니다.
로컬 AI를 사용하면 iPhone이 뜨거워집니까?
예, 약 10–15분의 연속 생성 후에. 칩 표면 온도가 ~38°C에 도달하고 iOS가 클록 속도를 줄여 토큰/초가 30–50% 떨어집니다. 최소화하려면: 긴 세션 중 iPhone을 단단한 표면 위에 앞면을 위로 놓고 (손이 아닌), 직사광선을 피하십시오. 짧은 상호작용 (5분 미만)은 거의 눈에 띄는 열을 일으키지 않습니다.
로컬 모델과 Siri를 사용할 수 있습니까?
예, Private LLM을 사용할 때. "Siri야, Private LLM에게 [질문] 물어봐"라고 말하면 프롬프트를 기기 내 모델로 보내고 Siri가 응답을 큰 소리로 읽습니다 — 완전히 오프라인입니다. PocketPal AI, MLC Chat, LLM Farm은 2026년에 Siri 통합이 없습니다. Apple Intelligence는 Siri와 통합되지만 시스템 작업 (작문, 요약, 앱 작업)에만 — 일반 Q&A에는 해당하지 않습니다.
이 앱들이 iPhone SE나 구형 iPhone에서 작동합니까?
제한이 있습니다. iPhone SE (4 GB RAM)는 2026년에 기기 내 LLM의 실용적인 임계값 미만입니다. iPhone 14 / 15 (비Pro, 6 GB RAM)는 1.7B 모델 (Qwen3 1.7B, SmolLM 2 1.7B)을 실행할 수 있지만 3B+는 아닙니다. iPhone 14 Pro와 15 Pro (6–8 GB RAM)는 Phi-4 Mini와 같은 3B 모델을 8–12 토큰/초로 실행할 수 있습니다. 구형 iPhone의 경우 가장 좋은 옵션은 Ollama를 실행하는 홈 Mac 또는 PC에 원격으로 연결하는 것입니다.
iPhone과 Mac 간에 채팅 기록을 동기화할 수 있습니까?
이 네 개의 앱 중 어느 것에서도 기본적으로 지원되지 않습니다. 채팅 기록은 각 기기에 로컬로 저장됩니다; 2026년 5월 기준으로 PocketPal AI, Private LLM, MLC Chat, LLM Farm에는 iCloud 동기화 기능이 없습니다. 기기 간 채팅 기록을 위한 실용적인 접근 방식은 홈 Mac에서 Open WebUI를 실행하고 iPhone 및 Mac 브라우저에서 접근하는 것입니다 — Open WebUI는 채팅 기록을 서버에 저장합니다.
이 앱들이 App Store 외부에서 이용 가능합니까?
PocketPal AI와 LLM Farm은 오픈 소스이며 Xcode로 소스 코드에서 빌드할 수 있지만 App Store 버전이 표준 배포입니다. Private LLM과 MLC Chat은 App Store에만 있습니다. EU 사용자는 2026년에 DMA에 따라 대안 마켓플레이스를 통해 설치할 수 있지만 기본 앱은 App Store 버전과 동일합니다. 어느 것도 사이드로딩이 필요하지 않습니다.
탈옥이 필요한 것이 있습니까?
아니요. 다섯 가지 모두 (PocketPal AI, Private LLM, MLC Chat, LLM Farm, Apple Intelligence)가 표준 iOS에서 작동합니다. 네 개의 채팅 앱은 App Store에 있습니다; Apple Intelligence는 iOS 18+에 내장되어 있습니다. 탈옥은 필요하지 않으며 권장하지 않습니다 — iOS 보안 업데이트를 잃으면서 채팅 앱을 설치하는 것은 가치 있는 교환이 아닙니다.
iOS Shortcuts에서 로컬 AI를 사용할 수 있습니까?
예, Private LLM (Shortcuts "Private LLM으로 텍스트 생성" 작업 노출) 또는 Apple Intelligence (iOS 18.4+에서 "모델 사용" 작업 노출)를 통해. PocketPal AI, MLC Chat, LLM Farm은 2026년에 Shortcuts 작업이 없습니다. Private LLM + Share Sheet의 Shortcut 조합을 통해 모든 앱의 텍스트에 "이것을 요약해줘" 또는 "이것을 재작성해줘"를 완전히 오프라인으로 실행할 수 있습니다.
로컬 AI가 iPhone의 ChatGPT 앱과 어떻게 비교됩니까?
기기 내 모델 (Phi-4 Mini, Llama 3.2 3B)은 2026년에 일상적인 채팅에서 GPT-5.5의 약 60–75% 정도 능력이 있으며, 단순한 쿼리에서는 더 빠르고 (네트워크 왕복 없음) 완전히 사적입니다. ChatGPT는 복잡한 추론, 일반 세계 지식, 멀티모달 작업에서 여전히 더 낫습니다. 솔직한 교환: 일상적이고 사적인 작업에는 로컬 AI; 가끔 어려운 질문에는 ChatGPT. 2026년의 많은 사용자는 두 앱을 모두 가지고 쿼리에 따라 선택합니다.