여기서 시작: 설치할 앱 세 가지
시간이 없다면 이 세 가지 중 하나를 설치하고, iPhone의 RAM에 맞는 모델을 내려받은 뒤 에어플레인 모드에서 한 번 테스트하십시오. 이 추천은 벤치마크가 아니라 이 가이드의 각 장과 리뷰에서 나온 것이며, 나머지 부분에서 각 선택의 이유를 설명합니다.
그 밖의 좋은 출발점: RAM 12 GB iPhone에서는 Noema 또는 Google AI Edge Gallery에 Gemma 4 모델을 써 보십시오. RAM 4 GB iPhone에서는 그 등급이 기기 내 채팅의 실용 하한에 못 미치므로 Reins 또는 Enchanted (유지보수 장에서 업데이트가 뜸한 앱으로 표시됨)를 집 서버와 함께 사용하십시오.
📍 한 문장으로
입문자는 PocketPal AI로, 고급 사용자는 Locally AI와 Apple 자체 모델로, 개발자는 Foundation Models 프레임워크나 MLX Swift로 시작할 수 있으며, 어느 경우든 모델 크기는 iPhone의 RAM에 따라 정해집니다.
💬 쉽게 말하면
앱 하나, RAM에 맞는 모델 하나, 에어플레인 모드 테스트 한 번.
입문자
- 설치 또는 사용할 것:
- PocketPal AI
- 첫 모델:
- RAM 6 GB는 1-2B, 8 GB는 3-4B
- 이 선택의 이유:
- 무료 오픈소스이며, 이 가이드의 첫 실행 안내도 이 앱을 사용합니다.
고급 사용자
- 설치 또는 사용할 것:
- Locally AI
- 첫 모델:
- RAM 8 GB는 3-4B, 또는 내려받기 없는 Apple 자체 모델
- 이 선택의 이유:
- RAM 8 GB iPhone에서 Siri와 단축어를 쓰기에 알맞고, Apple Intelligence 지원 iPhone에서는 Apple의 온디바이스 모델도 사용할 수 있습니다.
개발자
- 설치 또는 사용할 것:
- Foundation Models 프레임워크 또는 MLX Swift
- 첫 모델:
- Apple의 온디바이스 모델 또는 직접 준비한 모델
- 이 선택의 이유:
- Foundation Models는 Apple의 네이티브 Swift API이며 Apple Intelligence 지원 하드웨어가 필요합니다. MLX Swift는 직접 준비한 모델을 실행합니다. 나머지는 "개발자 경로" 장에서 다룹니다.
설치 전에 알아 둘 빠른 답변 여섯 가지
독자가 가장 먼저 묻는 여섯 가지 질문입니다. 각 답변은 그것을 설명하는 장을 가리킵니다.
📍 한 문장으로
RAM이 모델 크기를 정하고, 3-5 GB의 여유 저장 공간이 첫 모델을 담으며, 에어플레인 모드 테스트로 앱이 오프라인에서 작동하는지 확인할 수 있습니다.
💬 쉽게 말하면
RAM이 모델을 정하고, 저장 공간이 담으며, 에어플레인 모드가 증명합니다.
- 어떤 모델을 내려받아야 합니까? RAM에 맞추십시오. 6 GB는 1-2B, 8 GB는 3-4B, 12 GB는 여유가 더 있지만 7-8B 모델은 여전히 느립니다. RAM 4 GB iPhone은 실용 하한에 못 미칩니다. "폰 등급, 앱, 모델 크기 한눈에 보기"를 참고하십시오.
- 저장 공간은 얼마나 필요합니까? 먼저 3-5 GB를 비우십시오. 모델 파일 하나가 1-4 GB이기 때문입니다. 중복된 모델 파일은 저장 공간을 빠르게 차지하므로 앱은 한 번에 하나씩 설치하십시오. "15분 만에 첫 로컬 모델 실행하기"를 참고하십시오.
- 얼마나 빠르게 실행됩니까? PromptQuorum은 이 가이드를 위해 어떤 iPhone에서도 속도를 측정하지 않았으며, 당사 iPhone 모음 글의 참고용 속도는 새로 측정한 값이 아닙니다. 작은 모델일수록 응답이 빠릅니다. 처음 테스트 질문에서 속도를 기록하고, 앱 설정에 초당 토큰 수가 표시되는지 확인하십시오.
- 어떤 앱이 프라이빗합니까? App Store 라벨만으로 프라이빗하다고 가정할 수 있는 앱은 없습니다. "기기에서 실행됨"과 "아무것도 전송하지 않음"은 서로 다른 주장이기 때문입니다. 개인정보 라벨과 정책을 읽고, 에어플레인 모드 테스트를 한 뒤, 나중에 설정 > 개인정보 보호 및 보안 > 앱 개인정보 보호 리포트를 확인하십시오. PocketPal AI 같은 오픈소스 앱은 직접 검사할 수 있습니다. "프라이버시와 텔레메트리의 현실"를 참고하십시오.
- 인터넷 없이 무엇을 할 수 있습니까? 이 가이드의 기능 지도에 따르면, 최근 iPhone은 모델을 내려받은 뒤에는 채팅, 카메라 질문, 받아쓰기와 전사, 문서 채팅, 번역을 오프라인으로 처리할 수 있습니다. 30B 이상 모델, 최첨단 수준의 추론, 상시 실행 백그라운드 에이전트는 불가능합니다. "기능 지도"를 참고하십시오.
- 다음에는 무엇을 읽어야 합니까? "15분 만에 첫 로컬 모델 실행하기"를 따라 해 본 뒤, 하고 싶은 구체적인 작업이 있으면 "선택 가이드"를 이용하십시오.
빠른 사실
- 범위: iPhone을 우선으로 하고, 같은 앱이 실행되는 경우 iPad도 포함합니다. Android는 자매 가이드 Android 로컬 AI 가이드에서 다룹니다.
- Apple Intelligence를 지원하는 iPhone(Apple 목록 기준): iPhone 15 Pro와 15 Pro Max, 16e를 포함한 iPhone 16 계열, 17e와 Air를 포함한 iPhone 17 계열, 2026년 iPhone 18 Pro, 18 Pro Max, iPhone Duo. iPhone 15와 그 이전의 비Pro 모델은 목록에 없습니다.
- 이 가이드에서 쓰는 RAM 등급(알려진 수치이며 Apple이 공개한 것이 아님): 4 GB(iPhone 12, 13, SE), 6 GB(iPhone 13 Pro, 14, 14 Pro, 15), 8 GB(iPhone 15 Pro, 16 시리즈, 16e, 17), 12 GB(iPhone 17 Pro와 Pro Max).
- 들어가는 모델 크기: 4비트 1.7B 모델은 약 1.1 GB, 3-4B 모델은 약 2.5-3.7 GB입니다. 참고용 속도는 우리 iPhone 로드업에서 가져온 것이며 새로 측정한 값이 아닙니다.
- iPhone 앱 안의 엔진: llama.cpp(GGUF), Apple MLX, MLC LLM, Google LiteRT-LM, ExecuTorch, Core ML, Apple Foundation Models. 일부 앱은 여러 엔진을 함께 씁니다.
- 이 가이드에서 연결한 앱: PromptQuorum 리뷰가 있는 우리 디렉토리의 iOS·iPadOS 앱과, 셀프 호스팅 도구용 iPhone 컴패니언 앱입니다.
- PromptQuorum이 하지 않은 일: 이 가이드는 앱을 다시 테스트하지 않았습니다. 사실은 우리 리뷰, 스토어 목록, 제작사 사이트, Apple 문서에서 가져왔으며, 각 리뷰에 무엇을 테스트했는지 밝혀 두었습니다.
기능 지도: iPhone 로컬 AI로 할 수 있는 것
iPhone 로컬 AI는 일상적인 언어 작업 대부분과 일부 미디어 작업을 처리하지만, 클라우드 어시스턴트가 하는 모든 일을 하지는 못합니다. 표는 각 기능을 가능, 부분 가능, 아직 불가로 나누고, 이어지는 장에서 앱을 소개합니다. "가능"은 리뷰된 iPhone 앱이 휴대폰 안의 모델로 처리한다는 뜻이고, "부분 가능"은 크기, 속도, 정확도, 하드웨어에 제한이 있다는 뜻이며, "아직 불가"는 리뷰된 iPhone 앱 중 기기 안에서 처리하는 것이 없다는 뜻입니다.
📍 한 문장으로
iPhone 로컬 AI는 채팅, 초안 작성, 요약, 번역, 받아쓰기, 문서 Q&A, 간단한 이미지 작업을 기기에서 처리하고, 사진 검색, 이미지 생성, 에이전트는 일부만 처리하며, 대형 모델 실행이나 Siri 대체는 아직 할 수 없습니다.
💬 쉽게 말하면
iPhone을 작지만 비공개인 두뇌를 가진 주머니 속 어시스턴트라고 생각하십시오. 간단한 질문에 답하고, 글을 고쳐 쓰고, 음성을 받아 적고, 사진을 설명하면서 아무것도 밖으로 보내지 않습니다. 대신 더 큰 클라우드 모델이 아는 사실은 모르고, 긴 답변에서는 느려지며, 따뜻해집니다. 어려운 질문에는 집 컴퓨터나 클라우드 앱과 함께 쓰는 사람이 많습니다.
기능 | iPhone에서 | 일반적인 구성 | 장 |
|---|---|---|---|
| 채팅, 초안 작성, 요약 | 가능 | 1-4B 모델, GGUF 또는 MLX | 채팅 어시스턴트 |
| 사진·스크린샷에 대해 질문 | 가능 | 소형 비전 모델 또는 OCR | 비전과 카메라 |
| 받아쓰기와 전사 | 가능 | Whisper 또는 Parakeet | 음성 |
| 읽어주기(텍스트 음성 변환) | 가능 | 시스템 음성 또는 온디바이스 TTS | 음성 |
| Siri로 핸즈프리 어시스턴트 | 부분 가능 | 단축어이며 Siri 대체 아님 | 음성 |
| PDF·노트와 채팅 | 가능 | 소형 모델 + 로컬 인덱스 | 문서와 RAG |
| 번역 | 가능 | 번역용으로 조정된 소형 모델 | 번역 |
| 이미지 생성 | 부분 가능 | 소형 확산 모델, 느림 | 이미지 생성 |
| 사진 편집(누끼, 보정) | 가능 | Core ML 세그멘테이션 모델 | 이미지 생성 |
| 사진 라이브러리 AI 검색 | 부분 가능 | 기기 내 인덱스 또는 자체 서버 | 사진과 갤러리 |
| AI를 갖춘 노트와 북마크 | 부분 가능 | AI는 대개 서버에서 실행 | 노트와 지식 |
| 건강 데이터 질문 | 부분 가능 | Apple Intelligence, 의료용 아님 | 건강과 웰니스 |
| 롤플레이와 컴패니언 | 가능 | 소형 채팅 모델, 클라우드 방식도 있음 | 롤플레이와 컴패니언 |
| 스마트홈 제어 | 부분 가능 | 집 서버가 실제 작업 수행 | 스마트홈과 에이전트 |
| 상시 실행 자율 에이전트 | 아직 불가 | iOS가 백그라운드 작업 제한 | 불가능한 것 |
| 30B 이상 모델 실행 | 아직 불가 | 집 서버를 원격으로 사용 | 원격 모드 |
| 휴대폰에서 모델 파인튜닝 | 아직 불가 | Mac이나 GPU에서 학습 | 개발자 경로 |
칩과 RAM의 현실: 어떤 iPhone이 어떤 모델을 실행하는가
RAM은 iPhone이 담을 수 있는 가장 큰 모델을 정하고, 칩은 답변 속도를 정합니다. 언어 모델은 생성하는 동안 메모리에 올라가 있어야 하므로, 4비트 3B 모델(디스크에서 약 2-2.7 GB)은 iOS와 다른 앱이 쓰는 양에 더해 그 정도의 여유 RAM이 필요합니다. 앱이 너무 많이 요구하면 iOS가 그 앱을 종료하며, Apple은 iPhone RAM을 공개하지 않으므로 아래 수치는 Apple의 발표가 아니라 널리 알려진 사양입니다(2026년 iPhone용 최고의 로컬 AI 앱에서도 같은 수치를 씁니다).
iPhone 등급 | RAM(알려진 수치) | 현실적인 모델 크기 | 평가 |
|---|---|---|---|
| iPhone 12, 13, SE | 4 GB | 1B 미만, 되더라도 | 대신 원격 모드 사용 |
| iPhone 13 Pro, 14, 14 Pro, 15 | 6 GB | 1-2B(파일 약 1.1 GB) | 기본 채팅과 초안 작성 |
| iPhone 15 Pro, 16, 16e, 17 | 8 GB | 3-4B(약 2.5-3.7 GB) | 전형적인 3-4B 등급 |
| iPhone 17 Pro, 17 Pro Max | 12 GB | 4B 여유 있게, 7-8B 저비트 | 최고 RAM 등급 |
| iPhone 18 Pro, Pro Max, Duo | 공개되지 않음 | 확인 전까지 12 GB로 간주 | PromptQuorum 수치 없음 |
⚠️경고: 명목상 들어가는 모델도 앱을 전환할 때 iOS가 종료할 수 있습니다. 6 GB iPhone에서는 3-4B 파일이 오류 없이 내려받아지더라도 1-2B 모델을 쓰십시오. Apple의 iPhone 페이지 자체에 RAM 수치가 없으므로 등급 표는 보증이 아니라 안내입니다.
Neural Engine, GPU, CPU: 모델은 실제로 무엇이 실행하는가
iPhone에는 모델을 실행할 곳이 세 군데 있으며, 어느 곳을 쓰는지는 휴대폰이 아니라 앱의 엔진이 정합니다. CPU는 유연하지만 느리고, GPU(Apple의 Metal 그래픽 API를 통해 접근)는 대부분의 채팅 앱이 의존하는 대규모 행렬 연산을 처리하며, Neural Engine은 Apple의 Core ML과 더 새로운 Core AI 프레임워크가 대상으로 삼을 수 있는 고정 기능 가속기입니다. Apple은 Core AI를 Apple silicon용으로 만들어 통합 메모리와 Neural Engine을 사용하는 것으로 설명하며, iOS 27 세대에 새로 나온 것이라 이 가이드의 앱 대부분은 아직 사용하지 않습니다.
- llama.cpp 앱(GGUF 파일): PocketPal AI, Pocket AI, LLM Farm은 GPU의 Metal을 사용합니다. 모든 GGUF 파일을 지원하므로 Hugging Face의 모델도 쓸 수 있습니다.
- Apple MLX 앱: Locally AI, fullmoon, MLXHub는 Apple silicon의 통합 메모리를 위해 만들어진 Apple의 MLX 배열 프레임워크를 사용합니다.
- 멀티 포맷 앱: Noema는 GGUF, MLX, ExecuTorch, Core ML, Apple Foundation Models를 한 앱에서 지원하므로 모델 포맷에 따라 하드웨어 사용 방식이 달라집니다(리뷰에 나온 제작사 설명).
- 컴파일된 모델 앱: MLC Chat은 MLC LLM 툴체인으로 컴파일한 모델을 실행하고, Google AI Edge Gallery는 Google의 LiteRT-LM 런타임을 사용합니다.
- Apple의 자체 모델: Apple Intelligence는 시스템 프레임워크를 통해 Apple의 모델을 실행합니다. Compass - Local AI와 Pajdo 같은 앱은 모델을 직접 내장하는 대신 이를 호출합니다.
- 실용적인 결론: 같은 iPhone에서 같은 크기의 모델을 실행하는 두 앱도 속도, 메모리 사용량, 발열이 다를 수 있습니다. 이미 내려받은 모델을 지우기 전에 같은 프롬프트를 두 앱에서 실행해 보십시오.
폰 등급, 앱, 모델 크기 한눈에 보기
먼저 RAM 등급으로 고르고, 그다음 필요에 따라 고르십시오. 표는 우리 리뷰와 로드업에서 가져온 출발점이며 벤치마크가 아닙니다. 모델은 빠르게 바뀌므로 현재의 소형 모델 추천은 최고의 모바일 LLM 모델: Phi-4 Mini vs Gemma vs SmolLM에서 확인하십시오.
폰 등급 | 시작할 앱 | 모델 크기 | 비고 |
|---|---|---|---|
| RAM 4 GB iPhone | 집 서버용 원격 클라이언트 | 휴대폰에는 없음 | Reins, Enchanted, OpenClient |
| RAM 6 GB iPhone | PocketPal AI 또는 Locally AI | 1-2B(약 1.1 GB) | 가장 작은 모델 |
| RAM 8 GB iPhone | PocketPal AI, Private LLM, Gallery | 3-4B(2.5-3.7 GB) | 중간 가격대 등급 |
| RAM 12 GB iPhone | Noema 또는 Locally AI | 4B, 또는 7-8B를 느리게 | 더 긴 컨텍스트 가능 |
| Apple Intelligence 지원 폰 | Compass 또는 Locally AI | Apple 모델, 다운로드 없음 | 언어 제한 적용 |
| 모든 폰, 받아쓰기 | Whisper Notes 또는 Aiko | Whisper급, 소형 | 한 번 결제 |
| 모든 폰, 문서 | Private Mind 또는 MemoryAI | 소형 채팅 + 인덱스 | 파일 제한 확인 |
15분 만에 첫 로컬 모델 실행하기
iPhone에서 오프라인 경로 전체를 약 15분 만에 확인할 수 있습니다. 앱 하나를 설치하고, Wi-Fi에서 작은 모델 하나를 내려받고, 에어플레인 모드를 켠 뒤 질문하면 됩니다. 예시는 무료이고 오픈소스인 PocketPal AI를 사용하지만, 다음 장들의 채팅 앱은 모두 같은 방식으로 작동합니다. 소요 시간은 연결 상태와 폰에 따라 달라집니다.
- 10-2분: iPhone 등급 확인
Why it matters: 위의 RAM 표에서 내 모델을 찾아보십시오. 6 GB는 1-2B 모델, 8 GB는 3-4B, 12 GB는 여유가 있습니다. 모델 파일이 1-4 GB이므로 먼저 저장 공간 3-5 GB를 비워 두십시오. - 22-4분: 앱 하나 설치
Why it matters: App Store에서 앱을 하나만 설치하십시오(예: PocketPal AI, Locally AI, Google AI Edge Gallery). 앱 세 개에 모델을 세 개씩 설치하지 마십시오. 중복된 모델 파일은 저장 공간을 빠르게 차지합니다. - 34-9분: Wi-Fi에서 모델 하나 내려받기
Why it matters: 등급에 맞는 크기를 고르십시오. 예를 들어 6 GB에서는 Qwen3 1.7B급 모델, 8 GB에서는 Phi-4 Mini 또는 Gemma 4 E2B입니다(등급별 모델 참조). 다운로드는 인터넷이 필요한 유일한 단계입니다. 끝날 때까지 앱을 열어 두고 화면을 켜 두십시오. - 49-10분: 에어플레인 모드 켜기
Why it matters: 에어플레인 모드를 켜고 Wi-Fi는 끈 채로 두십시오. 모델이 휴대폰에서 실행된다는 것이 확인되고, 앱이 인터넷에 접속하려 하는지도 알 수 있습니다. - 510-13분: 테스트 질문 세 개 하기
Why it matters: 붙여 넣은 단락의 세 줄 요약, 다른 어조로 이메일 고쳐 쓰기, 답을 아는 사실 질문을 해 보십시오. 속도와 폰이 따뜻해지는지 기록하십시오. - 613-15분: 설정 확인과 정리
Why it matters: 앱에 벤치마크나 설정이 있으면 열어 초당 토큰 수를 기록한 뒤, 나중에 설정 > 개인정보 보호 및 보안 > 앱 개인정보 보호 리포트에서 앱이 어떤 도메인에 접속했는지 확인하십시오. 쓰지 않을 모델은 삭제하십시오.
💡팁: 첫 답변 중에 앱이 멈추거나 다시 시작되면 모델이 폰에 비해 너무 큰 것입니다. 다른 설정을 낮추는 대신 모델을 삭제하고 한 단계 작은 크기를 고르십시오.
Apple Intelligence와 Foundation Models 프레임워크
Apple Intelligence는 지원되는 모든 iPhone에 다운로드가 필요 없는 내장 언어 모델을 제공하며, Foundation Models 프레임워크를 통해 서드파티 앱이 이를 사용할 수 있습니다. Apple의 개발자 페이지는 이 프레임워크를 Apple Intelligence를 구동하는 것과 같은 온디바이스 모델에 직접 접근하는 네이티브 Swift API로 설명합니다. Apple Intelligence가 지원하는 기기와 언어에서만 작동합니다.
📍 한 문장으로
Apple Intelligence는 iPhone 15 Pro 이상에서 Apple의 자체 온디바이스 모델을 실행하며, Foundation Models 프레임워크를 통해 Locally AI, Compass, Pajdo 같은 서드파티 앱이 자체 모델을 내장하지 않고도 이를 사용할 수 있습니다.
💬 쉽게 말하면
Apple은 이미 iPhone 안에 작은 언어 모델을 넣어 두었습니다. 내려받을 필요는 없지만 다른 모델로 바꿀 수도 없습니다. 앱은 이 모델을 빌려 기기에서 질문에 답할 수 있으며, 그래서 여러 신규 앱이 큰 모델 다운로드가 아니라 최신 iPhone과 최신 iOS를 요구합니다.
- 기기 목록(Apple의 Apple Intelligence 페이지): iPhone 15 Pro와 Pro Max(A17 Pro), iPhone 16, 16 Plus, 16e, 16 Pro 계열(A18과 A18 Pro), iPhone 17, 17e, 17 Pro, 17 Pro Max, Air(A19와 A19 Pro), iPhone Duo, 18 Pro, 18 Pro Max(A20 Pro).
- 언어: Apple Intelligence는 Siri와 기기 언어가 지원되는 언어로 설정되어 있어야 합니다. Apple의 목록에는 중국어(간체와 번체), 덴마크어, 네덜란드어, 영어, 프랑스어, 독일어, 이탈리아어, 일본어, 한국어, 노르웨이어, 포르투갈어, 스페인어, 스웨덴어, 튀르키예어, 베트남어가 포함됩니다. Apple은 일부 기능이 모든 지역이나 언어에서 제공되지 않을 수 있다고 덧붙입니다.
- Siri AI(iOS 27 베타): Apple은 시작 언어로 영어, 프랑스어, 일본어, 한국어, 포르투갈어, 스페인어를 들고, iOS에서는 처음에 EU에서 제공되지 않으며, 일부 서버 측 기능에는 일일 사용 한도가 있다고 밝힙니다. 이 가이드의 온디바이스 채팅 앱과는 별개입니다.
- 프레임워크가 제공하는 것(Apple, iOS 27 가이드): Apple Foundation Models 접근, 그리고 Language Model 프로토콜을 통한 Claude, Gemini 같은 클라우드 모델이나 이 프로토콜을 따르는 모든 제공자 접근. 이미지를 텍스트와 함께 전달하는 멀티모달 프롬프트. 모델이 기기에서 호출할 수 있는 OCR, 바코드 읽기 같은 Vision 도구. 한 세션에서 모델, 도구, 지침을 바꿔 끼우는 Dynamic Profiles.
- iOS 26 기준(이번 갱신에서 다시 확인하지 않음): 이 프레임워크는 iOS 26에서 처음 출시되었습니다. 이를 바탕으로 설계하기 전에 컨텍스트 한도와 지원 기능은 Apple의 최신 문서에서 확인하십시오.
- Private Cloud Compute: Apple Intelligence는 더 큰 요청을 Apple의 서버로 넘길 수 있습니다. Apple은 데이터가 저장되지 않고 요청 처리에만 사용된다고 밝힙니다. 이는 온디바이스 처리가 아니므로 "Apple Intelligence"와 "오프라인"은 서로 다른 주장으로 취급하십시오.
- 이 가이드에서 Apple의 모델을 사용하는 앱: Locally AI(채팅 프런트엔드), Compass - Local AI(채팅과 스크린샷 OCR), Pajdo(Apple 건강 질문), LocalMindAI(Apple의 모델 또는 내려받은 모델), Noema와 Reins(Apple Foundation Models를 백엔드 중 하나로 사용), Hillnote(노트), 그리고 자체 3B 모델을 내장하지만 Apple Intelligence 호환 기기를 요구하는 AI on Device.
💡팁: 메일, 메시지, 메모에서 글 다듬기, 알림 요약, 글쓰기 도구만 원한다면 채팅 앱이 필요 없습니다. 채팅 창, 모델 선택, 문서 Q&A를 원한다면 이 가이드의 앱 중 하나를 설치하십시오. Apple 모델과 오픈 모델의 장단점은 Apple 온디바이스 AI vs 로컬 LLM을 참조하십시오.
iPhone 로컬 AI를 좌우하는 App Store 규정
App Store는 iPhone과 데스크톱 로컬 AI의 차이 대부분을 설명합니다. Apple의 App Review 가이드라인은 모든 앱에 적용되며, 이 중 네 가지가 여기서 중요합니다. 독립 실행형 앱, 전력 사용, 백그라운드 서비스, 데이터 공유입니다. 이 장은 규정 문구를 인용하고 우리의 해석을 덧붙이며, 법률 자문이 아니고 Apple은 규정을 바꿀 수 있습니다.
- 앱을 바꾸는 코드는 내려받을 수 없습니다(가이드라인 2.5.2). Apple의 문구는 다음과 같습니다. 앱은 "may not download, install, or execute code which introduces or changes features or functionality of the app". 로컬 AI 앱은 엔진을 앱에 포함해 배포하고 데이터인 모델 가중치만 내려받는 방식으로 이 규정을 지킵니다. 이는 우리의 해석이며 Apple의 설명이 아닙니다.
- 휴대폰에서 Ollama 서버를 실행할 수 없습니다. Ollama는 iPhone 앱을 제공하지 않으며, App Store 샌드박스에서는 Ollama 서버나 Docker 컨테이너를 실행할 현실적인 방법이 없습니다. 샌드박스 방식의 셸 앱이 일부 있지만, 로컬 모델 서버를 제공하지는 않습니다.
- 공개 API만 사용합니다(가이드라인 2.5.1). 앱은 공개 API만 사용할 수 있으며, 그래서 Foundation Models, Core ML, Metal, MLX가 쓸 수 있는 경로이고 Neural Engine에 대한 비공개 접근은 그렇지 않습니다.
- 전력과 발열(가이드라인 2.4.2). Apple은 앱이 "should not rapidly drain battery, generate excessive heat, or put unnecessary strain on device resources"라고 밝힙니다. 지속적인 생성은 이 선을 시험하며, 그래서 앱이 긴 실행을 줄이거나 중단합니다.
- 백그라운드 사용은 제한됩니다(가이드라인 2.5.4). 멀티태스킹 앱은 오디오 재생, 위치, 작업 완료, 로컬 알림 같은 의도된 목적에만 백그라운드 서비스를 쓸 수 있습니다. 앱을 떠난 뒤에는 모델이 계속 생성하거나 에이전트로 무기한 동작할 수 없으며, Reins는 백그라운드 생성에 iOS 26이 필요하다고 설명합니다.
- 메모리 한계. iOS는 포그라운드 앱이 쓸 수 있는 RAM을 제한합니다. Apple은 개발자가 신청할 수 있는 확장 메모리 한도 entitlement(com.apple.developer.kernel.increased-memory-limit)를 공개하고 있으며, 정확한 허용량은 밝히지 않습니다. 앱이 이를 가졌는지는 확인할 수 없으므로, 의존하기 전에 앱 자체 벤치마크로 모델을 테스트하십시오.
- JIT와 런타임 컴파일. 데스크톱 엔진은 흔히 런타임에 코드를 컴파일하지만, iOS 앱은 미리 컴파일된 엔진을 배포합니다. 이는 여러 엔진 프로젝트가 언급하는 일반적인 플랫폼 동작이며, iPhone 엔진이 기능에서 데스크톱 엔진에 뒤처지는 이유 중 하나입니다.
- 데이터 공유(가이드라인 5.1.1과 5.1.2). 앱은 개인정보 처리방침을 링크하고, 수집하는 데이터를 설명하고, 개인 데이터를 제3자와 공유하기 전에("including with third-party AI" 포함) 허락을 받아야 하며, 동의 없이 데이터를 다른 목적으로 쓸 수 없습니다. App Store 개인정보 보호 라벨은 개발자가 작성하며, 이는 프라이버시 장에서 다시 다룹니다.
- 사이드로딩과 대체 마켓플레이스. EU에서는 디지털 시장법에 따라 대체 앱 마켓플레이스가 존재하지만, 어디에 배포할지는 각 개발자가 정합니다. 이 가이드의 앱 중 마켓플레이스가 필요한 것은 없으며, LLM Farm이 예외로 현재 Xcode에서 소스로 빌드해야 합니다.
- TestFlight 베타. 여러 제작사가 TestFlight 빌드를 제공합니다(예: 무료 체험용 Aiko, 신규 빌드용 fullmoon). TestFlight 빌드는 기간이 제한되고 미완성이므로, 테스트에만 쓰고 잃어서는 안 되는 데이터에는 쓰지 마십시오.
iPhone이 Android보다 나은 점과 못한 점
iPhone은 시작하기 쉽고 확장하기는 더 제한적이며, Android는 그 반대입니다. iPhone은 알려진 소수의 구성으로 나오고, Apple의 자체 모델을 내장하며, 모든 앱이 하나의 스토어를 거칩니다. Android 폰은 RAM과 칩의 편차가 훨씬 크고, 터미널 앱과 사이드로딩을 허용하며, 자체 온디바이스 모델 스택이 있습니다. 공개 정보에 근거한 플랫폼 비교이며, 하드웨어별 수치는 Galaxy vs iPhone 온디바이스 AI와 자매 가이드 Android 로컬 AI 가이드를 참조하십시오.
항목 | iPhone | Android |
|---|---|---|
| 설정 난이도 | App Store, 한 번 탭 | Play 스토어 또는 APK |
| 내장 모델 | Apple Foundation Models | 제조사와 Google 모델 |
| 휴대폰에서 Ollama 실행 | iPhone용 Ollama 앱 없음 | Termux로 가능(가이드 참조) |
| RAM 상한 | Pro 폰에서 약 12 GB | 다양함, 폰별로 확인 |
| 모델 포맷 | GGUF, MLX, Core ML, LiteRT | GGUF, LiteRT, MLC 등 |
| 단축어와 자동화 | 단축어, App Intents | Tasker와 인텐트 |
| 앱 수 | 오픈소스 선택지 적음 | 오픈소스 선택지 많음 |
| 백그라운드 작업 | 엄격히 제한 | 더 느슨하지만 여전히 제한 |
💡팁: 이 가이드의 많은 앱은 Android에서도 실행되므로(PocketPal AI, MLC Chat, KernelAI, LLM Hub), 두 플랫폼을 모두 쓰는 가정에서는 각 플랫폼에서 같은 앱을 쓸 수 있는 경우가 많습니다. Android 관련 내용은 2026년 Android용 최고의 로컬 AI 앱에서 비교하십시오.
채팅 어시스턴트: 대표적인 온디바이스 앱
iPhone에서 일반 채팅을 하려면 우리 iPhone 로드업이 비교하는 다섯 앱 중 하나로 시작한 뒤, 아래의 신규 앱을 살펴보십시오. 각 줄은 앱이 하는 일과 솔직한 한계를 적었습니다. 세부 내용은 연결된 PromptQuorum 리뷰, 스토어 목록, 제작사 페이지에서 가져왔으며, 리뷰가 앱을 테스트했다고 밝히지 않는 한 속도와 품질은 측정되지 않은 것으로 보십시오. 순위가 매겨진 추천과 참고용 속도는 2026년 iPhone용 최고의 로컬 AI 앱을, 채팅 카테고리 전체는 채팅 어시스턴트 비교를 참조하십시오.
📍 한 문장으로
PocketPal AI는 무료 기본 선택, Private LLM은 Siri와 단축어를 지원하는 유료 선택, Locally AI는 Apple Foundation Models를 갖춘 무료 MLX 앱, Google AI Edge Gallery는 iPhone용 무료 Gemma 4 앱입니다.
💬 쉽게 말하면
채팅 앱 하나를 고르고, 내 iPhone에 맞는 모델 하나를 내려받은 뒤, 이 가이드의 나머지 앱은 문서, 음성, 집 서버 같은 특별한 용도에 두십시오. 가격은 연결된 리뷰와 스토어 페이지에서 가져온 것이며 바뀔 수 있습니다. 구매 전에 스토어에서 확인하십시오.
- PocketPal AI: 무료, 오픈소스(MIT), Hugging Face의 모든 GGUF 모델을 실행하며 벤치마크가 내장되어 있습니다. 한계: 단축어나 Siri 동작이 언급되지 않은 독립형 채팅이며, 프리미엄 프리셋은 선택적 인앱 구매입니다.
- Private LLM: iPhone, iPad, Mac용으로 한 번 $4.99, 140개 이상의 모델, 계정 불필요. 개발자는 Siri 및 단축어와 연동된다고 밝힙니다. 한계: 클로즈드 소스에 선별된 모델 목록이라 임의의 파일을 불러올 수 없습니다.
- Locally AI: 무료, LM Studio 팀 제작, Apple MLX 기반이며, 단축어 동작, 채팅 옵션으로 Apple Foundation Models, Mac의 LM Studio에 대한 선택적 연결이 있습니다. 한계: 임의의 GGUF 가져오기 불가, 클로즈드 소스, iOS 18.1 이상.
- Google AI Edge Gallery: 사고 모드, 에이전트 스킬, 이미지·오디오 입력을 갖춘 Gemma 4용 Google의 무료 앱. 한계: LiteRT-LM 모델만 지원하고, 실험적 베타로 표시되어 있으며, App Store 개인정보 보호 라벨에 일부 기기 진단 정보가 나옵니다.
- Noema: 무료, GGUF, MLX, ExecuTorch, Core ML, Apple Foundation Models를 한 앱에서 실행하며 온디바이스 문서 채팅을 제공합니다. 한계: 클로즈드 소스, 공개된 최소 RAM 없음, iOS 또는 iPadOS 18 이상.
- Off Grid AI: 무료 오픈소스(MIT) 앱으로 GGUF 채팅, Stable Diffusion 이미지 모델, Whisper 음성 인식을 기기에서 실행하며 iOS, Android, macOS, Windows를 지원합니다. 한계: 앱 하나가 여러 역할을 하므로 저장 공간과 설정이 더 많아집니다.
- Pocket AI: 무료, Metal을 쓰는 llama.cpp, Qwen, Gemma, Llama, Mistral, Phi, DeepSeek 계열의 모델 28개(개발자 설명 기준), iPhone 12 이상. 한계: 온디바이스 Whisper 음성 입력은 유료 Pro 잠금 해제가 필요합니다.
- KernelAI: 무료, 112 MB부터 3.11 GB까지 내려받을 수 있는 오픈 모델 53개, 목록 기준으로 문서, 비전, 단축어를 지원합니다. 한계: 클로즈드 소스이며, 우리 리뷰는 직접 테스트가 아니라 공개 자료에 근거합니다.
- On Device AI: 내려받을 수 있는 GGUF·MLX 모델 200개 이상, 그리고 전사, 문서·RSS 가져오기, 온디바이스 텍스트 음성 변환, 자동화 연동. 한계: 클로즈드 소스 앱의 폭넓은 기능 목록이므로 개인정보 섹션을 읽어 보십시오.
- Enclave AI: 인앱 구매가 있는 무료 앱으로, 목록 기준 iPhone, iPad, Mac에서 오프라인으로 동작하고 계정이 필요 없으며, 우리 로드업 기준 문서 상호작용과 단축어를 지원합니다. 한계: 클로즈드 소스이며 유료 등급이 있습니다.
채팅 어시스턴트: 신규, 틈새, 하이브리드 앱
이 앱들은 더 좁은 필요를 채웁니다. 1회 결제 채팅, Apple 모델 전용 채팅, 페르소나, 오픈소스 프라이버시 프로젝트, 온디바이스와 클라우드를 섞은 하이브리드입니다. 하이브리드 앱은 온디바이스 모드에 머무는 동안에만 로컬이므로 하이브리드 관련 경고를 특히 확인하십시오.
- Cloak: Local AI: 한 번 결제(미국 스토어 $1.99), 추천 모델 하나를 내려받고, iPhone에서 음성 메모와 사진, 위치, 음성 메모로 만든 주간 요약을 추가합니다. 한계: 모델 선택기가 없고 모델 이름이 공개되어 있지 않습니다.
- Compass - Local AI: 무료, 기기에서 Apple Intelligence로 답하고 온디바이스 OCR로 스크린샷을 읽으며, iOS 또는 iPadOS 26이 필요합니다. 한계: 웹 검색은 선택 사항이며, 켜면 질의를 DuckDuckGo 또는 Brave로 보냅니다.
- AI on Device: 한 번 $4.99, 2비트로 양자화한 3B 모델, iOS 26과 Apple Intelligence 호환 기기가 필요합니다. 한계: 2025년 10월 13일 이후 업데이트가 없으므로 업데이트가 뜸한 앱으로 보십시오.
- Haplo AI: Qwen, Phi 같은 오픈 모델을 내려받아 채팅, 이미지 입력, 이미지 생성을 하며 계정이 필요 없습니다. 한계: 유료 앱이며, 우리 리뷰는 공개 자료에 근거합니다.
- Oscilla: 무료, 오픈 모델 40개 이상, 실시간 음성, 내장 메모리, 웹 검색, 파일·이미지 분석 기능이 있으며, Apple의 "Data Not Collected" 라벨이 붙어 있습니다. 한계: iOS 26 이상, 클로즈드 소스이며, 2026년 5월 21일 이후 업데이트가 없습니다.
- Frankly AI: 작업별 페르소나를 갖춘 내려받는 온디바이스 모델, 계정 불필요. 무료는 일일 한도가 있고 Pro가 나머지를 엽니다. 한계: 무료 등급의 사용량 상한.
- LLM Studio Go: 무료이며 광고 기반, GGUF·MLX 모델로 채팅, 음성, 이미지, 음악, 음성 기능, iOS 또는 iPadOS 18. 한계: 광고가 있으며, 리뷰에 따르면 이름과 달리 LM Studio와 관련이 없습니다.
- Local AI Chat - pocket: 부분 유료(freemium) 오프라인 채팅으로, 태그라인 기준 이미지 생성과 단축어를 지원하고 iOS 또는 iPadOS 18.6 이상이 필요합니다. 한계: 2026년 5월 27일 이후 업데이트가 없고 구독형 인앱 구매가 있습니다.
- Loci AI: iPhone, iPad, Android, Mac, Windows에서 무료이며 하드웨어에 맞는 모델을 자동으로 고릅니다. 한계: 모델 성능에 대한 제작사의 주장은 PromptQuorum이 검증하지 않았습니다.
- Ensu: 무료, 오픈소스(AGPL), Ente Labs 제작, 이미지 입력과 로컬 음성 받아쓰기를 지원합니다. 한계: 제작사 스스로 아직 ChatGPT나 Claude Code만큼 뛰어나지 않다고 밝히며, 버전도 아직 0.x입니다.
- MemoryAI: 문서 Q&A, 편집 가능한 메모리, PIN 잠금 키즈 모드를 갖춘 무료 오프라인 채팅. iOS 16.4 이상, RAM 4 GB 이상. 한계: 개인정보 처리방침에 사용 이벤트와 충돌 보고서가 명시되어 있으며 클로즈드 소스입니다.
- Secret AI: GGUF, MNN, MLX 모델로 캐릭터, 스킬, MCP 도구를 지원하는 오프라인 채팅. 한계: 개인정보 처리방침에 따르면 MCP 도구 호출과 선택적 원격 서버가 데이터를 기기 밖으로 보낼 수 있으며, 이 방침은 해당 기능보다 먼저 작성되었습니다.
- LocalMindAI: Apple의 모델이나 내려받은 모델을 사용하는 iPhone·iPad 채팅, 메모리, 음성 인식, 문서 읽기. iOS 26. 한계: 리뷰 시점에 출시된 지 며칠밖에 안 되었으며, 우리 리뷰는 공개 자료에 근거합니다.
- Solair AI: 선택적으로 자신의 키를 쓰는 클라우드 대체 경로를 둔 로컬 우선 어시스턴트. iOS 26. 한계: 대체 경로는 클라우드이므로 어느 모드가 답하는지 확인하십시오.
- Liquid Apollo: 무료, Liquid AI LFM2 모델(350M-2.6B)을 오프라인으로 실행하며 선택적 OpenRouter 모드와 커스텀 백엔드를 지원합니다. iOS 18. 한계: 로컬 전용이 아니며 OpenRouter 모드에는 자신의 키와 인터넷이 필요합니다.
- Kai 9000: 영구 메모리와 도구를 갖춘 오픈소스 어시스턴트. 한계: 리뷰에 따르면 기본적으로 메시지를 클라우드 서비스로 보내며, 온디바이스 모델을 내려받은 뒤에만 로컬로 실행됩니다.
- CompactifAI APP: 압축 모델을 제공하는 Multiverse Computing의 무료 앱. 한계: 현재 스토어 설명에는 API 모델만 나와 있어 휴대폰에서 무엇이 실행되는지는 확인되지 않았습니다.
- Atomic Chat: macOS, Windows, Linux, iOS, Android용 무료 오픈소스(Apache 2.0) 앱으로 GGUF, MLX, ONNX 모델과 로컬 OpenAI 호환 API를 제공합니다. 한계: 멀티 플랫폼 프로젝트이므로 iPhone 빌드에 무엇이 포함되는지는 리뷰를 읽어 보십시오.
- LLM Hub: MCP를 지원하는 에이전트, 이미지·음악 생성, 번역, Whisper, 음성 채팅을 갖춘 Android·iPhone 스위트이며 유료 Premium 등급이 있습니다. 한계: 라이선스가 PolyForm Noncommercial이어서 일반적인 의미의 오픈소스 라이선스가 아닙니다.
- Llamatik: 무료, MIT, 자체 목록에서 개발자의 Kotlin SDK 실험적 쇼케이스라고 부르는 오프라인 챗봇. 한계: 개인정보 처리방침과 스토어 라벨에 Firebase 분석과 충돌 보고가 명시되어 있습니다.
- Layla: Android와 iOS에서 한 번 $19.99, 페르소나 중심 컴패니언, 음성, 이미지 생성을 갖춘 GGUF 모델. 한계: Android 우선이며 선택적 Layla Cloud 모드가 있습니다.
업데이트가 뜸하거나 오래됐거나 App Store에 없는 앱
석 달 넘게 업데이트가 없는 앱은 유지보수되지 않을 수 있으므로 의존하기 전에 확인하십시오. 아래 날짜는 PromptQuorum 디렉토리 타일과 각 리뷰에서 가져왔습니다. 업데이트가 뜸한 앱도 작동할 수 있지만, 수정도, 새 모델도 없고 제작사가 돌아올지 알 수 있는 신호도 없습니다.
- MLC Chat: MLC LLM 프로젝트의 Metal 가속 레퍼런스 앱. 우리 리뷰에 따르면 2024년 9월 27일 이후 App Store 업데이트가 없습니다. 그 뒤의 엔진인 MLC LLM은 여전히 활발합니다.
- LLM Farm: 마지막 릴리스는 2025년 1월의 1.4.3이고 마지막 코드 푸시는 2026년 1월 30일입니다. App Store나 TestFlight에서 설치할 수 없으며(README는 일시적으로 이용할 수 없다고 밝힘), 샘플링 제어가 필요하면 Xcode에서 소스로 빌드하십시오.
- fullmoon: 무료, MIT, Apple MLX에서 소형 모델을 실행하며, 2025년 1월 28일 이후 릴리스가 없고 2025년 5월 5일 이후 코드 변경이 없습니다.
- Maid: Android 우선인 오픈소스 채팅 앱으로, iOS 빌드는 사이드로드였고 우리 리뷰는 iOS 릴리스를 2025년 4월의 버전 2.0.7로 기록하므로 App Store 선택지가 아닙니다.
- Aiko: 여전히 판매 중이며 전사에 유용하지만, 마지막 업데이트가 2026년 6월 27일이라 석 달이 넘었습니다.
- 이 가이드에서 업데이트가 뜸하다고 표시한 다른 앱: Atomic Bot(2026년 5월 26일), Chapper(2026년 8월 6일), Enchanted(2026년 7월 7일), AI CutoutWerk(2026년 2월 16일), pcAI Photo Retouch(2026년 2월 20일).
⚠️경고: 업데이트가 뜸하다는 것은 디렉토리 타일의 날짜 기준 표시일 뿐 품질에 대한 평가가 아닙니다. 이 목록의 앱에 돈을 쓰기 전에 App Store 페이지를 열어 버전 기록을 직접 읽어 보십시오.
비전과 카메라: 사진과 스크린샷에 대해 질문하기
여러 iPhone 앱이 질문과 함께 이미지를 받아 기기에서 답하지만, 소형 비전 모델은 클라우드 모델보다 실수가 많습니다. 경로는 두 가지입니다. 내려받은 비전-언어 모델(모델이 사진을 직접 읽음)과 시스템 OCR에 텍스트 모델을 더하는 방식(폰이 텍스트를 추출하고 모델이 답함)입니다. Apple의 iOS 27 개발자 가이드는 Foundation Models 프레임워크가 이제 이미지를 텍스트와 함께 받으며 모델이 기기에서 OCR, 바코드 읽기 같은 Vision 도구를 호출할 수 있다고 설명합니다.
- Google AI Edge Gallery: Gemma 4 모델로 이미지 질문과 Audio Scribe. 한계: LiteRT-LM 모델만 지원하며, Google이 밝히는 메모리 수치는 제조사 수치이지 PromptQuorum의 측정값이 아닙니다.
- Compass - Local AI: 첨부한 스크린샷을 온디바이스 OCR로 읽고 Apple Intelligence로 답합니다. 한계: OCR은 텍스트를 읽을 뿐 장면을 설명하지 않으며, iOS 또는 iPadOS 26이 필요합니다.
- Oscilla: 목록 기준 MiniCPM-V 같은 비전 지원 모델로 파일·이미지 분석. 한계: iOS 26 이상이며 2026년 5월 21일 이후 업데이트가 없습니다.
- Haplo AI: 한 앱에서 이미지 입력과 이미지 생성. 한계: 우리 리뷰는 공개 자료에 근거하므로 모델 품질은 측정되지 않았습니다.
- Ensu: 내려받은 모델로 이미지 입력, 무료 오픈소스. 한계: 버전 0.x이며 제작사는 아직 대형 클라우드 도구와 대등하지 않다고 밝힙니다.
- KernelAI: 내려받을 수 있는 모델 53개와 함께 비전을 기능으로 나열합니다. 한계: 이미지를 받는 모델은 모델마다 다릅니다.
- MemoryAI: 모델을 내려받은 뒤 비전 모델로 이미지 이해. 한계: 비전을 지원하는 모델을 직접 골라야 합니다.
- Reins: 이미지, PDF, CSV 첨부 파일을 내 서버의 모델이나 로컬 MLX 모델로 보냅니다. 한계: 품질은 고른 서버 모델에 따라 달라집니다.
⚠️경고: 약 라벨, 법률 문서, 먹기 위한 식물이나 버섯 식별처럼 잘못 읽으면 대가가 따르는 일에는 소형 온디바이스 비전 모델을 쓰지 마십시오. 답은 출발점으로만 삼고 출처를 확인하십시오.
음성: 받아쓰기, 전사, 읽어주기, 오프라인 어시스턴트, Siri
음성을 텍스트로 바꾸는 일은 온디바이스 작업 중 가장 자리 잡은 편이며, 제작사들은 최근 폰에서 Whisper급 모델이 실행된다고 밝히고, 여러 앱이 분 단위 과금 대신 한 번만 결제하게 합니다. 텍스트 음성 변환과 핸즈프리 어시스턴트는 더 들쭉날쭉합니다. 직접 구축하는 파이프라인은 휴대폰에서 로컬 음성 어시스턴트 만들기, 카테고리는 음성·오디오 앱 비교, 엔진 비교는 로컬 Whisper STT 비교를 참조하십시오.
- Whisper Notes: 한 번 $7.99, iPhone, iPad, Apple silicon Mac에서 Whisper, Parakeet, SenseVoice를 실행하며 화자 라벨을 지원합니다. 개인정보 처리방침은 오디오와 전사 결과가 기기를 떠나지 않는다고 밝힙니다. 한계: 클로즈드 소스이며, 리뷰는 직접 테스트가 아니라 공개 자료에 근거합니다.
- Aiko: Mac, iPhone, Vision Pro용 온디바이스 Whisper 전사, 100개 언어, 단축어 지원, 모든 플랫폼에 한 번 구매. 한계: 마지막 업데이트가 2026년 6월 27일이라 업데이트가 뜸합니다.
- Lyonesse: iPhone, iPad, Mac용 오프라인 전사, 회의록, 문서 채팅. Apple Watch 앱이 단독으로 녹음하고 iPhone으로 전송하면 iPhone이 전사합니다. 한계: 제작사의 처리 방식 주장은 독립적으로 검증되지 않았습니다.
- OpenWhispr: MIT 라이선스의 받아쓰기와 회의 노트로, 로컬 Whisper 또는 Parakeet 모델이나 직접 고른 클라우드 제공자를 사용합니다. 한계: 내 음성이 기기에 머무는지는 어떤 모델을 고르느냐에 달려 있습니다.
- AquaVoice: 활성 앱에 입력해 주는 음성 받아쓰기. 한계: 리뷰에 따르면 클라우드 서비스이며, 로컬 받아쓰기로 오해하지 않도록 여기에 넣었습니다.
- Ensu와 MemoryAI: 채팅 앱 안에서 로컬 음성 받아쓰기(Ensu), 온디바이스 음성 입력과 읽어주기를 갖춘 핸즈프리 음성(MemoryAI). 한계: 음성 품질은 뒤에 있는 소형 채팅 모델을 따릅니다.
- Oscilla, LLM Studio Go, Pocket AI: 각각 실시간 음성, 음성이 있는 음성 채팅, 온디바이스 Whisper 입력(유료 Pro). 한계: 음성은 채팅 모델 위에 메모리와 배터리 부담을 더합니다.
- Castmates: 제작사 설명에 따르면 휴대폰에서 실행되는 캐릭터와의 음성 통화. 한계: 클로즈드 소스이므로 이 주장은 개발자의 말에 의존합니다.
- Cloak: Local AI: 음성 메모를 노트나 채팅으로 바꿉니다. 한계: 고정된 모델 하나.
- Home Assistant Assist: Home Assistant 안의 음성 어시스턴트로, 리뷰에 따르면 Whisper, Piper, Wyoming으로 로컬 동작하며 독립형 iPhone 앱은 아닙니다. 한계: Home Assistant 서버와 일부 실험적인 선택적 LLM 에이전트가 필요합니다.
- Murmur: 사진, 영상, 게임에 쓸 연주곡을 기기에서 작곡하며 1회성 Pro 잠금 해제가 있습니다. 한계: 보컬 없음.
💡팁: Siri와 단축어: Private LLM은 Siri와 단축어 연동을 명시하고, Locally AI와 Aiko는 단축어 동작을 제공하며, 우리 iPhone 로드업은 프롬프트를 Apple의 온디바이스 모델로 보낼 수 있는 단축어의 Use Model 동작을 설명합니다. 이들 중 어느 것도 Siri 자체를 대체하지 않으며, Siri에게 앱을 호출하는 단축어를 실행하라고 요청하는 방식입니다.
휴대폰에서 문서, PDF, 검색 활용하기
PDF나 노트 몇 개와 채팅하는 일은 iPhone에서도 되지만, 라이브러리 전체는 집 서버의 몫입니다. 온디바이스 문서 채팅은 파일을 조각으로 나누고, 소형 임베딩 모델로 인덱싱한 뒤, 가장 알맞은 조각을 채팅 모델에 넘깁니다. 소형 모델은 컨텍스트 창이 짧아 답변이 내용을 놓칠 수 있고 지어낸 인용이 나올 수도 있습니다. 라이브러리 규모의 검색은 지식·검색 앱 비교를 참조하십시오.
- Private Mind: Software Mansion의 오픈소스(MIT) 채팅으로, React Native ExecuTorch를 사용해 온디바이스 검색과 출처 인용으로 PDF·텍스트 파일에 대한 질문에 답합니다. 한계: 버전 1.3.0에 페이지를 가져오는 선택적 Web 토글이 추가되어, 기본은 오프라인이지만 그 기능을 켜면 오프라인이 아닙니다.
- MemoryAI: 문서 Q&A와 편집 가능한 Agent Memory. 한계: 클로즈드 소스이며 사용 이벤트가 폰 밖으로 나갑니다.
- LocalMindAI: Apple의 모델이나 내려받은 모델로 기기에서 문서를 읽습니다. 한계: iOS 26이며 리뷰 시점에 매우 새로웠습니다.
- Noema: 다섯 가지 모델 포맷 전반에서 온디바이스 문서 채팅. 한계: 클로즈드 소스, 공개된 RAM 수치 없음.
- Lyonesse: 전사 결과 옆에서 내 문서와 채팅. 한계: Apple Watch와 회의 기능이 중심입니다.
- Arbiter: 업로드한 문서를 기기에 보관해 iPhone 13 Pro 이상(RAM 약 6 GB 이상)에서 요약하며, 더 큰 모델을 위해 LM Studio, Ollama, Arbiter for Mac 컴패니언에 연결할 수 있습니다. 한계: 더 큰 모델의 답변은 폰을 떠나 내 컴퓨터로 갑니다.
- KernelAI와 Enclave AI: 둘 다 범용 채팅 앱에 문서 기능을 나열합니다. 한계: 의존하기 전에 앱에서 파일 크기와 형식 제한을 확인하십시오.
- Reins: PDF, CSV, 텍스트 첨부 파일을 내 서버의 모델로 전송합니다. 한계: 처리는 폰이 아니라 서버에서 이루어집니다.
- AnythingLLM Mobile: Android에는 독립형 온디바이스 모드와 AnythingLLM Desktop과의 페어링이 있으며, 우리 리뷰는 iOS 앱이 아직 출시되지 않았다고 밝힙니다. 한계: iOS가 출시되기 전에는 내 AnythingLLM 서버에 브라우저로 접속하십시오.
기기 내 번역
번역은 작업 범위가 좁고 여러 앱이 번역용으로 조정된 모델을 내장하므로 소형 온디바이스 모델에 잘 맞습니다. PromptQuorum은 iPhone에서의 번역 품질을 벤치마크하지 않았습니다. 희귀 언어, 관용구, 긴 문서에서는 품질이 떨어질 가능성이 높고, 모든 온디바이스 엔진은 모델이나 언어마다 다운로드가 필요합니다.
- On-Device AI Translator: 내려받을 수 있는 Hy-MT2, TranslateGemma, Qwen 모델로 iPhone에서 번역하며 무료 엔진으로 Apple의 내장 번역도 제공합니다. iOS 18.4 이상. 한계: AI 모델은 인앱 구매 뒤에 있고 그 가격은 자료에 나와 있지 않으며, 개인정보 처리방침이 앱보다 먼저 작성되었습니다.
- LLM Hub: Android·iPhone 스위트에 번역을 포함합니다. 한계: 번역은 여러 기능 중 하나이며 라이선스는 비상업용입니다.
- PocketPal AI나 Locally AI 같은 범용 채팅 앱도 Qwen이나 Gemma 계열 같은 다국어 모델을 불러오면 번역할 수 있습니다. 한계: 용어집, 문서 레이아웃, 언어별 품질 보증이 없습니다.
- Apple의 자체 번역 앱과 시스템 번역은 위 앱들과 별개이며 이 가이드에서 검증하지 않았습니다. 내 언어 쌍을 오프라인용으로 내려받을 수 있는지는 번역 앱에서 확인하십시오.
💡팁: 책 전체나 긴 문서는 데스크톱 경로가 더 현실적입니다. LLM으로 책 번역하기를 참조하십시오. Apple Intelligence 언어 지원은 별도 목록이며 Apple Intelligence 장에서 다룹니다.
이미지 생성과 사진 편집
iPhone은 소형 확산 모델로 이미지를 생성하고 세그멘테이션 모델로 사진을 편집할 수 있지만, 생성은 느리고 저장 공간을 많이 차지하며 폰이 따뜻해집니다. 모델 파일은 수 GB 단위의 다운로드이고, PromptQuorum에는 iPhone 이미지 앱의 속도 수치가 없습니다. 클라우드와 로컬의 장단점은 로컬 AI 이미지 생성 vs 클라우드, 카테고리는 이미지·영상 앱 비교를 참조하십시오.
- Draw Things: macOS, iOS, iPadOS, visionOS에서 Stable Diffusion, SDXL, Flux 등 확산 모델로 이미지를 생성하며, 로컬 생성에는 계정이 필요 없고 iOS 15.4 이상입니다. 한계: 선택적 클라우드 모드도 제공하므로 100% 로컬은 아니며, 더 큰 모델에는 RAM이 더 필요합니다.
- Genva: 한 번 모델을 내려받은 뒤 텍스트 프롬프트와 사진을 기기에서 이미지로 바꾸고 업스케일링하는 iPhone·iPad 앱. 한계: 2026년 10월 14일 버전 1.0.0으로 출시되어 이력이 없습니다.
- Haplo AI, Off Grid AI, LLM Studio Go: 기기에서 이미지도 생성하는 채팅 앱(Haplo AI, Stable Diffusion 모델을 쓰는 Off Grid AI, 음악과 음성도 지원하는 LLM Studio Go). 한계: 이미지 품질과 속도는 전용 앱에 뒤처집니다.
- Local AI Chat - pocket과 Layla: 이미지 생성을 지원하는 오프라인 채팅이며 Layla는 음성과 페르소나도 있습니다. 한계: Local AI Chat - pocket은 2026년 5월 27일 이후 업데이트가 뜸하고, Layla는 Android 우선입니다.
- Tina: 내가 호스팅하는 서버의 ComfyUI로 이미지를 생성하며 기기에서도 모델을 실행할 수 있습니다. 한계: 이미지 단계에는 내 서버가 필요합니다.
- AI CutoutWerk: Core ML 세그멘테이션 모델을 사용하는 iPhone, iPad, Mac용 오프라인 배경 제거·누끼 합성 앱. 한계: 2026년 2월 16일 이후 업데이트가 없습니다.
- pcAI Photo Retouch: 개발자가 전부 기기에서 실행된다고 밝히는 AI로 오래된 사진을 복원하고 아트 스타일을 적용합니다. 한계: 모델 이름이 공개되지 않았고 소스가 공개되지 않았으며 2026년 2월 20일 이후 업데이트가 없습니다.
사진 라이브러리와 갤러리 검색
iPhone의 AI 사진 검색은 대개 인덱싱을 다른 곳에서 처리하는 라이브러리의 클라이언트입니다. 폰에서 직접 켜는 기능이거나, 내가 운영하는 서버입니다. 아래 세 라이브러리는 접근 방식이 다르며, 어느 것도 채팅 모델을 추가하지 않습니다. 얼굴 인식은 생체 정보를 처리하므로 켜기 전에 나와 사진 속 사람들이 사는 곳의 규정을 확인하십시오.
- Ente Photos: Ente에 따르면 종단간 암호화되는 오픈소스 사진 백업으로, 얼굴 인식과 자연어 매직 검색은 기기에서 실행되며 켜기 전까지 꺼져 있습니다. 한계: 사진은 암호화된 상태로 Ente의 클라우드에 저장되며, 첫 인덱싱은 배터리를 소모합니다.
- Immich: iPhone·Android 앱을 갖춘 셀프 호스팅 사진·영상 백업으로, 스마트 검색과 얼굴 인식은 Docker로 설치하는 내가 호스팅하는 머신러닝 컨테이너에서 실행됩니다. 한계: 서버가 필요하고, 데이터베이스는 메타데이터만 담으므로 파일은 별도로 백업해야 하며, 채팅이나 LLM 기능은 없습니다.
- Mylio Photos: SmartTag 검색, 얼굴·텍스트 인식을 갖춘 사진·영상·문서 라이브러리로, Mylio는 이것이 내 기기에서 실행된다고 밝힙니다. 무료 다운로드이며 구독 요금제가 있습니다. 한계: Mylio는 앱 내 도움말 챗봇이 어디서 실행되는지 밝히지 않습니다.
- iPhone 브라우저나 컴패니언 앱으로 여는 셀프 호스팅 웹 갤러리인 PhotoPrism 리뷰, Photoview 리뷰, Home Gallery 리뷰는 별도로 리뷰했습니다. 무엇이 어디서 실행되는지는 각 리뷰를 읽어 보십시오.
노트, 지식 베이스, 북마크
대부분의 노트·북마크 도구는 AI를 서버나 내가 고른 모델 제공자에서 실행하며, iPhone 앱은 캡처와 열람용 클라이언트입니다. 서버가 내 것이고 모델이 로컬이라면 완전히 비공개일 수 있지만, 온디바이스 추론은 아닙니다. 무엇이 어디서 실행되는지는 각 리뷰에 적혀 있습니다.
- Hillnote: Mac, Windows, iPhone, Android용 로컬 우선 Markdown 노트 워크스페이스로, Ollama와 Apple Intelligence를 통한 온디바이스 AI와 선택적 클라우드 모델·동기화를 제공합니다. 한계: Ollama는 휴대폰이 아니라 컴퓨터에서 실행되며, 클라우드 모델은 선택 사항이지만 로컬이 아닙니다.
- Logseq: 오픈소스 로컬 우선 아웃라이너로, 데이터베이스 버전 2.0.2는 README가 데이터 손실 가능성을 경고하는 베타입니다. 한계: AI는 내장 모델이 아니라 선택적 MCP 서버를 통해 제공됩니다.
- SiYuan: Windows, macOS, Linux, Android, iOS, HarmonyOS용 셀프 호스팅 AGPL 지식 워크스페이스로, 내가 고른 모델 제공자에 연결하는 선택적 AI 기능이 있습니다. 한계: 클라우드 동기화에는 구독 또는 1회성 PRO 구매가 필요합니다.
- Karakeep: 네이티브 iOS·Android 앱을 갖춘 셀프 호스팅 북마크·노트 앱으로, OpenAI 또는 로컬 Ollama 엔드포인트를 통한 AI 태깅을 제공합니다. 한계: Docker로 서버를 직접 운영해야 하며, 태깅은 Ollama를 고를 때만 로컬입니다.
- Linkwarden: 저장한 모든 페이지의 사본을 보관하고, 내가 설정한 AI 모델로 링크에 태그를 달 수 있으며, 셀프 호스팅 또는 유료 Cloud 에디션으로 제공됩니다. 한계: iPhone 앱은 클라이언트이며 AI 단계는 서버에서 실행됩니다.
- Lyonesse와 Cloak: Local AI: 녹음을 노트로 바꾸거나(Lyonesse) 사진, 위치, 음성 메모로 주간 요약을 만듭니다(Cloak). 한계: 둘 다 클로즈드 소스입니다.
건강과 웰니스 질문
리뷰된 iPhone 앱 중 하나가 기기의 Apple Intelligence로 Apple 건강 데이터에 대한 질문에 답하며, 우리 iPhone 앱 중 유일한 건강 앱입니다. 건강 데이터는 민감한 개인 데이터이며, 소형 언어 모델은 의사가 아닙니다.
- Pajdo: Apple 건강 데이터를 여덟 가지 기분 중 하나로 바꿔 보여 주며, 웹사이트에 따르면 그 데이터에 대한 질문에 기기의 Apple Intelligence로 답하는 무료 iPhone, iPad, Apple Watch 앱. 무료 요금제는 주 5회 질문을 포함하고, Pro는 한도를 없애며 운동 계획과 진료 방문 리포트를 추가합니다. 한계: 클로즈드 소스, iOS 26 이상이며, 온디바이스라는 주장은 개발자의 말에 의존합니다.
- 채팅 장들의 범용 채팅 앱도 수면, 운동, 영양을 일반적인 수준에서 논의할 수 있습니다. 한계: 앱이 권한을 요청하지 않는 한 건강 데이터에 접근할 수 없으며, 소형 모델은 틀린 사실을 자신 있게 말할 수 있습니다.
⚠️경고: 온디바이스 답변은 의학적 조언이 아니며 의사를 대신할 수 없습니다. 증상, 심박수 경고, 약 관련 질문을 해석하는 데 쓰지 마십시오. Apple 건강에 접근 권한을 주기 전에 앱의 개인정보 처리방침을 읽으십시오.
롤플레이와 컴패니언 앱, 콘텐츠 안전 주의사항
롤플레이와 컴패니언 채팅은 iPhone 로컬 AI 앱 시장의 큰 부분을 차지하며, 앱마다 모델이 폰에서 실행되는지, 어떤 콘텐츠를 허용하는지, 미성년자를 어떻게 다루는지가 크게 다릅니다. 로컬이라고 해서 검열이 있는 것은 아니고, 클라우드라고 해서 더 안전한 것도 아닙니다. 나나 가족이 설치하기 전에 연령 등급과 성인 콘텐츠 설정을 읽으십시오. 데스크톱 프런트엔드는 롤플레이용 SillyTavern vs Agnai vs RisuAI를 참조하십시오.
- Castmates: 기성 캐릭터 35개, 커스텀 캐릭터, 계정 불필요의 무료 iPhone 앱. 개발자는 약 1.9 GB를 내려받은 뒤 llama.cpp로 실행되는 Impish Llama 3B(Q4_K_M)를 명시합니다. Pro 요금제는 일일 메시지 한도를 없애고 선택적인 성인 전용 Mature 모드를 엽니다. 한계: 클로즈드 소스이므로 온디바이스라는 주장은 개발자의 말에 의존합니다.
- Frankly AI: 작업별 페르소나를 갖춘 온디바이스 모델, 계정 불필요, 무료 일일 한도. 한계: 페르소나는 작업 중심이며 Pro가 앱의 나머지를 엽니다.
- Layla: 롤플레이 캐릭터, 음성, 기기 내 이미지 생성을 갖춘 페르소나 중심 AI 컴패니언. 한 번 $19.99. 한계: 별도로 활성화하는 선택적 Layla Cloud 모드가 있습니다.
- Secret AI: GGUF, MNN, MLX 모델의 커스텀 캐릭터. 제작사는 채팅, 캐릭터, 사진이 비공개로 유지된다고 밝힙니다. 한계: 개인정보 처리방침에 따르면 MCP 도구와 원격 서버가 데이터를 기기 밖으로 보낼 수 있습니다.
- HiWaifu: 장기 기억, 로어북, 그룹 채팅을 갖춘 롤플레이, 18+ 등급. 한계: 클라우드 서비스로 보이며, 목록에는 모델이 어디서 실행되는지 나와 있지 않습니다.
- Swerve: 커뮤니티 캐릭터와 분기를 갖춘 스토리·캐릭터 채팅. 한계: 목록에 따르면 온디바이스 AI가 아니라 온라인 서비스입니다.
⚠️경고: 쉬운 말로 정리한 안전 주의사항입니다. 첫째, 연령: 이 앱들 중 여럿은 App Store 18+ 등급이나 성인 전용 모드가 있으며, 온디바이스 모델에는 믿을 만한 서버 측 필터가 없습니다. 둘째, 프라이버시: 클라우드 롤플레이 앱은 대화를 서비스로 보내고, 로컬 앱도 분석 정보를 보낼 수 있습니다. 셋째, 정서적 의존: 컴패니언 채팅은 개인적으로 느껴질 수 있지만 그것은 설계상의 특징이지 관계가 아닙니다. 넷째, 실제 데이터: 주소, 건강 정보, 다른 사람의 사적인 정보를 롤플레이 채팅에 입력하지 마십시오. 자녀의 iPhone에서는 앱 자체 설정을 믿지 말고 Apple의 스크린 타임 콘텐츠 및 앱 등급 제한을 사용하십시오.
스마트홈과 에이전트
iPhone에서 스마트홈 AI와 에이전트는 거의 항상 집 서버에서 실행되는 소프트웨어의 클라이언트입니다. iOS가 모델이나 에이전트를 백그라운드에서 계속 실행해 주지 않기 때문입니다. 폰은 마이크, 화면, 리모컨 역할을 하고, 오래 걸리는 작업은 집 서버가 합니다. 자율 로컬 에이전트가 실용적인지에 대한 솔직한 검토는 자율 로컬 에이전트는 실제로 작동하는가?를 참조하십시오.
- Home Assistant Assist: Home Assistant 안의 음성 어시스턴트로, Whisper, Piper, Wyoming으로 완전히 로컬이며 선택적 클라우드와 Ollama LLM 에이전트를 지원합니다. 한계: 독립형 앱이 아니며, 완전한 로컬 파이프라인에는 Home Assistant OS가 필요합니다.
- Scrypted: 카메라를 HomeKit, Google Home, Home Assistant로 스트리밍하는 오픈소스 카메라·NVR 플랫폼으로, llama.cpp를 통한 선택적 로컬 LLM 요약을 제공합니다. 한계: 내 서버에서 실행되며, 다른 사람이 찍힌 카메라 영상에는 여러 지역에서 법적 의무가 따릅니다.
- Nekoni: 내가 소유한 컴퓨터에서 실행하는 셀프 호스팅 개인 에이전트(Ollama, 문서, 예약 스킬)로, iPhone이나 브라우저에서 직접 암호화 연결로 채팅합니다. 한계: 항상 켜져 있는 Mac 또는 Linux 머신이 필요합니다.
- Kai 9000과 LLM Hub: 각각 영구 메모리를 갖춘 어시스턴트와 MCP를 지원하는 에이전트. 한계: 도구 사용과 웹 검색은 네트워크 호출을 추가하므로 오프라인 기능이 아닙니다.
- Atomic Bot: 오픈소스 OpenClaw 리뷰 에이전트 프레임워크를 데스크톱과 모바일용으로 패키징하며 로컬 또는 클라우드에서 실행할 수 있습니다. 한계: 이 가이드에서 업데이트가 뜸하다고 표시됨(마지막 업데이트 2026년 5월 26일).
원격 모드: 내 서버를 위한 씬 클라이언트로 쓰는 iPhone
원하는 모델에 비해 iPhone이 너무 작다면, 집의 Mac이나 PC에서 모델을 실행하고 iPhone을 화면으로 쓰십시오. iPhone에서 7B-70B 모델에 이르는 일반적인 경로입니다. Ollama의 다운로드 페이지에는 macOS, Windows, Linux만 나오고 iPhone 앱은 없으므로 서버는 다른 곳에 둡니다(우리 iPhone 로드업에 기록되어 있습니다). 서버 쪽은 Apple Silicon 로컬 LLM 가이드, Mac에서 MLX vs Ollama vs llama.cpp, 실행·서빙 도구 비교를 참조하십시오.
앱 | 연결 대상 | 휴대폰에서도 모델 실행 |
|---|---|---|
| Reins | Ollama, LM Studio, OpenAI 호환 | 예, MLX 모델 |
| Enchanted | Ollama만 | 아니요 |
| OpenClient | Ollama, LiteLLM, OpenAI 호환 | 아니요 |
| Chapper | LM Studio, Ollama, llama.cpp 서버 | 예, $4.99 추가 구매 |
| Tina | Ollama, llama.cpp, ComfyUI | 예 |
| LM Mini | LM Studio, Ollama, Jan AI, oMLX | 예 |
| Arbiter | LM Studio, Ollama, Arbiter for Mac | 예 |
| LocalMind | Ollama, LM Studio, OpenRouter | 예 |
| Liquid Apollo | LM Studio, Ollama, OpenRouter | 예, LFM2 |
| Locally AI | Mac의 LM Studio(LM Link) | 예 |
| MLXHub | Wi-Fi에서 모델 서빙(Plus) | 예 |
| Nekoni | 내 컴퓨터의 에이전트 | 아니요 |
⚠️경고: 집 밖에서는 서버로 가는 안전한 경로가 필요합니다. Ollama는 기본적으로 인증을 요구하지 않으며 공유기 포트로 공용 인터넷에 노출해서는 안 되므로, Tailscale 같은 비공개 메시 VPN이 흔한 선택입니다. 연결하기 전에 각 클라이언트의 리뷰와 설정에서 HTTPS와 API 키 지원 여부를 확인하십시오.
💡팁: 위 클라이언트 중 여러 개는 폰에서 모델을 불러올 수도 있다고 밝히므로 앱 하나로 쓰기 좋습니다. 작은 모델은 오프라인으로, 큰 모델은 집에서 쓰는 방식입니다. 방화벽과 오프라인 설정은 방화벽 뒤와 오프라인에서의 로컬 AI를 읽어 보십시오.
개발자 경로: Core ML, Core AI, MLX Swift, llama.cpp, MLC, ExecuTorch, Foundation Models
iPhone AI 기능을 만드는 개발자는 Apple의 자체 모델, 내 모델을 위한 Apple의 런타임, 크로스 플랫폼 엔진 중에서 고릅니다. 이 선택이 적용되는 폰, 언어, 스토어 규정을 결정합니다. 이 장은 방향을 잡는 용도일 뿐이며, 만들기 전에 각 프로젝트의 문서를 읽으십시오.
- Foundation Models 프레임워크: 이미지, Vision 도구, Dynamic Profiles와 Language Model 프로토콜을 통한 클라우드 제공자를 지원하는 온디바이스 모델용 Apple의 네이티브 Swift API(Apple, WWDC26 iOS 가이드). Apple Intelligence 하드웨어가 필요합니다. 문서: Foundation Models.
- Core ML: 변환한 모델을 CPU, GPU, Neural Engine에서 실행하는 Apple의 프레임워크로, 비전, 오디오, 소형 모델의 오랜 표준 경로입니다. AI CutoutWerk는 Core ML 세그멘테이션 모델을 내장합니다. 문서: Core ML.
- Core AI: Apple이 iOS 27과 함께 소개한 새 프레임워크로, 통합 메모리와 Neural Engine을 사용하고 사전 컴파일을 거쳐 내 모델을 기기에 가져옵니다. 이 가이드의 대부분의 앱에는 너무 새롭습니다. WWDC26 iOS 가이드를 참조하십시오.
- MLX Swift: Locally AI, fullmoon, MLXHub 뒤에 있는 Swift용 Apple MLX 배열 프레임워크. mlx-swift. Python 쪽은 MLX-LM 설명을 참조하십시오.
- llama.cpp: PocketPal AI와 Pocket AI 뒤에 있는, Metal로 GGUF 파일을 실행하는 C/C++ 엔진. llama.cpp.
- MLC LLM: iOS 배포 문서와 레퍼런스 앱 MLC Chat을 갖춘 컴파일러 기반 런타임. MLC LLM과 MLC iOS 문서를 참조하십시오.
- ExecuTorch: Private Mind에서 React Native ExecuTorch를 통해 쓰이고 Noema가 지원하는 PyTorch의 온디바이스 런타임. ExecuTorch.
- LiteRT-LM: Google AI Edge Gallery 뒤에 있는 Google의 런타임(LiteRT-LM).
- SDK: RunAnywhere(LLM, 음성 인식, 음성 합성, 음성 활동 감지. 상업 조건이 있는 커스텀 라이선스), Llamatik(Kotlin Multiplatform, MIT), SwiftLM(SwiftBuddy iOS 컴패니언 앱을 갖춘 Apple silicon Mac용 Swift MLX 서버).
- TestFlight 베타: 초기 빌드를 테스터에게 무료로 배포하는 방법으로, 빌드는 만료되므로 이를 고려해 계획하십시오. 릴리스 빌드에는 Apple의 App Review 규정이 여전히 적용됩니다.
프라이버시와 텔레메트리의 현실
"기기에서 실행됩니다"와 "아무것도 보내지 않습니다"는 서로 다른 주장이며, 프라이버시 보장이 되는 것은 두 번째뿐입니다. Apple의 App Store 개인정보 보호 라벨은 개발자가 작성하므로, 개발자가 앱이 한다고 말하는 내용을 설명합니다. 온디바이스 모델도 충돌 보고서, 사용 이벤트, 선택적 웹 검색, 모델 다운로드를 보내는 앱 안에 있을 수 있습니다. 여기의 앱 수준 프라이버시 관련 서술은 모두 연결된 리뷰에 요약된 각 앱의 개인정보 처리방침, App Store 라벨, 제작사 페이지에서 가져왔으며 네트워크 분석으로 검증하지 않았습니다. 더 자세한 체크리스트는 로컬 LLM 보안·프라이버시 체크리스트를 참조하십시오.
- "텔레메트리 없음"이 뜻할 수 있는 것: 앱에 분석 SDK가 없다는 것입니다. 모델 다운로드(호스트가 내 요청을 봄), App Store, 선택적 웹 검색, 내가 연결한 원격 서버, 앱 데이터가 포함된 백업은 포함하지 않습니다.
- 우리 리뷰의 라벨: Oscilla에는 Apple의 "Data Not Collected" 라벨이 붙어 있고, Google AI Edge Gallery는 라벨에 일부 기기 진단 정보가 나오며, MemoryAI와 Llamatik은 각 방침에 따르면 채팅 내용 없이 사용 이벤트나 분석 정보와 충돌 보고서를 보냅니다.
- "오프라인"을 깨는 선택 기능: Compass - Local AI의 웹 검색(DuckDuckGo 또는 Brave), Private Mind의 Web 토글, Secret AI의 MCP 도구, Liquid Apollo의 OpenRouter 모드.
- 기본이 클라우드인 앱: Kai 9000은 리뷰에 따르면 기본적으로 메시지를 클라우드 서비스로 보내며 온디바이스 모델을 내려받은 뒤에만 로컬로 실행됩니다. Swerve는 온라인 서비스로 문서화되어 있고, HiWaifu는 그런 서비스로 보이며(목록에는 모델이 어디서 실행되는지 나와 있지 않음), AquaVoice는 클라우드 받아쓰기입니다.
- 방침과 버전의 어긋남: LM Mini에는 개인정보 처리방침에 따르면 LM Studio 연결만 설명하는 2025년 8월자 버전이 있고, Secret AI의 방침은 도구를 추가하기 전인 2025년 5월에 마지막으로 갱신되었습니다. 방침 날짜를 앱 버전과 대조하십시오.
- 직접 확인하는 세 단계: (1) Wi-Fi에서 모델을 내려받은 뒤 에어플레인 모드를 켜고 앱을 테스트합니다. (2) 일주일 동안 평소처럼 폰을 쓴 뒤 설정 > 개인정보 보호 및 보안 > 앱 개인정보 보호 리포트를 엽니다. Apple에 따르면 이 리포트는 앱이 권한을 어떻게 쓰고 네트워크 활동이 어떤지 보여 줍니다. (3) 개인정보 라벨과 방침에서 분석 항목을 읽고, 코드를 직접 살펴보고 싶다면 오픈소스 앱을 선호하십시오.
💡팁: PromptQuorum 리뷰는 각 앱의 자료가 말하는 내용과 우리가 테스트했는지 여부를 밝힙니다. 리뷰에 "직접 테스트하지 않음"이라고 되어 있다면 프라이버시 관련 서술은 우리가 아니라 개발자의 것입니다. 이 가이드는 어떤 앱에서도 네트워크 캡처를 실행하지 않았습니다.
배터리, 발열, 메모리 한계
텍스트를 생성하는 동안 칩이 계속 일하므로 모델이 실행되는 동안 눈에 띄는 발열과 배터리 소모를 예상하십시오. 가끔 쓰는 정도라면 부담이 적습니다. PromptQuorum은 어떤 iPhone에서도 전력 소모나 배터리 사용량을 측정하지 않았으며, 인용할 수 있는 공개 수치도 찾지 못했습니다.
- 발열: 지속적인 생성은 iOS가 클럭 속도를 낮추게 만들 수 있어 초당 토큰 수가 떨어집니다. 시간은 폰, 케이스, 충전 상태, 실온에 따라 다르며 우리는 측정하지 않았습니다.
- 가이드라인 2.4.2: Apple은 개발자에게 앱이 배터리를 빠르게 소모하거나 과도한 열을 내서는 안 된다고 안내하므로, 잘 만든 앱은 길이를 제한하거나 긴 실행을 일시 중지합니다.
- 메모리: 모델은 로드되어 있는 동안 RAM에 올라 있습니다. iOS가 다른 앱에 메모리가 필요하면 채팅 앱을 종료할 수 있고 대화 상태가 사라질 수 있으므로, 모델을 로드하기 전에 다른 무거운 앱을 닫으십시오.
- 생성 중 충전은 열을 더하므로, 폰이 뜨거우면 멈추고 직사광선이나 뜨거운 차 안은 피하십시오.
- 저장 공간: 3-4B 모델 하나는 약 2.5-3.7 GB이므로 앱 세 개에 모델 세 개씩이면 대략 10 GB를 씁니다. 앱 하나와 모델 한두 개만 두십시오.
- 저전력 모드는 iOS가 배터리를 아끼려고 성능을 낮추므로 생성 속도를 늦출 수 있으니, 긴 세션에서는 끄십시오.
일부만 가능한 것
"부분 가능"은 기능이 iPhone에 있지만, 습관으로 삼기 전에 알아야 할 제한이 있다는 뜻입니다.
- Siri로 핸즈프리 음성: 단축어가 앱을 호출할 수 있지만 Siri는 Siri로 남으며, 로컬 모델을 시스템 어시스턴트로 만들 수는 없습니다. Apple의 Siri AI는 EU에서 처음에는 제공되지 않는 별도의 iOS 27 베타입니다.
- 이미지 생성: 소형 확산 모델로 가능하지만 느리고 저장 공간을 많이 쓰며 폰이 따뜻해집니다. Draw Things는 선택적 클라우드 모드도 제공합니다.
- 사진 검색: AI 단계는 폰에서 직접 켜거나(Ente Photos) 내가 호스팅하는 서버에서 실행됩니다(Immich).
- 노트와 북마크: iPhone 앱은 클라이언트이며 모델 작업은 서버나 내가 고른 제공자에서 이루어집니다.
- 에이전트: 짧은 포그라운드 작업은 되지만, 오래 실행되거나 예약된 에이전트에는 집 서버가 필요합니다(Nekoni).
- 건강 질문: Apple의 온디바이스 모델로 가능하지만(Pajdo) 의학적 조언을 대신할 수는 없습니다.
- 긴 문서: 소형 모델은 컨텍스트 창이 작으므로 큰 PDF는 분할 처리하거나 서버가 필요합니다.
iPhone에서 불가능하거나 아직 안 되는 것
사람들이 iPhone 로컬 AI에 가장 자주 바라지만 리뷰된 iPhone 앱 중 오늘 그것을 충족하는 것은 없는 바람들입니다. 일부는 하드웨어나 App Store 규정의 엄격한 한계이고, 일부는 Apple과 앱 제작사가 Core AI 같은 새 프레임워크를 내놓으면서 메워질 수 있는 공백입니다.
바람 | 상태 | 이유 | 대안 |
|---|---|---|---|
| 폰에서 30B-70B 모델 | 불가능 | iPhone이 가진 것보다 훨씬 많은 RAM 필요 | 집 서버로 원격 모드 |
| 클라우드 수준의 추론과 코드 | 아직 불가 | 소형 모델은 여러 단계 작업에 실패 | 어려운 질문은 클라우드 앱 |
| 폰에서 Ollama나 Docker 실행 | 불가능 | iPhone용 Ollama·Docker 앱 없음, 샌드박스 제한 | Mac이나 PC에서 실행 |
| 내 모델로 Siri 대체 | 불가능 | Siri는 시스템이 제어 | 앱을 호출하는 단축어 |
| 상시 실행 백그라운드 에이전트 | 불가능 | 백그라운드 서비스 제한(2.5.4) | 집 서버의 에이전트 |
| 폰에서 모델 파인튜닝 | 비현실적 | 메모리, 발열, 앱 도구 없음 | Mac이나 GPU에서 학습 |
| Mac, iPad와 채팅 동기화 | 대체로 안 됨 | 대부분의 앱에서 기록은 기기별 | 서버 웹 UI(예: Open WebUI) |
| iPhone에서 AnythingLLM Mobile | 아직 불가 | 리뷰 기준 iOS 앱 미출시 | 내 서버에 브라우저로 접속 |
| iPhone 14에서 Apple Intelligence | 불가능 | Apple의 기기 목록에 없음 | 서드파티 모델 앱 |
| 보컬이 있는 음악 생성 | 아직 불가 | Murmur는 연주곡만 생성 | 데스크톱 도구 |
| 앱이 비공개라는 증명 | 라벨로는 불가 | 라벨은 개발자가 직접 선언 | 에어플레인 모드와 앱 개인정보 보호 리포트 |
선택 가이드: 이 iPhone으로 이것을 하고 싶다면
폰 등급과 목표로 내 행을 찾은 뒤 연결된 장을 여십시오. 추천은 순위가 아니라 우리 리뷰에서 가져온 출발점이며, 유지보수 장에서 업데이트가 뜸한 앱은 더 나은 대안이 없을 때만 언급합니다.
가지고 있는 기기 | 원하는 것 | 여기서 시작 |
|---|---|---|
| RAM 4 GB iPhone(12, 13, SE) | 일반 채팅 | 집 서버와 Reins 또는 Enchanted |
| RAM 6 GB iPhone(14, 15) | 무료 오프라인 채팅 | 1-2B 모델로 PocketPal AI |
| RAM 8 GB iPhone(16, 17) | 무료 오프라인 채팅 | PocketPal AI 또는 Locally AI |
| RAM 8 GB iPhone | Siri와 단축어 | Private LLM 또는 Locally AI |
| RAM 12 GB iPhone(17 Pro) | 폰에서 가장 큰 모델 | Noema 또는 Gemma 4를 쓰는 Gallery |
| Apple Intelligence 지원 폰 | 모델 다운로드 없이 | Compass 또는 Locally AI(Apple 모델) |
| 모든 iPhone | 회의 전사 | Whisper Notes 또는 Lyonesse |
| 모든 iPhone | PDF 몇 개와 채팅 | Private Mind 또는 MemoryAI |
| 모든 iPhone | 번역 | On-Device AI Translator |
| RAM 8 GB 이상 iPhone | 텍스트로 이미지 생성 | Draw Things |
| 모든 iPhone | 사진 검색, 자체 서버 | Immich |
| 모든 iPhone, 집 PC | 7B-70B 모델 | Reins, OpenClient 또는 LM Mini |
| 모든 iPhone | 스마트홈 음성 | Home Assistant Assist |
| 청소년이 쓰는 iPhone | 안전한 채팅 | 스크린 타임 제한 설정 후 안전 주의사항 읽기 |
흔한 실수
- RAM 등급이 아니라 파일 크기로 모델을 고르는 것. 내려받아지는 파일도 iOS가 종료할 수 있습니다. 크기를 등급 표에 맞추고 앱의 벤치마크로 테스트하십시오.
- 클라우드 수준의 품질을 기대하는 것. 초안 작성, 요약, 번역, 간단한 Q&A에는 소형 모델을, 어려운 추론에는 클라우드나 집 서버 모델을 쓰십시오.
- "Apple Intelligence"를 "오프라인"으로 여기는 것. Apple Intelligence는 Private Cloud Compute를 쓸 수 있으니 무엇이 요청을 처리하는지 확인하십시오.
- 테스트 없이 개인정보 라벨을 믿는 것. 프라이버시 장의 에어플레인 모드와 앱 개인정보 보호 리포트 확인을 해 보십시오.
- 앱을 전부 설치하는 것. 각 앱은 수 GB의 모델 파일을 따로 보관하므로 용도당 앱 하나만 고르십시오.
- 업데이트가 뜸해진 앱을 구매하는 것. 특히 유지보수 장의 앱은 버전 기록을 확인하십시오.
- 집 서버를 인터넷에 노출하는 것. 비공개 VPN 메시를 쓰십시오. Ollama는 기본적으로 인증을 요구하지 않습니다.
- 공용 폰이나 자녀의 폰에서 롤플레이 앱을 검토 없이 두는 것. 먼저 연령 등급과 성인 콘텐츠 설정을 읽으십시오.
출처
- Apple Intelligence 기기, 언어, Siri AI, Private Cloud Compute: Apple Intelligence(2026-11-13 확인).
- App Review 가이드라인 2.4.2, 2.5.1, 2.5.2, 2.5.4, 5.1.1, 5.1.2: App Store Review Guidelines(2026-11-13 확인).
- 앱 개인정보 보호 리포트 경로와 내용: Apple Support.
- 엔진: MLX Swift, llama.cpp, ExecuTorch, MLC iOS documentation, Core ML, LiteRT-LM.
- iPhone RAM 수치와 참고용 속도는 2026년 iPhone용 최고의 로컬 AI 앱에서 가져왔으며, Apple은 iPhone RAM을 공개하지 않습니다.
- 앱별 사실(가격, 플랫폼, 버전, 제작사 설명)은 연결된 PromptQuorum 리뷰와 디렉토리 타일에서 가져왔으며, 업데이트가 뜸하다고 표시한 앱의 마지막 업데이트 날짜는 타일에서 가져왔습니다.
자주 묻는 질문
iPhone이 AI를 완전히 오프라인으로 실행할 수 있습니까?
예, 각 앱의 목록과 리뷰에 따르면 그렇습니다. Wi-Fi로 모델을 한 번 내려받은 뒤에는 PocketPal AI, Private LLM, Locally AI 같은 앱이 연결 없이 답합니다. Apple Intelligence도 기기에서 모델을 실행하지만 더 큰 요청에는 Private Cloud Compute를 쓸 수 있으므로 오프라인이 보장되지는 않습니다. 어떤 앱이든 에어플레인 모드에서 테스트하십시오.
로컬 AI에는 어떤 iPhone이 필요합니까?
1-2B 소형 모델에는 RAM 6 GB 이상, 3-4B 모델에는 8 GB 이상의 iPhone이 필요합니다. Apple은 RAM을 공개하지 않으므로 이 가이드의 알려진 등급을 쓰십시오. Apple Intelligence에는 Apple의 기기 목록에 있는 iPhone 15 Pro 이상이 필요합니다.
iPhone의 로컬 AI는 정말 비공개입니까?
채팅은 기기에 머물 수 있지만 프라이버시는 앱에 달려 있습니다. 라벨은 개발자가 직접 선언하며, 리뷰한 여러 앱이 충돌 보고서, 사용 이벤트, 선택적 웹 요청을 보냅니다. 에어플레인 모드와 설정 > 개인정보 보호 및 보안 > 앱 개인정보 보호 리포트로 확인하십시오.
iPhone에서 Ollama를 실행할 수 있습니까?
아니요. Ollama는 macOS, Windows, Linux 다운로드를 제공하며, iPhone용 Ollama나 Docker 서버는 없습니다. 컴퓨터에서 Ollama를 실행하고 Reins, Enchanted, OpenClient 같은 iPhone 클라이언트로 연결하십시오.
iPhone은 얼마나 큰 모델을 실행할 수 있습니까?
RAM 8 GB 폰에서는 4비트 기준 약 3-4B 파라미터이고, 7-8B 저비트 모델은 RAM 12 GB 폰에서만 느리게 가능합니다. 6 GB 폰은 1-2B 모델이 가장 알맞습니다. 더 큰 모델은 집 서버로 원격 모드를 쓰십시오.
로컬 AI가 배터리를 소모합니까?
생성하는 동안에는 그렇습니다. 지속적인 생성은 프로세서를 계속 바쁘게 해 유휴 상태보다 배터리를 훨씬 빠르게 소모하고 폰이 따뜻해질 수 있습니다. PromptQuorum은 정확한 소모량을 측정하지 않았습니다. 가끔 하는 질문은 부담이 적고, 로드되어 있지만 유휴 상태인 모델은 전력을 거의 쓰지 않습니다.
iPhone에서 가장 좋은 무료 로컬 AI 앱은 무엇입니까?
우리 로드업에서 무료 오픈소스 기본 선택은 PocketPal AI이며, Locally AI와 Google AI Edge Gallery가 무료 대안입니다. 알맞은 앱은 작업에 따라 다르므로 이 가이드의 선택 가이드를 이용하십시오.
Apple Intelligence는 이 앱들과 어떻게 다릅니까?
Apple Intelligence는 시스템 기능과 Foundation Models 프레임워크를 쓰는 앱을 위한 Apple의 내장 모델이며, 그 모델을 바꿀 수는 없습니다. 이 가이드의 앱은 모델을 직접 고르고 내려받게 해 주며, Locally AI처럼 Apple의 모델을 앞에서 연결해 주는 앱도 있습니다.
iPhone에서 PDF와 오프라인으로 채팅할 수 있습니까?
파일 몇 개라면 가능하며, 각 앱의 목록과 리뷰에 따르면 Private Mind, MemoryAI, Noema, LocalMindAI 같은 앱으로 할 수 있습니다. 소형 모델은 컨텍스트 창이 짧아 긴 문서는 불완전하게 요약될 수 있습니다. 큰 라이브러리에는 집 서버를 쓰십시오.
집 밖에서도 내 집 서버를 쓸 수 있습니까?
예, Tailscale 같은 비공개 VPN 메시나 다른 보안 터널과 내 서버를 지원하는 클라이언트 앱으로 가능합니다. Ollama를 공용 인터넷에 열지 마십시오. 기본적으로 인증을 요구하지 않습니다.
iPhone이 오프라인으로 이미지를 생성할 수 있습니까?
예, 각 앱의 목록과 리뷰에 따르면 수 GB의 모델을 내려받은 뒤 Draw Things, Genva, Haplo AI 같은 앱으로 가능합니다. 생성은 데스크톱 GPU보다 느리고 폰이 따뜻해지며, Draw Things는 선택적 클라우드 모드도 제공합니다.
롤플레이와 컴패니언 앱은 청소년에게 안전합니까?
기본적으로는 아닙니다. 여럿이 18+ 등급이나 성인 전용 모드를 두고 있고, 일부는 대화를 저장하는 클라우드 서비스이며, 온디바이스 모델에는 서버 측 필터가 없습니다. Apple 스크린 타임과 앱 등급 제한을 쓰고 이 가이드의 안전 주의사항을 읽으십시오.
iPad에서도 로컬 AI가 작동합니까?
대체로 그렇습니다. 이 가이드의 많은 앱이 iPad 지원을 명시하며 같은 RAM 규칙이 적용됩니다. iPad 관련 조언은 태블릿에서 AI 실행하는 방법을 참조하십시오.
로컬 AI에서 iPhone은 Android와 어떻게 비교됩니까?
iPhone은 시작하기 더 쉽고 더 제한적이며, Android는 터미널 앱을 허용하고 오픈소스 선택지가 더 많지만 폰마다 편차가 있습니다. Android 로컬 AI 가이드와 Galaxy vs iPhone 온디바이스 AI에서 비교하십시오.
앱이 구형 iPhone에서도 Apple의 모델을 쓸 수 있습니까?
아니요. Apple Intelligence는 iPhone 15 Pro부터 시작하는 Apple의 기기 목록에 있는 기기로 한정됩니다. 구형 iPhone에서는 자체 모델을 가져오는 앱을 RAM 한도 안에서 쓰십시오.
