본문으로 건너뛰기
PromptQuorum인간을 위해 설계. AI를 위해 구조화.
홈/고급 로컬 LLM
Mobile & Edge LLMs

PocketLLM Lite 리뷰: Android용 로컬 우선 AI 채팅 앱

·6분 읽기Hans Kuepper 저 · PromptQuorum 창립자 · 오픈 웨이트·오픈소스 AI 디스커버리 엔진

PocketLLM Lite(버전 1.0.40, 2026년 10월 15일 출시)는 모델을 휴대폰이나 직접 관리하는 서버에서 실행하는 무료 오픈소스 Android 채팅 앱입니다. 기기 내 추론은 Cactus 형식 모델 번들만 불러오며 GGUF 파일은 지원하지 않고, 프로젝트는 자사 APK를 디버그 서명된 엔지니어링 빌드라고 밝힙니다.

핵심 요점

  • 유지 관리: 저장소의 마지막 푸시는 2026년 10월 15일이며 8월 이후 여러 차례 릴리스되어 방치 프로젝트 경고는 해당되지 않습니다.
  • 비용: 무료이며 계정이 필요 없고, README에 따르면 광고나 분석 SDK도 없습니다.
  • 실행 환경: 기기 내 Cactus 번들, Ollama 서버 또는 OpenAI 호환 엔드포인트.
  • 서명: 릴리스 APK는 디버그 서명이며 관리자들도 엔지니어링 빌드라고 부릅니다.
  • 제작자: 개발자 이름은 공개되지 않았고 GitHub 조직이 운영합니다.

📍 한 문장으로

PocketLLM Lite는 휴대폰 또는 직접 운영하는 Ollama·OpenAI 호환 서버에서 실행되는 모델과 대화하는 MIT 라이선스 Android 앱입니다.

💬 쉽게 말하면

GitHub에서 APK를 설치하고 작은 모델을 앱에 내려받거나 집의 서버를 지정하면, 계정 없이 채팅하거나 자신의 문서에 대해 질문할 수 있습니다.

📌참고: 이 리뷰는 프로젝트 웹사이트, GitHub 릴리스 v1.0.40, 저장소 문서를 바탕으로 2026년 10월 24일에 확인했습니다. PromptQuorum은 앱을 설치하거나 테스트하지 않았으므로 속도, 답변 품질, 안정성은 평가하지 않았습니다.

언어 선택:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

PocketLLM Lite는 호환 모델을 휴대폰에서 실행하거나 직접 운영하는 Ollama 또는 OpenAI 호환 서버에 연결하는, 무료 MIT 라이선스 Android 채팅 앱입니다. 개발자 이름은 공개되어 있지 않으며, 코드는 GitHub 조직 PocketLLM에 있고 제품 전용 사이트는 pocketllm-lite.vercel.app입니다. 이 리뷰는 해당 사이트, GitHub 릴리스 v1.0.40, 저장소 문서를 바탕으로 2026년 10월 24일에 확인했습니다. PromptQuorum은 앱을 설치하거나 테스트하지 않았습니다.

PocketLLM Lite 리뷰: Android용 로컬 우선 AI 채팅 앱

PocketLLM Lite란?

PocketLLM Lite는 Flutter로 만든 Android용 로컬 우선 AI 작업 공간이며 웹 버전도 함께 제공됩니다. 프로젝트는 채팅, 문서, 메모리, 모델을 사용자의 통제 아래 두는 앱이라고 설명합니다. GitHub 저장소는 2025년 12월 9일에 만들어졌습니다.

앱과 추론 백엔드를 분리하여 세 가지 경로를 제공합니다. Cactus 런타임을 통한 기기 내 모델, 루프백 또는 신뢰할 수 있는 로컬 네트워크의 Ollama 서버, 설정 가능한 OpenAI 호환 엔드포인트입니다.

입수 방법

PocketLLM Lite는 GitHub Releases의 APK 파일과 브라우저 버전으로 배포됩니다. 스토어 페이지 링크는 없으며 iOS 앱도 없습니다.

옵션
입수 방법
Android, 대부분의 휴대폰arm64-v8a APK, 약 60 MB, 기기 내 런타임 포함
Android, 구형 또는 x86armeabi-v7a·x86_64 APK. 서버, OCR, 문서만 가능
웹 버전웹 앱 열기. 직접 운영하는 Ollama 또는 OpenAI 호환 엔드포인트 필요
웹사이트pocketllm-lite.vercel.app
소스 코드GitHub 저장소, MIT 라이선스

확인한 버전은 1.0.40이며 2026년 10월 15일에 SHA256SUMS 파일과 함께 공개되었습니다. Android 7.0(API 24) 이상이 필요합니다. APK는 디버그 서명이라 Android가 검증된 게시자를 표시하지 않으며, 설치하려면 출처를 알 수 없는 앱 허용이 필요합니다. README에 따르면 1B 파라미터 모델은 Q4에서 대략 0.7~1 GB입니다.

시작하는 방법

아래 단계는 프로젝트 자체의 5분 빠른 시작을 따른 것이며 PromptQuorum이 실행해 보지는 않았습니다.

  1. 1
    APK 설치
    Why it matters: 릴리스 페이지에서 arm64-v8a 파일을 내려받아 SHA256SUMS.txt와 대조한 뒤 설치합니다.
  2. 2
    초기 설정 마치기
    Why it matters: 네트워크 권한을 선택합니다. 업데이트 확인과 온라인 모델 검색은 선택 사항입니다.
  3. 3
    실행 환경 선택
    Why it matters: 기기에서 쓸 작은 카탈로그 모델을 내려받거나, 설정에 Ollama 또는 OpenAI 호환 서버의 URL을 입력합니다.
  4. 4
    채팅 또는 문서 가져오기
    Why it matters: README에 따르면 모든 답변은 선택한 모델이 생성하며, 전제 조건이 없으면 앱이 가짜 응답을 만드는 대신 그 사실을 알려 줍니다.

출처로 확인된 기능

아래 항목은 모두 README 또는 릴리스 노트에서 가져온 것이며 독립적으로 테스트하지 않았습니다.

  • 채팅 작업 공간. 스트리밍 채팅, 기록, 분기, 태그, 페르소나, 프롬프트, 스킬, 채팅별 시스템 프롬프트.
  • 문서와 메모리. PDF, TXT, Markdown, CSV를 출처 표시와 함께 가져오기. 시맨틱 검색에는 임베딩 모델 설치가 필요하며, 로컬 메모리는 확인·고정·비활성화할 수 있습니다.
  • 음성과 OCR. 체크섬으로 검증한 모델 설치 후 기기에서 Whisper 받아쓰기, 음성 읽기, 라틴 문자용 Android OCR.
  • 도구. 계산, 메모, 알림, 클립보드, 정책으로 제어되는 웹 검색 등 검증된 JSON 도구 호출. 상태를 바꾸는 도구는 먼저 확인을 요청합니다.
  • 개발자 기능. Prompt Lab, 모델 나란히 비교, 기기 내 벤치마크, 앱 내 인증형 OpenAI 호환 서버(기본값은 루프백에만 바인딩).

데이터 흐름과 개인정보

README에 따르면 채팅, 문서, 색인, 메모리는 앱 샌드박스 안에 남고, 기기 내 추론은 아무것도 외부로 보내지 않으며, 광고·분석·추적 SDK는 포함되지 않습니다. 그런 SDK가 나타나면 빌드가 실패하도록 하는 회귀 테스트가 저장소에 있다고 합니다.

네트워크 사용은 명시적으로 이루어지도록 설계되었습니다. 모델 검색과 다운로드, 업데이트 확인, 직접 발급한 키를 쓰는 Tavily 웹 검색, 사용자가 설정한 원격 런타임은 표시된 대상에 연결합니다. Strict Offline 모드는 앱의 루프백 외 트래픽을 차단하고, 감사 로그가 대상을 나열하며, 백업은 비밀번호에서 파생한 키로 AES-256-GCM 암호화합니다. Ollama나 OpenAI 호환 서버로 보낸 프롬프트는 휴대폰을 떠나 해당 서버로 전달됩니다.

📌참고: Strict Offline은 앱 수준의 경계이며 기기 방화벽이 아닙니다. 프로젝트의 보안 안내에 따르면 선택 사항인 앱 내 API 서버에는 TLS와 CORS 허용 목록이 없으므로 루프백이나 신뢰할 수 있는 네트워크에서만 써야 합니다. 이는 프로젝트 자체의 설명이며 PromptQuorum은 네트워크 트래픽을 검사하지 않았습니다.

이런 분께 적합합니다

  • 이미 Ollama를 운영하는 Android 사용자로서 문서 검색과 감사 로그가 있는 휴대폰용 클라이언트를 원하는 분.
  • MIT 라이선스 코드베이스를 원하는 기술 애호가로서 읽고, Flutter로 빌드하고, 수정하려는 분.
  • 기기 내 모델에 관심이 있는 분으로서 직접 설치하는 디버그 서명 빌드와 검증되지 않은 런타임을 감수할 수 있는 분.

확인하지 못한 사항

  • 기기 내 추론. 릴리스 노트에 따르면 토큰 생성은 실제 휴대폰에서, 모델 로드는 에뮬레이터에서만 검증되었으므로 속도, 메모리 적합성, 안정성은 알 수 없습니다.
  • 사이트와 저장소의 불일치. 사이트는 "On-device GGUF"라고 하지만 README는 GGUF 파일을 휴대폰에서 실행할 수 없다고 합니다. 저장소 설명은 iOS도 언급하지만 README는 Android만 다룹니다. 이 리뷰는 README를 따릅니다.
  • 서명과 게시자. 디버그 서명 APK는 게시자 신원을 제공하지 않으며 개발자 이름도 공개되지 않았습니다.
  • 런타임 유지 관리. 알려진 제한 사항 문서에 따르면 Cactus Flutter 패키지는 2026년 7월 기준 업스트림에서 보관(archived) 처리되었으며, 프로젝트는 이를 유지 관리 위험으로 꼽습니다.
  • 개인정보와 품질. 추적이 없다는 주장, 감사 로그, 백업 암호화는 검사하지 않았고 답변 품질도 평가하지 않았습니다.

경쟁 제품과 대안

PocketPal AI

플랫폼:
iOS, Android
가격 / 라이선스:
무료 / MIT
핵심 차이점:
GGUF 모델을 휴대폰에서 실행하며 App Store와 Google Play 버전이 있음
PocketPal AI 관련 문서 (10개)

표시되지 않은 44개 더보기

Maid

플랫폼:
Android, iOS
가격 / 라이선스:
무료 / MIT
핵심 차이점:
Ollama와 OpenAI 호환 API도 지원하는 오픈소스 Flutter 앱
Maid 관련 문서 (5개)

기타 언급:

MLC Chat

플랫폼:
iOS, Android
가격 / 라이선스:
무료 / Apache 2.0
핵심 차이점:
MLC LLM 기반의 크로스플랫폼 모바일 런타임
MLC Chat 관련 문서 (6개)

기타 언급:

PromptQuorum에서 가장 가까운 모바일 채팅 앱 리뷰입니다. 각 앱의 현재 가격, 라이선스, 플랫폼은 해당 앱의 페이지에서 확인하십시오.

디렉터리에서 비교

자주 묻는 질문

웹 버전은 무엇을 합니까?

Next.js 기반 브라우저 버전으로, 데이터를 IndexedDB에 보관하고 직접 관리하는 Ollama 또는 OpenAI 호환 엔드포인트와 통신합니다. README에 따르면 Android 기기 내 런타임은 포함되지 않습니다.

어떤 APK를 받아야 합니까?

2017년 이후 대부분의 휴대폰에는 arm64-v8a를 사용하십시오. armeabi-v7a와 x86_64 빌드는 런타임 라이브러리가 arm64-v8a용으로만 패키징되어 있어 기기 내 모델을 실행할 수 없습니다.

인터넷 없이 작동합니까?

프로젝트에 따르면 모델을 설치한 뒤에는 기기 내 채팅에 네트워크가 필요 없고, Strict Offline 모드로 앱 자체의 루프백 외 트래픽을 차단할 수 있습니다. 첫 모델 다운로드와 웹 검색에는 연결이 필요합니다.

다른 언어로도 제공됩니까?

아닙니다. README에 따르면 현재 인터페이스는 영어뿐입니다. 6개 언어의 번역 파일이 있지만 15개 문자열만 담고 있으며 연결되어 있지 않습니다.

결론

PocketLLM Lite는 잘 문서화된 로컬 우선 채팅·문서 작업 공간을 Android 휴대폰에 들이는, 활발히 업데이트되는 MIT 라이선스 선택지이며 기기 내 모델과 자체 서버 중 하나를 분명하게 고를 수 있습니다. 반면 개발자 이름이 없고, 디버그 서명된 엔지니어링 빌드로 배포되며, 프로젝트 스스로 보관 처리되었다고 적은 업스트림 런타임 패키지에 의존하고, 기기 내 생성이 실제 휴대폰에서 검증되지 않았다고 제작진이 밝힙니다. 직접 설치하고 저장소를 읽고 스스로 테스트할 수 있는 기술 지향 Android 사용자에게 맞으며, 서명되고 스토어로 배포되며 성능이 검증된 앱이 필요한 분은 그런 앱이 나올 때까지 기다리는 것이 좋습니다.

출처

← 고급 로컬 LLM으로 돌아가기

MCP