본문으로 건너뛰기
PromptQuorum인간을 위해 설계. AI를 위해 구조화.
홈/고급 로컬 LLM
Mobile & Edge LLMs

On Device LLM 리뷰: Android용 무료 오프라인 채팅 앱

·6분 읽기Hans Kuepper 저 · PromptQuorum 창립자 · 오픈 웨이트·오픈소스 AI 디스커버리 엔진

On Device LLM은 Llama 3.2 같은 오픈 웨이트 모델을 계정 없이 휴대폰에서 실행한다고 밝히는 무료 비공개 소스 Android 앱입니다. 프로젝트가 막 나온 상태라, 주장은 아무도 독립적으로 테스트하지 않은 게재 정보와 처리방침에 근거합니다.

핵심 요점

  • 개발자: 인도의 개인 개발자로, Google Play에는 Raushan kumar Pandey로 등록되어 있으며 스토어 페이지에는 "Feather AI"라는 표기도 보입니다.
  • 연식과 도달 범위: 첫 릴리스는 버전 1.0이며 2026년 9월 11일에 마지막으로 업데이트되었고, Google Play에는 다운로드 100+가 표시되어 있어 아직 검증된 이력이 없습니다.
  • 플랫폼: Google Play를 통한 64비트 기기의 Android 7.0 이상만 지원하며, iPhone, 데스크톱, 웹 빌드는 찾지 못했습니다.
  • 유지보수: 마지막 업데이트는 2026년 10월 26일 기준 45일 전이므로 유지보수 중단 경고는 해당하지 않습니다.

📍 한 문장으로

On Device LLM은 개발자에 따르면 계정, 광고, 서버 없이 오픈 웨이트 언어 모델을 휴대폰에서 실행하는 비공개 소스 Android 앱입니다.

💬 쉽게 말하면

Google Play에서 설치해 모델 7개 중 하나를 내려받거나(또는 직접 만든 GGUF 파일 링크를 붙여 넣어) 채팅합니다. 개발자는 모델을 실행하는 소프트웨어의 이름을 밝히지 않습니다.

📌참고: 이 리뷰는 Google Play 게재 정보와 개발자의 웹사이트 및 개인정보 처리방침을 2026년 10월 26일에 확인한 내용을 근거로 합니다. 직접 사용, 벤치마크, 네트워크 점검은 하지 않았습니다.

언어 선택:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

On Device LLM은 Google Play 게재 정보와 개인정보 처리방침에 따르면 계정 없이 오픈 웨이트 언어 모델을 휴대폰에서 실행하는 Android용 무료 채팅 앱입니다. Google Play에서는 "Local LLM"이라는 제목으로 등록되어 있으며, iPhone·Mac 앱인 On Device AI, AI on Device와는 다른 앱입니다. 이 리뷰는 2026년 10월 26일에 확인한 스토어 게재 정보와 개발자 웹사이트 및 개인정보 처리방침을 반영합니다.

On Device LLM 리뷰: Android용 무료 오프라인 채팅 앱

On Device LLM이란 무엇인가?

On Device LLM은 Google Play 게재 정보에 따르면 클라우드 서비스 대신 휴대폰에서 실행되는 오픈 웨이트 모델로 프롬프트에 답하는 Android 채팅 앱입니다. 게재 제목은 "Local LLM"이고 개발자의 웹사이트와 개인정보 처리방침은 "local LLM"이라 부르며 Android용 온디바이스 AI 채팅이라고 설명합니다. 이 리뷰에서는 개발자, 플랫폼, 패키지 이름이 다른 iPhone·Mac 앱 On Device AI, AI on Device와 구별하기 위해 "On Device LLM"이라고 부릅니다.

게재 정보는 개발자를 인도의 Raushan kumar Pandey로 명시하며, Android 패키지 이름은 com.ondevicellm입니다. 앱은 Google Play에서만 배포됩니다.

어디서 받나요?

On Device LLM은 다른 Android 앱처럼 Google Play에서 설치하며, 터미널이나 계정이 필요 없습니다. 첫 모델 다운로드는 369 MB 이상이므로 처음 실행할 때는 인터넷 연결과 여유 저장 공간이 필요합니다.

플랫폼
받는 곳
AndroidGoogle Play (무료 설치, 64비트 Android 7.0 이상)
웹사이트on-device-llm-ff80d.web.app (법적 고지 페이지만 있는 개발자 사이트)
개인정보 처리방침개인정보 처리방침 (2026년 8월 24일 마지막 업데이트)

확인한 버전은 1.0이며 Google Play에는 마지막 업데이트가 2026년 9월 11일로 표시되어 있고, 릴리스 노트는 이를 첫 릴리스라고 부릅니다. 게재 정보에는 소스 저장소가 나와 있지 않습니다.

출처로 확인되는 기능

아래 항목은 모두 Google Play 설명 또는 개인정보 처리방침에서 가져온 것입니다.

  • 기본 제공 모델 7개. SmolLM2 360M, Qwen2.5 0.5B, TinyLlama 1.1B, Llama 3.2 1B, Qwen2.5 1.5B, Gemma 2 2B, Llama 3.2 3B이며, 선택 전에 각 다운로드 크기가 표시되고 채팅을 벗어나지 않고 모델을 바꿀 수 있습니다.
  • 직접 구한 모델. 어떤 GGUF 파일이든 직접 링크를 붙여 넣을 수 있습니다.
  • 저장된 채팅. 대화는 기기의 데이터베이스에 저장되고, 제목은 모델이 작성하며, 마크다운과 코드 블록은 원터치 복사와 함께 표시되고, 모든 채팅을 한 번에 지울 수 있습니다.
  • 선택형 로컬 API. 포트 11434의 OpenAI 호환 HTTP 엔드포인트로, curl, Python SDK 또는 직접 만든 스크립트가 Wi-Fi나 USB를 통해 휴대폰의 모델을 스트리밍으로 사용할 수 있습니다. 기본값은 꺼짐이며 활성화되어 있는 동안 알림을 표시합니다.
  • 요구 사항. 게재 정보에는 모델에 따라 대략 1~3 GB의 여유 RAM이 필요하다고 되어 있고, 더 큰 모델은 오래된 휴대폰에서 눈에 띄게 느리다고 적혀 있습니다.

개인정보와 네트워크 사용

개인정보 처리방침에 따르면 메시지와 답변은 기기의 비공개 데이터베이스에 머물며, 어떤 프롬프트도 서버로 전송되지 않습니다. 계정이 없고 게재 정보에는 광고가 없다고 되어 있습니다. Google Play 데이터 보안 항목에는 "수집된 데이터 없음"과 "제3자와 공유되는 데이터 없음"이라고 표시되어 있습니다.

처리방침은 이 카드보다 더 자세합니다. 앱은 Google Firebase Analytics를 사용해 익명 이벤트를 기록한다고 합니다. 이벤트 이름, 모델 이름, 메시지 길이(텍스트가 아닌 글자 수), 소요 시간, 익명 앱 인스턴스 ID, 표준 기기 정보입니다. 또한 선택한 호스트(기본값 huggingface.co)에서의 모델 다운로드와, 시작 시 모델 카탈로그와 업데이트 확인을 위한 Google Cloud Firestore 읽기 전용 요청도 명시합니다. 두 설명은 분석 항목에서 서로 다르므로 처리방침이 더 상세한 출처입니다.

선택형 로컬 API에는 인증이 없습니다. 처리방침에 따르면 휴대폰에 접근할 수 있는 네트워크상의 누구나 프롬프트를 보내고 답변을 읽을 수 있으며, 신뢰할 수 있는 네트워크에서만 사용하도록 권고합니다.

📌참고: 이 앱은 소스 코드가 공개되어 있지 않아 위 주장은 어느 것도 코드에서 확인할 수 없으며, PromptQuorum은 네트워크 트래픽을 감사하지 않았습니다. 기밀 자료를 다루는 분은 먼저 본인 기기에서 동작을 직접 확인해야 합니다.

이런 분께 적합합니다

  • 원하는 모델을 직접 고를 수 있는 무료 오프라인 채팅 앱을 원하는 Android 이용자. GGUF 링크 가져오기가 써 볼 만한 가장 큰 이유입니다.
  • 신뢰할 수 있는 네트워크에서 휴대폰이 호스팅하는 엔드포인트를 원하는 개발자. 로컬 API가 또 다른 이유입니다.

확인하지 못한 사항

  • 실제 사용 성능. 속도, 배터리 사용량, 답변 품질은 테스트하지 않았으며, 비행기 모드에서 채팅이 작동하는지도 이 리뷰에서 확인하지 않았습니다.
  • 런타임. 게재 정보는 모델이 GGUF 파일이라고 밝히지만 추론 엔진의 이름은 나와 있지 않습니다.
  • 라이선스와 소스 코드. 공개 저장소를 찾지 못해 앱을 비공개 소스로 간주하며, 각 모델에는 게시자가 정한 별도의 라이선스가 있습니다.
  • 앱 내 구입. 설치는 무료이고 설명에는 구입 항목이나 광고가 나와 있지 않지만, 데이터 보안 카드에는 수익 모델이 명시되어 있지 않습니다.
  • 개발자 연락처. 개인정보 처리방침에는 자리 표시자 연락 주소(SUPPORT@EXAMPLE.COM)가 적혀 있으며, 지원 이메일은 Google Play 게재 정보에 있습니다.

경쟁 앱과 대안

PocketPal AI

플랫폼:
iOS, Android
가격 / 라이선스:
무료 / MIT
핵심 차이:
자체 모델 라이브러리를 갖춘 오픈 소스 온디바이스 채팅 클라이언트
PocketPal AI 관련 문서 (10개)

표시되지 않은 44개 더보기

Private Mind

플랫폼:
iOS, Android
가격 / 라이선스:
무료 / MIT
핵심 차이:
온디바이스 문서 Q&A와 벤치마크를 갖춘 오픈 소스 오프라인 채팅
Private Mind 관련 문서 (2개)

기타 언급:

표시되지 않은 9개 더보기

ToolNeuron

플랫폼:
Android
가격 / 라이선스:
무료 / MIT
핵심 차이:
Android용 오픈 소스 암호화 온디바이스 AI 앱
ToolNeuron 관련 문서 (4개)

기타 언급:

경쟁 앱의 세부 정보는 자주 바뀌므로 각 앱의 현재 가격, 라이선스, 플랫폼은 해당 앱의 게재 정보에서 확인하시기 바랍니다.

디렉터리에서 비교

자주 묻는 질문

On Device LLM은 On Device AI나 AI on Device와 같은 앱인가요?

아니요. 그 앱들은 다른 개발자가 만든 별개의 iPhone·Mac 앱이며, 이 앱은 패키지 이름이 com.ondevicellm인 Android 앱입니다.

목록에 없는 모델도 사용할 수 있나요?

게재 정보에는 어떤 GGUF 모델이든 직접 링크를 붙여 넣을 수 있다고 되어 있습니다. 특정 모델이 잘 실행되는지는 휴대폰의 RAM에 달려 있으며, 라이선스는 게시자가 정합니다.

iPhone이나 데스크톱에서도 작동하나요?

그런 빌드는 찾지 못했습니다. 개발자의 웹사이트는 이 앱을 Android용 온디바이스 AI 채팅이라고 설명합니다.

결론

On Device LLM은 오프라인이라는 분명한 장점, GGUF 링크 가져오기, 로컬 API를 갖춘 무료 Android 채팅 앱이지만, 출시된 지 얼마 되지 않았고 소스 코드가 공개되어 있지 않으며 다운로드는 100+에 그치고, 오프라인 및 개인정보 주장은 테스트되지 않았습니다. 계정 없는 작은 어시스턴트를 써 보고 이런 위험을 감수할 수 있는 분께 맞으며, 오픈 소스이면서 검증된 클라이언트를 원하는 분은 PocketPal AI나 Private Mind를 비교해 보시기 바랍니다.

출처

← 고급 로컬 LLM으로 돌아가기

MCP