Skip to main content
PromptQuorum
홈/고급 로컬 LLM/AnythingLLM Mobile 리뷰(2026): 온디바이스 채팅 + RAG
Mobile & Edge LLMs

AnythingLLM Mobile 리뷰(2026): 온디바이스 채팅 + RAG

·11분 읽기·Hans Kuepper 저 · PromptQuorum 창립자, 멀티 모델 AI 디스패치 도구 · PromptQuorum
언어 선택:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

**AnythingLLM Mobile은 무료 MIT 라이선스 Android 앱으로 두 가지 방식으로 작동합니다. 독립형 모드에서는 엄선된 소형 언어 모델과 로컬 벡터 데이터베이스를 기기에서 완전히 실행하여 오프라인 문서 채팅과 RAG를 지원하고, 연결 모드에서는 로컬 네트워크에서 QR 코드 페어링을 통해 자체 호스팅된 AnythingLLM Desktop 또는 AnythingLLM Cloud 인스턴스와 채팅, 워크스페이스, 문서를 동기화합니다.** 개발사는 데스크톱/서버용 AnythingLLM 오픈소스 프로젝트를 개발한 Mintplex Labs이며, GitHub에 MIT 라이선스로 공개되어 있습니다. 본 리뷰 시점 기준으로 이 앱은 Google Play를 통해 Android에서만 제공되며, iOS용 App Store 출시는 아직 없습니다.

AnythingLLM Mobile은 Mintplex Labs가 개발한 무료 MIT 라이선스 Android 앱으로, 소형 언어 모델과 로컬 벡터 데이터베이스를 스마트폰에서 직접 실행하여 오프라인으로 문서와 대화할 수 있습니다. 또한 로컬 네트워크를 통해 자체 호스팅된 AnythingLLM Desktop 또는 AnythingLLM Cloud 인스턴스와 페어링하여 데스크톱 버전의 모든 기능을 사용할 수도 있습니다. 이 리뷰에서는 독립형 온디바이스 모드와 연결 모드가 정확히 어떻게 다른지, 실제 플랫폼 지원 현황(Android는 제공, iOS는 아직 미제공), 모바일 앱 가격과 별도로 과금되는 AnythingLLM Cloud 서비스의 차이, 그리고 어떤 사람에게 적합하고 적합하지 않은지를 설명합니다.

AnythingLLM Mobile 리뷰(2026): 온디바이스 채팅 + RAG

핵심 요점

  • 무료 오픈소스(MIT 라이선스)이며, 모바일 앱의 소스코드는 GitHub에 공개되어 있습니다.
  • 두 가지 모드 제공: 온디바이스 독립형 추론(Cactus Compute 엔진, 내장 GGUF 모델, 로컬 벡터 DB) 또는 QR 코드로 자체 호스팅된 데스크톱/클라우드 인스턴스와 페어링하는 연결 모드.
  • 본 리뷰 시점 기준 Android 전용 — Google Play 또는 직접 APK로 제공되며, iOS용 App Store 출시는 아직 없습니다.
  • Mintplex Labs가 개발했으며, 이 회사는 Y Combinator 출신으로 데스크톱/서버용 AnythingLLM 프로젝트도 담당합니다.
  • 모바일 앱 자체에는 구독료가 없습니다. 일부 사용자가 페어링에 사용하는 별도 호스팅 서버 서비스인 AnythingLLM Cloud는 월 50달러부터 시작합니다.

📍 한 문장으로

AnythingLLM Mobile은 Mintplex Labs가 개발한 무료 MIT 라이선스 Android 앱으로, 오프라인 문서 채팅을 위해 소형 언어 모델을 온디바이스로 실행하며, 자체 호스팅된 AnythingLLM Desktop 또는 Cloud 인스턴스에 연결할 수도 있습니다.

💬 쉽게 말하면

서버용 단순 리모컨 앱도 아니고, 데스크톱 앱을 완전히 대체하는 독립형 앱도 아닙니다 — 스마트폰에서 완결되는 독립적인 오프라인 AI이자, 이미 실행 중인 데스크톱이나 클라우드 인스턴스를 들여다보는 선택적 모바일 화면이라는 두 가지 성격을 모두 가지고 있으며, 어떤 모드를 사용할지는 작업에 따라 사용자가 직접 선택합니다.

📌참고: 이 리뷰는 공개된 AnythingLLM Mobile GitHub 저장소, 공식 모바일 문서, Google Play 페이지, anythingllm.com을 근거로 2026년 9월 기준으로 확인했습니다. PromptQuorum은 이 리뷰를 위해 AnythingLLM Mobile에 대한 독자적인 실측 벤치마크를 수행하지 않았습니다 — 아래 성능 수치는 이 앱에 특정된 측정값이 아니라 로컬 LLM 전반에 대한 일반적인 하드웨어 가이드입니다.

AnythingLLM Mobile이란?

**AnythingLLM Mobile은 MIT 라이선스로 공개된 Android 앱으로, 클라우드 API에 의존하지 않고도 스마트폰이 언어 모델 및 업로드된 문서와 대화할 수 있게 해줍니다.** 데스크톱/서버용 AnythingLLM 프로젝트와는 별도의 코드베이스로, React Native 전용으로 개발되었지만 두 프로젝트 모두 같은 회사가 개발했으며 AnythingLLM이라는 이름과 워크스페이스 개념을 공유합니다.

이 앱을 가장 잘 이해하는 방법은 두 가지 제품이 하나로 합쳐진 것으로 보는 것입니다. 설정이나 계정 없이 작동하는 독립형 온디바이스 AI 어시스턴트, 그리고 이미 데스크톱 앱, Docker 컨테이너, 또는 AnythingLLM Cloud 구독을 사용 중이며 동일한 워크스페이스, 채팅 기록, 문서를 스마트폰에서도 사용하고 싶은 사용자를 위한 모바일 프런트엔드입니다.

AnythingLLM Mobile은 누가 개발했나?

**AnythingLLM Mobile은 Mintplex Labs가 개발했으며, 이 회사는 Timothy Carambat가 설립했고 데스크톱 및 서버용 AnythingLLM 원본 버전도 만들었습니다.** Mintplex Labs는 2022년에 설립되었고 미국 캘리포니아주 어바인에 본사를 두고 있으며, Y Combinator 2022년 여름 배치를 거쳤고 Y Combinator, Goodwater Capital, UpHonest Capital, Orange DAO로부터 프리시드 투자를 받았습니다.

데스크톱 및 서버용 AnythingLLM 대표 프로젝트 — 문서와 대화하고 사용자 정의 에이전트를 구축할 수 있는 오픈소스이자 자체 호스팅 가능한 "올인원 AI 애플리케이션" — 은 모바일 앱보다 수년 앞서 존재해 왔으며 GitHub에서 자체적으로 큰 커뮤니티를 보유하고 있습니다. 자세한 내용은 PromptQuorum의 AnythingLLM 대 PrivateGPT 대 Open WebUI 비교 기사에서 다루고 있습니다. AnythingLLM Mobile은 더 최신의 별도 React Native 코드베이스로, 동일한 워크스페이스 및 RAG 개념을 스마트폰으로 확장한 것입니다.

AnythingLLM Mobile은 온디바이스로 작동하는가, 서버에 연결되는가?

AnythingLLM Mobile은 온디바이스 독립형 모드와, 별도로 호스팅된 AnythingLLM 인스턴스와 페어링하는 연결 모드를 모두 지원합니다 — 즉 둘 중 하나에만 국한되지 않으며, 현재 활성화된 모드에 따라 앱이 할 수 있는 일이 달라집니다. 두 모드를 혼동하는 것은 중요한 문제입니다. 설정 없이 완전히 오프라인으로 작동하는 AI를 기대하는 사용자는 독립형 모드에서 이를 얻을 수 있는 반면, 데스크톱의 모든 기능(사용자 정의 에이전트 도구, 더 큰 문서 워크스페이스)을 기대하는 사용자는 연결 모드와, 페어링할 수 있는 실행 중인 데스크톱, Docker, 또는 Cloud 인스턴스가 필요합니다.

독립형 모드에서는 Mintplex Labs의 자체 모바일 문서와 앱의 GitHub 저장소에 따르면, 스마트폰이 엄선된 소형 GGUF 언어 모델을 다운로드하고 React Native용으로 만들어진 llama.cpp 기반 추론 엔진인 Cactus Compute를 통해 로컬에서 실행합니다. 소형 임베딩 모델과 로컬 벡터 데이터베이스도 기기에서 함께 실행되므로, 업로드된 문서는 완전히 오프라인 상태에서 청크로 분할되고 임베딩되어 RAG에 사용할 수 있도록 검색됩니다. 모델을 다운로드한 후에는 채팅에 계정, API 키, 인터넷 연결이 전혀 필요하지 않습니다.

연결 모드에서는 스마트폰이 해당 워크스페이스에 대해 직접 추론을 실행하지 않습니다 — 대신 해당 인스턴스의 Settings > Tools > AnythingLLM Mobile에 표시되는 QR 코드를 스캔하여 로컬 네트워크(Cloud의 경우 인터넷)를 통해 AnythingLLM Desktop 앱, 자체 호스팅된 Docker 인스턴스, 또는 AnythingLLM Cloud 구독과 페어링합니다. 로컬 네트워크 페어링이 작동하려면 데스크톱 인스턴스의 Settings > Admin > General에서 "네트워크 검색 활성화" 옵션이 켜져 있어야 합니다. 페어링이 완료되면 채팅, 워크스페이스, 스레드, 사용자 정의 에이전트 도구가 스마트폰과 연결된 인스턴스 간에 동기화되며, LLM, 임베딩, RAG 작업은 스마트폰이 아니라 해당 인스턴스가 실행되는 곳에서 이루어집니다.

어떤 모드를 사용해야 할까?

다음의 경우 로컬 LLM을 사용하십시오:

  • •계정, 서버, 설정 없이 오프라인으로 작동하는 AI 채팅과 문서 RAG를 원한다.
  • •더 깊이 투자하기 전에 온디바이스 AI가 사용 중인 특정 Android 기기에서 충분히 빠른지 테스트해보고 싶다.
  • •AnythingLLM의 데스크톱 또는 서버 인스턴스를 운영하고 있지 않으며, 운영할 계획도 없다.

다음의 경우 클라우드 모델을 사용하십시오:

  • •이미 AnythingLLM Desktop, Docker, 또는 AnythingLLM Cloud를 사용 중이며 스마트폰에서도 동일한 워크스페이스와 채팅 기록을 원한다.
  • •사용자 정의 에이전트 도구, 더 큰 문서 라이브러리, 또는 스마트폰이 현실적으로 실행할 수 없는 더 강력한 모델이 필요하다.
  • •여러 기기(스마트폰과 데스크톱)가 하나의 공유 워크스페이스로 동기화되어 있기를 원한다.

빠른 결정:

  • →확신이 서지 않는다면 독립형 모드로 시작하라 — 다른 아무것도 실행할 필요가 없다.
  • →페어링할 데스크톱, Docker, 또는 Cloud 인스턴스가 이미 있을 때만 연결 모드로 전환하라.

AnythingLLM Mobile 시작하는 방법

**앱 자체의 모바일 문서에 따르면, 설정 방식은 사용하려는 모드에 따라 달라집니다.** 독립형 모드는 앱을 설치하는 것 외에 다른 작업이 필요하지 않지만, 연결 모드는 페어링할 기존 AnythingLLM Desktop, Docker, 또는 Cloud 인스턴스가 필요합니다.

  1. 1
    앱 설치하기
    Why it matters: [Google Play](https://play.google.com/store/apps/details?id=com.anythingllm)에서 AnythingLLM Mobile을 다운로드하거나, [anythingllm.com/mobile](https://anythingllm.com/mobile)에서 APK를 직접 다운로드합니다. 앱을 여는 데 계정이나 이메일 등록은 필요하지 않습니다.
  2. 2
    오프라인 사용을 위해 독립형 모드 선택하기
    Why it matters: 처음 실행하면 앱이 다운로드 가능한 엄선된 온디바이스 모델을 제시합니다. 기기의 RAM에 맞는 모델을 선택하고(아래 하드웨어 섹션 참고) 채팅을 시작하세요 — 기본 채팅과 문서 업로드에는 추가 설정이 필요하지 않습니다.
  3. 3
    또는 연결 모드를 위해 자체 호스팅 인스턴스와 페어링하기
    Why it matters: 이미 AnythingLLM Desktop, Docker, 또는 Cloud를 사용 중이라면 해당 인스턴스의 Settings > Admin > General에서 "네트워크 검색"을 활성화한 다음, 데스크톱 UI에서 Settings > Tools > AnythingLLM Mobile을 열어 페어링용 QR 코드를 표시합니다.
  4. 4
    모바일 앱에서 QR 코드 스캔하기
    Why it matters: AnythingLLM Mobile에서 페어링/스캔 옵션을 사용해 데스크톱 또는 Cloud 인스턴스에 연결합니다. 페어링이 완료되면 해당 인스턴스의 워크스페이스, 채팅, 스레드가 모바일 앱에서 사용 가능해지며, 업데이트가 기기 간에 동기화됩니다.

스마트폰에서 문서 채팅과 RAG는 어떻게 작동하는가?

독립형(온디바이스)

추론 실행 위치:
스마트폰에서, React Native용 llama.cpp 기반 엔진인 Cactus Compute를 통해
RAG / 문서 처리 방식:
로컬 임베딩 모델 + 온디바이스 벡터 데이터베이스; 문서는 완전히 오프라인 상태에서 청크 분할, 임베딩, 검색됨

연결형(페어링된 인스턴스)

추론 실행 위치:
페어링된 AnythingLLM Desktop, Docker 호스트, 또는 Cloud 인스턴스에서
RAG / 문서 처리 방식:
해당 인스턴스에 설정된 벡터 데이터베이스와 임베딩 모델 사용 — 데스크톱 앱과 동일한 RAG 파이프라인이 모바일로 동기화됨

한 모드에서 만든 워크스페이스가 다른 모드의 워크스페이스로 자동 전환되지는 않습니다 — 독립형 온디바이스 워크스페이스에 업로드한 문서는 데스크톱/Cloud 인스턴스와 페어링된 연결 워크스페이스로 전환하지 않는 한 해당 기기에 로컬로 남아 있습니다.

AnythingLLM Mobile은 iPhone에서 사용할 수 있는가?

Android

지원 여부:
Google Play 및 APK 직접 다운로드로 이용 가능
비고:
본 리뷰 시점 기준 유일하게 출시된 모바일 플랫폼입니다.

iPhone / iPad(iOS)

지원 여부:
미출시 — 본 리뷰 시점 기준 AnythingLLM Mobile의 App Store 페이지를 찾지 못했습니다
비고:
iOS 지원은 프로젝트의 GitHub 이슈 트래커에서 공개적으로 논의되어 왔지만, PromptQuorum은 공식 App Store 출시나 출시일을 확정하는 Mintplex Labs의 발표를 확인하지 못했습니다. 다른 사이트의 보도만을 근거로 iOS 지원 여부를 단정하지 말고, 기대하기 전에 App Store에서 직접 확인하세요.

Mac / Windows / Linux

지원 여부:
해당 없음 — 이러한 플랫폼은 모바일 앱이 아니라 별도의 AnythingLLM Desktop 앱 또는 Docker 컨테이너를 사용합니다
비고:
지금 당장 AnythingLLM을 사용하고 싶은 iPhone 사용자는 Mac에서 데스크톱 앱을 사용하거나, PocketPal AI 또는 Private LLM 같은 다른 모바일 앱을 사용해야 합니다.

AnythingLLM Mobile의 가격은?

공개 문서와 앱의 Play Store 페이지에 따르면, AnythingLLM Mobile 자체는 독립형 온디바이스 모드에서 다운로드와 사용이 무료이며, 구독이나 앱 내 결제가 없습니다. 모바일 앱의 소스코드는 MIT 라이선스로 오픈소스화되어 GitHub에 공개되어 있습니다.

비용은 연결 모드에서 무엇과 페어링하는지에 따라서만 발생합니다. 페어링할 자신만의 AnythingLLM Desktop 앱이나 Docker 컨테이너를 직접 운영하는 것은 모바일 앱과 마찬가지로 무료이자 오픈소스입니다. 자체 호스팅을 원하지 않는 경우, Mintplex Labs는 별도로 호스팅되는 서비스인 AnythingLLM Cloud를 판매합니다. 프라이빗 인스턴스와 맞춤 서브도메인이 포함된 월 50달러의 Basic 요금제, 대규모 팀을 위한 72시간 지원 SLA가 추가된 월 99달러의 Pro 요금제, 온프레미스 배포와 SSO, RBAC를 포함한 별도 견적의 Enterprise 요금제가 있습니다. 두 유료 Cloud 요금제 모두 사용자가 직접 LLM API 키를 제공해야 하며, 모델 비용은 포함되지 않습니다.

  • 모바일 앱(독립형 모드): 무료, MIT 라이선스 오픈소스, 발견된 구독 없음.
  • 모바일 앱(연결 모드): 페어링 기능 자체는 무료; 비용은 전적으로 무엇과 페어링하는지에 달려 있습니다.
  • 페어링용 자체 호스팅 Desktop/Docker 인스턴스: 모바일 앱과 마찬가지로 무료이자 오픈소스.
  • AnythingLLM Cloud Basic: 월 50달러 — 프라이빗 인스턴스, 맞춤 서브도메인, 자체 LLM API 키 필요.
  • AnythingLLM Cloud Pro: 월 99달러 — 대규모 팀을 위한 72시간 지원 SLA 추가.
  • AnythingLLM Cloud Enterprise: 별도 견적 — 온프레미스 배포, SSO, RBAC, 맞춤 통합.

AnythingLLM Mobile의 주요 기능은?

기능 제공 여부는 활성화된 모드에 따라 달라지며, 프로젝트 자체의 모바일 문서에 따르면 일부 기능은 연결 모드에서만 존재합니다. 여기에는 다음이 포함됩니다.

  • 온디바이스 채팅. 최초 다운로드 이후에는 인터넷 연결 없이 로컬에 다운로드된 모델과 채팅할 수 있습니다.
  • 오프라인 문서 RAG. 독립형 워크스페이스에 문서를 업로드하고, 온디바이스 임베딩 모델과 벡터 데이터베이스를 사용해 출처가 표시된 답변을 얻습니다.
  • 워크스페이스 동기화(연결 모드 전용). 페어링된 데스크톱, Docker, 또는 Cloud 인스턴스에서 만든 채팅, 스레드, 워크스페이스가 스마트폰과 양방향으로 동기화됩니다.
  • 사용자 정의 에이전트 도구(연결 모드 전용). 데스크톱 인스턴스에서 구성한 도구 호출 기능은 페어링 후 모바일로 전달됩니다; 온디바이스 독립형 모드는 사용자 정의 도구 구성을 지원하지 않습니다.
  • QR 코드 페어링. 자체 호스팅 인스턴스와의 연결은 서버 주소와 자격 증명을 수동으로 입력하는 대신 해당 인스턴스의 설정 화면에 표시되는 QR 코드를 사용합니다.
  • 독립형 사용에 계정 불필요. 독립형 모드에서의 채팅과 문서 RAG는 Mintplex Labs 계정 생성을 요구하지 않습니다.

AnythingLLM Mobile을 실행하려면 어떤 하드웨어가 필요한가?

온디바이스 독립형 모드는 다른 GGUF 기반 모바일 채팅 앱과 마찬가지로 스마트폰 자체의 RAM 및 CPU/NPU에 의존합니다 — Mintplex Labs는 독립형 모드용으로 선정된 모델별 정확한 RAM 요구사항을 공개하지 않았으므로, 로컬 LLM에 대한 일반적인 규모 가이드가 적용됩니다. 스마트폰에서 양자화된 GGUF 모델에 대한 일반적인 기준으로, 파라미터 수 10억~30억 개 범위의 소형 모델은 약 2~3GB의 여유 RAM이 필요하며, 이보다 큰 모델은 그에 비례해 더 많은 RAM이 필요합니다.

연결 모드는 언어 모델이 페어링된 데스크톱, Docker 호스트, 또는 Cloud 인스턴스에서 실행되므로 추론과 관련해 스마트폰에는 사실상 하드웨어 요구사항이 없습니다 — 스마트폰은 앱 UI를 실행하고 데이터를 동기화할 정도의 리소스만 있으면 되며, 실질적인 하드웨어 요구사항은 연결된 AnythingLLM 인스턴스를 호스팅하는 기기 쪽으로 이동합니다.

  • 독립형 모드: 가장 작은 내장 모델에는 2~3GB 이상의 여유 RAM을 예상하세요; 더 큰 온디바이스 모델은 더 많이 필요합니다.
  • 저장 공간: 다운로드하는 온디바이스 모델당 수백 메가바이트에서 수 기가바이트의 여유 저장 공간이 필요합니다.
  • 연결 모드: 스마트폰 하드웨어가 병목이 아닙니다 — 대신 데스크톱, Docker, 또는 Cloud 인스턴스를 실행하는 기기의 하드웨어 권장 사항을 확인하세요.
  • 네트워크: 독립형 모드는 모델 다운로드 후 완전히 오프라인으로 작동합니다; 연결 모드는 페어링된 인스턴스에 접속하기 위해 공유 로컬 네트워크(또는 Cloud의 경우 인터넷 연결)가 필요합니다.

AnythingLLM Mobile이 적합한 사람

  • 진정으로 무료이고 오프라인으로 작동하는 AI 채팅 및 문서 RAG 앱을 원하는 Android 사용자. 독립형 모드는 계정, 서버, 구독이 필요하지 않아 최소한의 설정으로 프라이빗한 온디바이스 AI를 원하는 사용자에게 적합합니다.
  • 스마트폰에서도 동일한 워크스페이스를 원하는 기존 AnythingLLM Desktop, Docker, 또는 Cloud 사용자. 이미 데스크톱/서버용 AnythingLLM 생태계에 투자한 사용자에게 연결 모드의 동기화 기능은 명확한 매력 요소입니다.
  • 두 가지 다른 모드 중에서 선택하는 것에 익숙한 사용자. 앱의 가치를 최대한 활용하려면 언제 독립형 모드를 사용하고 언제 연결 모드를 사용해야 하는지 이해해야 하며, 이는 단일하고 고정된 동작을 원하는 사용자보다 기술적으로 호기심이 많은 사용자에게 더 적합합니다.
  • 자체 호스팅 없이 모바일 프런트엔드를 원하는 팀. Android 스마트폰을 유료 AnythingLLM Cloud 인스턴스와 페어링하면 직접 인프라를 운영하지 않고도 공유 워크스페이스에 모바일로 접근할 수 있습니다.

AnythingLLM Mobile이 적합하지 않은 사람

  • iPhone 및 iPad 사용자. 본 리뷰 시점 기준 iOS 버전이 없습니다; Apple 기기에는 대신 Private LLM이나 PocketPal AI를 사용하세요.
  • 결정할 것이 없는 단일하고 단순한 모드를 원하는 사용자. 독립형과 연결형의 구분은 반드시 이해해야 하는 실질적인 설계상의 선택입니다; 엄선된 모델 목록과 서버 페어링 개념이 없는 단일하고 안내된 경험을 선호하는 사용자는 PocketPal AI나 Loci를 더 선호할 수 있습니다.
  • 서버 없이 완전한 사용자 정의 에이전트 도구를 원하는 사용자. 이 앱의 현재 설계에서 사용자 정의 에이전트 도구 구성은 연결 모드에 종속되어 있습니다 — 이 기능을 오늘 완전히 온디바이스에서 원하는 사용자는 다른 대안을 찾아봐야 합니다.
  • 무료로 기업용 지원이 필요한 사용자. 커뮤니티 지원은 무료이지만, 지원 SLA는 모바일 앱만으로는 얻을 수 없고 유료 AnythingLLM Cloud Pro 또는 Enterprise 구독이 필요합니다.
  • 가능한 한 가장 큰 온디바이스 모델을 원하는 사용자. 독립형 모드는 스마트폰 RAM에 맞는 소형 엄선 모델을 중심으로 설계되었습니다; 더 큰 모델이 필요한 사용자는 성능이 우수한 데스크톱 인스턴스와 함께 연결 모드를 사용하거나, 직접 데스크톱/워크스테이션 구성을 사용해야 합니다.

AnythingLLM Mobile과 대안 비교

AnythingLLM Mobile

온디바이스 vs. 클라이언트:
둘 다 — 온디바이스 독립형 추론, 또는 자체 호스팅 인스턴스에 연결된 클라이언트
플랫폼:
Android 전용
라이선스 / 비용:
무료, 오픈소스(MIT); 페어링용 Cloud 서비스는 월 50달러부터
AnythingLLM Mobile 관련 문서 (1개)

기타 언급:

AnythingLLM Desktop/Server

온디바이스 vs. 클라이언트:
LLM과 RAG 파이프라인을 로컬 또는 API를 통해 직접 실행
플랫폼:
Mac, Windows, Linux, Docker
라이선스 / 비용:
무료, 오픈소스(MIT); Cloud 호스팅은 월 50달러부터

PocketPal AI

온디바이스 vs. 클라이언트:
온디바이스 전용 — 서버/클라이언트 모드 없음
플랫폼:
iPhone/iPad, Android
라이선스 / 비용:
무료, 오픈소스(MIT)

Private LLM

온디바이스 vs. 클라이언트:
온디바이스 전용 — 서버/클라이언트 모드 없음
플랫폼:
iPhone/iPad/Mac(Apple 전용)
라이선스 / 비용:
유료, 일회성 구매; 클로즈드 소스

LLM Farm

온디바이스 vs. 클라이언트:
llama.cpp를 통한 온디바이스 전용
플랫폼:
iPhone/iPad
라이선스 / 비용:
무료, 오픈소스; 역사적으로 한때 App Store에서 삭제된 적이 있으므로 설치 전 최신 지원 여부를 확인하세요
LLM Farm 관련 문서 (4개)

기타 언급:

Layla

온디바이스 vs. 클라이언트:
온디바이스 전용에 선택적 원격 API 공급자 추가 지원
플랫폼:
Android, iPhone/iPad
라이선스 / 비용:
무료 등급과 유료 등급 제공; 클로즈드 소스
Layla 관련 문서 (3개)

기타 언급:

Maid

온디바이스 vs. 클라이언트:
llama.cpp를 통한 온디바이스 전용; Ollama/OpenAI 호환 원격 엔드포인트도 지원
플랫폼:
Android, iPhone/iPad
라이선스 / 비용:
무료, 오픈소스(MIT)
Maid 관련 문서 (4개)

기타 언급:

RikkaHub

온디바이스 vs. 클라이언트:
둘 다 — LiteRT 공급자를 통한 로컬 온디바이스 추론, 그리고 멀티 공급자 클라우드 클라이언트
플랫폼:
Android
라이선스 / 비용:
무료, 오픈소스
RikkaHub 관련 문서 (1개)

기타 언급:

AnythingLLM Mobile과 RikkaHub는 이 표에서 진정한 온디바이스/클라이언트 이중 설계를 갖춘 두 앱입니다; 나머지 모든 행은 엄격히 온디바이스로만 작동하거나 엄격히 클라이언트로만 작동하며, 이는 단일 기능 목록만 보고 설치를 결정하기 전에 확인해야 할 핵심적인 차이입니다. 지원 여부가 변경될 수 있으므로, 이 표에 있는 앱을 설치하기 전에 최신 App Store/Play Store 페이지를 직접 확인하세요.

자주 묻는 질문

AnythingLLM Mobile은 스마트폰 자체에서 AI 모델을 실행하나요?

네, 독립형 모드에서는 그렇습니다. 이 앱은 엄선된 소형 GGUF 언어 모델을 다운로드하여 React Native용 llama.cpp 기반 추론 엔진인 Cactus Compute를 통해 기기에서 실행하며, 오프라인 문서 RAG를 위한 로컬 임베딩 모델과 벡터 데이터베이스를 함께 사용합니다. 별도로, 이 앱은 자체 호스팅된 AnythingLLM Desktop 또는 Cloud 인스턴스와 페어링하는 연결 모드도 지원하며, 이 경우 추론은 스마트폰이 아니라 페어링된 인스턴스에서 이루어집니다.

AnythingLLM Mobile은 iPhone에서 사용할 수 있나요?

아니요. 본 리뷰 시점 기준으로 AnythingLLM Mobile은 App Store 페이지가 없으며, Google Play 또는 APK 직접 다운로드를 통해 Android에서만 제공됩니다. iOS 지원은 프로젝트의 GitHub 이슈 트래커에서 논의되었지만, Mintplex Labs가 출시일을 확정하는 공식 발표는 없습니다.

AnythingLLM Mobile은 무료인가요?

네, 모바일 앱 자체는 무료이며 MIT 라이선스로 오픈소스화되어 있고, 독립형 온디바이스 사용에 구독이 필요하지 않습니다. 자체 호스팅 대신 연결 모드를 사용해 호스팅된 AnythingLLM Cloud 인스턴스와 페어링하는 경우, 이 별도 Cloud 서비스는 월 50달러부터 시작하는 유료 요금제가 있습니다 — 하지만 모바일 앱 자체와 데스크톱/Docker 자체 호스팅 옵션은 계속 무료입니다.

AnythingLLM Mobile은 누가 만드나요?

AnythingLLM Mobile은 2022년 Timothy Carambat가 설립하고 미국 캘리포니아주 어바인에 본사를 둔 Mintplex Labs가 만듭니다. Mintplex Labs는 Y Combinator 2022년 여름 배치를 거쳤으며, 데스크톱/서버용 AnythingLLM 애플리케이션도 개발합니다.

AnythingLLM Mobile은 어떤 라이선스로 공개되나요?

AnythingLLM Mobile은 관대한 오픈소스 라이선스인 MIT 라이선스로 공개되며, 소스코드는 GitHub에 공개되어 있습니다. 이 앱이 연결할 수 있는 데스크톱/서버용 AnythingLLM 프로젝트도 동일하게 MIT 라이선스입니다.

AnythingLLM Mobile을 데스크톱 인스턴스에 연결하려면 어떻게 하나요?

AnythingLLM Desktop, Docker, 또는 Cloud 인스턴스의 Settings > Admin > General에서 "네트워크 검색"을 활성화한 다음, Settings > Tools > AnythingLLM Mobile을 열어 페어링용 QR 코드를 표시합니다. AnythingLLM Mobile 앱 내에서 해당 코드를 스캔하면 연결됩니다. 페어링이 완료되면 워크스페이스, 채팅, 스레드가 스마트폰과 연결된 인스턴스 사이에서 동기화됩니다.

AnythingLLM Mobile은 인터넷 연결이 필요한가요?

독립형 모드는 최초 모델 다운로드 이후에는 필요하지 않습니다 — 추론과 문서 RAG가 완전히 온디바이스에서 실행됩니다. 연결 모드는 자체 호스팅된 데스크톱 또는 Docker 인스턴스에 접속하려면 공유 로컬 네트워크가 필요하고, 호스팅된 AnythingLLM Cloud 인스턴스에 접속하려면 인터넷 연결이 필요합니다.

AnythingLLM Mobile로 제 문서와 대화할 수 있나요?

네, 두 모드 모두 가능합니다. 독립형 모드에서는 온디바이스 임베딩 모델과 로컬 벡터 데이터베이스를 사용해 문서를 완전히 오프라인으로 청크 분할, 임베딩, 검색합니다. 연결 모드에서는 페어링된 데스크톱, Docker, 또는 Cloud 인스턴스가 데스크톱 앱과 마찬가지로 자체 설정된 벡터 데이터베이스와 임베딩 모델로 문서 RAG를 처리합니다.

AnythingLLM Mobile과 데스크톱용 AnythingLLM 앱의 차이는 무엇인가요?

AnythingLLM Mobile은 스마트폰용으로 만들어진 별도의 Android 앱으로, 데스크톱 인스턴스에 연결하는 기능 외에도 자체적인 온디바이스 독립형 추론 모드를 갖추고 있습니다. PromptQuorum의 AnythingLLM 대 PrivateGPT 대 Open WebUI 비교 기사에서 다룬 데스크톱/서버용 AnythingLLM 애플리케이션은 Mac, Windows, Linux, 또는 Docker에서 실행되며, 모바일 앱의 독립형 모드보다 더 다양한 LLM 공급자, 벡터 데이터베이스, 에이전트 구성을 지원합니다.

AnythingLLM Mobile은 PocketPal AI나 Private LLM과 비교하면 어떤가요?

PocketPal AI와 Private LLM은 서버 연결 모드가 없는 순수 온디바이스 모바일 채팅 앱입니다; AnythingLLM Mobile은 이 비교에서 유일하게 진정한 이중 설계 — 온디바이스 독립형 추론과, 자체 호스팅되거나 클라우드에 있는 AnythingLLM 인스턴스로의 선택적 연결 모드 — 를 갖춘 앱입니다. 이러한 유연성을 원하거나 이미 데스크톱에서 AnythingLLM을 사용 중이라면 AnythingLLM Mobile을 선택하고, AnythingLLM Mobile이 Android 전용이므로 특히 iPhone 앱이 필요하다면 PocketPal AI(무료, iPhone/Android) 또는 Private LLM(유료, Apple 전용)을 선택하세요.

결론

AnythingLLM Mobile의 이중 설계 — 진정한 온디바이스 독립형 모드와 선택적 연결 모드의 공존 — 는 대부분의 모바일 AI 앱이 둘 중 한 아키텍처에 완전히 전념하는 이 카테고리에서 흔치 않은 사례입니다. 이러한 유연성은 동시에 처음 사용하는 사용자에게 가장 큰 걸림돌이기도 합니다. 어떤 모드가 활성화되어 있는지, 각 모드가 무엇을 할 수 있고 무엇을 할 수 없는지 이해하는 데는 PocketPal AI나 Private LLM 같은 단일 목적 앱보다 더 많은 초기 주의가 필요합니다. 지금 더 큰 제약은 플랫폼입니다. AnythingLLM Mobile은 Android 전용이며, App Store 출시도 없고 iOS 출시일도 확정되지 않았습니다. Android를 사용하며 설정이 필요 없는 무료 오프라인 AI를 원하거나, 이미 AnythingLLM Desktop, Docker, 또는 Cloud를 사용 중이며 스마트폰에서도 동일한 워크스페이스를 원한다면 AnythingLLM Mobile을 선택하세요. iPhone 앱이 필요하다면 대신 Private LLM이나 PocketPal AI를 선택하고, 모바일 클라이언트가 전혀 필요하지 않다면 데스크톱용 AnythingLLM 애플리케이션을 직접 사용하세요.

출처

← 고급 로컬 LLM으로 돌아가기