Aller au contenu principal
PromptQuorumConçu pour les humains. Structuré pour l'IA.
Accueil/LLM locaux avancés
Mobile & Edge LLMs

IA locale sur Android en 2026 : ce qui est possible, ce qui ne l'est pas et les applications que nous couvrons

·45 min de lecturePar · Fondateur de PromptQuorum · Moteur de découverte de l'IA open-weight et open source

Oui : un téléphone Android récent peut exécuter une IA locale utile hors ligne, mais uniquement avec de petits modèles. Comptez 1 à 4 milliards de paramètres avec 6 à 8 GB de RAM et 7 à 8 milliards en quantification à faible nombre de bits avec 12 à 16 GB. Le chat, les questions sur la caméra, la dictée, les questions sur des documents et la traduction fonctionnent ; la qualité d'un modèle de pointe, les longs contextes, la vitesse soutenue et un assistant permanent en arrière-plan, non. Android offre des options plus larges ou plus simples que sur iPhone : installer des applications hors du store, Termux, et faire du téléphone un serveur d'API local.

Points clés

  • L'IA locale sur Android est réelle et utilisable hors ligne, mais c'est de l'IA à petits modèles. Les téléphones de 6 à 8 GB de RAM gèrent des modèles de 1 à 4 milliards de paramètres ; ceux de 12 à 16 GB peuvent en contenir 7 à 8 milliards en quantification à faible nombre de bits. Les réponses de niveau cloud, les longs documents et les longues réponses rapides restent hors de portée.
  • La RAM décide de ce qui tient ; la bande passante mémoire, la chaleur et la puce décident de la vitesse. Un modèle doit tenir dans la RAM libre à côté d'Android lui-même, et la vitesse de génération est plafonnée par la rapidité avec laquelle le téléphone peut relire le modèle depuis la mémoire à chaque token.
  • Quatre moteurs se cachent derrière presque toutes les applications : llama.cpp (fichiers GGUF, CPU et parfois GPU), Google LiteRT-LM (Gemma et d'autres modèles, GPU et de plus en plus NPU), MLC (modèles compilés, GPU OpenCL) et Google AICore avec Gemini Nano (modèle système, téléphones compatibles uniquement, les applications l'appellent via ML Kit).
  • Le NPU est la partie la moins accessible du téléphone. Google, Qualcomm et MediaTek publient des voies NPU via LiteRT et Qualcomm GenieX, mais elles exigent des modèles compilés pour chaque puce. Une application générique de fichiers GGUF installée hors store tournera le plus souvent sur le CPU ou le GPU.
  • Android offre plus de liberté que l'iPhone à plusieurs égards : les applications peuvent être installées hors de Google Play, Termux fournit un terminal Linux sur le téléphone, les téléphones peuvent servir une API compatible OpenAI à votre ordinateur portable, et l'import de modèles GGUF est une fonction courante. Le prix à payer est la fragmentation : les résultats diffèrent selon la marque, la puce et les réglages de batterie.
  • La plupart des applications Android de notre répertoire sont associées à une tâche dans ce guide : chat, vision, voix, documents, traduction, génération d'images, photos, notes, maison connectée et agents, outils pour développeurs, et clients distants pour votre propre serveur.
  • « Zéro télémétrie » est une affirmation, pas une garantie. L'inférence embarquée garde les prompts hors des serveurs, mais l'application peut quand même embarquer des outils d'analyse, de la publicité ou des rapports de plantage. Lisez ensemble la fiche Sécurité des données et la politique de confidentialité ; elles divergent plus souvent qu'on ne le croit.
  • Impossible aujourd'hui : la qualité d'un modèle de pointe hors ligne, les modèles de 70 milliards de paramètres, les contextes d'un million de tokens, un assistant permanent en arrière-plan qu'Android ne tuera pas, et l'accès à Gemini Nano pour n'importe quelle application sur n'importe quel téléphone.
Lire en:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

Les téléphones Android peuvent exécuter une IA locale hors ligne en 2026 : le chat, les questions sur la caméra, la dictée, les questions sur des documents et la traduction fonctionnent avec des modèles d'environ 1 à 4 milliards de paramètres, et de 7 à 8 milliards sur les téléphones de 12 à 16 GB. Ce guide cartographie les principales capacités, les limites strictes, la réalité des puces et de la RAM, et associe les applications Android de notre répertoire à la tâche pour laquelle chacune convient le mieux.

IA locale sur Android en 2026 : ce qui est possible, ce qui ne l'est pas et les applications que nous couvrons

Par où commencer : trois applications à installer

Peu de temps ? Installez l'une de ces trois applications, téléchargez un modèle adapté à la RAM de votre téléphone et testez-le une fois en mode avion. Ces choix viennent des chapitres et des analyses de ce guide, pas de benchmarks ; le reste du guide explique chaque choix.

Autres bons points de départ : sur un téléphone où AICore prend en charge Gemini Nano, comme un Pixel 9 ou 10, essayez PAIOS, qui utilise le modèle système de Google sans téléchargement ; pour les questions sur l'appareil photo et les modèles Gemma, utilisez Google AI Edge Gallery ; pour exécuter de plus gros modèles depuis votre téléphone, connectez-le à Ollama ou LM Studio sur votre propre ordinateur avec LocalMind.

📍 En une phrase

Les débutants peuvent commencer avec PocketPal AI, les utilisateurs avancés avec Maid et un modèle GGUF plus grand, les développeurs avec la ML Kit Prompt API ou LiteRT-LM ; dans tous les cas, la taille du modèle suit la RAM du téléphone.

💬 En termes simples

Une application, un modèle adapté à votre RAM, un test en mode avion.

Débutant

À installer ou utiliser:
PocketPal AI
Premier modèle:
1 à 2B avec 4 à 6 GB de RAM ; 3 à 4B avec 8 GB
Pourquoi ce choix:
Gratuit, sous licence MIT et sans compte. Vous choisissez le modèle, et un modèle trop gros ne se charge tout simplement pas : prenez alors une taille en dessous.

Avancé

À installer ou utiliser:
Maid
Premier modèle:
4 à 8B avec 12 GB ; 7 à 8B avec 16 GB, avec un contexte court
Pourquoi ce choix:
Un lanceur de modèles GGUF pour le plus grand modèle que votre téléphone peut contenir. Attendez-vous à un téléphone plus lent et plus chaud, et gardez le contexte court.

Développeur

À installer ou utiliser:
ML Kit Prompt API ou LiteRT-LM
Premier modèle:
Modèle système de Google, ou votre propre modèle
Pourquoi ce choix:
La Prompt API couvre les petites tâches de texte avec le modèle système ; LiteRT-LM sert pour votre propre modèle. Le chapitre « Voies pour les développeurs » compare les autres voies.

Six réponses rapides avant d'installer

Voici les six questions que les lecteurs posent en premier ; chaque réponse renvoie au chapitre qui l'explique.

📍 En une phrase

La RAM détermine la taille du modèle, 3 à 6 GB d'espace de stockage libre suffisent pour un premier modèle, et un test en mode avion montre si l'application fonctionne hors ligne.

💬 En termes simples

La RAM choisit le modèle, le stockage le contient, et le mode avion le prouve.

  • Quel modèle télécharger ? Suivez votre RAM : 1 à 2B avec 4 à 6 GB, 3 à 4B avec 8 GB et 4 à 8B avec 12 à 16 GB, où 7 à 8B ne tient qu'avec un contexte court. En cas de doute, prenez le plus petit. Voir « Paliers de RAM » plus bas.
  • De quel espace de stockage ai-je besoin ? Libérez 3 à 6 GB pour un premier modèle, car les fichiers de modèle se mesurent en gigaoctets. Voir « Premier essai en 15 minutes ».
  • Quelle sera la vitesse ? PromptQuorum n'a pas réalisé de nouveaux tests de vitesse pour ce guide. La vitesse est limitée par la bande passante mémoire, donc un modèle plus petit répond plus vite ; notez la rapidité d'apparition des mots lors de votre premier prompt et prenez-la comme référence. Voir le chapitre « Puces ».
  • Quelle application est privée ? Aucune ne peut être présumée privée. L'inférence sur l'appareil garde vos prompts hors des serveurs d'inférence d'un éditeur, mais une application peut quand même envoyer des données d'analyse. Vérifiez la fiche Sécurité des données (Data safety), la politique de confidentialité et les autorisations, et faites le test en mode avion ; les applications open source comme PocketPal AI peuvent être auditées, alors que les affirmations des applications closed source reposent sur la confiance. Voir « Confidentialité et télémétrie : la réalité ».
  • Que puis-je faire sans internet ? D'après la carte des capacités de ce guide, le chat, les questions sur l'appareil photo, la dictée, les questions sur des documents et la traduction peuvent fonctionner hors ligne avec des modèles adaptés, après le téléchargement ; la génération d'images et les gros modèles sont lents ou nécessitent un serveur. Voir « La carte des capacités ».
  • Que lire ensuite ? Suivez « Premier essai en 15 minutes », utilisez « Récapitulatif : niveau de téléphone, application, taille de modèle » comme aide-mémoire en un seul tableau, et ouvrez le « Parcours de décision » si vous avez une tâche précise en tête.

Faits rapides

  • Tailles de modèle pratiques : 1 à 2 milliards de paramètres avec 4 à 6 GB de RAM ; 3 à 4 milliards avec 8 GB ; 7 à 8 milliards en quantification à faible nombre de bits avec 12 à 16 GB. Ce sont des règles empiriques issues d'un calcul sur la taille des fichiers, pas des résultats de benchmark.
  • Gemini Nano via ML Kit GenAI : la Prompt API accepte du texte et jusqu'à 10 images, avec une entrée inférieure à environ 4 000 tokens, et ne fonctionne que lorsque l'application appelante est au premier plan (Google).
  • Gemma 4 E2B et E4B : Google les présente comme le socle de Gemini Nano 4 et indique que E2B est jusqu'à 3 fois plus rapide que E4B ; l'AICore Developer Preview a ouvert le 2 avril 2026 (Android Developers Blog).
  • Voies NPU : LiteRT propose des accélérateurs NPU Qualcomm et MediaTek ; Google indique pour Gemma 3n E2B plus de 1 600 tokens/sec en prefill et 28 tokens/sec en décodage sur un NPU Dimensity 9500 (Vivo X300 Pro, chiffres Google, contexte de 4K).
  • TPU des Pixel pour les développeurs : le Tensor SDK est passé en bêta le 19 mai 2026 et liste les Pixel 10, 10 Pro, 10 Pro XL et 10 Pro Fold.
  • Versions d'Android : Google AI Edge Gallery requiert Android 12 ou ultérieur ; la documentation NPU de LiteRT exige le niveau d'API 31 ou supérieur ; AppFunctions requiert Android 16 ou ultérieur.
  • Termux : installez-le depuis F-Droid ou GitHub ; la version Google Play est signalée comme expérimentale par les mainteneurs de Termux, et mélanger les sources casse les mises à jour.
  • Applications couvertes : les applications Android du répertoire PromptQuorum que nous avons examinées à partir de sources publiques, chacune liée une seule fois à sa propre revue lorsque c'est pertinent ; consultez le répertoire pour la liste complète.
  • Vous êtes sur iPhone ? Consultez le guide jumeau IA locale sur iPhone.

La carte des capacités : ce qui marche, marche en partie, ne marche pas

La plupart des tâches d'IA courantes fonctionnent sur un téléphone Android sans connexion ; celles qui exigent de l'échelle ou une activité constante en arrière-plan, non. Le tableau donne le verdict par capacité, une application pour démarrer et la limite stricte. Chaque chapitre ci-dessous liste les applications que nous couvrons pour cette tâche.

« Fonctionne » signifie que de petits modèles embarqués font aujourd'hui le travail de façon acceptable. « En partie » signifie que cela marche avec un serveur dans la boucle, avec une seule application, ou avec des limites de qualité nettes. « Non » signifie que la limite est physique ou une règle de la plateforme, et non une application manquante.

📍 En une phrase

Sur Android en 2026, le chat, les questions sur la caméra, la dictée, la traduction et les questions sur de courts documents tournent hors ligne sur de petits modèles, tandis que les grands modèles, les longs contextes et les assistants permanents, non.

💬 En termes simples

Voyez un modèle embarqué comme un stagiaire compétent avec un petit bureau : rapide, privé et hors ligne, mais incapable de contenir toute une bibliothèque ou d'égaler un modèle cloud sur les questions difficiles.

Capacité
Sur le téléphone ?
Pour démarrer
Limite stricte
Chat hors ligneFonctionnePocketPal AIPetits modèles uniquement
Questions sur la caméra et les imagesFonctionneGoogle AI Edge GalleryRequiert un modèle capable de vision
Dictée (parole vers texte)FonctionnePrivate MindLa précision varie selon la langue
Réponses lues à voix hauteFonctionneToolNeuronLa qualité de la voix varie selon l'application
Assistant vocal hors ligneEn partieHome Assistant AssistAndroid peut tuer les écoutes en arrière-plan
Questions sur documents et PDFFonctionneAnythingLLM MobileFenêtre de contexte des petits modèles
TraductionFonctionneLLM HubPlus faible sur les langues rares
Génération d'imagesEn partieTokForgePlus lent qu'un GPU de bureau
Recherche de photosEn partieEnte PhotosTourne souvent sur un serveur ou un ordinateur
IA dans les notes et les favorisEn partieKarakeepL'IA tourne généralement sur votre serveur
Hub de maison connectéeEn partieScryptedLe téléphone est un client, pas le cerveau
Agents qui pilotent le téléphonePrécoceKai 9000Les accroches système sont encore en préversion
Téléphone comme client légerFonctionneLocalMindVotre serveur doit être allumé
Intégrer l'IA à votre propre applicationFonctionneRunAnywhereLe NPU exige des builds par puce
Modèles de 70 milliards de paramètresNonUtilisez plutôt un serveurRAM
Réponses de niveau cloud hors ligneNonUtilisez plutôt un serveurTaille du modèle

💡Astuce: Si une tâche indique « En partie », la solution habituelle est le schéma distant : le téléphone sert d'écran et de microphone, et un ordinateur ou un serveur domestique exécute le modèle plus gros. Voir le chapitre sur le mode distant.

Comment ce guide a été conçu

Ceci est une carte issue d'une recherche documentaire (desk research), pas un rapport de benchmark. Elle a été rédigée par Hans Kuepper à partir de la documentation de Google, Qualcomm, MediaTek et Termux lue en novembre 2026, et des revues PromptQuorum individuelles liées dans chaque chapitre. PromptQuorum n'a mené aucun nouveau test de vitesse pour ce guide.

Plusieurs des revues liées indiquent qu'elles reposent sur les fiches des stores, les politiques de confidentialité et la documentation des éditeurs, et que PromptQuorum n'a pas exécuté l'application. Lorsqu'une affirmation vient de l'éditeur ou de Google, le texte le dit. Lorsque nous n'avons pas pu confirmer un point auprès d'une source primaire, le texte indique « incertain » ou l'omet.

Les chiffres de vitesse n'apparaissent que lorsqu'une source nommée les a publiés, avec l'appareil nommé. Les tailles de modèle, les paliers de RAM et le « plafond de tokens par seconde » sont des calculs, signalés comme tels.

📍 En une phrase

Ce guide combine la documentation officielle des plateformes avec les revues d'applications de PromptQuorum et n'exécute aucun nouveau benchmark, de sorte que chaque chiffre est soit sourcé, soit signalé comme un calcul.

💬 En termes simples

Si une phrase cite une vitesse, un appareil et une source, elle a été publiée par cette source ; sans source, c'est une règle empirique.

Paliers de RAM : quelle taille de modèle votre téléphone peut contenir

La RAM est le premier filtre : le modèle doit tenir dans la mémoire libre à côté d'Android et de vos autres applications. Un modèle quantifié sur 4 bits demande environ 0.5 à 0.6 GB par milliard de paramètres pour les poids, plus une mémoire de travail qui croît avec la longueur du contexte. Android, le lanceur et les services d'arrière-plan occupent généralement plusieurs gigaoctets de la RAM d'un téléphone ; un téléphone de 12 GB ne donne donc pas 12 GB à une application.

La vitesse suit la bande passante mémoire. Générer un token revient à relire l'essentiel du modèle depuis la mémoire, donc le plafond est d'environ la bande passante divisée par la taille du modèle. Notre guide de l'IA embarquée du Galaxy S26 applique ce calcul : 85.6 GB/s sur un modèle 4 bits de 3.5 GB donnent un plafond théorique proche de 24 tokens par seconde. Les applications réelles restent sous ce plafond, et un téléphone chaud encore davantage.

Considérez le tableau comme un point de départ. Plusieurs applications examinées ne publient aucun seuil de RAM fixe et indiquent que le besoin dépend du modèle chargé ; d'autres fixent leurs propres limites. Ensu désactive le chat sur les téléphones de moins de 4 GB de RAM, et la fiche Google Play de Private Mind recommande un téléphone de 4 GB ou plus pour les modèles plus gros.

📍 En une phrase

Un téléphone de 6 à 8 GB de RAM accueille des modèles d'environ 1 à 4 milliards de paramètres en quantification 4 bits, et les téléphones de 12 à 16 GB peuvent en contenir 7 à 8 milliards.

💬 En termes simples

La quantification réduit un modèle en stockant chaque poids sur moins de bits ; un modèle 4 bits fait à peu près le quart d'un modèle 16 bits, au prix d'une légère perte de qualité.

RAM du téléphone
Taille du modèle (4 bits)
Exemples de modèles
À quoi s'attendre
4 GB0.5 à 1BQwen3 0.6B, Gemma 3 1BRéponses courtes, tâches simples
6 GB1 à 2BQwen3 1.7B, SmolLM2 1.7BChat utilisable, résumés de base
8 GB3 à 4BPhi-4 Mini, Qwen3 4BMeilleur équilibre sur la plupart des téléphones
12 GB4 à 8B (juste)Gemma 4 E4B, Llama 3.2 3B7 à 8B seulement avec un petit contexte
16 GB et plus7 à 8BModèles instruct de 7 à 8BPlus lent, plus chaud, attentes plus longues

⚠️Attention: Les pages de Google ne publient aucun seuil de RAM pour Gemma 4 E2B ou E4B dans les sources que nous avons lues. Considérez les besoins en RAM comme incertains et consultez la liste de modèles de l'application sur votre téléphone.

💡Astuce: Quand un modèle ne se charge pas, la cause est généralement la RAM libre, pas la RAM totale. Fermez les autres applications, redémarrez le téléphone et choisissez le modèle immédiatement plus petit avant d'incriminer l'application.

Puces : Snapdragon, Tensor, Dimensity, Exynos

Les puces phares actuelles intègrent un NPU, mais une application de chat installée hors store parvient rarement à l'utiliser. Les voies NPU qui existent sont publiées par les fabricants de puces et Google, et elles exigent des modèles préparés pour la puce concernée. Les applications construites sur des builds génériques de llama.cpp tournent surtout sur le CPU, parfois sur le GPU.

Snapdragon. Qualcomm GenieX prend en charge Android sur les Snapdragon 8 Elite et 8 Elite Gen 5, exécute des modèles GGUF via llama.cpp avec un backend Hexagon et recommande la quantification Q4_0 pour la voie NPU ; la page n'indique pas de statut de publication. L'accélérateur Qualcomm de LiteRT chez Google indique pour FastVLM-0.5B sur le NPU du Snapdragon 8 Elite Gen 5 0.12 seconde jusqu'au premier token et plus de 100 tokens par seconde en décodage (Xiaomi 17 Pro Max, chiffres Google). Ce sont aujourd'hui des voies pour développeurs, pas des boutons dans une application de chat.

Google Tensor. Le Pixel 9 exécute Gemini Nano via AICore et ML Kit ; le Pixel 10 avec Tensor G5 est listé pour la prise en charge de Gemini Nano 4. Pour vos propres modèles, le Tensor SDK de Google est passé en bêta le 19 mai 2026 pour la famille Pixel 10 et exécute les modèles sur le TPU via LiteRT. Savoir si une application de chat tierce donnée l'utilise déjà est à vérifier application par application.

MediaTek Dimensity. Google et MediaTek ont publié un accélérateur LiteRT NeuroPilot avec des modèles précompilés (Qwen3 0.6B, Gemma 3 270M, Gemma 3 1B, Gemma 3n E2B, EmbeddingGemma 300M). La puce de référence est le Dimensity 9500 d'un Vivo X300 Pro, où Google indique pour Gemma 3n E2B plus de 1 600 tokens par seconde en prefill et 28 tokens par seconde en décodage avec un contexte de 4K. La conversion d'un modèle Gemma personnalisé pour le NPU MediaTek était annoncée comme « bientôt ».

Samsung Exynos. Dans notre article sur le Galaxy S26, les S26 et S26+ utilisent l'Exynos 2600 en Europe, en Corée et dans la plupart des autres marchés, et un Snapdragon aux États-Unis, en Chine et au Japon, tandis que le S26 Ultra utilise partout le Snapdragon 8 Elite Gen 5. Nous n'avons trouvé aucune documentation primaire d'une voie NPU ouverte pour les applications de modèles de langage tierces sur Exynos ; supposez donc le CPU ou le GPU pour les applications installées hors store. La génération d'images EdgeFusion de Samsung sur le NPU de l'Exynos 2600 est un pipeline Samsung et Nota AI, pas quelque chose dont une application générique hérite.

📍 En une phrase

Snapdragon, Tensor et Dimensity disposent tous de voies NPU ou TPU publiées via LiteRT ou des SDK de fabricants, mais une application GGUF générique installée hors store tourne généralement sur le CPU ou le GPU, et Exynos n'a aucune voie ouverte documentée pour les modèles de langage tiers.

💬 En termes simples

Le NPU est une voie rapide qui exige un modèle reconstruit pour chaque puce ; les applications qui livrent un seul fichier de modèle universel ne peuvent pas l'utiliser.

Famille de puces
Voie NPU ou TPU ouverte
Où c'est documenté
Statut
Snapdragon 8 Elite / Gen 5Oui, builds par puceLiteRT, Qualcomm GenieXVoies pour développeurs
Tensor G5 (Pixel 10)Oui, via Tensor SDKGoogle Developers BlogBêta (mai 2026)
Tensor G4 (Pixel 9)Gemini Nano via ML KitML Kit GenAIAppareil compatible
Dimensity 9500Oui, NeuroPilotGoogle Developers BlogModèles précompilés
Exynos 2600Non documentée pour les LLMAucune trouvéeSupposez CPU ou GPU
Puces plus anciennes ou d'entrée de gammeRarementVariableCPU, petits modèles

⚠️Attention: Ne choisissez pas un téléphone pour l'IA locale d'après un chiffre de « TOPS » du NPU. Le débit de crête d'un NPU dit peu de choses sur une application de chat qui ne l'utilise jamais. La taille de la RAM, la bande passante mémoire et le refroidissement déterminent l'essentiel des résultats réels.

Les quatre moteurs principaux derrière les applications d'IA Android

Presque chaque application de ce guide est une interface pour l'un de quatre moteurs, et le moteur explique mieux les forces et les limites de l'application que son marketing. Si vous connaissez le moteur, vous savez quels fichiers de modèle fonctionnent, si le NPU est utilisable et où vont vos données.

📍 En une phrase

La plupart des applications d'IA embarquée sur Android reposent sur l'un de quatre moteurs principaux : llama.cpp pour les fichiers GGUF, LiteRT-LM pour les modèles de la classe Gemma, MLC pour les modèles compilés, ou Google AICore pour le modèle système Gemini Nano.

💬 En termes simples

Le moteur décide des fichiers de modèle que vous pouvez charger et de la part de la puce utilisée ; l'application décide de l'agrément d'utilisation.

llama.cpp

Exécute:
Des fichiers GGUF depuis Hugging Face ; le plus large choix de modèles, et la plupart des applications permettent d'importer votre propre fichier.
Accélération:
CPU par défaut ; certaines applications ajoutent le GPU. Un backend Hexagon existe dans Qualcomm GenieX.
Exemples d'applications:
PocketPal AI, Maid, LM Playground, KernelAI
Articles sur llama.cpp (9)

+180 autres non affichés

LiteRT-LM

Exécute:
Le runtime edge de Google pour Gemma et d'autres modèles en fichiers .litertlm, avec entrée vision et audio et appel de fonctions. Google liste les familles Gemma 4, Gemma 3n, Llama, Phi-4 et Qwen.
Accélération:
Voies GPU et NPU ; les API Python, Kotlin et C++ sont marquées comme stables.
Exemples d'applications:
Google AI Edge Gallery, OlliteRT, MemoryAI

MLC LLM

Exécute:
Des modèles compilés à l'avance pour une seule cible ; vous obtenez une bibliothèque sélectionnée, pas n'importe quel fichier.
Accélération:
GPU OpenCL sur Android ; la prise en charge serait inégale selon les téléphones (voir la revue de MLC Chat).
Exemples d'applications:
MLC Chat, MLC LLM
Articles sur MLC LLM (7)

Également mentionné dans :

AICore avec Gemini Nano

Exécute:
Le modèle système de Google, géré et mis à jour par Android ; les applications y accèdent via ML Kit GenAI, il n'y a donc rien à télécharger dans l'application.
Accélération:
Ce que fournit le téléphone compatible ; les applications ne peuvent pas choisir le matériel.
Exemples d'applications:
PAIOS

💡Astuce: D'autres moteurs existent. Private Mind repose sur la bibliothèque React Native ExecuTorch, et Ensu et Atomic Chat apportent leurs propres piles. Les quatre ci-dessus couvrent l'essentiel de ce que vous installerez.

Là où Android offre plus de liberté que l'iPhone

Android est une plateforme plus ouverte que l'iPhone pour l'IA locale, au sens où les applications peuvent charger leurs propres modèles et moteurs : vous pouvez installer des applications hors du store, exécuter un environnement Linux et transformer le téléphone en serveur. Le coût est la fragmentation. Une recette qui marche sur un Galaxy haut de gamme peut échouer sur un téléphone d'entrée de gamme d'une autre marque, et nous n'avons trouvé aucune liste de compatibilité unique et neutre vis-à-vis des fabricants.

Pour le côté Apple de chaque comparaison ci-dessous, lisez IA locale sur iPhone. Pour les deux grands écosystèmes côte à côte, voir IA embarquée Galaxy vs iPhone.

📍 En une phrase

Android autorise plus librement que iOS les APK installés hors store, Termux, F-Droid et les serveurs d'API hébergés sur le téléphone, au prix de résultats inégaux selon les marques et les puces.

💬 En termes simples

Android permet de bricoler plus en profondeur ; l'iPhone donne des résultats plus prévisibles sur moins d'appareils.

  • Installation hors store et stores alternatifs. MLC Chat est distribué sous forme d'APK depuis les releases GitHub de l'éditeur, et Google AI Edge Gallery propose un APK pour les personnes sans Google Play. La même application peut exister à plusieurs endroits ; gardez donc une seule source par application.
  • Termux. Un vrai terminal sur le téléphone, installable depuis F-Droid ou GitHub, peut compiler et exécuter llama.cpp sans root. C'est aussi là que les limites d'arrière-plan d'Android pèsent le plus (voir le chapitre sur la batterie).
  • Le téléphone comme serveur. OlliteRT, Mobile LM Server, Ollama Local AI et ToolNeuron exposent un point d'accès de type OpenAI afin que d'autres appareils de votre réseau puissent utiliser le modèle du téléphone.
  • Choix de modèles. L'import de GGUF est une fonction courante des applications Android ; vous pouvez donc charger presque n'importe quel petit modèle open-weight publié par un développeur, pas seulement une liste sélectionnée.
  • Variété du matériel. Les téléphones de jeu avec 16 GB de RAM ou plus et un refroidissement actif peuvent offrir plus de marge que les iPhone auxquels nous les comparons. Revers de la médaille : les téléphones bon marché de 4 GB sont courants, et ce sont de mauvaises machines pour l'IA locale.
  • Là où l'iPhone est plus simple. Un seul fabricant, un budget mémoire par classe de modèle et moins de surprises liées à l'optimisation de la batterie rendent les résultats de l'iPhone plus faciles à prévoir. Si la prévisibilité compte plus que la flexibilité, le guide jumeau vous conviendra peut-être mieux.

Assistants de chat de notre répertoire, par type

Le chat hors ligne est la tâche la plus largement prise en charge sur Android dans notre répertoire, et le choix de l'application est surtout un choix de compromis : open source ou fermé, n'importe quel fichier GGUF ou une liste sélectionnée, gratuit ou payant. Chaque ligne ci-dessous indique ce que fait l'application et sa limite honnête. Les applications qui conviennent mieux à une tâche plus précise réapparaissent dans le chapitre de cette tâche.

Pour une comparaison de vitesse et de mise en place des applications les plus connues, lisez Meilleures applications LLM locales pour Android. Pour le choix du modèle, lisez Modèles LLM mobiles : Phi-4, Gemma et SmolLM et la vue d'ensemble LLM locaux sur mobile. Les propriétaires de tablettes ajouteront Exécuter l'IA sur une tablette.

📍 En une phrase

Des dizaines d'applications Android exécutent des modèles de chat sur le téléphone ; les lanceurs GGUF open source offrent le plus large choix de modèles, les applications à code fermé proposent des téléchargements guidés, et Google AI Edge Gallery est l'interface propre à Google pour les modèles de la classe Gemma.

💬 En termes simples

Choisissez un lanceur open source si vous voulez choisir vos modèles vous-même, et une application guidée si vous voulez que cela marche en cinq minutes.

Lanceurs open source et créés par l'éditeur (commencez ici)

  • PocketPal AI : lanceur GGUF gratuit sous licence MIT pour Android et iPhone, sans compte ; une place de marché communautaire facultative vend des préréglages premium. Limite : vous choisissez le modèle, et l'application n'a pas de seuil de RAM fixe, de sorte qu'un modèle trop gros échoue simplement à se charger.
  • Google AI Edge Gallery : vitrine gratuite de Google pour les modèles embarqués sur LiteRT, avec chat, questions sur images, transcription audio et tests de prompts. Elle requiert Android 12 ou ultérieur et s'installe depuis Google Play ou sous forme d'APK. Limite : Google qualifie l'application de bêta expérimentale. Son étiquette de confidentialité de l'App Store liste certains diagnostics de l'appareil (d'après notre revue de la version iPhone) ; consultez la fiche Sécurité des données Android avant de la considérer comme sans télémétrie.
  • Maid : sous licence MIT ; exécute des modèles GGUF via llama.cpp ou se connecte à des fournisseurs distants avec votre propre clé. Le code a été réécrit en React Native pour la version 3.0.0 et n'est aujourd'hui livré que comme application Android. Limite : les anciennes versions iOS et bureau ont disparu, donc les anciens tutoriels ne correspondront pas.
  • Off Grid AI : gratuite, sous licence MIT, sans compte, pour Android, iOS, macOS et Windows. Limite : les chiffres de téléchargement du site de l'éditeur sont auto-déclarés et n'ont pas pu être recoupés avec les stores d'applications.
  • Private Mind : sous licence MIT, de Software Mansion, exécute les modèles via React Native ExecuTorch, avec questions sur documents, dictée Whisper et benchmarks de vitesse intégrés. Limite : depuis la version 1.3.0, une option Web facultative récupère des pages sur Internet ; laissez-la désactivée pour un usage strictement hors ligne.
  • Atomic Chat : Apache-2.0 ; parcourt plus de 1 000 modèles Hugging Face, expose une API locale compatible OpenAI et prend en charge les agents. Limite : des fournisseurs cloud facultatifs sont intégrés, donc vérifiez qu'aucun n'est activé si vous voulez du hors ligne uniquement.
  • Ensu : AGPL-3.0, de l'équipe Ente Labs, avec entrée d'images, dictée vocale locale et sans compte. Limite : le chat est désactivé sur les téléphones de moins de 4 GB de RAM, et PromptQuorum ne l'a pas testée en conditions réelles.
  • Llamatik : chatbot hors ligne sous licence MIT qui sert aussi de vitrine au SDK Kotlin Multiplatform du développeur ; la version Android est arrivée sur Google Play en novembre 2025. Limite : un seul développeur indépendant et une application jeune.
  • LM Playground : lanceur GGUF sous licence MIT avec questions sur documents, entrée photo pour les modèles de vision, affichage du raisonnement et outils facultatifs. Limite : développeur indépendant ; la revue repose sur la fiche du store, le site web et le dépôt.
  • MLC Chat : application Apache-2.0 reposant sur le compilateur MLC, avec inférence accélérée par GPU. C'est un APK issu des releases GitHub de l'éditeur, pas une fiche Google Play. Limite : la bibliothèque de modèles sélectionnée, une prise en charge OpenCL inégale selon les téléphones, et un long intervalle depuis sa dernière mise à jour (voir le chapitre sur les applications peu actives).

Applications grand public gratuites, à code fermé

  • KernelAI : télécharge des modèles ouverts (53, de 112 MB à 3.11 GB selon l'éditeur) et les exécute via llama.cpp, avec documents et vision. Limite : code fermé d'un seul éditeur, donc les affirmations reposent sur ses propres pages.
  • MemoryAI : exécute des modèles via llama.cpp et Google LiteRT, avec questions sur documents, une Agent Memory modifiable, voix mains libres et un Kid Mode protégé par PIN. Limite : code fermé, un seul développeur indépendant.
  • Loci AI : choisit llama.cpp ou MLX selon le modèle, gère la température du téléphone et synchronise la mémoire entre les chats ; peut se lier à un ordinateur pour de plus gros modèles. Limite : code fermé ; la promesse de confidentialité peut dépendre du fait que les applications restent hors ligne après la configuration.
  • On Device LLM : chat hors ligne gratuit avec import GGUF et API locale compatible OpenAI facultative. Limite : application récente, code fermé ; Google Play l'intitule « Local LLM », et ce n'est pas l'une des applications iPhone aux noms similaires.
  • LocalAI: Offline AI Chat LLM : chat llama.cpp avec un palier premium facultatif, chat sur documents, vision et sortie structurée. Limite : code fermé et aucun dépôt public trouvé.
  • Chatty-mini : chat GGUF en mode portrait d'abord, d'un développeur indépendant. Limite : documentation publique clairsemée, et la licence n'est pas confirmée.
  • Caelum : assistant gratuit de chat et de documents qui dit fonctionner sur le téléphone, avec recherche web facultative via Brave. Limite : aucune mise à jour depuis août 2025 ; voir le chapitre sur les applications peu actives.

Compagnons, applications payantes et applications soutenues par une entreprise

  • Layla : application payante (achat unique plus paliers intégrés) construite autour d'un compagnon de personnage et de jeu de rôle exécuté localement. Limite : code fermé et un prix ; c'est d'abord un compagnon, ensuite un utilitaire.
  • Laria : assistant Android payant avec modèles embarqués téléchargeables, identités d'IA personnalisées, outils d'images et fournisseurs cloud facultatifs. Limite : code fermé et, d'après notre revue, la page du développeur montre des exemples de contenu explicite ; lisez d'abord les notes de classification d'âge.
  • Secret AI : personnages personnalisés, Skills et outils MCP, exécutant des modèles GGUF, MNN et MLX. Limite : code fermé ; d'autres produits portent le même nom, donc vérifiez l'éditeur avant d'installer.
  • CompactifAI APP : de Multiverse Computing, propose des modèles compressés pour un usage hors ligne et des modèles plus grands via l'API cloud de l'éditeur. Limite : la voie cloud fait partie du produit, donc le hors ligne est une option que vous choisissez.
  • Liquid Apollo : l'application de Liquid AI pour ses petits modèles LFM2 sur l'appareil, plus OpenRouter et des backends personnalisés. Limite : pas uniquement local ; les modes cloud et serveur personnalisé envoient les prompts hors du téléphone.
  • TokForge : personnages de jeu de rôle, génération d'images, voix et questions sur documents, avec un benchmark de vitesse pouvant publier sur un classement public. Limite : propriétaire, et la version iPhone est une bêta publique.

Le modèle système : Gemini Nano via AICore

  • PAIOS : interface de chat gratuite et open source pour Gemini Nano, fonctionnant via AICore sans téléchargement de modèle dans l'application. Limite : elle ne marche que sur les téléphones où AICore prend en charge Gemini Nano, avec les Pixel 9 et 10 comme exemples cités, et le projet se déclare lui-même en alpha.

💡Astuce: Installez deux applications, pas dix : un lanceur GGUF open source pour le choix (PocketPal AI ou Maid) et Google AI Edge Gallery pour les modèles de la famille Gemma. N'en ajoutez d'autres que pour une tâche qu'elles font mieux.

⚠️Attention: Plusieurs applications ci-dessus sont récentes, à code fermé et examinées uniquement d'après leurs fiches. Leurs listes de fonctions sont les affirmations des éditeurs ; les revues de PromptQuorum indiquent lesquelles n'ont pas été testées en conditions réelles.

Vision et questions sur la caméra

Pointer la caméra vers quelque chose et poser une question fonctionne aujourd'hui sur l'appareil, mais uniquement avec un modèle capable de vision. Un modèle texte seul ignore ou rejette silencieusement les images. Les applications ci-dessous chargent un modèle de vision ou un modèle qui accepte des images en entrée ; c'est le modèle, pas l'application, qui fixe la qualité.

ML Kit de Google propose aussi des options au niveau du système : la Prompt API accepte du texte plus jusqu'à 10 images, et une Image Description API dédiée produit une courte légende d'une image. Les deux tournent sur Gemini Nano sur les téléphones compatibles. Google indique aussi que Gemma 4 améliore les tâches de type OCR, comme la lecture de graphiques et la reconnaissance de l'écriture manuscrite ; nous n'avons trouvé aucun chiffre de précision indépendant, testez donc sur vos propres documents.

📍 En une phrase

Les questions sur la caméra tournent hors ligne sur Android grâce à des modèles de vision dans des applications comme Google AI Edge Gallery, LM Playground et Private Mind, et via Gemini Nano sur les téléphones compatibles.

💬 En termes simples

Un modèle de vision lit lui-même l'image ; un modèle texte seul ne la voit jamais, donc le modèle que vous choisissez compte plus que l'application.

  • Google AI Edge Gallery : sa fonction Ask Image identifie des objets, résout des puzzles visuels et décrit des images de la caméra ou de la galerie. Limite : requiert un modèle Gemma capable de vision, et le README ne cite aucun chiffre de précision.
  • LM Playground : entrée photo pour les modèles de vision au format GGUF. Limite : vous devez trouver et télécharger un GGUF capable de vision ainsi que son fichier projecteur ; l'application ne le fait pas pour vous.
  • Private Mind : liste des modèles de vision à côté des modèles texte. Limite : les modèles de vision plus gros peuvent demander plus de RAM que les 4 GB que sa fiche recommande pour les modèles plus gros.
  • LocalAI: Offline AI Chat LLM : prend en charge les modèles de vision d'après sa fiche Google Play. Limite : code fermé, et la revue de PromptQuorum repose sur la fiche du store.
  • KernelAI : cite la vision parmi ses fonctions. Limite : ses affirmations reposent sur les pages du développeur.
  • Ensu : accepte l'entrée d'images dans le chat. Limite : la prise en charge des images dépend du modèle que vous choisissez.

⚠️Attention: N'utilisez pas un modèle de vision embarqué pour quoi que ce soit où une erreur de lecture compte : étiquettes de médicaments, textes juridiques, panneaux de sécurité. Les petits modèles de vision lisent mal les textes et les nombres, et il n'existe aucun chiffre de précision vérifié sur lequel s'appuyer.

Voix : dictée, transcription, lecture à voix haute, assistants

La dictée et la transcription hors ligne sont les tâches vocales les plus matures sur Android ; un assistant hors ligne toujours à l'écoute est la moins mature. Les deux premières exécutent un modèle vocal comme Whisper sur le téléphone et sont déclenchées par vous. La dernière exige un service d'arrière-plan qu'Android est libre de tuer.

La reconnaissance vocale de ML Kit de Google propose un mode de base que sa documentation dit disponible sur la plupart des appareils Android avec le niveau d'API 31 ou supérieur, et un mode avancé sur les Pixel 10 avec davantage d'appareils en développement. ML Kit liste aussi la traduction vocale et la synthèse vocale ; la page de présentation n'indique pas les exigences d'appareil pour celles-ci, consultez donc les pages des fonctions.

Pour la pile complète de la voix hors ligne, voir Assistants vocaux mobiles, hors ligne, Comparatif des STT Whisper locaux, Comparatif des outils vocaux et audio locaux et Créer un assistant vocal local.

📍 En une phrase

La dictée et la transcription d'enregistrements hors ligne fonctionnent sur Android grâce à des modèles de la classe Whisper dans des applications comme Private Mind, Ensu et LLM Hub, tandis que les assistants vocaux hors ligne permanents restent limités par les règles d'arrière-plan d'Android.

💬 En termes simples

La voix que vous lancez d'un toucher marche hors ligne ; la voix qui doit écouter toute la journée se heurte aux limites de la batterie et aux tueurs d'applications.

Private Mind

Usage vocal:
Dictée avec Whisper, sur le téléphone
Limite honnête:
La langue et la précision dépendent du modèle Whisper chargé.
Articles sur Private Mind (3)

Également mentionné dans :

+11 autres non affichés

Ensu

Usage vocal:
Dictée vocale locale dans le chat
Limite honnête:
Non testée en conditions réelles par PromptQuorum ; aucune donnée de précision.
Articles sur Ensu (2)

Également mentionné dans :

LM Playground

Usage vocal:
Dictée vocale
Limite honnête:
Dictée uniquement ; aucune réponse parlée listée.
Articles sur LM Playground (1)

LLM Hub

Usage vocal:
Transcription Whisper en plus du chat, de l'image et de la traduction
Limite honnête:
Code source disponible sous licence non commerciale ; le palier Premium est payant.
Articles sur LLM Hub (2)

Également mentionné dans :

MemoryAI

Usage vocal:
Conversation vocale mains libres
Limite honnête:
Code fermé ; vérifiez dans la politique de confidentialité si la reconnaissance se fait sur l'appareil.
Articles sur MemoryAI (4)

ToolNeuron

Usage vocal:
Entrée et sortie vocales, plus un stockage chiffré
Limite honnête:
Aucune mise à jour depuis plus de trois mois ; voir les applications peu actives.
Articles sur ToolNeuron (4)

Également mentionné dans :

TokForge

Usage vocal:
Synthèse vocale avec clonage de voix
Limite honnête:
Propriétaire ; le clonage de voix soulève des questions de consentement et d'usurpation d'identité.
Articles sur TokForge (2)

RunAnywhere

Usage vocal:
SDK de reconnaissance vocale, de synthèse vocale et de détection d'activité vocale dans votre propre application
Limite honnête:
Une bibliothèque pour développeurs, pas une application ; des conditions commerciales s'appliquent.
Articles sur RunAnywhere (1)

Également mentionné dans :

Home Assistant Assist

Usage vocal:
Commande vocale de votre maison avec Whisper et Piper sur votre propre matériel
Limite honnête:
Les modèles vocaux tournent sur un serveur domestique, pas sur le téléphone.
Articles sur Home Assistant Assist (2)

AquaVoice

Usage vocal:
Dictée rapide qui saisit le texte dans l'application active
Limite honnête:
Service cloud. Il figure ici pour que vous ne le preniez pas pour du local.
Articles sur AquaVoice (2)

Également mentionné dans :

⚠️Attention: Le clonage de voix et l'enregistrement permanent sont des sujets de confidentialité et de consentement, pas seulement des fonctions. Ne clonez que votre propre voix ou une voix pour laquelle vous avez une autorisation écrite, et prévenez les gens lorsque vous les enregistrez.

Documents, PDF et RAG

Les questions sur des documents fonctionnent sur Android en découpant un fichier en fragments, en trouvant les pertinents et en ne transmettant qu'eux à un petit modèle. C'est la génération augmentée par récupération (RAG). Elle vaut mieux que de coller un PDF entier dans un petit modèle, dont la fenêtre de contexte est trop courte pour cela.

La Prompt API de Gemini Nano limite l'entrée à moins d'environ 4 000 tokens, soit à peu près 3 000 mots anglais ; les questions sur documents au niveau du système exigent donc aussi un découpage. Pour la méthode en détail, lisez RAG local sur vos PDF, pas à pas et Meilleurs outils RAG locaux.

📍 En une phrase

Des applications Android comme AnythingLLM Mobile, Private Mind, LM Playground et Honey LLM répondent à des questions sur vos fichiers sur le téléphone en récupérant des fragments pertinents pour un petit modèle.

💬 En termes simples

L'application cherche dans votre document les bons paragraphes et ne transmet qu'eux au modèle, de sorte qu'un petit modèle peut répondre à des questions sur un long fichier.

  • AnythingLLM Mobile : sous licence MIT, Android uniquement. Le mode autonome exécute un petit modèle et une base de données vectorielle locale sur le téléphone ; le mode connecté s'associe par code QR à AnythingLLM Desktop ou Cloud pour l'ensemble des fonctions. Limite : la qualité en mode autonome est celle d'un petit modèle ; l'association est le moyen d'en obtenir plus.
  • Private Mind : questions sur documents embarquées avec citations des sources. Limite : les citations montrent d'où vient une réponse, pas qu'elle est juste.
  • LM Playground : questions sur documents embarquées dans une application MIT gratuite. Limite : développeur indépendant ; consultez la revue pour les types de fichiers pris en charge avant de vous y fier.
  • Honey LLM : répond à des questions sur des fichiers PDF, DOCX, TXT et Markdown et tient un coffre local chiffré. Limite : application jeune sur Google Play depuis mars 2026 ; notre revue repose sur la fiche du store.
  • LocalAI: Offline AI Chat LLM : chat sur documents PDF, Word, Excel et CSV avec récupération vectorielle embarquée. Limite : code fermé ; la revue repose sur la fiche du store.
  • ToolNeuron : RAG sur documents avec stockage chiffré, voix, serveur HTTP local et plugins. Limite : aucune mise à jour depuis plus de trois mois.
  • MemoryAI : questions sur documents plus une Agent Memory modifiable. Limite : code fermé.
  • Caelum : questions sur documents avec recherche web facultative. Limite : aucune mise à jour depuis août 2025, et l'option de recherche web envoie les requêtes en ligne.

💡Astuce: Pour une grosse archive, ne l'indexez pas sur le téléphone. Exécutez l'index sur un ordinateur ou un serveur et utilisez le téléphone comme client, comme le décrit le chapitre sur le mode distant.

Traduction

La traduction hors ligne sur Android fonctionne pour les paires de langues courantes avec de petits modèles, et la qualité baisse pour les langues rares et les longs textes. Google indique que Gemma 4 prend nativement en charge plus de 140 langues et liste la traduction vocale parmi les API ML Kit GenAI ; aucune de ces deux affirmations n'est accompagnée d'un chiffre de précision que nous ayons pu vérifier, testez donc votre paire de langues avant de vous y fier.

📍 En une phrase

Des applications Android comme LLM Hub et Google AI Edge Gallery traduisent textes et enregistrements sur le téléphone, et ML Kit ajoute la traduction vocale sur les appareils compatibles.

💬 En termes simples

Les petits modèles traduisent bien les phrases courantes et peinent sur les langues rares, les expressions idiomatiques et le vocabulaire juridique.

  • LLM Hub : traduction embarquée à côté du chat, d'un agent avec serveurs MCP, de la génération d'images et de musique et de la transcription Whisper. Limite : code source disponible sous licence non commerciale, et un palier Premium payant.
  • Google AI Edge Gallery : sa fonction Audio Scribe transcrit et traduit des enregistrements vocaux sur l'appareil. Limite : bêta expérimentale.
  • Local AI Mail : client de messagerie Android qui résume, traduit et rédige des réponses avec un modèle embarqué et peut basculer vers Gemini avec votre propre clé. Limite : version très précoce ; le mode Gemini facultatif envoie le texte des e-mails à Google.

⚠️Attention: Ne vous fiez pas à un petit modèle local pour des contrats, des textes médicaux ou tout ce dont une erreur de traduction a des conséquences. Utilisez-le pour l'essentiel et les brouillons, puis vérifiez.

Génération et retouche d'images

La génération d'images sur un téléphone est possible mais lente comparée à un GPU de bureau, et c'est la tâche où l'optimisation propre à la puce compte le plus. Samsung et Nota AI décrivent EdgeFusion, une variante de Stable Diffusion qui génère des images de 512 par 512 en moins d'une seconde sur le NPU de l'Exynos 2600 (affirmation de Samsung et de son partenaire, citée dans notre guide du Galaxy S26). C'est un pipeline optimisé par le fabricant ; nous n'avons trouvé aucune vitesse vérifiée pour les applications installées hors store ci-dessous, nous n'en donnons donc aucune.

Pour l'arbitrage cloud contre local en général, voir Génération d'images par IA locale contre cloud. Les outils de retouche comme l'inpainting sont plus rares sur téléphone que le texte vers image.

📍 En une phrase

Des applications Android comme TokForge, Local AI by GeetMark, Laria et LLM Hub génèrent des images avec des modèles embarqués, mais aucune source que nous ayons trouvée ne publie de temps de génération vérifiés pour elles.

💬 En termes simples

Votre téléphone peut dessiner une image sans Internet, mais attendez-vous à patienter bien plus longtemps que sur un ordinateur doté d'une carte graphique.

  • Local AI: Offline Chat and Image : gratuite, avec chat sur plus de 20 modèles, images Stable Diffusion et 15 boîtes à outils de prompts. Limite : contient des publicités, code source et licence non publiés.
  • TokForge : personnages de jeu de rôle avec génération d'images embarquée, voix et questions sur documents. Limite : propriétaire ; les résultats de vitesse peuvent être publiés sur un classement public, vérifiez donc ce que le benchmark partage.
  • Laria : outils d'images à côté du chat local et cloud. Limite : payante ; certains outils d'images peuvent utiliser des fournisseurs cloud, vérifiez donc chaque outil.
  • LLM Hub : génération d'images et de musique dans la même application que le chat et la traduction. Limite : licence à code source disponible non commerciale.

💡Astuce: La chaleur est la limite pratique. Quelques images d'affilée peuvent suffisamment chauffer le téléphone pour le ralentir. Générez par petits lots et laissez-le refroidir.

Notes, connaissances et favoris

Les applications de notes et de favoris vous donnent un client mobile pour des connaissances qui vivent sur votre serveur ou dans des fichiers simples, et les fonctions d'IA tournent là où vous les dirigez. Aucune des applications ci-dessous n'exécute un modèle de langage dans l'application Android elle-même. Elles se connectent à un fournisseur d'IA de votre choix, qui peut être un serveur Ollama local sur votre réseau ou un service cloud. Cela les rend local-first pour le stockage, pas nécessairement pour l'inférence.

📍 En une phrase

Les clients Android de Karakeep, Linkwarden, Blinko, Logseq, SiYuan et Hillnote gardent notes et favoris sous votre contrôle, tandis que leurs fonctions d'IA tournent sur un serveur ou un fournisseur que vous configurez.

💬 En termes simples

Ces applications stockent vos connaissances localement ; le modèle d'IA qui les étiquette ou les résume peut aussi être local, mais seulement si vous le configurez ainsi.

  • Karakeep : AGPL-3.0, auto-hébergé avec Docker, enregistre liens, notes, images et PDF et utilise l'IA pour les étiqueter, les résumer et les indexer. Il propose des applications Android et iOS et des extensions de navigateur. Limite : l'étiquetage par IA exige un point d'accès de modèle que vous configurez.
  • Linkwarden : gestionnaire de favoris AGPL-3.0 qui enregistre une copie de chaque page et peut étiqueter les liens avec un modèle Ollama local ou un fournisseur cloud. Limite : l'édition Cloud est payante ; l'auto-hébergement est à votre charge.
  • Blinko : GPL-3.0, prise de notes auto-hébergée avec recherche en langage naturel par RAG sur vos propres notes, exécutée dans un conteneur Docker. Limite : la recherche RAG utilise un fournisseur d'IA que vous connectez.
  • Logseq : AGPL-3.0, outliner local-first avec applications Android et iOS. Il n'a aucun modèle intégré ; la bêta de la version à base de données ajoute un serveur MCP facultatif pour qu'un client d'IA externe puisse lire et modifier un graphe. Limite : l'IA est à apporter soi-même et le serveur MCP est en bêta.
  • SiYuan : espace de connaissances par blocs AGPL-3.0 avec applications Android et iOS et collaboration intégrée avec un agent d'IA. Limite : la synchronisation cloud chiffrée est un module payant ; vérifiez où tournent ses fonctions d'IA avant de supposer qu'elles sont locales.
  • Hillnote : espace de notes Markdown pour Mac, Windows, iPhone, iPad et Android qui stocke les fichiers sur votre disque. Son IA embarquée est listée comme Ollama et Apple Intelligence, dont aucun ne tourne sur un téléphone Android ; vérifiez donc quelles fonctions d'IA l'application Android expose réellement avant d'acheter.

💡Astuce: Un bon schéma : auto-héberger l'application de notes et un petit modèle Ollama sur un serveur domestique, et laisser l'application Android servir de client de saisie et de recherche.

Maison connectée et agents

Pour la maison connectée, le téléphone est une télécommande et un microphone ; pour les agents, c'est à la fois un endroit où en exécuter un et, de plus en plus, la chose qu'un agent contrôle. L'IA de la maison connectée relève d'un serveur domestique, car un téléphone se met en veille, se déplace et se fait tuer. Les agents sur Android se répartissent en trois familles : des assistants qui utilisent des outils, des agents qui vivent sur un serveur et utilisent le téléphone comme client, et des agents qui pilotent le téléphone lui-même.

Pour le volet maison connectée en détail, voir le cluster maison connectée de PromptQuorum ; ce chapitre couvre ce que fait le téléphone.

📍 En une phrase

Les téléphones Android servent de clients pour l'IA de la maison connectée (Home Assistant Assist, Scrypted, EverShelf, LocalGhost) et peuvent exécuter des agents utilisant des outils (Kai 9000, PicoClaw, Aori), mais le contrôle au niveau du système d'autres applications reste en préversion.

💬 En termes simples

Laissez un serveur domestique être le cerveau, et laissez le téléphone être la télécommande et le microphone.

Le téléphone comme client de maison connectée

  • Home Assistant Assist : l'assistant vocal intégré à Home Assistant. Il peut tourner entièrement sur votre matériel avec Whisper ou Speech-to-Phrase pour la reconnaissance et Piper pour la parole via le protocole Wyoming, et peut confier des requêtes à un LLM, par exemple servi par Ollama. L'application Android fournit le microphone et l'écran. Limite : les modèles vocaux et de langage tournent sur votre serveur domestique, pas sur le téléphone.
  • Scrypted : plateforme open source de caméras et de NVR avec applications de visualisation Android et iOS, plus des résumés LLM locaux facultatifs via llama.cpp sur le serveur. Limite : le composant NVR est payant, et l'IA tourne là où tourne Scrypted.
  • EverShelf : gestionnaire de garde-manger auto-hébergé avec lecture de codes-barres, suivi des dates de péremption et listes de courses ; les fonctions d'IA sont facultatives et utilisent Gemini, OpenAI ou votre propre serveur Llama. Limite : ce n'est pas une application de chat ou de LLM, et les fournisseurs cloud facultatifs voient ce que vous envoyez.
  • LocalGhost : système d'IA personnel sous licence MIT sur une machine Debian que vous possédez, avec une application Android comme seul client, lisant photos, notes, notes vocales et données de santé avec des modèles locaux. Limite : très précoce (la version examinée était la v0.0.7), et les données de santé sont sensibles ; considérez-le donc comme une expérience.

Agents qui utilisent des outils

  • Kai 9000 : assistant Apache-2.0 avec mémoire persistante et outils sur Android, iOS, bureau et web. Il dialogue par défaut avec des fournisseurs cloud et peut facultativement exécuter un modèle téléchargé, dont Gemma 4, sur l'appareil. Limite : le cloud est le choix par défaut ; passez donc à l'embarqué délibérément.
  • PicoClaw : agent sous licence MIT de Sipeed, un programme Go unique pour petites cartes, téléphones Android et ordinateurs qui transmet les requêtes à un modèle que vous configurez (un fournisseur cloud, ou votre serveur Ollama ou vLLM). Limite : le modèle n'est pas sur le téléphone.
  • Aori : agent personnel gratuit en bêta avec mémoire persistante, personas et routines planifiées pour bureau et Android. Limite : l'application Android envoie les prompts au fournisseur que vous connectez, et elle est restée silencieuse depuis plus de trois mois (voir les applications peu actives).
  • Atomic Bot : empaquetage en un clic de la pile d'agents open source OpenClaw, en local ou sur le cloud payant de l'éditeur. Limite : le répertoire liste le mobile, mais notre revue n'a trouvé aucun build Android documenté sur le site de l'éditeur ; vérifiez donc avant de construire un projet autour.

Agents qui pilotent le téléphone

  • Android AppFunctions permet aux applications d'exposer des fonctions qu'un agent comme Gemini peut appeler. Google le documente comme une API de plateforme avec une bibliothèque Jetpack pour Android 16 et ultérieur ; les sources que nous avons lues divergent sur le fait qu'il soit en préversion limitée ou privée, considérez-le donc comme non disponible pour tous. C'est l'équivalent embarqué des outils MCP, et il exige que le développeur de l'application l'active.
  • ML Kit AgentRunner donne aux développeurs une boucle d'appel d'outils en plusieurs étapes au-dessus de la Prompt API de Gemini Nano, afin qu'une application puisse exécuter un petit agent entièrement sur le téléphone. Il a les mêmes limites que la Prompt API : premier plan uniquement, téléphones compatibles uniquement.
  • Open-AutoGLM est un framework open source d'agent de téléphone de l'équipe Zhipu (zai-org/Open-AutoGLM) qui s'exécute sur un ordinateur et pilote un téléphone Android via ADB, avec un modèle vision-langage qui lit l'écran. Le modèle peut être une API distante ou un modèle servi localement, et l'agent lui-même n'est pas sur le téléphone. Vérifiez vous-même sa licence et la fiche du modèle ; nos sources divergeaient.

⚠️Attention: Un agent qui peut toucher, saisir et lire votre écran peut aussi divulguer ce qu'il voit. Exécutez les agents qui pilotent le téléphone sur un téléphone de test ou un profil professionnel, jamais sur le téléphone qui contient vos applications bancaires.

Voies pour les développeurs

Android offre de nombreuses voies vers l'IA embarquée, et le choix dépend de votre besoin d'intégration au système, de choix de modèles ou de NPU. Le tableau compare les voies ; les notes qui suivent donnent les mises en garde qui font perdre le plus de temps.

📍 En une phrase

Les développeurs peuvent cibler Android avec Google ML Kit GenAI et Gemini Nano, LiteRT et LiteRT-LM, llama.cpp via Termux ou le NDK, MLC LLM, ExecuTorch, Qualcomm GenieX, ou des SDK comme RunAnywhere et Llamatik.

💬 En termes simples

Utilisez le modèle système de Google quand il suffit, un runtime Google ou Qualcomm quand vous avez besoin du NPU, et llama.cpp quand vous voulez n'importe quel modèle GGUF.

Outils pour développeurs examinés

  • RunAnywhere : SDK pour LLM, reconnaissance vocale, synthèse vocale, détection d'activité vocale, modèles vision-langage et embeddings qui tournent sur l'appareil, pour applications iOS, Android, Flutter et React Native. Limite : licence de base Apache-2.0 avec conditions commerciales.
  • Llamatik : le SDK Kotlin Multiplatform derrière le chatbot hors ligne du même nom. Limite : un seul développeur indépendant.
  • Foundry Local : runtime embarqué de Microsoft avec SDK pour C#, JavaScript, Rust et Python. Limite : la revue documente les SDK de bureau et aucun build Android.
  • MLC LLM : le compilateur et le runtime derrière MLC Chat, ciblant iPhone, Android, navigateur (WebGPU) et GPU de bureau. Limite : une étape de compilation par modèle et par cible.
  • OlliteRT : transforme un téléphone Android en serveur compatible OpenAI sur LiteRT-LM de Google, sans interface de chat propre. Limite : il exige des fichiers de modèle .litertlm, pas du GGUF.
  • Mobile LM Server : exécute des modèles GGUF et LiteRT-LM et les sert via des points d'accès compatibles OpenAI et Ollama. Limite : contient des publicités et des achats intégrés ; notre revue repose sur la fiche du store et, d'après cette revue de la fiche, a relevé que sa politique de confidentialité et sa fiche Sécurité des données diffèrent sur la position.
  • Ollama Local AI : exécute des modèles GGUF via un moteur llama.cpp intégré et expose une API compatible OpenAI sur votre Wi-Fi afin que des outils comme Cursor puissent utiliser le téléphone. Limite : ce n'est pas l'application du projet Ollama, et elle est gratuite avec achats intégrés.

ML Kit GenAI et Gemini Nano (AICore)

Idéal pour:
Résumés, reformulation, description d'images et une Prompt API sur un modèle système mis à jour pour vous. Inclut les API AgentRunner et Embedding. L'entrée de la Prompt API reste sous environ 4 000 tokens.
Limite principale:
Usage au premier plan uniquement ; quotas par application ; téléphones compatibles uniquement ; non pris en charge avec un bootloader déverrouillé (Prompt API).

AICore Developer Preview avec Gemma 4

Idéal pour:
Essayer Gemma 4 E2B et E4B via la Prompt API de ML Kit ; le code écrit maintenant est censé se reporter sur les appareils Gemini Nano 4.
Limite principale:
Une préversion ; Google a indiqué que l'appel d'outils, la sortie structurée, les prompts système et le mode réflexion étaient encore en cours d'ajout.

LiteRT et LiteRT-LM

Idéal pour:
Votre propre application avec les familles Gemma, Llama, Phi-4 ou Qwen, accélération GPU et NPU, entrée vision et audio, appel de fonctions.
Limite principale:
Le NPU exige des modèles compilés par puce ; Swift et JavaScript sont des préversions précoces.

Qualcomm AI Hub et GenieX

Idéal pour:
Snapdragon 8 Elite et 8 Elite Gen 5, GGUF via llama.cpp avec un backend Hexagon ou bundles AI Hub précompilés via AI Engine Direct.
Limite principale:
Snapdragon uniquement ; le runtime Android rejette les réglages non par défaut de couches GPU et de contexte sur la voie AI Hub.

MediaTek NeuroPilot via LiteRT

Idéal pour:
NPU Dimensity avec des modèles Gemma et Qwen3 précompilés.
Limite principale:
La conversion personnalisée de Gemma pour MediaTek n'était pas encore disponible.

Google Tensor SDK

Idéal pour:
TPU du Pixel 10 via LiteRT, avec un Model Garden de plus de 100 modèles.
Limite principale:
Bêta ; famille Pixel 10 uniquement.

llama.cpp dans Termux ou le NDK

Idéal pour:
N'importe quel modèle GGUF sur le CPU, sans root ; un prototype ponctuel ou une CLI.
Limite principale:
Limites de processus Android et chaleur ; commencez avec un contexte proche de 4096 sinon le terminal peut être tué.

MLC LLM

Idéal pour:
Compiler un modèle pour une cible avec accélération GPU.
Limite principale:
Chaîne d'outils de compilation ; la prise en charge OpenCL varie selon les téléphones.
Articles sur MLC LLM (7)

Également mentionné dans :

ExecuTorch

Idéal pour:
Export PyTorch vers Android, annoncé comme couvrant les LLM et les backends CPU, GPU, NPU et DSP.
Limite principale:
Nous n'avons pas pu confirmer la liste exacte des backends ni le statut d'après la page de présentation.

SDK : RunAnywhere, Llamatik, Foundry Local

Idéal pour:
Fonctions de parole, de vision et de LLM dans votre propre application (RunAnywhere) ; Kotlin Multiplatform (Llamatik) ; runtime Microsoft avec SDK C#, JavaScript, Rust et Python (Foundry Local).
Limite principale:
Foundry Local est listé pour Android dans le répertoire, mais sa revue ne documente aucun build Android ; confirmez avant usage.

💡Astuce: Lisez les pages des éditeurs : présentation de ML Kit GenAI, Gemini Nano et AICore, LiteRT-LM, Qualcomm AI Hub, Termux et le guide Android de llama.cpp.

Mode distant : le téléphone comme client léger

La configuration d'« IA locale sur Android » la plus capable est souvent un téléphone qui dialogue avec un modèle sur votre propre ordinateur. Le modèle tourne sur votre machine Ollama ou LM Studio ; le téléphone est l'interface. Vous gardez la confidentialité, car le trafic reste sur votre réseau (ou un VPN), et vous obtenez des modèles de la classe 7B à 70B sans toucher à la RAM de votre téléphone.

Trois précautions. Premièrement, le serveur doit être allumé et joignable, donc la configuration échoue hors de chez vous sauf si vous ajoutez un VPN comme WireGuard ou Tailscale. Deuxièmement, Ollama n'écoute par défaut que sur la machine locale, et l'exposer à votre réseau, par exemple en définissant son adresse d'hôte, donne accès à toute personne de ce réseau car il n'a pas de connexion intégrée ; utilisez un reverse proxy avec authentification ou un VPN. Troisièmement, une clé d'API cloud dans la même application est un autre chemin de données ; gardez donc clairement séparés les profils locaux et cloud.

📍 En une phrase

Des applications Android comme LocalMind, PocketLLM Lite, AnythingLLM Mobile, AnyLLM et RikkaHub permettent au téléphone d'agir comme client de votre propre serveur Ollama ou LM Studio sur votre réseau.

💬 En termes simples

Le téléphone est l'écran et le clavier ; le gros du travail de réflexion se fait sur votre ordinateur à la maison.

  • LocalMind : application de chat gratuite sous licence MIT pour Android et iPhone qui envoie les prompts à un modèle sur le téléphone ou à Ollama, LM Studio, OpenRouter ou n'importe quel point d'accès compatible OpenAI, avec outils MCP. Limite : développeur indépendant ; la voie distante envoie du texte au point d'accès que vous choisissez.
  • PocketLLM Lite : application Android sous licence MIT qui exécute des modèles au format Cactus sur le téléphone ou se connecte à votre propre serveur Ollama ou compatible OpenAI. Limite : aucun développeur nommé, et PromptQuorum ne l'a pas installée.
  • AnythingLLM Mobile : le mode connecté s'associe à AnythingLLM Desktop ou Cloud sur le réseau local par code QR. Limite : Android uniquement.
  • AnyLLM : client Android pour vos propres clés d'API (OpenAI, Anthropic, Google, Groq) qui peut aussi se connecter à un serveur Ollama, avec outils MCP et débats entre IA. Limite : code fermé, et les clés cloud signifient que les prompts quittent votre réseau.
  • RikkaHub : client Android open source pour fournisseurs cloud qui peut joindre un serveur Ollama ou LM Studio auto-hébergé via son champ de point d'accès personnalisé. Limite : il n'exécute pas de modèles sur le téléphone, ce n'est donc pas une application hors ligne en soi.
  • Chapper : un client Ollama et LM Studio soigné, mais uniquement Apple (iPhone, iPad, Mac). Limite : aucune version Android n'existe, les utilisateurs Android doivent donc se tourner vers l'une des applications ci-dessus.

💡Astuce: Un téléphone peut aussi être le serveur. OlliteRT, Mobile LM Server et Ollama Local AI servent leur modèle aux autres appareils de votre Wi-Fi, ce qui est utile pour des tests et des scripts rapides mais ne remplace pas un vrai serveur.

Confidentialité et télémétrie : la réalité

L'inférence embarquée garde vos prompts hors des serveurs d'inférence d'un éditeur ; elle n'empêche pas à elle seule l'application d'envoyer des données ailleurs. « Zéro télémétrie » peut signifier aucun SDK d'analyse, aucun rapport de plantage, aucune publicité et aucun appel réseau après le téléchargement du modèle, ou seulement certains de ces points. Les applications varient, et l'affirmation est celle de l'éditeur tant que vous ne la vérifiez pas.

Trois endroits à vérifier. La fiche Sécurité des données de Google Play liste ce que le développeur déclare collecter ou partager ; elle est déclarée par le développeur. La politique de confidentialité dit ce que l'entreprise fait des données ; la revue de Mobile LM Server, fondée sur la fiche, a relevé que la politique et la fiche diffèrent sur la position. Le comportement réseau lui-même : un pare-feu ou un moniteur réseau qui montre les connexions après le téléchargement du modèle est le test le plus direct.

La conception d'AICore de Google est un point de référence utile : Google documente qu'AICore n'a pas d'accès direct à Internet, que les téléchargements de modèles passent par le compagnon open source Private Compute Services, et qu'il ne conserve ni l'entrée ni la sortie après traitement. C'est la description de Google de son propre système, pas un audit indépendant. Les applications construites sur d'autres moteurs font leurs propres promesses : ToolNeuron, par exemple, indique « no telemetry » comme objectif de conception dans son README, tandis que la revue de Google AI Edge Gallery sur la version iPhone a trouvé des diagnostics dans l'étiquette de confidentialité.

📍 En une phrase

L'inférence hors ligne garde les prompts sur le téléphone, mais « zéro télémétrie » doit être vérifié dans la fiche Sécurité des données, la politique de confidentialité et le trafic réseau réel de l'application.

💬 En termes simples

Exécuter le modèle sur votre téléphone protège ce que vous saisissez ; cela ne promet pas que l'application ne communique jamais avec Internet.

Fiche Sécurité des données

Où:
Fiche Google Play
Ce que cela peut révéler:
Collecte et partage de données déclarés par le développeur, éventuellement incomplets ou obsolètes.

Politique de confidentialité

Où:
Site web du développeur
Ce que cela peut révéler:
Conservation, tiers, juridiction, et si la politique correspond à la fiche.

Autorisations

Où:
Paramètres Android, Infos sur l'appli
Ce que cela peut révéler:
Accès au microphone, à la caméra, au stockage ou au réseau dont une application purement locale ne devrait pas avoir besoin.

Fonctions cloud facultatives

Où:
Paramètres de l'application
Ce que cela peut révéler:
Recherche web, fournisseurs cloud et options de synchronisation qui élargissent discrètement le chemin des données.

Trafic réseau

Où:
Test en mode avion ou application pare-feu
Ce que cela peut révéler:
Si le chat fonctionne avec tout accès réseau bloqué après le téléchargement.

Code source

Où:
GitHub ou F-Droid
Ce que cela peut révéler:
Si les affirmations peuvent être auditées ; pour le code fermé, elles reposent sur la confiance.

💡Astuce: Le test en mode avion est simple et honnête : téléchargez le modèle en Wi-Fi, activez le mode avion, puis discutez. Si l'application refuse de fonctionner, elle a besoin du réseau. Si elle fonctionne, elle a pu envoyer des données plus tôt ; combinez donc ce test avec les vérifications des autorisations et de la politique.

⚠️Attention: Obscurify est disponible sur Android et met en avant la confidentialité, mais c'est un service cloud : il donne accès à plus de 200 modèles cloud derrière un numéro de compte aléatoire, avec un mode local facultatif qui exécute des modèles GGUF dans le navigateur. Un cloud anonyme n'est pas de l'IA locale, et AquaVoice est de la dictée cloud. Sachez de quel côté de la ligne se trouve chaque outil.

Batterie, chaleur et arrêts en arrière-plan

Trois choses limitent l'IA locale sur un téléphone avant le modèle : la chaleur, la batterie et l'habitude d'Android de tuer les tâches en arrière-plan. Toutes trois empirent avec les modèles plus gros et les sessions plus longues, et aucune n'apparaît dans une fiche technique.

📍 En une phrase

Sur Android, l'inférence soutenue chauffe le téléphone et vide la batterie, et le système ou le gestionnaire de batterie de la marque peut tuer l'application en pleine réponse sauf si vous l'exemptez.

💬 En termes simples

Exécuter un modèle, c'est comme faire tourner un jeu : le téléphone chauffe, ralentit pour se protéger et peut fermer l'application s'il juge qu'elle gaspille de l'énergie.

  • Chaleur. Un téléphone ne peut pas tenir longtemps sa vitesse de pointe. Il se ralentit pour rester frais, donc la première réponse est généralement plus rapide que la dixième. Nous n'avons aucun chiffre de bridage thermique sourcé et n'en donnons aucun ; testez avec un essai de dix minutes sur votre propre téléphone. Retirez la coque, évitez le chargeur pendant la génération et préférez de plus petits modèles pour les longues sessions.
  • Batterie. La génération occupe en continu le CPU, le GPU ou le NPU, attendez-vous donc à une décharge notable. Google indique que Gemma 4 sur AICore consomme jusqu'à 60 % de batterie en moins que les versions précédentes et tourne jusqu'à 4 fois plus vite (affirmation de Google pour ses propres modèles et téléphones). Ces chiffres ne se transposent pas à une application GGUF installée hors store.
  • Règles de premier plan pour le modèle système de Google. Google documente que l'inférence ML Kit GenAI n'est autorisée que lorsque l'application appelante est l'application au premier plan, avec des erreurs en cas d'usage en arrière-plan et des quotas par application pour les usages rapides ou longs. Les applications qui utilisent Gemini Nano ne peuvent pas résumer en arrière-plan.
  • Limites de processus. Android 12 a introduit une limite sur les processus enfants en arrière-plan, ce qui explique que Termux puisse afficher « signal 9 » et s'arrêter. Les mainteneurs de Termux avertissent qu'il peut être instable sur Android 12 et ultérieur. Sur les versions récentes, des guides décrivent un interrupteur des Options pour les développeurs nommé « Disable child process restrictions » et, sur Android 12 à 13, un réglage ADB ; les détails varient selon la marque et la version, vérifiez donc sur votre téléphone avant de vous fier à l'un ou l'autre.
  • Gestionnaires de batterie des marques. Samsung, Xiaomi, OnePlus et d'autres ajoutent leurs propres listes d'applications en veille. Exemptez votre application d'IA de l'optimisation de la batterie, verrouillez-la dans la vue des applications récentes et gardez l'écran allumé pendant les longues réponses.
  • Stockage. Les modèles sont de gros fichiers. Stockez-les à l'emplacement attendu par l'application, gardez plusieurs gigaoctets libres et supprimez les modèles que vous n'utilisez plus.
  • Taille du contexte. Une fenêtre de contexte plus grande utilise plus de mémoire. Le guide Android de llama.cpp suggère de commencer près de 4096 car des valeurs plus grandes peuvent faire grimper la mémoire et tuer le terminal.

⚠️Attention: Ne laissez pas un téléphone générer des images ou de longues réponses sous un oreiller ou dans une voiture chaude. La chaleur raccourcit la durée de vie de la batterie, et un téléphone bridé est un téléphone lent.

Impossible, ou pas encore

Voici les limites qu'aucune application ne peut corriger aujourd'hui, regroupées selon leur cause. Les connaître évite de perdre des heures à essayer des réglages qui n'aideront pas.

📍 En une phrase

L'IA locale sur Android ne peut pas égaler les modèles cloud sur les tâches difficiles, ne peut pas contenir de modèles de 70 milliards de paramètres ni de très longs contextes, et ne peut pas fonctionner comme un assistant permanent qu'Android ne tuera pas.

💬 En termes simples

Un téléphone a une petite mémoire, une petite batterie et un boîtier chaud et scellé ; ces trois faits fixent le plafond.

Qualité d'un modèle de pointe hors ligne

Pourquoi:
Les modèles de téléphone font de 1 à 8 milliards de paramètres ; les modèles cloud phares sont bien plus grands. Les petits modèles sont plus faibles en raisonnement difficile et en réponses longues et exactes.
Que faire à la place:
Utilisez le local pour les tâches privées, simples ou hors ligne ; utilisez un serveur ou le cloud pour les difficiles.

Modèles de 70 milliards de paramètres

Pourquoi:
En 4 bits, les poids seuls demandent des dizaines de gigaoctets ; la plupart des téléphones ont de 8 à 16 GB au total.
Que faire à la place:
Exécutez-les sur un ordinateur et utilisez le mode distant.

Très longs documents en une fois

Pourquoi:
Les fenêtres de contexte sont petites et la mémoire croît avec le contexte ; la Prompt API de Gemini Nano reste sous environ 4 000 tokens.
Que faire à la place:
Découpez avec du RAG ; indexez sur un serveur.

Réponses rapides pour de longues sorties

Pourquoi:
La vitesse est bornée par la bande passante mémoire, et la chaleur bride les exécutions soutenues.
Que faire à la place:
Choisissez un modèle plus petit ; demandez des réponses courtes.

Un assistant permanent fiable en arrière-plan

Pourquoi:
Android restreint le travail en arrière-plan et les gestionnaires de batterie des marques tuent les applications ; le modèle système de Google ne fonctionne qu'au premier plan.
Que faire à la place:
Placez l'assistant sur un serveur domestique ; utilisez le téléphone comme client.

Vitesse NPU pour n'importe quel modèle installé hors store

Pourquoi:
Les voies NPU exigent des modèles compilés par puce ; seules certaines opérations sont prises en charge, et le reste retombe sur le CPU ou le GPU.
Que faire à la place:
Utilisez des modèles prêts pour LiteRT, GenieX ou NeuroPilot, ou acceptez la vitesse du CPU et du GPU.

Gemini Nano dans n'importe quelle application sur n'importe quel téléphone

Pourquoi:
L'accès dépend d'AICore, de la prise en charge de l'appareil et du chipset, et d'un bootloader verrouillé pour la Prompt API.
Que faire à la place:
Utilisez un moteur que vous contrôlez, comme llama.cpp ou LiteRT-LM.

Entraînement ou fine-tuning sur le téléphone

Pourquoi:
Les budgets de mémoire, de calcul et thermique sont trop petits pour autre chose que de minuscules expériences.
Que faire à la place:
Faites le fine-tuning sur un ordinateur, puis chargez le résultat.

Précision vérifiée pour les petits modèles de vision et d'OCR

Pourquoi:
Nous n'avons trouvé aucun chiffre de précision indépendant pour les modèles qu'exécutent ces applications.
Que faire à la place:
Testez sur vos propres échantillons ; ne faites jamais confiance aveuglément.

Zéro télémétrie garantie

Pourquoi:
Une application peut tourner localement et collecter quand même des analyses ; l'affirmation est celle de l'éditeur.
Que faire à la place:
Vérifiez la fiche Sécurité des données, la politique, les autorisations et le trafic.

Une configuration qui marche sur tous les téléphones Android

Pourquoi:
Les puces, la RAM, les versions du système et les gestionnaires de batterie diffèrent selon la marque et le modèle.
Que faire à la place:
Testez d'abord un petit modèle, puis montez en taille.

💡Astuce: Plusieurs de ces limites évoluent. Gemma 4 sur Gemini Nano 4, la prise en charge élargie du NPU par LiteRT et AppFunctions sont tous en préversion ou en bêta dans les sources que nous avons lues. Revérifiez-les à la prochaine mise à jour plutôt que de supposer que les limites d'aujourd'hui sont permanentes.

Applications peu actives à vérifier avant de s'y fier

Certaines applications du répertoire n'ont reçu aucune mise à jour en amont depuis plus de trois mois. Ce n'est pas une affirmation que le projet est mort ou dangereux ; c'est une invitation à vérifier la page de l'éditeur, la fiche du store et le suivi des tickets avant de bâtir une routine autour de l'application. Les dates proviennent des entrées du répertoire, qui consignent la dernière version ou le dernier commit substantiel lu dans une source primaire.

📍 En une phrase

Plusieurs applications du répertoire listées pour Android, dont MLC Chat, Caelum, ToolNeuron, PAIOS, Aori et Atomic Bot, n'avaient reçu aucune mise à jour en amont depuis plus de trois mois au moment de la rédaction.

💬 En termes simples

Une application peu active peut encore fonctionner, mais il se peut que personne ne corrige bientôt un bogue ou un problème de sécurité.

  • MLC Chat : la dernière mise à jour consignée par le répertoire date de septembre 2024 ; consultez les releases GitHub de l'éditeur pour des builds plus récents. Le runtime MLC LLM lui-même continue d'avancer (MLC LLM) ; pour un travail actuel, compilez donc à partir du runtime.
  • Caelum : aucune mise à jour depuis août 2025, soit plus d'un an.
  • ToolNeuron : une période calme de plusieurs mois ; un bon choix (licence MIT, stockage chiffré), mais vérifiez l'activité récente.
  • PAIOS : la version examinée date du printemps 2026 et le projet se déclare en alpha ; vérifiez que votre téléphone est toujours pris en charge par AICore.
  • Aori : une bêta gratuite sans version récente ; l'application Android envoie les prompts à un fournisseur cloud que vous connectez.
  • Atomic Bot : aucune version récente, et aucun build Android documenté dans notre revue.

Parcours de décision : j'ai ce téléphone et je veux ceci

Partez de votre RAM et de votre objectif, pas de la popularité d'une application. Trouvez la ligne qui correspond à votre téléphone, puis l'objectif, puis suivez le lien.

📍 En une phrase

Associez la RAM et la puce de votre téléphone à une taille de modèle, puis votre objectif à un chapitre : chat sur PocketPal AI, caméra et Gemma sur Google AI Edge Gallery, documents sur AnythingLLM Mobile, et modèles lourds sur un serveur via un client distant.

💬 En termes simples

Petit téléphone, petit modèle ; gros travail, gros serveur.

  • 4 à 6 GB, je veux un chat privé simple : PocketPal AI avec un modèle de 1 à 2 milliards de paramètres, ou Ensu si vous avez au moins 4 GB.
  • 8 GB, je veux le meilleur équilibre au quotidien : PocketPal AI ou Google AI Edge Gallery avec un modèle de 3 à 4 milliards de paramètres.
  • 12 à 16 GB, je veux le plus gros modèle qui tienne : un modèle de 7 à 8 milliards de paramètres en quantification à faible nombre de bits dans un lanceur GGUF comme Maid, avec un contexte court.
  • Pixel 9 ou Pixel 10 : essayez le modèle système de Google via PAIOS, et utilisez Google AI Edge Gallery pour les modèles Gemma.
  • Galaxy S25 ou S26 : lisez d'abord IA embarquée du Galaxy S26, car Galaxy AI est hybride et la puce dépend du modèle et de la région.
  • Haut de gamme Snapdragon 8 Elite, je veux la vitesse maximale : les développeurs peuvent utiliser LiteRT et GenieX ; comme utilisateur, commencez par Google AI Edge Gallery et comparez-la à une application llama.cpp.
  • Je veux poser des questions sur mes fichiers : AnythingLLM Mobile ou Private Mind sur le téléphone ; un serveur domestique pour les grosses archives.
  • Je veux de la traduction ou de la dictée hors ligne : LLM Hub, Private Mind ou Ensu, après avoir testé votre langue.
  • Je veux dessiner des images : Local AI by GeetMark ou TokForge, avec de la patience et un téléphone frais.
  • Je veux que ma maison l'utilise : Home Assistant Assist avec un serveur domestique, et le téléphone comme télécommande.
  • Je possède un ordinateur avec un GPU : exécutez Ollama ou LM Studio dessus et utilisez LocalMind ou AnythingLLM Mobile comme client sur le téléphone.
  • Développeur : choisissez dans le tableau des voies pour développeurs ; commencez par la Prompt API de ML Kit si vous n'avez besoin que de petites tâches textuelles, et par LiteRT-LM si vous avez besoin de votre propre modèle.

Premier essai en 15 minutes

Vous pouvez avoir un assistant hors ligne fonctionnel en environ 15 minutes, et l'essentiel de ce temps est le téléchargement du modèle. Ce pas-à-pas utilise PocketPal AI comme exemple ; les étapes sont les mêmes dans n'importe quel lanceur GGUF. Utilisez le Wi-Fi et un chargeur pour le téléchargement.

📍 En une phrase

Installez une application, téléchargez en Wi-Fi un modèle adapté à votre RAM, lancez un prompt, puis testez à nouveau en mode avion pour confirmer que la réponse fonctionne hors ligne.

💬 En termes simples

Téléchargez une fois avec Internet, puis coupez Internet et voyez s'il répond encore.

  1. 1
    Vérifier le stockage et la RAM (1 minute)
    Why it matters: Les modèles pèsent des gigaoctets ; 3 à 6 GB de stockage libre couvrent un premier modèle, et la RAM décide de la taille. Regardez dans Paramètres, À propos du téléphone.
  2. 2
    Installer une application (2 minutes)
    Why it matters: Utilisez [PocketPal AI](/fr/power-local-llm/pocketpal-ai-review) ou [Google AI Edge Gallery](/fr/power-local-llm/google-ai-edge-gallery-review) depuis Google Play. Une application à la fois garde les résultats comparables.
  3. 3
    Se connecter au Wi-Fi et brancher le chargeur (1 minute)
    Why it matters: Le téléchargement est volumineux et un léger échauffement pendant la charge est acceptable ; les données mobiles peuvent être lentes et coûteuses.
  4. 4
    Choisir un modèle selon la RAM (1 minute)
    Why it matters: 4 à 6 GB : 1 à 2B. 8 GB : 3 à 4B. 12 à 16 GB : 4 à 8B. Dans le doute, prenez le plus petit.
  5. 5
    Télécharger et charger le modèle (5 à 7 minutes)
    Why it matters: La durée dépend de votre connexion et de la taille du fichier ; gardez l'écran allumé jusqu'à la fin.
  6. 6
    Envoyer un premier prompt (1 minute)
    Why it matters: Posez une question simple. Notez la vitesse à laquelle les mots apparaissent ; c'est votre référence.
  7. 7
    Tester en mode avion (1 minute)
    Why it matters: Activez le mode avion et posez à nouveau la question. S'il répond, l'inférence est locale pour ce modèle et cette application.
  8. 8
    Exempter l'application de l'optimisation de la batterie (1 minute)
    Why it matters: Cela réduit les arrêts en pleine réponse sur les marques dotées de gestionnaires de batterie agressifs.
  9. 9
    Essayer une tâche de ce guide (aussi longtemps que vous voulez)
    Why it matters: La dictée, une question sur un document ou une question sur une image vous dit vite si le téléphone convient.

💡Astuce: Si le premier modèle semble lent ou plante, descendez d'une taille avant de changer d'application. S'il semble faible, montez d'une taille ou utilisez le mode distant.

Récapitulatif : niveau de téléphone, application, taille de modèle

Un tableau à copier en capture d'écran. Ce sont des points de départ fondés sur le calcul de RAM ci-dessus et sur ce que documente chaque application, pas des résultats de benchmark.

📍 En une phrase

Utilisez des modèles de 1 à 2 milliards de paramètres sur les téléphones de 4 à 6 GB, de 3 à 4 milliards sur ceux de 8 GB, de 7 à 8 milliards sur ceux de 12 à 16 GB, et un serveur pour tout ce qui est plus gros.

💬 En termes simples

Adaptez d'abord le modèle à votre RAM, puis choisissez l'application selon la tâche.

Niveau de téléphone
Bonne première application
Taille de modèle
Idéal pour
4 à 6 GB, d'entrée de gammePocketPal AI1 à 2BChat court, reformulation simple
8 GB, milieu de gammeGoogle AI Edge Gallery3 à 4BChat au quotidien, questions sur la caméra
12 GB, haut de gammeMaid4 à 8BMeilleures réponses, contexte court
16 GB, téléphone de jeuLM Playground7 à 8BModèles locaux plus grands
Pixel 9 ou 10PAIOSGemini NanoModèle système, sans téléchargement
N'importe quel téléphone + serveur domestiqueLocalMind7 à 70B sur le serveurModèles lourds, confidentialité à la maison
Documents, quel que soit le niveauAnythingLLM MobilePetit modèle + RAGQuestions sur vos fichiers

Erreurs courantes

La plupart des premiers essais ratés viennent des mêmes quelques erreurs.

  • Choisir un modèle trop grand pour la RAM libre. L'application plante ou le téléphone se fige. Descendez d'une taille.
  • Supposer que le NPU est utilisé. La plupart des applications installées hors store tournent sur le CPU ou le GPU, donc une puce à « 50 TOPS » ne les rend pas plus rapides.
  • Confondre « hors ligne » et « privé ». L'inférence hors ligne est une couche ; les analyses, les publicités et les options cloud en sont une autre. Vérifiez la fiche Sécurité des données et la politique.
  • Installer Termux depuis plusieurs sources. Mélanger les builds Google Play, F-Droid et GitHub casse les signatures et les mises à jour. Choisissez-en une et tenez-vous-y.
  • Utiliser un modèle texte seul pour la vision. Les images exigent un modèle de vision et, dans certaines applications, un fichier projecteur supplémentaire.
  • S'attendre à un assistant en arrière-plan. Android et les gestionnaires de batterie des marques tuent les applications inactives ; placez les tâches permanentes sur un serveur.
  • Juger un modèle sur la première réponse. Les téléphones froids sont les plus rapides ; faites un test de dix minutes avant de décider.
  • Installer une application réservée à Apple. Chapper n'a pas de version Android. Utilisez plutôt un client Android.
  • Faire confiance aux petits modèles pour des textes à enjeux élevés. La traduction, l'OCR et les résumés peuvent être faux ; vérifiez avant d'agir.

Sources

Les faits sur les plateformes et les puces proviennent des pages d'éditeurs ci-dessous, lues en novembre 2026. Les faits sur les produits proviennent des revues PromptQuorum liées et des entrées du répertoire, qui citent leurs propres sources primaires.

Questions fréquemment posées

Puis-je exécuter une IA locale sur Android sans Internet ?

Oui. Téléchargez en Wi-Fi une application embarquée comme PocketPal AI ou Google AI Edge Gallery et un modèle de 1 à 4 milliards de paramètres, puis utilisez-la en mode avion. Le premier téléchargement exige une connexion ; ensuite, le chat, la dictée, la traduction et les questions sur des documents peuvent fonctionner hors ligne, avec une qualité inférieure à celle de l'IA cloud.

De combien de RAM ai-je besoin pour exécuter un LLM sur mon téléphone Android ?

En règle empirique, 4 à 6 GB conviennent à des modèles de 1 à 2 milliards de paramètres, 8 GB à 3 à 4 milliards, et 12 à 16 GB peuvent en contenir 7 à 8 milliards en quantification à faible nombre de bits. Android et les autres applications en utilisent plusieurs gigaoctets ; la RAM libre compte donc plus que le chiffre sur la boîte. Les applications peuvent fixer leurs propres seuils.

Les applications Android utilisent-elles le NPU pour les LLM locaux ?

En général non. Les applications GGUF génériques tournent sur le CPU et parfois sur le GPU. Des voies NPU existent via Google LiteRT, Qualcomm GenieX et MediaTek NeuroPilot, mais elles exigent des modèles préparés pour une puce précise. Google indique de grands gains de vitesse pour ses propres exemples, comme Gemma 3n E2B sur un NPU Dimensity 9500, mais ce sont des voies pour développeurs.

Qu'est-ce que Gemini Nano et n'importe quelle application peut-elle l'utiliser ?

Gemini Nano est le modèle embarqué de Google, géré par le service AICore d'Android. Les applications y accèdent via ML Kit GenAI sur les téléphones compatibles, comme les Pixel 9 et 10 et des modèles Galaxy et Xiaomi récents. Google indique qu'il ne fonctionne que lorsque l'application est au premier plan, et la Prompt API n'est pas prise en charge avec un bootloader déverrouillé.

Quelle est la meilleure application d'IA locale pour Android ?

Il n'y a pas de meilleure unique. PocketPal AI est un lanceur GGUF gratuit et open source avec un large choix de modèles ; Google AI Edge Gallery est l'application de Google pour les modèles de la famille Gemma ; AnythingLLM Mobile convient aux questions sur documents ; LocalMind convient à un téléphone qui dialogue avec votre propre serveur. Notre comparatif Android compare les options les plus connues.

L'IA locale sur Android est-elle vraiment privée ?

Quand une application exécute le modèle sur le téléphone, les prompts ne sont pas envoyés aux serveurs d'inférence d'un éditeur d'IA pour cette étape. L'application peut quand même collecter des analyses ou utiliser des fonctions cloud. Vérifiez la fiche Sécurité des données, la politique de confidentialité, les autorisations et si l'application fonctionne avec le mode avion activé après le téléchargement du modèle.

Puis-je exécuter Ollama sur un téléphone Android ?

Il n'existe pas d'application Ollama officielle pour Android. Une voie communautaire l'exécute dans Termux sur le CPU, et vous pouvez exécuter llama.cpp directement dans Termux, ou utiliser une application Android qui imite une API compatible Ollama, comme Mobile LM Server ou Ollama Local AI (non conçues par le projet Ollama). La plupart des gens obtiennent de meilleurs résultats en exécutant Ollama sur un ordinateur et en utilisant un client sur le téléphone.

Android autorise-t-il l'IA locale en arrière-plan ?

Seulement en partie. Android restreint les processus en arrière-plan, les gestionnaires de batterie des marques ajoutent leurs propres limites et les API Gemini Nano de Google ne fonctionnent qu'au premier plan. Exemptez l'application de l'optimisation de la batterie et gardez l'écran allumé pour les longues réponses ; placez les assistants permanents sur un serveur domestique.

Un téléphone peut-il exécuter un modèle de 70 milliards de paramètres ?

Pas de façon réaliste. En 4 bits, les poids seuls demandent des dizaines de gigaoctets, alors que les téléphones ont généralement de 8 à 16 GB au total. Exécutez de tels modèles sur un ordinateur et utilisez votre téléphone comme client via une application comme LocalMind ou AnythingLLM Mobile.

Comment traduire du texte hors ligne sur Android avec l'IA locale ?

Utilisez une application qui inclut la traduction, comme LLM Hub, ou Audio Scribe de Google AI Edge Gallery pour les enregistrements. Les petits modèles gèrent raisonnablement les paires de langues courantes et peinent sur les langues rares et le vocabulaire juridique ; testez donc votre paire et vérifiez les textes importants.

Est-il sûr d'utiliser un modèle de vision embarqué pour des documents ou des étiquettes ?

Pas pour une lecture à enjeux élevés. Les petits modèles de vision peuvent mal lire les textes et les nombres, et nous n'avons trouvé aucun chiffre de précision indépendant pour les modèles qu'exécutent ces applications. Utilisez-les pour l'essentiel, puis vérifiez avec l'original.

Qu'est-ce qui change sur un iPhone ?

Les deux sont capables, mais les compromis diffèrent. L'iPhone a un seul fabricant et moins de variantes d'appareils, donc les résultats tendent à être plus prévisibles. Android vous donne plus de liberté pour installer des applications hors du store et pour utiliser Termux, qui est une application Android. Les règles d'Apple pour installer des applications hors de l'App Store diffèrent selon les régions et évoluent avec le temps ; consultez donc la politique actuelle d'Apple pour votre pays. Notre guide jumeau, IA locale sur iPhone, couvre le côté Apple, et IA embarquée Galaxy vs iPhone compare les deux écosystèmes.

← Retour aux LLM locaux avancés

MCP