Skip to main content
PromptQuorum
Startseite/Lokale LLMs Pro/ToolNeuron im Test (2026): Open-Source-Android-App für verschlüsselte On-Device-KI
Mobile & Edge LLMs

ToolNeuron im Test (2026): Open-Source-Android-App für verschlüsselte On-Device-KI

·9 Min. Lesezeit·Von Hans Kuepper · Gründer von PromptQuorum, Multi-Model-AI-Dispatch-Tool · PromptQuorum

ToolNeuron ist eine kostenlose, quelloffene (MIT) Android-App, die GGUF-Sprachmodelle vollständig auf dem Gerät über llama.cpp ausführt, mit Dokumenten-RAG, Sprachein-/ausgabe und einem OpenAI-kompatiblen lokalen HTTP-Server — ohne Cloud-Komponente, ohne Telemetrie, laut eigenem README des Projekts. Entwickelt von Siddhesh Sonar, verpackt die App ihren lokalen Speicher in eine über den Android Keystore abgesicherte AES-256-GCM-Verschlüsselung mit Argon2id-Authentifizierung und benötigt Android 12 (API 31) oder neuer. Leser, die einen Vergleichspunkt suchen, sollten auch den Layla-Test oder den RikkaHub-Test lesen.

ToolNeuron, entwickelt von Siddhesh Sonar und als Open Source unter der MIT-Lizenz veröffentlicht, ist eine kostenlose Android-App, die GGUF-Sprachmodelle über llama.cpp auf dem Gerät ausführt, mit Dokumenten-RAG, Sprachein-/ausgabe, einem OpenAI-kompatiblen lokalen HTTP-Server und einem darauf aufbauenden Plugin-System. Laut eigenem README der App ist "kein Google-Play-Dienst, keine Telemetrie, keine Cloud" das zentrale Designziel, unterlegt mit AES-256-GCM-Verschlüsselung über den Android Keystore und Argon2id-Authentifizierung für gespeicherte Daten. Dieser Test behandelt, was die App leistet, was sie benötigt, und wie sie im Vergleich zu anderen On-Device-Android-Chat-Apps wie Layla und RikkaHub steht — basierend auf dem öffentlichen GitHub-Repository und dem Play-Store-Eintrag des Projekts, nicht auf einem unabhängigen Praxistest.

ToolNeuron im Test (2026): Open-Source-Android-App für verschlüsselte On-Device-KI

Wichtigste Erkenntnisse

  • Preis: kostenlos zum Herunterladen und nutzbar; quelloffen unter der MIT-Lizenz, keine In-App-Käufe im Repository dokumentiert.
  • Entwickler: Siddhesh Sonar.
  • Engine: llama.cpp für GGUF-Chat-Modelle, plus sherpa-onnx für Sprache, alles vollständig auf dem Gerät ausgeführt.
  • Funktionen über Chat hinaus: Dokumenten-RAG (PDF, DOCX, XLSX, PPTX, EPUB und mehr), Sprachein-/ausgabe, ein lokaler OpenAI-kompatibler HTTP-Server, ein Hugging-Face-Modellbrowser und ein sandboxed Plugin-System, laut README des Projekts.
  • Sicherheit: lokale Daten sind laut eigener Dokumentation des Projekts mit Android Keystore AES-256-GCM und Argon2id-Authentifizierung verschlüsselt.
  • Anforderung: Android 12 (API 31) oder neuer, auf arm64-v8a- oder x86_64-Hardware, laut Build-Konfiguration des Projekts.
  • Open-Source-Status: MIT-Lizenz, Quellcode veröffentlicht auf GitHub — unabhängig prüfbar, anders als quelloffen-geschlossene Alternativen.
  • Vertrieb: verfügbar über Google Play und als direkte APK-Downloads von GitHub Releases.

📍 In einem Satz

ToolNeuron ist eine kostenlose, quelloffene (MIT) Android-App von Entwickler Siddhesh Sonar, die GGUF-Sprachmodelle über llama.cpp auf dem Gerät ausführt und dabei verschlüsselten lokalen Speicher, Dokumenten-RAG, Sprachein-/ausgabe, einen lokalen OpenAI-kompatiblen HTTP-Server und ein Plugin-System hinzufügt, ohne Cloud-Komponente oder Telemetrie, laut eigenem README des Projekts.

💬 In einfachen Worten

Stellen Sie sich eine kostenlose, quelloffene Android-Chat-App vor, mit der Sie auch mit Ihren eigenen Dokumenten sprechen und Sprache nutzen können — alles auf Ihrem Telefon, mit der Verschlüsselung, die man von einem sicherheitsbewussten Projekt erwartet, nicht ein einfacher Wrapper um eine Cloud-API.

ToolNeuron holen

ToolNeuron ist über Google Play oder als direkter APK-Download von der GitHub-Releases-Seite erhältlich. Beide Vertriebskanäle liefern dieselbe quelloffene App.

Dieser Test ist eine Ergänzung zu PromptQuorums Verzeichnis lokaler LLM-Software, das lokale KI-Tools über Plattformen hinweg auflistet, einschließlich des eigenen Eintrags von ToolNeuron.

Kanal
Holen
Google PlayToolNeuron bei Google Play
GitHub (APK)ToolNeuron Releases auf GitHub

Die App ist so oder so kostenlos — GitHub hostet außerdem den vollständigen Quellcode für Leser, die ihn selbst prüfen oder bauen möchten.

Was ToolNeuron ist

ToolNeuron ist eine Android-App, die GGUF-Format-Sprachmodelle direkt über llama.cpp auf dem Gerät ausführt, ohne serverseitige Komponente. Laut eigener Beschreibung des Projekts strebt sie an, "On-Device-KI für Android" zu sein — "kein Google-Play-Dienst, keine Telemetrie, keine Cloud" — Modelle, Chats, für die Suche verwendete Dokumente und Verschlüsselungsschlüsselmaterial sind alle so konzipiert, dass sie auf dem Telefon bleiben.

Über den reinen Chat hinaus bündelt die App Dokumentenabruf (RAG) über gängige Dateiformate, Sprachein- und -ausgabe über die sherpa-onnx-Sprach-Engine, einen lokalen HTTP-Server, der eine OpenAI-kompatible API für andere Apps bereitstellt, einen integrierten Hugging-Face-Modellbrowser und ein sandboxed Plugin-System zum Installieren zusätzlicher Funktionen.

Dieser Test stützt sich auf das öffentliche GitHub-Repository des Projekts — dessen README, Lizenzdatei und Repository-Metadaten — sowie auf den Google-Play-Eintrag, nicht auf eine unabhängige Code-Prüfung oder praktische Benchmark-Tests.

Wer ToolNeuron entwickelt hat

ToolNeuron wird von Entwickler Siddhesh Sonar gebaut und gepflegt, der das Projekt offen auf GitHub unter der MIT-Lizenz veröffentlicht. Das Repository zeigt aktive, detaillierte Entwicklung: eine dokumentierte Sicherheitsarchitektur, eine modulare Codebasis, aufgeteilt auf App-, Inferenz-, Verschlüsselungs- und Netzwerkkomponenten, sowie eine öffentliche Discord-Community für Nutzer und Mitwirkende.

Da der Quellcode veröffentlicht statt geschlossen ist, lassen sich Aussagen darüber, was die App mit lokalen Daten tut — und was nicht — direkt am Code prüfen, statt sich allein auf die Beschreibung des Entwicklers zu verlassen.

Erste Schritte

Die Einrichtung von ToolNeuron dauert wenige Schritte und erfordert keine Kontoerstellung. Der gesamte Vorgang, von der Installation bis zur ersten Offline-Antwort, dauert wenige Minuten plus die Zeit, die das gewählte Modell zum Herunterladen benötigt.

  1. 1
    App installieren
    Why it matters: Holen Sie [ToolNeuron bei Google Play](https://play.google.com/store/apps/details?id=com.dark.tool_neuron), oder laden Sie die APK direkt von [GitHub Releases](https://github.com/Siddhesh2377/ToolNeuron/releases) herunter. Die App selbst ist so oder so kostenlos.
  2. 2
    Lokale Verschlüsselung einrichten
    Why it matters: Die App richtet beim ersten Start ihre über den Android Keystore abgesicherte Verschlüsselung und eine 6-stellige PIN ein, laut Sicherheitsdokumentation des Projekts, bevor Chatdaten gespeichert werden.
  3. 3
    Ein GGUF-Modell durchsuchen und herunterladen
    Why it matters: Nutzen Sie den integrierten Hugging-Face-Browser, um ein kompatibles GGUF-Modell zu finden, oder stellen Sie ein eigenes bereit. Dieser Schritt erfordert eine Internetverbindung; das Chatten danach nicht.
  4. 4
    Chatten oder Dokumente für RAG hinzufügen
    Why it matters: Sobald ein Modell heruntergeladen ist, läuft der Chat vollständig auf dem Gerät über llama.cpp. Fügen Sie einer Unterhaltung ein unterstütztes Dokument (PDF, DOCX und andere) hinzu, damit das Modell daraus antwortet.
  5. 5
    Optional: Sprache oder den lokalen API-Server aktivieren
    Why it matters: Sprachein-/ausgabe und der OpenAI-kompatible lokale HTTP-Server sind beide optionale Funktionen zusätzlich zum reinen Chat — keine ist zur Nutzung der App erforderlich.

Unterstützte Modelle und Funktionen

ToolNeuron führt jedes kompatible GGUF-Format-Modell aus, einschließlich gängiger Familien wie Llama, Mistral und Gemma, über llama.cpp. Ein integrierter Hugging-Face-Browser lässt Leser verfügbare Modelle nach Pipeline-Tag, Parameteranzahl, Quantisierung und Lizenz filtern, bevor sie herunterladen.

Über den Chat hinaus listet das eigene README des Projekts: Dokumenten-RAG über PDF, DOCX, XLSX, PPTX, ODT, EPUB, RTF, Markdown, HTML, JSON, XML, CSV und Klartext; Sprachein- und -ausgabe über die sherpa-onnx-Engine (VITS-, Piper- und Whisper-Stimmen); lokale Bildgenerierung, laut Changelog-Notizen des Projekts im Mai 2026 zur App hinzugefügt; einen lokalen HTTP-Server mit einer OpenAI-kompatiblen API samt eigener Web-UI; und ein sandboxed Plugin-System zum Installieren von der Community erstellter Erweiterungen.

Das ist ein breiteres Funktionsspektrum als bei einem Einzelzweck-Chat-Client, und jede Funktion läuft laut Dokumentation des Projekts über dieselbe On-Device-Engine, statt einen Cloud-Dienst aufzurufen.

Anforderungen

ToolNeuron benötigt laut öffentlicher Build-Konfiguration des Projekts Android 12 (API-Level 31) oder neuer, auf arm64-v8a- oder x86_64-Hardware. Wie bei jeder On-Device-LLM-App hängt die praktische Hardware-Untergrenze eher davon ab, welches GGUF-Modell geladen ist — dessen Parameteranzahl und Quantisierung — als von einer einzigen festen Spezifikation; ein kleines quantisiertes Modell benötigt deutlich weniger Speicher als ein großes.

Leser mit älteren Android-Versionen oder reinen 32-Bit-Geräten sollten davon ausgehen, dass sich die App nicht installieren lässt, da Mindest-SDK und ABI-Filter direkt vom Android-Paket selbst erzwungen werden, nicht nur als weiche Empfehlung.

Datenschutz und Sicherheit

Das erklärte Designziel von ToolNeuron ist es, jede Cloud-Abhängigkeit zu vermeiden: kein Google-Play-Dienst erforderlich, keine Telemetrie und keine serverseitige Komponente für die zentralen Chat- und RAG-Funktionen, laut eigenem README des Projekts. Untermauert wird das durch eine ungewöhnlich detaillierte, öffentlich dokumentierte Sicherheitsarchitektur statt einer einzeiligen Datenschutzbehauptung.

Lokale Daten — einschließlich des Verschlüsselungsschlüsselmaterials selbst — sind laut Sicherheitsdokumentation des Projekts mit einem über den Android Keystore abgesicherten AES-256-GCM-Schlüssel (bevorzugt StrongBox, sofern das Gerät dies unterstützt) und Argon2id-basierter PIN-Authentifizierung geschützt. Dieselbe Dokumentation beschreibt einen Sperrmechanismus, der nach wiederholten fehlgeschlagenen PIN-Versuchen eskaliert, sowie eine optionale Panik-PIN-Funktion, die lokale App-Daten löscht.

  • Kein Konto erforderlich. Die App kann installiert und genutzt werden, ohne ein Profil anzulegen oder sich anzumelden.
  • Keine Cloud-Komponente für zentrale Funktionen. Chat, RAG und Sprache sind laut README des Projekts alle für die On-Device-Ausführung konzipiert.
  • Verschlüsselter lokaler Speicher. Chats, Dokumente und Verschlüsselungsschlüssel sind laut Dokumentation des Projekts mit Android Keystore AES-256-GCM und Argon2id-Authentifizierung geschützt.
  • Quelloffener Code. Da der Quellcode der App unter der MIT-Lizenz veröffentlicht ist, lassen sich ihre Architektur- und Datenverarbeitungsangaben direkt am Code prüfen, statt sich allein auf die Aussagen des Entwicklers zu verlassen.

Kompromisse: Vorteile vs. Einschränkungen

Kostenlos und quelloffen (MIT)

Was das in der Praxis bedeutet:
Keine Kosten, und der vollständige Quellcode ist auf GitHub zur Prüfung verfügbar.
Einschränkung / Hinweis:
Quelloffen zu sein garantiert für sich genommen keine durchgeführte unabhängige Sicherheitsprüfung.

Breiteres Funktionsspektrum als reiner Chat

Was das in der Praxis bedeutet:
Dokumenten-RAG, Sprache, ein lokaler API-Server und Plugins sind alle eingebunden, keine separaten Apps zu verwalten.
Einschränkung / Hinweis:
Mehr bewegliche Teile als bei einer Einzelzweck-Chat-App; dieser Test hat die Zuverlässigkeit jeder einzelnen Funktion nicht unabhängig verifiziert.

Detailliertes, dokumentiertes Sicherheitsmodell

Was das in der Praxis bedeutet:
Verschlüsselter lokaler Speicher und PIN-basierte Authentifizierung schützen Daten, falls das Telefon verloren geht oder von jemand anderem aufgerufen wird.
Einschränkung / Hinweis:
Die Sicherheitsdokumentation stammt vom Projekt selbst; dieser Test hat die App nicht unabhängig einem Penetrationstest unterzogen.

Keine Cloud-Abhängigkeit für zentrale Funktionen

Was das in der Praxis bedeutet:
Chat, RAG und Sprache laufen laut README des Projekts nach dem Herunterladen eines Modells alle offline.
Einschränkung / Hinweis:
Nur Android — es gibt keine iPhone-, Desktop- oder Web-Version.

ToolNeuron vs. Alternativen

ToolNeuron

Plattformen:
Nur Android
Preis:
Kostenlos, quelloffen (MIT)
Modellflexibilität:
Jedes GGUF-Modell über einen integrierten Hugging-Face-Browser
Hauptunterschied:
Breitestes Funktionsspektrum hier — RAG, Sprache, lokaler API-Server und Plugins neben dem Chat
Artikel über ToolNeuron (2)

Layla

Plattformen:
Android und iOS
Preis:
19,99 $ Einmalkauf, plus In-App-Stufen
Modellflexibilität:
GGUF-, LiteRT-LM- und PTE-Modell-Backends
Hauptunterschied:
Persona- und Rollenspiel-Fokus, mit optionalem Opt-in-Cloud-Modus; quellcodegeschlossen

RikkaHub

Plattformen:
Nur Android
Preis:
Kostenlos, quelloffen
Modellflexibilität:
GGUF-Modelle, laut eigenem Eintrag
Hauptunterschied:
Eine weitere kostenlose, quelloffene Android-Option — vergleichen Sie die Funktionstiefe direkt

Maid

Plattformen:
Android und iOS
Preis:
Kostenlos, quelloffen
Modellflexibilität:
GGUF-Modelle über llama.cpp
Hauptunterschied:
Plattformübergreifend (auch iOS), einfacherer Einzelzweck-Chat-Client

Plattform-, Preis- und Funktionsangaben zu Drittanbieter-Apps ändern sich häufig — prüfen Sie vor einer Entscheidung die aktuellen Angaben im jeweiligen App-Eintrag.

Wer ToolNeuron nutzen sollte

  • Android-Nutzer, die eine kostenlose, quelloffene On-Device-KI-App möchten. Der vollständige Quellcode ist öffentlich, und es gibt keine Kosten für Installation oder Nutzung.
  • Leser, die mehr als reinen Chat möchten. Dokumenten-RAG, Sprachein-/ausgabe und ein lokaler API-Server sind eingebunden, statt separate Apps zu erfordern.
  • Datenschutzbewusste Nutzer, die ein dokumentiertes Sicherheitsmodell schätzen. Verschlüsselter lokaler Speicher und PIN-basierte Authentifizierung gehen über eine einfache Datenschutzerklärung hinaus.
  • Entwickler, die die App erweitern möchten. Das Plugin-System und die quelloffene Codebasis erlauben direkte Anpassung, anders als bei einer quellcodegeschlossenen Alternative.

Wer ToolNeuron nicht nutzen sollte

  • iPhone-, Desktop- oder Web-Nutzer. ToolNeuron ist reine Android-App; es gibt keine iOS-, Mac-, Windows-, Linux- oder browserbasierte Version.
  • Besitzer von Geräten mit Android 11 oder älter, oder reiner 32-Bit-Hardware. Die App benötigt Android 12 (API 31) oder neuer auf arm64-v8a oder x86_64.
  • Leser, die eine etablierte Erfolgsbilanz benötigen, bevor sie einer App vertrauen. ToolNeuron ist neuer und hat eine kleinere öffentliche Erfolgsbilanz als manche länger etablierten Alternativen.
  • Leser, die eine einzige, einfache Chat-App ohne alles andere möchten. Das breitere Funktionsspektrum (RAG, Sprache, Plugins, ein lokaler Server) ist für manche Leser ein Vorteil und für andere unnötige Komplexität.

Häufig gestellte Fragen

Ist ToolNeuron kostenlos?

Ja. ToolNeuron ist kostenlos zu installieren und zu nutzen, und laut GitHub-Repository quelloffen unter der MIT-Lizenz.

Wer entwickelt ToolNeuron?

ToolNeuron wird von Entwickler Siddhesh Sonar gebaut und gepflegt.

Welche Modelle unterstützt ToolNeuron?

Jedes kompatible GGUF-Format-Modell, einschließlich gängiger Familien wie Llama, Mistral und Gemma, ausgeführt über llama.cpp. Ein integrierter Hugging-Face-Browser hilft beim Finden und Herunterladen von Modellen.

Funktioniert ToolNeuron ohne Internetverbindung?

Ja, für seine zentralen Funktionen. Das README des Projekts erklärt, dass die App keine Cloud-Komponente und keine Telemetrie hat; eine Internetverbindung wird nur zum Herunterladen eines Modells oder App-Updates benötigt.

Welche Android-Version benötigt ToolNeuron?

Android 12 (API-Level 31) oder neuer, auf arm64-v8a- oder x86_64-Hardware, laut öffentlicher Build-Konfiguration des Projekts.

Ist ToolNeuron quelloffen?

Ja. Die App ist auf GitHub unter der MIT-Lizenz veröffentlicht, und der Quellcode kann direkt geprüft oder gebaut werden.

Welche zusätzlichen Funktionen hat ToolNeuron über den Chat hinaus?

Dokumenten-RAG über gängige Dateiformate, Sprachein- und -ausgabe über sherpa-onnx, ein lokaler OpenAI-kompatibler HTTP-Server, ein Hugging-Face-Modellbrowser und ein sandboxed Plugin-System, laut README des Projekts.

Wie schneidet ToolNeuron im Vergleich zu Layla oder RikkaHub ab?

ToolNeuron ist kostenlos und quelloffen mit einem breiteren integrierten Funktionsspektrum (RAG, Sprache, ein lokaler API-Server, Plugins). Layla ist eine kostenpflichtige, quellcodegeschlossene App für 19,99 $ für Android und iOS mit Persona-/Rollenspiel-Fokus und optionalem Cloud-Modus. RikkaHub ist eine weitere kostenlose, quelloffene Android-Chat-App. Wählen Sie danach, ob Ihnen ToolNeurons breiteres Funktionsspektrum, Laylas plattformübergreifender Rollenspiel-Fokus oder ein einfacherer Einzelzweck-Client wichtiger ist.

Fazit

ToolNeuron liefert eine wirklich breite, kostenlose und quelloffene On-Device-KI-App für Android: GGUF-Chat über llama.cpp, Dokumenten-RAG, Sprachein-/ausgabe, einen lokalen OpenAI-kompatiblen API-Server und ein Plugin-System, alles unterlegt mit einer dokumentierten, verschlüsselungsorientierten Sicherheitsarchitektur statt eines vagen Datenschutzversprechens.

Der veröffentlichte MIT-lizenzierte Quellcode ist ein bedeutender Vorteil gegenüber quellcodegeschlossenen Android-Alternativen — Leser, denen es wichtig ist zu prüfen, was eine App tatsächlich mit lokalen Daten macht, können den Code direkt einsehen, statt allein einem Eintrag zu vertrauen.

Was diesen Test eher zurückhaltend als uneingeschränkt begeistert hält, ist das relativ junge Alter der App und das Fehlen unabhängiger, praktischer Benchmark-Tests ihrer vielen Funktionen speziell durch PromptQuorum; Leser mit leistungskritischen Anforderungen sollten die App zuerst auf ihrem eigenen Gerät testen, bevor sie sich stark darauf verlassen.

Android-Nutzer, die eine kostenlose, quelloffene, auf Datenschutz ausgelegte App mit mehr als reinem Chat möchten, sollten sie ausprobieren; Leser, die eine iPhone-App, einen einfacheren Einzelzweck-Client oder eine etabliertere Erfolgsbilanz möchten, sollten stattdessen Layla oder RikkaHub in Betracht ziehen.

Quellen

← Zurück zu Lokale LLMs Pro