Wichtigste Erkenntnisse
- 66 Tools, fünf Arten: Desktop-Chat-Apps (17), mobile Chat-Apps (26), Web- und CLI-Chat-Clients (13), persönliche Assistenten (13) sowie Rollenspiel- und Companion-Apps (4). Ein Tool, das auf mehreren Geräten verfügbar ist, etwa Enchanted, erscheint in jeder Art, zu der es gehört.
- Die Tabelle wird aus dem Datensatz jedes Tools erzeugt und mit dessen offizieller README oder Website abgeglichen; ein Strich bedeutet „in der Dokumentation nicht angegeben“, niemals „nein“. Smartphone-Apps sind meist nur durch Store-Einträge dokumentiert, daher sind ihre Zellen am dünnsten besetzt.
- Jeder Tool-Name in der Tabelle verlinkt auf den eigenen PromptQuorum-Test, in dem Installationsschritte und Grenzen behandelt werden.
📍 In einem Satz
Lokale Chat-Apps sind fünf verschiedene Arten von Produkten – Desktop-Apps, Smartphone-Apps, selbst gehostete Weboberflächen, persönliche Assistenten und Rollenspiel-Tools –, weshalb die 66 Tools im PromptQuorum-Verzeichnis jeweils innerhalb ihrer Art verglichen werden, anhand einer Tabelle, die aus denselben Tool-Daten erzeugt wird wie der Test des jeweiligen Tools.
💬 In einfachen Worten
Manche Apps installieren Sie auf einem Computer, manche auf einem Smartphone, manche hosten Sie selbst und öffnen sie im Browser, manche arbeiten als Assistent, der Aufgaben für Sie erledigt, und manche sind für Charakter-Rollenspiele gebaut. Eine Smartphone-App und eine serverseitige Weboberfläche anhand derselben Funktionen zu vergleichen, ergibt keinen Sinn – deshalb vergleicht dieser Leitfaden Gleiches mit Gleichem.
So haben wir verglichen
Die Fakten jedes Tools – Preis, Lizenz, Plattformen, Hardwarebedarf und kategoriespezifische Merkmale – werden einmal im Verzeichnis-Datensatz dieses Tools gespeichert. Die Vergleichstabelle unten wird aus diesen Datensätzen erzeugt, und der Test des jeweiligen Tools stützt sich auf denselben Datensatz; beide können also keine unterschiedlichen Werte nennen.
Kategoriespezifische Merkmale (zum Beispiel MCP-Unterstützung oder Offline-Nutzung) wurden der offiziellen README oder Website jedes Projekts entnommen und am dortigen Wortlaut geprüft. Wo die Dokumentation schweigt, zeigt die Tabelle einen Strich statt einer Vermutung; wo eine Aussage eingeschränkt ist (nur auf der Roadmap, eine kostenpflichtige Stufe oder eine Voraussetzung wie ein separater Server), fehlt das Merkmal in der Tabelle und wird stattdessen im Test des Tools behandelt.
In der Tabelle stehen nur Tools mit eigenem PromptQuorum-Test. Bei einigen Apps (AI On Device, Chatty Mini und LocalAI ApexCreator) hat das Verzeichnis keine offizielle Seite zum Abgleich, daher bestehen ihre Zellen aus Strichen. Der Vergleich erstellt keine Rangliste der Tools, denn das richtige Tool hängt von Ihrer Einschränkung ab.
Vergleichstabelle
Wählen Sie unten eine Art von Tool und lesen Sie dann quer durch eine Zeile. Klicken Sie auf einen Tool-Namen, um den vollständigen PromptQuorum-Test zu öffnen.
| Werkzeug | Preis | Lizenz | Plattformen | Ausführung | Hardware | Version | Führt Modelle selbst aus | Verbindet sich mit Ollama | OpenAI-kompatible Endpunkte | MCP-Unterstützung | Chat mit deinen Dateien | Spracheingabe / -ausgabe | Test | Produktlink · offengelegt |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| AnythingLLM | Kostenlos | MIT | macOS, Windows, Linux, Web | Hybrid | CPU genügt | — | Ja | Ja | Ja | Ja | Ja | Ja | Test lesen → | AnythingLLM |
| BoBe | Kostenlos | Open source | macOS | Lokal | Je nach Modell unterschiedlich | — | — | — | — | — | — | — | Test lesen → | BoBe |
| BoltAI | Freemium | Proprietary | macOS | Hybrid | Je nach Modell unterschiedlich | — | — | Ja | — | Ja | Ja | Ja | Test lesen → | BoltAI |
| Cherry Studio | Kostenlos | AGPL-3.0 | macOS, Windows, Linux | Hybrid | — | — | — | Ja | — | Ja | — | — | Test lesen → | Cherry Studio |
| Ekorbia | Kostenlos | MIT | macOS, Windows, Linux | Lokal | Je nach Modell unterschiedlich | — | Ja | Ja | Ja | — | Ja | Ja | Test lesen → | Ekorbia |
| Enchanted | Kostenlos | Apache-2.0 | macOS, iOS | Lokal | — | v1.8.2 | Nein | Ja | — | — | — | Ja | Test lesen → | Enchanted |
| GPT4All | Kostenlos | MIT | macOS, Windows, Linux | Lokal | CPU genügt | — | Ja | — | — | — | Ja | — | Test lesen → | GPT4All |
| Hanoki | Freemium | MIT | macOS | Hybrid | — | — | — | Ja | Ja | — | — | — | Test lesen → | Hanoki |
| Jan | Kostenlos | Apache 2.0 (variant) | macOS, Windows, Linux | Lokal | CPU genügt | — | Ja | — | — | Ja | — | — | Test lesen → | Jan |
| LM Studio | Kostenlos | Proprietary (free for personal and business use) … | macOS, Windows, Linux | Lokal | Je nach Modell unterschiedlich | — | Ja | — | — | — | — | Ja | Test lesen → | LM Studio |
| Locally Uncensored | Kostenpflichtig | AGPL-3.0 | Windows | Lokal | Je nach Modell unterschiedlich | — | — | Ja | — | Ja | Ja | — | Test lesen → | Locally Uncensored |
| Msty | Freemium | Proprietary | macOS, Windows, Linux | Hybrid | — | — | — | — | — | — | — | — | Test lesen → | Msty |
| Odysseus | Kostenlos | AGPL-3.0 | macOS, Windows, Linux | Hybrid | Je nach Modell unterschiedlich | — | — | — | — | Ja | — | — | Test lesen → | Odysseus |
| Off Grid AI | Freemium | MIT | iOS, Android, macOS, Windows | Lokal | Je nach Modell unterschiedlich | — | Ja | Ja | — | — | Ja | Ja | Test lesen → | Off Grid AI |
| On Device AI | Freemium | Proprietary | iOS, macOS | Lokal | CPU genügt | — | Ja | Ja | — | — | Ja | Ja | Test lesen → | On Device AI |
| Osaurus | Kostenlos | MIT | macOS | Lokal | Je nach Modell unterschiedlich | — | Ja | Ja | — | Ja | Ja | Ja | Test lesen → | Osaurus |
| Sidekick | Kostenlos | MIT | macOS | Lokal | Je nach Modell unterschiedlich | — | Ja | — | Ja | — | Ja | — | Test lesen → | Sidekick |
„—“ bedeutet, dass die eigene Dokumentation des Projekts es nicht angibt, nicht dass die Funktion fehlt. Die Werte stammen aus der offiziellen README oder Website des jeweiligen Projekts und werden erneut geprüft, wenn der Test eines Werkzeugs aktualisiert wird.
Desktop-Chat-Apps: Die Unterschiede
- Führt Modelle selbst aus. AnythingLLM, Ekorbia, GPT4All, Jan, LM Studio, Off Grid AI, On Device AI, Osaurus und Sidekick dokumentieren den eigenständigen Modellbetrieb ohne separaten Server.
- Ollama. AnythingLLM, BoltAI, Cherry Studio, Ekorbia, Enchanted, Hanoki, Off Grid AI, On Device AI und Osaurus dokumentieren die Anbindung an Ollama.
- OpenAI-kompatible Endpunkte. AnythingLLM, Ekorbia, Hanoki und Sidekick dokumentieren die Anbindung an OpenAI-kompatible Endpunkte.
- MCP. AnythingLLM, BoltAI, Cherry Studio, Jan, Locally Uncensored, Odysseus und Osaurus dokumentieren MCP-Unterstützung.
- Chat mit Ihren Dateien. AnythingLLM, BoltAI, Ekorbia, GPT4All, Locally Uncensored, Off Grid AI, On Device AI, Osaurus und Sidekick dokumentieren den Chat mit den eigenen Dateien.
- Sprache. AnythingLLM, BoltAI, Ekorbia, Enchanted, LM Studio, Off Grid AI, On Device AI und Osaurus dokumentieren Spracheingabe oder -ausgabe.
- Preis. Von den 17 Desktop-Apps sind 11 kostenlos, 5 Freemium und 1 kostenpflichtig. Was die kostenpflichtige Stufe jeweils bietet, steht im jeweiligen Test.
Mobile Chat-Apps: Die Unterschiede
- Vollständig offline. Arbiter, Enclave AI, Google AI Edge Gallery, Layla, Locally AI, Loci AI, Maid, Noema, Off Grid AI, On Device AI, Pocket AI, PocketPal AI, Private LLM, Solair AI und ToolNeuron dokumentieren den vollständigen Offline-Betrieb auf dem Gerät.
- Eigene Modelle importieren. Arbiter, Google AI Edge Gallery, Maid, On Device AI, PocketPal AI und ToolNeuron dokumentieren den Import eigener Modelldateien.
- Modell-Downloads in der App. Arbiter, Enclave AI, Google AI Edge Gallery, Liquid Apollo, Locally AI, Loci AI, Maid, On Device AI, Pocket AI, PocketPal AI und Private LLM dokumentieren das Herunterladen von Modellen innerhalb der App.
- Bildeingabe. Arbiter, Enchanted, Google AI Edge Gallery, Locally AI, Off Grid AI, On Device AI, RikkaHub, Solair AI und ToolNeuron dokumentieren die Bildeingabe.
- Sprache. Enchanted, Enclave AI, Google AI Edge Gallery, Locally AI, Off Grid AI, On Device AI, PocketPal AI, Solair AI und ToolNeuron dokumentieren Spracheingabe oder -ausgabe.
- Preis. Von den 26 Smartphone-Apps sind 16 kostenlos, 6 Freemium und 4 kostenpflichtig.
- Dokumentation. Die meisten Smartphone-Apps sind nur durch ihren Store-Eintrag oder ihre Website dokumentiert, die weit weniger angeben als eine README – daher enthält diese Tabelle mehr Striche als die anderen.
Web- und CLI-Clients: Die Unterschiede
- Docker und Self-Hosting. AnythingLLM, Big-AGI, KoboldCpp, LibreChat, LobeChat, NextChat, Odysseus und Open WebUI dokumentieren den Betrieb per Docker oder Self-Hosting.
- Mehrere Benutzer. LibreChat und Open WebUI dokumentieren Mehrbenutzerunterstützung.
- Ollama. aichat, AnythingLLM, Big-AGI, Chatbox, LibreChat, Open WebUI und Page Assist dokumentieren die Anbindung an Ollama.
- OpenAI-kompatible Endpunkte. aichat, AnythingLLM, Big-AGI, LibreChat, NextChat, Open WebUI und Page Assist dokumentieren die Anbindung an OpenAI-kompatible Endpunkte.
- Chat mit Ihren Dateien. aichat, AnythingLLM, Chatbox, KoboldCpp, LibreChat und Open WebUI dokumentieren den Chat mit den eigenen Dateien.
- MCP. aichat, AnythingLLM, Chatbox, KoboldCpp, LibreChat, LobeChat, NextChat, Odysseus und Open WebUI dokumentieren MCP-Unterstützung.
Persönliche Assistenten: Die Unterschiede
- Lokale LLMs. Jarvis, Khoj, Meetily, nanobot, NVIDIA Project G-Assist, Odysseus, Parlor und Second Me dokumentieren die Arbeit mit lokalen LLMs.
- Sprache. Jarvis, Khoj, NVIDIA Project G-Assist, Parlor und Voxa dokumentieren Spracheingabe oder -ausgabe.
- Dauerhaftes Gedächtnis. Aori, nanobot, Odysseus, Second Me und Voxa dokumentieren ein dauerhaftes Gedächtnis.
- Werkzeugnutzung und Aktionen. Agentic Inbox, Aori, Atomic Bot, Jarvis, Khoj, nanobot, NVIDIA Project G-Assist, Odysseus, Parlor und Voxa dokumentieren Werkzeugnutzung oder Aktionen.
Rollenspiel und Companions: Die Unterschiede
- Lorebooks. Agnai, Backyard AI und RisuAI dokumentieren Unterstützung für Lorebooks bzw. World Info.
- Gruppenchats. Agnai und RisuAI dokumentieren Gruppenchats.
- Abdeckung. In dieser Gruppe sind nur vier Tools, und mehrere Rollenspiel-Funktionen (etwa Charakterkarten) werden von Projekt zu Projekt unterschiedlich beschrieben; sie werden daher im Test des jeweiligen Tools behandelt und nicht in der Tabelle.
Was dieser Vergleich nicht leisten kann
- Er vergleicht dokumentierte Fähigkeiten, nicht Qualität. Er sagt nichts darüber aus, wie gut die Antworten sind, wie schnell ein Modell auf Ihrem Gerät läuft oder wie ausgereift die Oberfläche ist – PromptQuorum hat dies für die aufgeführten Tools nicht gemessen.
- Striche sind Lücken in der von uns geprüften Dokumentation, keine negativen Befunde. Manche Tools unterstützen möglicherweise eine Funktion, die ihre README oder ihr Store-Eintrag nicht erwähnt.
- Smartphone-Apps ändern sich häufig und werden hauptsächlich durch ihre Store-Einträge beschrieben; prüfen Sie daher vor der Installation den aktuellen Eintrag und den Test des Tools.
- Tools ändern sich schnell. Der Test jedes Tools nennt die Version, gegen die er geprüft wurde, und dieser Leitfaden wird aktualisiert, wenn ein Test aktualisiert wird.
Häufig gestellte Fragen
Warum werden Desktop-, Mobil- und selbst gehostete Chat-Apps getrennt verglichen?
Es sind unterschiedliche Produkte mit unterschiedlichen Einschränkungen: Eine Smartphone-App führt kleine Modelle auf dem Gerät aus, eine Desktop-App kann größere ausführen, und eine selbst gehostete Weboberfläche ist ein Server, den Sie für sich oder ein Team betreiben. Die meisten Merkmale ergeben nur innerhalb einer Art Sinn; in einer gemeinsamen Tabelle blieben die meisten Zellen leer oder bedeutungslos.
Was bedeutet ein Strich in der Vergleichstabelle?
Er bedeutet, dass die eigene Dokumentation des Projekts dieses Merkmal nicht angibt. Er bedeutet nicht, dass die Funktion fehlt; prüfen Sie den Test des Tools oder dessen Repository.
Warum erscheint ein Tool in mehr als einer Tabelle?
Manche Tools sind auf mehr als einer Art von Gerät verfügbar – zum Beispiel als Desktop- und als Smartphone-Version – und werden daher unter jeder Art aufgeführt, zu der sie gehören, jeweils mit den Merkmalen, die für diese Art gelten.
Hat eines dieser Tools einen Affiliate-Link?
Nein. PromptQuorum hat zum Zeitpunkt der Erstellung keine Affiliate-Beziehung zu einem Tool dieses Vergleichs, und kein Link hier bringt eine Provision.
Wie oft wird dieser Vergleich aktualisiert?
Er wird zweimal im Jahr aktualisiert sowie immer dann, wenn der Test eines der aufgeführten Tools aktualisiert wird, weil die Tabelle aus denselben Daten wie diese Tests erzeugt wird.
Quellen
- Die offizielle README, Website oder der Store-Eintrag jedes Tools, aufgeführt im PromptQuorum-Test des jeweiligen Tools (verlinkt aus der Vergleichstabelle).
- PromptQuorum-Verzeichnis für lokale KI-Apps – der Datensatz, aus dem jede Zeile der Tabelle erzeugt wird.