KI-Einschränkungen: Was LLMs 2026 nicht können

LLMs haben acht strukturelle Einschränkungen, die kein Prompt, kein Fine-Tuning und keine Modellgrößenerhöhung vollständig überwinden kann — sie erfordern architektonische Ergänzungen als Workaround. Diese Grenzen entstehen aus der Transformer-Architektur und dem Trainingsprozess selbst, nicht aus mangelhafter Implementierung.

Die Unterscheidung ist für das Prompt Engineering wichtig: Einschränkungen erfordern *systemische Design-Änderungen* (Retrieval-Tools, Gedächtnisschichten, Verifikationsschritte), während schlechte Prompt-Qualität ein separates, behebbares Problem ist. Beides zu verwechseln führt zu Überengineering von Prompts, wenn die eigentliche Einschränkung architektonischer Natur ist.

Die acht Grenzen sind: Wissens-Cutoffs, Halluzination, schwaches mehrstufiges Schlussfolgern, Kontextfenster-Limits, kein dauerhaftes Gedächtnis, keine Echtwelt-Aktionen, Trainingsdaten-Bias und die Unfähigkeit, eigene Ausgaben zu überprüfen.

Schnelle Übersichtstabelle vor dem Einstieg in die Details.

Häufige Aufgaben, die LLMs ausführen sollen — und ob die aktuelle Architektur das tatsächlich leisten kann.

Die acht strukturellen Grenzen gelten universell — aber Schweregrad und verfügbare Workarounds variieren je nach Modell.

Jedes LLM hat ein Trainings-Cutoff-Datum, und das Modell hat kein Wissen über Ereignisse, Preise, Forschungsarbeiten oder Produktversionen, die nach diesem Datum veröffentlicht wurden, sofern kein externes Retrieval hinzugefügt wird. OpenAI GPT-4o hat einen Cutoff von Oktober 2024. Anthropic Claude Opus 4.7 und Google Gemini 3.1 Pro haben Cutoffs Anfang 2025.

Modelle haben auch spärliches Wissen über Ereignisse *nahe* ihres Cutoffs, da die Trainingsdatensammlung und -verarbeitung Wochen bis Monate nach dem Eintreten von Ereignissen dauert. Ein Modell, das bis Oktober 2024 trainiert wurde, kann dünne Abdeckung von Ereignissen September–Oktober 2024 haben.

Der primäre Workaround ist Retrieval-Augmented Generation (RAG), das aktuelle oder neuere Dokumente zur Abfragezeit in den Prompt einfügt. Ein sekundärer Workaround ist Prompt-Erdung: die relevanten aktuellen Fakten direkt in den Prompt einfügen und das Modell anweisen, nur aus diesem Kontext zu antworten.

LLMs generieren statistisch plausible Tokens, keine verifizierten Fakten — wenn das Trainings-Signal für einen spezifischen Fakt dünn ist, produziert das Modell eine selbstbewusst klingende Erfindung. Dies gilt für jedes Modell, einschließlich GPT-4o, Claude Opus 4.7 und Gemini 3.1 Pro. Für einen tieferen Einblick siehe KI-Halluzinationen — Warum KI Dinge erfindet.

Halluzination tritt am häufigsten auf bei: spezifischen numerischen Werten (Preise, Daten, Statistiken), Zitaten und Papierreferenzen, Nischen-Technikspezifikationen und Ereignissen nahe oder nach dem Trainings-Cutoff. Modelle signalisieren selten, wenn sie halluzinieren.

Workarounds: das Quellmaterial im Prompt bereitstellen und das Modell anweisen, nur daraus zu antworten; das Modell bitten, jede Behauptung zu markieren, die es nicht aus dem bereitgestellten Kontext bestätigen kann; RAG verwenden, um Antworten an verifizierten Dokumenten zu verankern; alle Schlüsselzahlen vor der Veröffentlichung gegen primäre Quellen validieren.

LLMs performen schlecht bei mehrstufigen logischen oder mathematischen Schlussfolgerungsaufgaben ohne explizites Chain-of-Thought-Prompting oder externe Rechner-Tools. Ein Modell, das gebeten wird, ein 10-stufiges Arithmetikproblem in einer einzigen Antwort zu lösen, wird häufig eine selbstbewusste, aber falsche Antwort produzieren.

Die Ursache: LLMs sind darauf trainiert, wahrscheinliche nächste Tokens zu generieren, nicht Zustand über eine Schlussfolgerungskette aufrechtzuerhalten. Jedes generierte Token ist auf vorherige Tokens konditioniert, aber es gibt kein Arbeitsgedächtnis oder Notizbuch, das die Zwischenergebnisse einer Berechnung festhält.

Chain-of-Thought-Prompting ("Denke Schritt für Schritt" oder nummerierte Stufen) zwingt das Modell, das Zwischenschlussfolgern aufzuschreiben, was die Genauigkeit bei mehrstufigen Aufgaben erheblich verbessert. Für präzise Arithmetik leiten Sie die Aufgabe an ein Code-Interpreter-Tool weiter, anstatt sich auf die Modellausgabe zu verlassen.

Jede LLM-Sitzung hat ein hartes Token-Limit — GPT-4o bei 128.000 Tokens, Claude Opus 4.7 bei 200.000 Tokens, Gemini 3.1 Pro bei 2.000.000 Tokens — und die Leistung bei früheren Inhalten nimmt ab, wenn das Fenster sich füllt. Siehe Kontextfenster erklärt für eine vollständige Erklärung.

Das "Lost in the Middle"-Problem: mehrere Studien zeigen, dass die LLM-Genauigkeit beim Abrufen von Informationen aus der Mitte eines langen Kontexts deutlich geringer ist als vom Anfang oder Ende. Ein 1M-Token-Fenster bedeutet keine einheitliche Aufmerksamkeit über alle 1M Tokens.

Workarounds: wichtige Informationen am Anfang oder Ende des Prompts strukturieren; RAG verwenden, um nur relevante Chunks abzurufen, anstatt vollständige Dokumente einzufügen; lange Dokumente in Chunk-Sitzungen mit Zusammenfassungsschritten aufteilen.

Standardmäßig beginnt jedes LLM-Gespräch mit einem leeren Kontext — das Modell hat kein Gedächtnis an frühere Sitzungen, vergangene Anweisungen oder frühere Benutzerpräferenzen. Das ist keine Funktionslücke; es ist die Basisarchitektur.

Anwendungsschichten (wie OpenAIs Memory-Funktion in ChatGPT oder benutzerdefinierte Gedächtnissysteme mit Vektordatenbanken) können frühere Gesprächszusammenfassungen in den Prompt einspeisen, was den *Anschein* von Gedächtnis erzeugt. Aber das ist Anwendungsschicht-Zustandsverwaltung, nicht das Modell selbst, das sich erinnert.

Für das Prompt Engineering: schließen Sie immer jeden relevanten vorherigen Kontext explizit in Ihren Prompt ein. Gehen Sie nicht davon aus, dass das Modell eine Präferenz, ein Format oder eine Einschränkung erinnert, die Sie in einer früheren Sitzung gesetzt haben.

LLMs generieren Text — sie können nicht im Web surfen, Code ausführen, E-Mails senden, Dateien ändern oder mit externen Systemen interagieren, sofern eine Tool-Use-Schicht diese Aktionen nicht explizit ermöglicht. Das Modell produziert eine Textbeschreibung dessen, was es tun würde; die Gerüstschicht führt es aus.

Tool-Use (auch Function Calling genannt) — verfügbar in GPT-4o, Claude Opus 4.7 und Gemini 3.1 Pro — lässt ein Modell strukturierte Funktionsaufrufe ausgeben, die eine Anwendung abfängt und ausführt. Das Modell kann immer noch keine Aktionen eigenständig durchführen; es kann nur strukturierten Text ausgeben, der externe Ausführung auslöst.

Autonome Agenten verpacken mehrere Tool-Aufrufe in einer Orchestrierungsschleife, was den Anschein unabhängiger Aktion erzeugt. Prompt-Injection und Sicherheitslücken sind erhebliche Bedenken in diesen Architekturen — siehe Prompt Injection und Sicherheit.

LLMs erben die Biases, Lücken und Verzerrungen ihrer Trainingsdaten — primär englischsprachige, westliche und Pre-2025-Internetinhalte. Die Leistung bei nicht-englischen Anfragen, nicht-westlichen kulturellen Kontexten und Minderheitensprachthemen ist strukturell schwächer.

Das ist relevant für internationale Teams: GPT-4o, Claude Opus 4.7 und Gemini 3.1 Pro produzieren alle stärkere Ausgaben auf Englisch als in ressourcenärmeren Sprachen. Technische Terminologie in Nischendomänen (spezifische Branchen, lokale Rechtssysteme, regionale Dialekte) kann in den Trainingsdaten schlecht vertreten sein.

Workaround: domänenspezifischen Kontext, Terminologiedefinitionen oder Beispiele im Prompt bereitstellen. Gehen Sie nicht davon aus, dass das Modell genaues Wissen über Ihre spezifische Branche, Region oder Institution hat.

LLMs haben keinen Zugang zur Grundwahrheit und können nicht überprüfen, ob ihre Antworten faktisch korrekt sind — sie können nur beurteilen, ob eine Antwort mit Mustern in ihren Trainingsdaten übereinstimmt. Ein Modell zu fragen "Ist das korrekt?" produziert eine Musterabgleich-Beurteilung, keine Verifikation.

Self-Consistency-Prompting (mehrere Antworten generieren und Übereinstimmung prüfen) verbessert die Zuverlässigkeit, garantiert aber keine Genauigkeit. Ein Modell kann konsistent falsch bei Fakten sein, die in den Trainingsdaten unterrepräsentiert oder falsch dargestellt wurden.

Die praktische Implikation: LLM-Ausgaben als Entwurf, nicht als endgültige Quelle behandeln. Alle faktischen Behauptungen — besonders numerische Werte, Daten, Zitate und technische Spezifikationen — erfordern Verifikation gegen autoritative primäre Quellen vor der Veröffentlichung.

Die acht strukturellen Grenzen zusammengefasst nach Ursache, Schweregrad und primärem Workaround.

Die acht strukturellen Einschränkungen sind real, aber jede hat mindestens ein Szenario, in dem die konventionelle Warnung das Problem übertreibt — oder wo Forschung von 2025–2026 die Lücke teilweise geschlossen hat. Die Ausnahmen zu kennen ist genauso wichtig wie die Regel zu kennen.

Diese Beispiele zeigen, wie dieselbe zugrunde liegende Anfrage scheitert, wenn sie LLM-Einschränkungen ignoriert, und erfolgreich ist, wenn sie diese berücksichtigt.

Zwei der effektivsten Techniken zur Kompensation dieser Einschränkungen sind Chain-of-Thought-Prompting — das Schlussfolgerungsschritte externalisiert und Fehler reduziert — und RAG, das Wissens-Cutoffs durch das Abrufen aktueller Kontexte kompensiert. Siehe Chain-of-Thought-Prompting und RAG erklärt.

Definitionen der Kernkonzepte, die in diesem Artikel verwendet werden. Jeder Begriff verlinkt zum vollständigen Eintrag im Prompt Engineering Glossar.

LLM-Einschränkungen sind strukturell universell, variieren aber im Schweregrad je nach Sprache, Region und regulatorischem Umfeld. EU-Organisationen, die unter dem EU AI Act (2024) arbeiten, müssen KI-Einschränkungen in Risikobewertungen für Hochrisiko-Anwendungsfälle dokumentieren — was die acht hier genannten Grenzen zu einer Compliance-Anforderung macht, nicht nur zu einem technischen Anliegen.

In China teilen Baidu ERNIE 4.0 und Alibaba Qwen 2.5 dieselben strukturellen Einschränkungen, haben aber Trainingsdaten, die auf Mandarin-Quellen ausgerichtet sind. Dies verbessert die Leistung bei chinesischsprachigen Themen, aber dieselben Wissens-Cutoff-, Halluzinations- und Schlussfolgerungs-Einschränkungen gelten.

In Japan zeigen Fujitsu Takane und Line HyperCLOVA X stärkere Leistung bei japanischsprachigen Aufgaben als allgemeine mehrsprachige Modelle, aber alle strukturellen Einschränkungen — Cutoff-Daten, Halluzination, Kontextfenster, keine Echtwelt-Aktion — gelten identisch.