Was sind KI-Halluzinationen?
📍 In One Sentence
Halluzinationen sind flüssig formulierte Falschaussagen, die Sprachmodelle erzeugen, weil sie Textmuster vorhersagen, statt Fakten aus einer verlässlichen Quelle abzurufen.
💬 In Plain Terms
Das Modell lügt nicht — es weiß schlicht nicht, dass es falsch liegt. Es vervollständigt Ihren Satz so, wie es die Trainingsdaten nahelegen, und eine selbstbewusst klingende falsche Antwort schneidet dabei genauso gut ab wie eine richtige. Deshalb lesen sich erfundene Quellen exakt wie echte.
Eine KI-Halluzination ist eine sachlich falsche oder erfundene Aussage, die von einem LLM mit anscheinender Sicherheit generiert wird. Das Modell produziert Text, der der Realität widerspricht – falsche Namen, erfundene Quellen, unmögliche Daten, fiktive URLs – und verwendet dabei die gleiche flüssige Sprache wie bei korrekten Informationen.
Dies unterscheidet sich grundlegend davon, dass ein Modell Unsicherheit ausdrückt. Halluzinationen zeichnen sich durch selbstsichere, detaillierte Aussagen über Dinge aus, die nicht existieren, oder über Ereignisse, die nie stattgefunden haben. Ein Modell könnte ein Papier zitieren, das in einer nicht existierenden Zeitschrift veröffentlicht wurde, biografische Details erfinden, ein historisches Datum um Jahrhunderte daneben liegen, oder ein Produktmerkmal beschreiben, das nie gebaut wurde. Der Nutzer liest es, geht davon aus, dass die klare Sprache Genauigkeit signalisiert, und handelt danach – um dann festzustellen, dass die Information erfunden ist.
Warum Sprachmodelle halluzinieren
LLMs funktionieren, indem sie das nächste Wort in einer Sequenz vorhersagen. Sie konsultieren keine Datenbank und verifizieren keine Fakten gegen die Grundwahrheit. Sie berechnen Wahrscheinlichkeiten basierend auf Mustern in den Trainingsdaten. Dieses Grunddesign – sehr effektiv für Sprachaufgaben – führt inhärent zu Druck, zu halluzinieren.
Die Kernmechanismen
- Token-Vorhersage, nicht Faktenabruf. Die Architektur des Modells ist auf Sprachgenerierung optimiert, nicht auf Faktenkontrolle. Wenn eine Aufforderung eine Frage stellt, besteht das Ziel des Modells darin, eine kohärente, plausible Fortsetzung des Textes zu produzieren. Kohärenz und Wahrheit sind nicht dasselbe. Eine falsche Aussage kann viel kohärenter sein als das Eingeständnis von Unsicherheit.
- Training und Bewertung belohnen Raten. Ein Forschungspapier von 2025 argumentiert, dass Halluzinationen bestehen bleiben, weil Modelltraining und die Benchmarks, mit denen Modelle verglichen werden, eine plausible Vermutung stärker belohnen als ein ehrliches „Ich weiß es nicht" (Kalai et al., 2025).
- Lücken und Ablauf von Trainingsdaten. Modelle werden mit Daten trainiert, die ein spezifisches Enddatum haben. Informationslücken – Themen, denen das Modell während des Trainings nie begegnet ist, aktuelle Ereignisse nach dem Trainingsdatum, spezialisiertes Wissen in engen Bereichen – erzeugen Leerstellen. Wenn das Modell über diese Lücken gefragt wird, fehlen ihm echte Muster zum Vorhersagen. Es erfindet plausibel klingende Details, anstatt zu sagen „Ich habe diese Information nicht."
- Kein expliziter Konfidenz-Mechanismus. Modelle generieren neben ihrer Ausgabe keinen Konfidenz-Score. Sie produzieren Text ohne ein internes Signal, das sagt *„Ich bin mir zu 30% sicher bei dieser Aussage."* Der Druck, die Seite mit Ausgaben zu füllen, überwiegt die Option, Zweifel zu signalisieren oder die Anfrage abzulehnen.
- Druck aus Aufforderungen, die Antworten fordern. Aufforderungen wie „Erkläre alles über Thema" oder „Nenne alle Gründe für Aussage" kommunizieren implizit: *du musst antworten, auch wenn du unsicher bist*. Das Modell antwortet, indem es Details erfindet, um die Anforderung zu erfüllen. Es behandelt den Druck, hilfreich zu sein, als wichtiger als das Risiko, ungenau zu sein.
- Begrenztes Kontextfenster und Informationsverlust. LLMs können nur eine begrenzte Menge an Kontext im Speicher halten. Lange Dokumente oder Gespräche führen dazu, dass frühere Details verblassen. Das Modell könnte vergessen, was in einem früheren Abschnitt gesagt wurde, es erfinden oder falsch erinnern und die Erfindung selbstsicher behaupten, als wäre sie konsistent mit dem früheren Kontext. Siehe unseren Leitfaden zu Kontextfenstern, um zu verstehen, warum dies geschieht und wie Token-Limits die Ausgabezuverlässigkeit beeinflussen.
- Konfabulation in mehrstufigen Überlegungen. Bei Problemen, die mehrere Denkschritte erfordern, kann das Modell die Spur von Zwischenergebnissen verlieren. Es könnte einen unterstützenden Schritt erfinden, um eine Schlussfolgerung zu rechtfertigen, oder einen Schritt überspringen und zu einer falschen Schlussfolgerung springen, während es Text generiert, der logisch korrekt aussieht. Zu verstehen, wie Tokens und Kosten mit langen Begründungsketten skalieren, hilft Ihnen, Genauigkeit gegen Effizienz abzuwägen.
Häufige Arten von Halluzinationen
Halluzinationen folgen erkennbaren Mustern. Die Identifikation des Typs hilft Ihnen, gezielte Minderungsstrategien auszuwählen.
Erfundene Quellen
- Example:
- Zitat eines Fachjournals, das nicht existiert; erfundene Autorennamen und Publikationsjahre
- Why It Happens:
- Das Modell wurde mit Millionen von Zitaten trainiert und lernte vermutlich zitatähnliche Muster, erfindet dann neue
- Severity:
- Sehr hoch
Falsche Fakten (Daten, Zahlen, Namen)
- Example:
- Ein historisches Ereignis im falschen Jahr nennen; fehlerhafte biografische Details
- Why It Happens:
- Trainingsdaten sind unvollständig oder widersprüchlich; Modell wählt eine plausibel klingende Zahl
- Severity:
- Sehr hoch
Gefälschte URLs und E-Mails
- Example:
- Einen Link oder eine E-Mail-Adresse angeben, der/die nicht funktioniert oder nicht der beanspruchten Organisation gehört
- Why It Happens:
- Modell lernte URL- und E-Mail-Muster und generiert neue, die realistisch, aber fiktiv sind
- Severity:
- Hoch
Kontextverlust
- Example:
- Eine Frage so beantworten, als hätte das Modell früheren Kontext verstanden, verlor aber tatsächlich die Spur
- Why It Happens:
- Das Kontextfenster ist endlich; lange Dokumente führen dazu, dass frühere Details aus der Aufmerksamkeit des Modells verblassen
- Severity:
- Hoch
Rollenwechsel
- Example:
- Mit einer Rolle (Analyst) beginnen und graduell zu einer anderen (Geschichtenerzähler) wechseln, Details erfinden, um Lücken zu füllen
- Why It Happens:
- Modell verliert die Spur der ursprünglichen Anweisung und fällt auf reines Mustervergleichen zurück
- Severity:
- Mittel
Überconfidente Verallgemeinerung
- Example:
- „Alle X tun Y" sagen, wenn nur die spezifischen Trainingsbeispiele dies zeigen
- Why It Happens:
- Modell verallgemeinert zu breit aus begrenzten Trainingsdaten ohne Konfidenz-Überprüfung
- Severity:
- Mittel
Innerer Widerspruch
- Example:
- Widersprüchliche Fakten innerhalb der gleichen Antwort feststellen
- Why It Happens:
- Modell hat keinen Mechanismus, um Konsistenz über mehrere Sätze zu verfolgen
- Severity:
- Mittel
Die sieben Halluzinationstypen sind: erfundene Quellen, falsche Fakten, erfundene URLs und E-Mail-Adressen, verlorener Kontext, Rollendrift, übermäßig selbstsichere Verallgemeinerung und interne Widersprüche.
Die Forschung unterscheidet zudem intrinsische Halluzinationen (die Ausgabe widerspricht dem Quelltext oder Prompt, den das Modell erhalten hat) von extrinsischen (die Ausgabe fügt Aussagen hinzu, die die Quelle nicht belegen kann) (Maynez et al., 2020). Das NIST Generative AI Profile (NIST AI 600-1) führt dasselbe Verhalten unter dem Begriff „Confabulation" als Risiko.
Wie Prompt-Design das Halluzinationsrisiko beeinflusst
Ihre Prompts ermutigen oder entmutigen Halluzinationen. Die Formulierung eines Prompts verändert, wie oft ein Modell rät; testen Sie das an Ihrer eigenen Aufgabe.
Prompts, die das Halluzinationsrisiko erhöhen:
- „Erzähle mir alles über Thema" – keine Grenzen, keine Erlaubnis zu sagen „Ich weiß nicht"
- „Stelle sicher, dass du viele Details einbeziehst" – expliziter Druck, Raum mit erfundenen Informationen zu füllen
- „Schreibe, als wärst du ein führender Experte" – ermutigt selbstsichere Aussagen, auch bei unsicheren Ansprüchen
- „Antworte, auch wenn du dir nicht völlig sicher bist" – entfernt die Bremse bei Halluzinationen
Prompts, die das Halluzinationsrisiko reduzieren:
- „Du darfst sagen 'Ich weiß nicht', wenn du unsicher bist" – explizite Erlaubnis, Wissenslücken zuzugeben
- „Verwende nur Informationen aus dem Kontext unten" – beschränkt die Antwort auf bereitgestellte Daten, nicht erfundenes Wissen
- „Unterscheide Fakten von Meinungen. Markiere unsichere Aussagen UNSICHER" – zwingt das Modell zu differenzieren
- „Zitiere deine Quelle für jeden Faktnanspruch" – macht erfundene Zitate offensichtlich sichtbar
- „Wenn du diesen Anspruch nicht verifizieren kannst, beziehe ihn nicht ein" – explizite Einschränkung unverifizierten Aussagen
Gute Prompt-Struktur
Gute Prompts verbinden vier Elemente: eine klare Rolle oder einen Kontext (welchen Rahmen sollte das Modell annehmen?), eine spezifische Aufgabe (welche Ausgabe brauche ich?), echte Eingabedaten (welche Informationen werden bereitgestellt?) und explizite Einschränkungen (was darf das Modell NICHT tun?). Diese Struktur reduziert den Druck zu halluzinieren, indem sie die Mehrdeutigkeit über das, was das Modell tun soll, beseitigt. Unser Leitfaden zu den 5 Bausteinen, die jeder Prompt braucht behandelt jedes Element mit Beispielen.
Siehe die vollständige Definition der Prompt-Engineering-Grundlagen für eine tiefere Exploration, wie Struktur die Zuverlässigkeit der Ausgabe beeinflusst.
Techniken zur Reduzierung von Halluzinationen
Drei komplementäre Ansätze reduzieren Halluzinationen: - Auf Prompt-Ebene: Füge Einschränkungen und Erlaubnis hinzu, Unsicherheit in deinen Prompts zuzugeben - Auf Systemebene: Verwende RAG, Function Calling oder Abruf, um Antworten in echten Daten zu verankern - Auf Modellebene: Führe den gleichen Prompt über mehrere unabhängige Modelle aus, um Halluzinationen durch Consensus zu erkennen
1. Explizite Erlaubnis zu sagen „Ich weiß nicht"
Teile dem Modell mit: „Wenn du unsicher bist oder keine Information hast, sag es. Rate nicht."
Dies entfernt den Druck, Antworten zu erfinden. Viele Modelle sind darauf trainiert, hilfreich zu sein, und werden versuchen zu antworten, auch wenn sie völlig unsicher sind. Ihnen explizit von dieser Erwartung zu entbinden gibt ihnen die Erlaubnis, abzulehnen.
2. Nach Quellen oder Belegen fragen
Verlange: „Zitiere die Quelle für jeden Faktnanspruch" oder „Gebe URL und Veröffentlichungsdatum für jede Referenz an."
Dies macht erfundene Zitate offensichtlich (sie funktionieren nicht oder zeigen auf nicht existente Quellen) und zwingt das Modell, vorsichtiger mit der Behauptung von Fakten zu sein. Es gibt dir auch einen Weg, die Ausgabe zu überprüfen: klicke auf jeden Link, verifiziere jede Quelle.
3. Selbstkritik und Widerspruchsprüfung
Fordere das Modell auf, seine eigene Ausgabe zu überprüfen:
> „Nachdem du deine Antwort fertig hast, überprüfe sie auf Widersprüche oder Aussagen, die etwas widersprechen, das du früher gesagt hast. Zeige alle Inkonsistenzen auf, die du findest."
Eine Selbstprüfung kann manche Unstimmigkeiten finden, doch ein Modell kann seinen eigenen Fehler auch wiederholen. Prüfe das Ergebnis deshalb zusätzlich an einer Quelle.
4. Verwende Negativanweisungen
Gebe explizit an, was das Modell NICHT tun darf:
- „Erfinde niemals Quellen, URLs oder Autorennamen unter irgendwelchen Umständen"
- „Nicht raten bei Daten, wenn du unsicher bist – lass das Datum leer, anstatt zu raten"
- „Füge keine Informationen hinzu, die nicht in dem bereitgestellten Kontext stehen"
Negative Formulierung funktioniert manchmal besser als positive Formulierung, um bestimmte Fehler zu verhindern.
5. Schrittweise Begründung mit Überprüfung
Für komplexe Aufgaben frage:
> „Arbeite dies Schritt für Schritt durch. Nach jedem Schritt, überprüfe, dass der vorherige Schritt korrekt ist, bevor du zum nächsten Schritt gehst."
Die Aufgabe in kleinere Teile mit Überprüfungsschritten zu unterteilen gibt dem Modell Chancen, Inkonsistenzen zu fangen, bevor sie sich verstärken.
6. Strukturiertes Ausgabeformat mit Evidence-Bereich
Fordere das Modell auf, Antwort, Begründung und Belege in unterschiedliche Abschnitte zu unterteilen:
``` ANTWORT: Direkte Antwort
BEGRÜNDUNG: Wie du zu dieser Antwort gekommen bist
BELEGE: Quellen, Fakten oder Zitate, die das unterstützen
SICHERHEIT: Wie sicher bist du und warum? ```
Diese Struktur macht Halluzinationen leicht zu erkennen: unbegründete Ansprüche haben leere oder vage BELEGE-Abschnitte und niedrige SICHERHEIT-Werte.
Systemebenen-Strategien jenseits von Prompt-Design
Prompts allein reichen für kritische Arbeit nicht aus. Füge diese Tools und Workflows hinzu.
- Retrieval-Augmented Generation (RAG). Geben Sie dem Modell ein bestimmtes Dokument, eine Wissensdatenbank oder einen Datensatz und lassen Sie es nur mit diesem Inhalt antworten. Das verankert Antworten in echten Daten statt in den Trainingsdaten und verringert Halluzinationen über Informationen, die das Modell sonst raten müsste; es beseitigt sie nicht, denn das Modell kann abgerufenen Text weiterhin falsch lesen oder falsch wiedergeben. Werkzeuge wie LangChain und Vektordatenbanken setzen dieses Muster um. Siehe unseren ausführlichen Leitfaden RAG: KI-Antworten in echten Daten verankern.
- Tool Calling und Function Use. Lasse das Modell externe Funktionen für Berechnungen, Datenbankabfragen oder Faktenkontrolle aufrufen. Anstatt eine Statistik zu erfinden, ruft das Modell eine Funktion auf, um sie abzurufen. Das beseitigt das Raten bei den Fakten, die die Funktion liefert; das Modell kann das Ergebnis aber weiterhin falsch lesen oder falsch verwenden.
- Menschliche Überprüfung und Expertenverifikation. Für kritische Entscheidungen – medizinisch, rechtlich, finanziell, sicherheitskritisch – lasse immer einen Menschen (vorzugsweise einen Experten) KI-generierte Antworten verifizieren. Keine Prompt-Technik ersetzt ein Expertenurteil.
- Automatisierte Fakten-Überprüfungs-Workflows. Führe Modell-Ausgaben durch automatisierte Systeme (Fakten-Überprüfungs-APIs, URL-Validierung, Zitat-Verifikation), bevor du sie Nutzern zeigst. Dies erkennt Halluzinationen im Maßstab, ohne jede Ausgabe manuell zu überprüfen.
So erkennen Sie KI-Halluzinationen
Keine einzelne Prüfung findet jede Halluzination, kombinieren Sie deshalb mehrere. Warnsignale sind sehr spezifische Details ohne Quelle, Zitate, die richtig aussehen, aber nicht auffindbar sind, und Antworten, die sich bei umformulierter Frage ändern.
Nutzen Sie diese Methoden, vom einfachsten zum gründlichsten:
- Prüfbare Details verifizieren. Öffnen Sie jede zitierte URL und jedes Paper und gleichen Sie Namen, Daten und Zahlen mit einer Primärquelle ab. Eine Quelle, die Sie nicht finden, ist ein starker Hinweis auf Erfindung.
- Erneut fragen und vergleichen. Stellen Sie dieselbe Frage mehrmals oder an verschiedene Modelle. Fakten, die ein Modell kennt, wiederholen sich tendenziell; erfundene Details schwanken. Die Methode SelfCheckGPT bewertet diese Konsistenz automatisch (Manakul et al., EMNLP 2023).
- Das Modell seinen Entwurf prüfen lassen. Bei Chain-of-Verification verfasst das Modell einen Entwurf, formuliert Prüffragen, beantwortet sie getrennt und überarbeitet dann den Entwurf; die Autoren berichten von weniger Halluzinationen bei den getesteten Aufgaben (Dhuliawala et al., 2023). Beispiel-Prompt: „Formuliere drei Fragen, die Fehler in deinem Entwurf aufdecken würden, beantworte jede getrennt und überarbeite den Entwurf."
- Zitate mit der Quelle abgleichen. Wenn das Modell aus einem bereitgestellten Dokument antwortet, verlangen Sie wörtliche Zitate und prüfen Sie per Textsuche, ob jedes Zitat im Dokument steht.
- Im Betrieb testen. Prüfen Sie URLs und Paketnamen automatisch, führen Sie Prompts, die früher versagt haben, als Regressionstests mit, und leiten Sie Antworten mit hohem Risiko an eine menschliche Prüfung weiter.
Mehrere Modelle und Consensus-Erkennung
Ein einzelnes Modell kann selbstsicher halluzinieren. Fragen Sie jedoch mehrere unabhängige Modelle dasselbe, widersprechen sie sich bei halluzinierten Aussagen oft.
Geben mehrere Modelle unabhängig voneinander dieselbe Antwort, ist sie eher richtig, als wenn nur ein Modell antwortet. Behauptet nur ein Modell etwas und die anderen erwähnen es nicht, gilt die Aussage als verdächtig und sollte überprüft werden.
Das ist das Prinzip des Consensus Scoring: Derselbe Prompt geht an Modelle verschiedener Anbieter, und Sie analysieren, wo sie übereinstimmen und wo nicht.
Konsensprüfung über mehrere Modelle
Die Konsensprüfung überträgt die Idee des erneuten Fragens auf verschiedene Modelle: Derselbe Prompt geht an mehrere unabhängige Modelle, und Sie vergleichen die Antworten. Aussagen, die jedes Modell wiederholt, sind eher richtig; eine Aussage, die nur ein Modell macht, braucht eine Überprüfung.
Übereinstimmung ist ein Hinweis, kein Beweis. Modelle mit ähnlichen Trainingsdaten können denselben Fehler teilen. Prüfen Sie deshalb alles mit hohem Risiko an einer Primärquelle.
PromptQuorum automatisiert Versand und Vergleich: Senden Sie einen Prompt gleichzeitig an mehrere KI-Modelle und sehen Sie, welche Aussagen übereinstimmen und welche abweichen.
Halluzinationen und Regulierung
Regulierer erwarten zunehmend, dass Organisationen ungenaue KI-Ausgaben beherrschen. In der EU verlangt Artikel 15 der KI-Verordnung, dass Hochrisiko-KI-Systeme über ihren gesamten Lebenszyklus ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit erreichen. In den USA führt das NIST Generative AI Profile (NIST AI 600-1) Confabulation unter den Risiken auf, die Organisationen steuern sollen.
Welche Regeln gelten, hängt von Ihrem System und Einsatzfall ab; dies ist eine allgemeine Information, keine Rechtsberatung. Unabhängig von der Region bleiben die Kerntechniken (Grounding, Konsensprüfung, menschliche Kontrolle) anwendbar.
Reale Fälle von KI-Halluzinationen
Halluzinationen hatten bereits rechtliche und sicherheitsrelevante Folgen. Drei dokumentierte Beispiele:
- Erfundene Gerichtsentscheidungen (2023). Im Fall Mata v. Avianca reichten Anwälte einen Schriftsatz ein, der Gerichtsentscheidungen zitierte, die ChatGPT erfunden hatte. Am 22. Juni 2023 verhängte ein Bundesrichter in New York gegen die beiden Anwälte und ihre Kanzlei eine Geldstrafe von 5.000 US-Dollar (Bericht von LawNext).
- Falsche Chatbot-Auskunft zu einer Erstattungsregel (2024). Der Website-Chatbot von Air Canada teilte einem Kunden mit, er könne einen Trauerfall-Tarif nachträglich beantragen, was die Regeln der Fluggesellschaft nicht erlaubten. Ein Schiedsgericht in British Columbia machte die Airline in Moffatt v. Air Canada für die Auskunft ihres Chatbots verantwortlich (Entscheidung 2024 BCCRT 149).
- Software-Pakete, die nicht existieren. Eine Studie mit 576.000 Codebeispielen von 16 Modellen ergab, dass im Durchschnitt mindestens 5,2 % der von kommerziellen Modellen vorgeschlagenen Pakete und 21,7 % der von Open-Source-Modellen vorgeschlagenen Pakete nicht existierten; ein Angreifer könnte einen solchen Namen registrieren und Schadcode ausliefern (Spracklen et al., 2024).
- Erfundene SQL- und API-Details. Dasselbe kann bei SQL- und API-Code passieren: Tabellen, Spalten oder Funktionen, die plausibel klingen, aber in Ihrem Schema nicht vorkommen. Fügen Sie das echte Schema oder die API-Referenz in den Prompt ein und führen Sie generierten Code zuerst gegen eine Testdatenbank aus.
Wenn Halluzinationen am gefährlichsten sind
Halluzinationen können in bestimmten Bereichen erheblichen Schaden anrichten. Dieser Artikel ist eine allgemeine Information und keine medizinische, rechtliche oder finanzielle Beratung; holen Sie bei KI-Ausgaben in diesen Bereichen fachlichen Rat ein, bevor Sie handeln. Besondere Vorsicht ist geboten bei:
- Medizinische und Gesundheitsentscheidungen – Falsche Arzneimittelnamen, Dosierungen oder Symptominterpretationen können Patienten schaden
- Rechtliche und Compliance-Fragen – Erfundene Rechtsprechung, Regelungsanforderungen oder Präzedenzfälle können zu teuren Fehlern oder Verstößen führen
- Finanzielle Ratschläge – Falsche Marktdaten, falsche Steuerinformationen oder erfundene Leistungsmetriken führen hochriskante Entscheidungen in die Irre
- Sicherheitskritische Systeme – Halluzinationen bei Code Review, Architekturentscheidungen oder Sicherheitsanalyse können Schwachstellen oder Bugs einführen
- Öffentliche Zuschreibung – Alles, das unter deinem Namen oder Marke veröffentlicht wird, muss überprüft werden; Halluzinationen beschädigen Glaubwürdigkeit
Kritisches Prinzip: Selbst mit perfekten Prompts und Consensus-Überprüfung bleibt menschliche Verifikation für hochriskante Entscheidungen wesentlich. Verwende KI als Zeit-sparer und First-Pass-Tool, nicht als Ersatz für Expertenurteil oder primäre Quellenverifikation.
Lerne, wie Self-Critique-Techniken Fehler in komplexen Denkaufgaben weiter reduzieren können.
Praktische Checkliste: Bevor du einen kritischen Prompt sendest
Verwende diese Checkliste, bevor du einen Prompt sendest, auf den du dich für Entscheidungen oder öffentliche Ausgaben stützen wirst:
- Erlaubt der Prompt explizit „Ich weiß nicht"? Füge hinzu: „Du darfst 'Ich weiß nicht' sagen, wenn du unsicher bist."
- Gibt es echten Kontext oder Daten im Prompt? Vage Prompts laden zur Erfindung ein. Gebe spezifische Dokumente, Beispiele oder Eingabedaten an.
- Sind Einschränkungen explizit? Sag, was das Modell NICHT tun darf, besonders: „Erfinde keine Quellen, URLs oder Zitate."
- Ist das Ausgabeformat strukturiert? Trenne Answer / Reasoning / Evidence / Confidence. Das macht unbegründete Aussagen offensichtlich.
- Fragst du nach Quellen? Für jeden faktischen Anspruch, verlange: „Zitiere die Quelle für diesen Fakt."
- Ist die Aufgabe spezifisch, nicht offenendlich? „Nenne fünf Marketingstrategien *für ein B2B-SaaS-Produkt für Finanzfachleute*" ist besser als „Erzähl mir von Marketing."
- Hast du das Modell aufgefordert zu selbst-überprüfen? Füge hinzu: „Überprüfe deine Antwort auf Widersprüche, bevor du sie absendest."
- Für hochriskante Entscheidungen, überprüfst du quer? Sende den gleichen Prompt zu mehreren Modellen und vergleiche Antworten.
Vorher / Nachher Prompt-Beispiel
Schlechter Prompt
Warum das fehlschlägt: Offenendlich, keine Einschränkungen, keine Erlaubnis, Unsicherheit zuzugeben. Das Modell wird Daten erfinden, Durchbrüche falsch zuordnen, selbstsicher veraltete Informationen wiedergeben, und möglicherweise Paper zitieren, die nicht existieren.
Erzähl mir von der Geschichte der künstlichen Intelligenz. Beziehe große Durchbrüche und wichtige Forscher ein.
Guter Prompt
Verwende nur die folgende Zeitleiste, um die großen Durchbrüche in AI von 1950 bis 1990 zusammenzufassen: {ZEITLEISTE DATEN EINGEFÜGT} Formatiere deine Antwort als: DURCHBRUCH: {Name} JAHR: {Jahr — nur wenn in Zeitleiste angegeben} BEDEUTUNG: {Was es ermöglichte} QUELLE: {Welches Dokument aus der Zeitleiste erwähnt das?} Füge keine Informationen hinzu, die nicht in der Zeitleiste sind. Wenn du unsicher bist, ob etwas in der Zeitleiste ist, überspringe es, anstatt zu raten.
Warum das funktioniert:
- Echte Daten statt Erfindung: Das Modell arbeitet von bereitgestelltem Kontext, nicht von Trainingsdaten-Lücken
- Strukturierte Ausgabe: Das Format macht fehlende Quellen sofort offensichtlich
- Negativanweisung: „Füge keine Informationen hinzu, die nicht in der Zeitleiste sind" ist explizit
- Erlaubnis auszulassen: „Wenn unsicher, überspringe es" entfernt den Druck, Details zu erfinden
- Quellen-Verantwortlichkeit: Jede Aussage erfordert, die Quellenangabe zu zitieren
Wie man KI-Halluzinationen reduziert: 6 Prompt-Techniken
- 1Explizite Erlaubnis geben, "Ich weiß es nicht" zu sagen: Fügen Sie jedem sachlichen Prompt hinzu: "Wenn du dir nicht sicher bist, sage 'Ich weiß es nicht', anstatt zu raten." Das verringert eine Klasse selbstbewusster Erfindungen, beseitigt sie aber nicht.
- 2Nach Quellen oder Belegen fragen: Weisen Sie das Modell an, für jede Aussage eine Quelle zu zitieren oder nicht verifizierbare Aussagen zu kennzeichnen. Beispiel: "Notiere nach jeder Tatsache entweder den Namen der Quelle oder 'nicht verifiziert'."
- 3Einen Selbstkritik-Schritt hinzufügen: Bitten Sie das Modell, seine eigene Ausgabe vor der Fertigstellung zu überprüfen. Beispiel: "Liste vor der Antwort alle Aussagen auf, bei denen du dir zu weniger als 90 % sicher bist."
- 4Negative Anweisungen verwenden: Verbieten Sie explizit halluzinationsanfälliges Verhalten. Beispiel: "Erfinde keine Namen, Titel oder Statistiken. Extrapoliere nicht über den bereitgestellten Kontext hinaus."
- 5Schrittweises Denken verlangen: Chain-of-Thought-Prompting zwingt das Modell, seinen Denkweg offenzulegen, wodurch Fehler erkennbar werden, bevor sie die endgültige Antwort erreichen.
- 6An mehrere Modelle mit PromptQuorum versenden: Senden Sie denselben Prompt gleichzeitig an GPT-5.6, Claude und Gemini. Von allen drei bestätigte Fakten sind eher richtig (Übereinstimmung ist ein Hinweis, kein Beweis); abweichende Antworten kennzeichnen Aussagen, die überprüft werden müssen.
Häufig gestellte Fragen
Können Halluzinationen vollständig eliminiert werden?
Nein. Halluzinationen sind dem Funktionieren von Sprachmodellen eigen – sie sagen Textmuster vorher, anstatt Fakten aus einem verifizierten Speicher abzurufen. Du kannst sie mit gutem Prompt-Design, Tools wie RAG und Multi-Modell-Consensus erheblich reduzieren, aber vollständige Elimination ist nicht möglich, gegeben die aktuelle LLM-Architektur. Menschliche Verifikation bleibt für hochriskante Entscheidungen notwendig.
Warum klingt das Modell so selbstsicher, wenn es falsch ist?
Sprachmodelle sind darauf trainiert, flüssigen, kohärenten Text zu generieren. Selbstsicherheit ist ein Nebenprodukt sprachlicher Kohärenz. Eine falsche Aussage kann viel kohärenter und wohl-artikuliert sein als ein ehrliches Eingeständnis von Unsicherheit. Das Modell hat keinen eingebauten Mechanismus, um Zweifel auszudrücken – es produziert Text mit gleicher flüssiger Selbstsicherheit, unabhängig von der Genauigkeit.
Halluzinieren neuere, größere Modelle weniger?
Nicht zuverlässig. Halluzinationsraten hängen vom Modell, von der Aufgabe und von der Messmethode ab, und veröffentlichte Vergleiche widersprechen sich. Testen Sie deshalb Ihren eigenen Anwendungsfall, statt anzunehmen, ein neueres oder größeres Modell sei sicherer. Neuere Modelle befolgen Anweisungen wie „Sag Ich weiß es nicht, wenn du unsicher bist" oft besser, aber keines beseitigt das Problem.
Entfernt das Verbinden eines Modells mit dem Internet Halluzinationen?
Teilweise. Echtzeit-Web-Zugang hilft bei aktuellen Ereignissen und neuesten Fakten, löst aber nicht das Kernproblem: das Modell erfindet immer noch Details, missinterpretiert Suchergebnisse oder halluziniert über Inhalte, die es nicht wirklich abgerufen hat. Internet-Zugang ist ein Tool, das eine Klasse von Halluzinationen reduziert, keine Heilmittel.
Wie kann ich schnell überprüfen, ob eine Antwort halluziniert ist?
Prüfen Sie die Quellen: Klicken Sie auf URLs oder suchen Sie nach zitierten Arbeiten. Wenn sie nicht existieren, behandeln Sie die Antwort als unzuverlässig und überprüfen Sie sie. Prüfen Sie Fakten: Gleichen Sie Daten, Namen und Zahlen mit vertrauenswürdigen Quellen ab. Vergleichen Sie mehrere Modelle: Stellen Sie verschiedenen Modellen dieselbe Frage. Starke Uneinigkeit deutet darauf hin, dass mindestens eines halluziniert. Wenden Sie Fachwissen an: Wenn Sie das Gebiet kennen, lesen Sie kritisch auf subtile Unplausibilitäten – Halluzinationen haben für Fachleute oft verräterische Anzeichen.
Sollte ich aufhören, KI zu verwenden, wenn sie halluziniert?
Nein. Verwende KI strategisch mit Verifikation. Für Brainstorming, Entwürfe und erkundendes Arbeiten sind Halluzinationen ein geringer Ärger. Für faktenkritische Arbeit (Recherche, Compliance, medizinische Entscheidungen, finanzielle Ratschläge), verwende KI als Ausgangspunkt, überprüfe dann alles mit vertrauenswürdigen Quellen oder Expertenüberprüfung.
Was ist der Unterschied zwischen einer Halluzination und einem echten Fehler?
Eine Halluzination ist selbstsicher und falsch. Wenn ein Modell sagt „Ich bin nicht sicher, aber es könnte X sein," das ist ehrliche Unsicherheit, nicht Halluzination. Wenn es sagt „Die Hauptstadt von Frankreich ist Berlin" mit vollständiger Selbstsicherheit, das ist eine Halluzination – das Modell hat etwas Falsches so gesagt, als wäre es ein Fakt. Das Erkennungszeichen ist selbstsichere Behauptung von etwas Unwahrem.
Was sollte ich tun, wenn eine KI selbstsicher antwortet, aber keine Belege liefert?
Behandeln Sie die Antwort als möglicherweise falsch und überprüfen Sie sie an verlässlichen Belegen, bevor Sie sie verwenden oder veröffentlichen. Ein selbstsicherer Ton sagt nichts über die Richtigkeit aus. Fordern Sie Quellen an, öffnen Sie jede einzelne und vergleichen Sie die Aussage mit einer Primärquelle oder einem zweiten Modell.
Ist „Confabulation" dasselbe wie Halluzination?
In der Praxis ja: Beide Wörter beschreiben ein Modell, das flüssigen, aber falschen oder unbelegten Inhalt erzeugt. „Halluzination" ist der gängige Begriff; das NIST Generative AI Profile (NIST AI 600-1) verwendet „Confabulation" für dasselbe Risiko.
Warum erfindet KI Code, Paketnamen und SQL?
Das Modell sagt Code vorher, der dem bekannten Code ähnelt, und kann deshalb Funktionsaufrufe, Pakete oder Tabellennamen erzeugen, die ins Muster passen, aber nicht existieren. In einer Studie von 2024 mit 16 Modellen existierten im Durchschnitt mindestens 5,2 % der von kommerziellen und 21,7 % der von Open-Source-Modellen vorgeschlagenen Pakete nicht. Geben Sie dem Modell Ihr echtes Schema oder Ihre API-Referenz, installieren Sie nur geprüfte Pakete und testen Sie generierten Code vor dem Einsatz.
Weiterführendes Material
- Was ist Prompt Engineering? – die Grundkonzepte hinter der Strukturierung von Prompts
- Chain-of-Thought-Prompting – schrittweises Denken, das Fehler sichtbar macht
- Multi-Modell-Prompt-Tests – Modelle mit demselben Prompt vergleichen, um Abweichungen zu erkennen
- RAG erklärt – Antworten in eigenen Dokumenten verankern
- KI-Grenzen: Was LLMs nicht können – die acht strukturellen Einschränkungen, die jedes LLM teilt, und die technische Lösung für jede davon
- KI-Wissensstichtag, Live-Suche und GEO: Der vollständige Leitfaden – veraltetes Trainingswissen kann zu falschen Antworten führen; RAG und GEO als Lösungen
Quellen
- Kalai, A. T., Nachum, O., Vempala, S. S., & Zhang, E. (2025). „Why Language Models Hallucinate." arXiv — argumentiert, dass Training und Bewertung Raten stärker belohnen als das Eingeständnis von Unsicherheit.
- Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). „On Faithfulness and Factuality in Abstractive Summarization." ACL Anthology — empirische Studie zu Halluzinationen in der neuronalen Textzusammenfassung; Quelle der Unterscheidung intrinsisch/extrinsisch.
- Manakul, P., Liusie, A., & Gales, M. J. F. (2023). „SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models." arXiv — erkennt Halluzinationen über die Konsistenz mehrerer erzeugter Antworten.
- Dhuliawala, S., Komeili, M., Xu, J., et al. (2023). „Chain-of-Verification Reduces Hallucination in Large Language Models." arXiv — Methode aus Entwurf, Prüfung und Überarbeitung, die in den Tests der Autoren Halluzinationen verringerte.
- Spracklen, J., Wijewickrama, R., Sakib, A. H. M. N., et al. (2024). „We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs." arXiv — misst, wie oft Code-Modelle Pakete vorschlagen, die nicht existieren.
- Wei, J., Wang, X., Schuurmans, D., et al. (2022). „Chain-of-Thought Prompting Elicits Reasoning in Large Language Models." arXiv — zeigt, dass schrittweise Denkanweisungen die Leistung bei mehrstufigem Schlussfolgern verbessern.
- National Institute of Standards and Technology (2024). „Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1)." DOI — führt Confabulation unter den Risiken generativer KI auf.
- European Union (2024). „Artificial Intelligence Act, Article 15: Accuracy, robustness and cybersecurity." AI Act Service Desk — Anforderungen an Genauigkeit, Robustheit und Cybersicherheit für Hochrisiko-KI-Systeme.
- LawNext (2023). „Court imposes sanctions on lawyers who filed bogus cases after relying on ChatGPT for legal research." LawNext — Bericht über die Sanktionen vom 22. Juni 2023 in Mata v. Avianca.
- Civil Resolution Tribunal of British Columbia (2024). „Moffatt v. Air Canada, 2024 BCCRT 149." Decision — Entscheidung des Schiedsgerichts in Moffatt v. Air Canada.