Que sont les hallucinations IA?
📍 In One Sentence
Les hallucinations sont des affirmations fausses mais fluides que les modèles de langage produisent parce qu'ils prédisent des motifs de texte au lieu de récupérer des faits dans une source fiable.
💬 In Plain Terms
Le modèle ne ment pas : il ignore simplement qu'il se trompe. Il complète votre phrase comme le suggèrent ses données d'entraînement, et une réponse fausse mais assurée obtient un aussi bon score qu'une réponse juste. D'où des sources inventées qui se lisent exactement comme les vraies.
Une hallucination IA est une déclaration factuellement fausse ou fabriquée générée par un LLM avec une confiance apparente. Le modèle produit du texte qui viole la réalité – des noms erronés, des sources inventées, des dates impossibles, des URL fictives – en utilisant le même langage fluide que pour les informations exactes.
Cela diffère fondamentalement d'un modèle exprimant l'incertitude. Les hallucinations se caractérisent par des affirmations confiantes et détaillées sur des choses qui n'existent pas ou sur des événements qui ne se sont jamais produits. Un modèle pourrait citer un article publié dans une revue qui n'existe pas, inventer des détails biographiques, énoncer une date historique décalée de siècles, ou décrire une fonctionnalité de produit jamais construite. L'utilisateur le lit, suppose que le langage clair signale l'exactitude, et agit dessus – pour découvrir que l'information est fabriquée.
Pourquoi les modèles de langage hallucinent
Les LLM fonctionnent en prédisant le mot suivant dans une séquence. Ils ne consultent pas une base de données et ne vérifient pas les faits par rapport à la vérité fondamentale. Ils calculent les probabilités en fonction des modèles dans les données d'entraînement. Cette conception fondamentale – très efficace pour les tâches de langage – crée intrinsèquement une pression pour halluciner.
Les mécanismes fondamentaux
- Prédiction du token, pas récupération des faits. L'architecture du modèle est optimisée pour la génération de langage, pas la vérification des faits. Lorsqu'un prompt pose une question, l'objectif du modèle est de produire une continuation de texte cohérente et plausible. La cohérence et la véracité ne sont pas la même chose. Une fausse déclaration peut être beaucoup plus cohérente qu'un aveu d'incertitude.
- L'entraînement et l'évaluation récompensent la devinette. Un article de recherche de 2025 soutient que les hallucinations persistent parce que l'entraînement et les benchmarks qui classent les modèles récompensent davantage une supposition plausible qu'un honnête « je ne sais pas » (Kalai et al., 2025).
- Lacunes dans les données d'entraînement et expiration. Les modèles s'entraînent sur des données avec une date de fin spécifique. Les lacunes informatives – des sujets que le modèle n'a jamais rencontrés lors de l'entraînement, les événements récents après la date limite d'entraînement, les connaissances spécialisées dans des domaines étroits – créent des vides. Lorsqu'on le demande sur ces lacunes, le modèle manque de modèles véridiques pour prédire. Il invente des détails plausibles plutôt que de dire "je n'ai pas cette information."
- Pas de mécanisme de confiance explicite. Les modèles ne génèrent pas un score de confiance aux côtés de chaque sortie. Ils produisent du texte sans un signal interne disant *"Je suis 30% sûr de cette affirmation."* La pression de remplir la page avec une sortie annule l'option de signaler le doute ou de refuser la demande.
- Pression des prompts exigeant une réponse. Les prompts comme "Explique tout sur sujet" ou "Énumère toutes les raisons affirmation" communiquent implicitement: *tu dois répondre, même si tu n'es pas sûr*. Le modèle répond en inventant des détails pour satisfaire la demande. Il traite la pression d'être utile comme plus importante que le risque d'être inexact.
- Fenêtre de contexte limitée et perte d'information. Les LLM ne peuvent tenir qu'une quantité finie de contexte en mémoire. Les longs documents ou les conversations font que les détails antérieurs s'estompent. Le modèle pourrait oublier ce qui a été dit dans une section antérieure, l'inventer ou le mal mémoriser, et affirmer confidentement la fabrication comme si elle était cohérente avec le contexte antérieur. Consultez notre guide sur les fenêtres de contexte pour comprendre pourquoi cela se produit et comment les limites de tokens affectent la fiabilité de la sortie.
- Confabulation dans le raisonnement multi-étapes. Pour les problèmes nécessitant plusieurs étapes de raisonnement, le modèle peut perdre la trace des résultats intermédiaires. Il pourrait inventer une étape de soutien pour justifier une conclusion, ou sauter une étape et sauter à une fausse conclusion tout en générant du texte qui semble logiquement correct. Comprendre comment les tokens et les coûts s'adaptent aux longues chaînes de raisonnement vous aide à équilibrer la précision avec l'efficacité.
Types courants d'hallucinations
Les hallucinations viennent en motifs reconnaissables. Identifier le type vous aide à cibler les stratégies d'atténuation.
Sources inventées
- Example:
- Citation d'un article évalué par les pairs qui n'existe pas; faux noms d'auteurs et années de publication
- Why It Happens:
- Le modèle a été entraîné sur des millions de citations et a probablement appris des modèles de type citation, puis en invente de nouveaux
- Severity:
- Très élevée
Mauvais faits (dates, nombres, noms)
- Example:
- Énoncer un événement historique en mauvaise année; détails biographiques incorrects
- Why It Happens:
- Les données d'entraînement sont incomplètes ou contradictoires; le modèle choisit un nombre plausible
- Severity:
- Très élevée
URL et e-mails fabriqués
- Example:
- Fournir un lien ou une adresse e-mail qui ne se résout pas ou n'appartient pas à l'organisation revendiquée
- Why It Happens:
- Le modèle appris les modèles d'URL et d'e-mail et génère de nouveaux qui semblent réalistes mais sont fictifs
- Severity:
- Élevée
Perte de contexte
- Example:
- Répondre à une question comme si le modèle avait compris le contexte antérieur, alors qu'il a en réalité perdu de vue
- Why It Happens:
- La fenêtre de contexte est finie; les longs documents font que les détails antérieurs s'estompent de l'attention du modèle
- Severity:
- Élevée
Dérive de rôle
- Example:
- Commencer dans un rôle (analyste) et graduel passer à un autre (conteur), inventer des détails pour combler les lacunes
- Why It Happens:
- Le modèle perd de vue les instructions initiales et revient à la correspondance de motifs uniquement sur le texte
- Severity:
- Moyen
Généralisation trop confiante
- Example:
- Déclarer "Tous les X font Y" alors que seuls les exemples d'entraînement spécifiques le montrent
- Why It Happens:
- Le modèle généralise trop largement à partir de données d'entraînement limitées sans vérification de confiance
- Severity:
- Moyen
Contradiction interne
- Example:
- Énoncer les faits opposés au sein de la même réponse
- Why It Happens:
- Le modèle n'a pas de mécanisme pour suivre la cohérence sur plusieurs phrases
- Severity:
- Moyen
Les sept types d'hallucinations sont : sources inventées, faits erronés, URL et e-mails fabriqués, perte de contexte, dérive de rôle, généralisation trop assurée et contradictions internes.
Les chercheurs distinguent aussi les hallucinations intrinsèques (la sortie contredit le texte ou le prompt fourni au modèle) des hallucinations extrinsèques (la sortie ajoute des affirmations que la source ne permet pas d'étayer) (Maynez et al., 2020). Le NIST Generative AI Profile (NIST AI 600-1) range le même comportement parmi les risques sous le nom de « confabulation ».
Comment la conception des prompts affecte le risque d'hallucination
Vos prompts encouragent ou découragent les hallucinations. La formulation d'un prompt change la fréquence à laquelle un modèle devine ; testez-la sur votre propre tâche.
Prompts augmentant le risque d'hallucination:
- "Dis-moi tout sur sujet" – aucune limite, aucune permission de dire "je ne sais pas"
- "Assure-toi d'inclure de nombreux détails" – pression explicite pour remplir l'espace d'informations inventées
- "Écris comme si tu étais un expert de premier plan" – encourage les affirmations confiantes, même pour les réclamations incertaines
- "Réponds même si tu n'es pas complètement sûr" – supprime le frein sur l'hallucination
Prompts réduisant le risque d'hallucination:
- "Tu peux dire 'Je ne sais pas' si tu n'es pas sûr" – permission explicite d'admettre les lacunes de connaissances
- "Utilise uniquement les informations du contexte ci-dessous" – limite la réponse aux données fournies, pas aux connaissances inventées
- "Sépare les faits des opinions. Marque les affirmations incertaines INCERTAIN" – force le modèle à différencier
- "Cite ta source pour tout énoncé factuel" – rend les citations inventées manifestement visibles
- "Si tu ne peux pas vérifier cette affirmation, ne l'inclus pas" – limite explicite sur les affirmations non vérifiées
Bonne structure de prompt
Les bons prompts combinent quatre éléments: un rôle ou contexte clair (quel cadre le modèle devrait-il adopter?), une tâche spécifique (quelle sortie ai-je besoin?), des données d'entrée réelles (quelles informations sont fournies?) et des contraintes explicites (que le modèle NE doit PAS faire?). Cette structure réduit la pression d'halluciner en supprimant l'ambiguïté sur ce que le modèle est supposé faire. Notre guide sur les 5 blocs de construction dont chaque prompt a besoin couvre chaque élément avec des exemples.
Voir la définition complète des fondamentaux du prompt engineering pour une exploration plus profonde de la façon dont la structure affecte la fiabilité de la sortie.
Éviter et réduire les hallucinations de l'IA : techniques
Trois approches complémentaires réduisent les hallucinations: - Au niveau du prompt: Ajoutez des contraintes et permission d'admettre l'incertitude dans vos prompts - Au niveau du système: Utilisez RAG, l'appel de fonction ou la récupération pour ancrer les réponses dans les données réelles - Au niveau du modèle: Exécutez le même prompt sur plusieurs modèles indépendants pour détecter les hallucinations par consensus
1. Permission explicite de dire "Je ne sais pas"
Dites au modèle: "Si tu n'es pas sûr ou si tu n'as pas l'information, dis-le. Ne devine pas."
Cela supprime la pression d'inventer des réponses. Beaucoup de modèles sont entraînés pour être utiles et tenteront de répondre même s'ils sont complètement incertains. Leur donner explicitement la permission de cette attente leur donne la permission de refuser.
2. Demander des sources ou des preuves
Demande: "Cite la source pour toute affirmation factuelle" ou "Fournir l'URL et la date de publication pour chaque référence."
Cela rend les citations inventées évidentes (elles ne seront pas résolues ou pointeront vers des sources inexistantes) et force le modèle à être plus prudent sur l'affirmation de faits. Cela vous donne aussi un moyen de vérifier la sortie: cliquez sur chaque lien, vérifiez chaque source.
3. Autocritique et vérification des contradictions
Demande au modèle d'examiner sa propre sortie:
> "Après avoir fini ta réponse, examen pour les contradictions ou les affirmations qui contredisent quelque chose que tu as dit plus tôt. Souligne toutes les incohérences que tu trouves."
Une autorelecture peut repérer certaines incohérences, mais le modèle peut aussi répéter sa propre erreur : vérifiez donc le résultat auprès d'une source.
4. Utiliser les instructions négatives
Préciser explicitement ce que le modèle ne doit PAS faire:
- "N'invente jamais de sources, URL ou noms d'auteurs sous aucune circonstance"
- "Ne devine pas les dates si tu n'es pas sûr – laisse la date vide plutôt que de deviner"
- "N'ajoute pas d'informations qui ne sont pas dans le contexte fourni"
La formulation négative fonctionne parfois mieux que la formulation positive pour prévenir les erreurs spécifiques.
5. Raisonnement étape par étape avec vérification
Pour les tâches complexes, demande:
> "Travaille cela étape par étape. Après chaque étape, vérifiez que l'étape précédente est correcte avant de passer à l'étape suivante."
Décomposer la tâche en petites parties avec des étapes de vérification donne au modèle des chances de attraper les incohérences avant qu'elles ne s'aggravent.
6. Format de sortie structuré avec section de preuves
Demandez au modèle de séparer réponse, raisonnement et preuves en sections distinctes:
``` RÉPONSE: Réponse directe
RAISONNEMENT: Comment tu as trouvé cette réponse
PREUVES: Sources, faits ou citations supportant cela
CONFIANCE: Combien tu es sûr, et pourquoi? ```
Cette structure rend les hallucinations faciles à repérer: les affirmations non supportées auront des sections PREUVES vides ou vagues, et des valeurs de CONFIANCE basses.
Stratégies au niveau système au-delà de la conception des prompts
Les prompts seuls ne suffisent pas pour les travaux critiques. Ajoutez ces outils et workflows.
- Retrieval-Augmented Generation (RAG). Fournissez au modèle un document, une base de connaissances ou un jeu de données précis et demandez-lui de répondre uniquement à partir de ce contenu. Les réponses s'appuient ainsi sur des données réelles plutôt que sur les données d'entraînement, ce qui réduit les hallucinations sur des informations que le modèle devrait sinon deviner ; cela ne les supprime pas, car le modèle peut encore mal lire ou mal citer le texte récupéré. Des outils comme LangChain et les bases de données vectorielles mettent en œuvre ce schéma. Consultez notre guide complet : RAG : ancrer les réponses de l'IA dans des données réelles.
- Appel de fonction et utilisation de fonctions. Laissez le modèle appeler des fonctions externes pour les calculs, les recherches en base de données ou la vérification des faits. Au lieu d'inventer une statistique, le modèle appelle une fonction pour la récupérer. Cela évite d'avoir à deviner les faits que la fonction renvoie, mais le modèle peut encore mal lire ou mal utiliser le résultat.
- Examen humain et vérification par les experts. Pour les décisions critiques – médicales, juridiques, financières, critiques pour la sécurité – laissez toujours un humain (de préférence un expert) vérifier les réponses générées par l'IA. Aucune technique de prompt ne remplace le jugement d'un expert.
- Workflows de vérification automatisée des faits. Exécutez les résultats du modèle par des systèmes automatisés (API de vérification des faits, validation d'URL, vérification des citations) avant de les montrer aux utilisateurs. Cela détecte les hallucinations à l'échelle sans examen manuel de chaque sortie.
Comment détecter les hallucinations de l'IA
Aucun contrôle isolé ne détecte toutes les hallucinations ; combinez-en plusieurs. Les signaux d'alerte sont des détails très précis sans source, des citations d'apparence correcte mais introuvables, et des réponses qui changent quand on reformule la question.
Utilisez ces méthodes, de la plus simple à la plus approfondie :
- Vérifier les détails contrôlables. Ouvrez chaque URL et chaque article cité, et confrontez noms, dates et chiffres à une source primaire. Une source introuvable est un fort indice d'invention.
- Reposer la question et comparer. Posez la même question plusieurs fois ou à différents modèles. Les faits que le modèle connaît tendent à se répéter ; les détails inventés varient. La méthode SelfCheckGPT note cette cohérence automatiquement (Manakul et al., EMNLP 2023).
- Faire vérifier son brouillon par le modèle. Avec Chain-of-Verification, le modèle rédige un brouillon, écrit des questions de vérification, y répond séparément, puis corrige le brouillon ; les auteurs rapportent moins d'hallucinations sur les tâches testées (Dhuliawala et al., 2023). Exemple de prompt : « Écris trois questions qui révéleraient des erreurs dans ton brouillon, réponds à chacune séparément, puis corrige le brouillon. »
- Confronter les citations à la source. Quand le modèle répond à partir d'un document fourni, exigez des citations littérales et vérifiez par recherche de texte que chacune figure dans le document.
- Tester en production. Validez automatiquement les URL et les noms de paquets, conservez en tests de régression les prompts qui ont déjà échoué et faites relire par un humain les réponses à fort enjeu.
Plusieurs modèles et détection du consensus
Un seul modèle peut halluciner avec assurance. Mais si vous posez la même question à plusieurs modèles indépendants, ils divergent souvent sur les affirmations hallucinées.
Si plusieurs modèles donnent séparément la même réponse, elle a plus de chances d'être correcte que celle d'un modèle seul. Si un seul modèle avance une affirmation que les autres ne mentionnent pas, considérez-la comme suspecte et vérifiez-la.
C'est le principe du consensus scoring : envoyer le même prompt à des modèles de fournisseurs différents et analyser où ils s'accordent et où ils divergent.
Contrôle par consensus entre modèles
Le contrôle par consensus applique l'idée de reposer la question à des modèles différents : le même prompt part vers plusieurs modèles indépendants et vous comparez les réponses. Les affirmations que tous les modèles répètent ont plus de chances d'être justes ; une affirmation formulée par un seul modèle demande une vérification.
L'accord est un indice, pas une preuve. Des modèles entraînés sur des données proches peuvent partager la même erreur : confrontez donc toute information à fort enjeu à une source primaire.
PromptQuorum automatise l'envoi et la comparaison : envoyez un prompt à plusieurs modèles d'IA à la fois et voyez quelles affirmations concordent et lesquelles divergent.
Hallucinations et réglementation
Les régulateurs attendent de plus en plus des organisations qu'elles maîtrisent les sorties inexactes de l'IA. Dans l'UE, l'article 15 du règlement sur l'IA exige que les systèmes d'IA à haut risque atteignent un niveau approprié d'exactitude, de robustesse et de cybersécurité tout au long de leur cycle de vie. Aux États-Unis, le NIST Generative AI Profile (NIST AI 600-1) cite la confabulation parmi les risques que les organisations doivent gérer.
Les règles applicables dépendent de votre système et de votre cas d'usage ; ces informations sont générales et ne constituent pas un conseil juridique. Quelle que soit la région, les techniques de base (ancrage, contrôle par consensus, relecture humaine) restent applicables.
Cas réels d'hallucinations de l'IA
Les hallucinations ont déjà eu des conséquences juridiques et de sécurité. Trois exemples documentés :
- Décisions de justice inventées (2023). Dans l'affaire Mata v. Avianca, des avocats ont déposé un mémoire citant des décisions que ChatGPT avait inventées. Le 22 juin 2023, un juge fédéral de New York a condamné les deux avocats et leur cabinet à une amende de 5 000 dollars (article de LawNext).
- Mauvaise réponse d'un chatbot sur une politique de remboursement (2024). Le chatbot du site d'Air Canada a indiqué à un client qu'il pouvait demander un tarif de deuil rétroactivement, ce que la politique de la compagnie n'autorisait pas. Un tribunal de Colombie-Britannique a tenu la compagnie pour responsable de la réponse de son chatbot dans l'affaire Moffatt v. Air Canada (décision 2024 BCCRT 149).
- Paquets logiciels qui n'existent pas. Une étude portant sur 576 000 échantillons de code issus de 16 modèles a constaté qu'en moyenne au moins 5.2 % des paquets suggérés par les modèles commerciaux et 21.7 % de ceux suggérés par les modèles open source n'existaient pas ; un attaquant pourrait enregistrer un tel nom et diffuser du code malveillant (Spracklen et al., 2024).
- Détails SQL et API inventés. Le même défaut peut toucher le code SQL et d'API : des tables, colonnes ou fonctions plausibles mais absentes de votre schéma. Collez le schéma réel ou la référence de l'API dans le prompt et exécutez d'abord le code généré sur une base de test.
Quand les hallucinations sont les plus dangereuses
Les hallucinations risquent de causer des dommages importants dans certains domaines. Cet article est une information générale et ne constitue pas un conseil médical, juridique ou financier ; consultez un professionnel qualifié avant d'agir sur la base d'une réponse d'IA dans ces domaines. Soyez particulièrement prudent avec :
- Décisions médicales et de santé – Les mauvais noms de médicaments, les dosages ou les mauvaises interprétations de symptômes peuvent faire du mal aux patients
- Questions juridiques et de conformité – Les jurisprudences inventées, les exigences réglementaires ou les précédents peuvent entraîner des erreurs coûteuses ou des violations
- Conseils financiers – Les fausses données de marché, les informations fiscales incorrectes ou les métriques de performance fabriquées induisent en erreur les décisions à haut risque
- Systèmes critiques pour la sécurité – Les hallucinations dans l'examen du code, les décisions architecturales ou l'analyse de sécurité peuvent introduire des vulnérabilités ou des bugs
- Attribution publique – Tout ce qui est publié sous votre nom ou votre marque doit être vérifié; les hallucinations endommagent la crédibilité
Principe critique: Même avec des prompts parfaits et une vérification du consensus, la vérification humaine reste essentielle pour les décisions à haut risque. Utilisez l'IA comme un économiseur de temps et un outil de première passe, pas comme un remplacement du jugement d'expert ou de la vérification des sources primaires.
Apprenez comment les techniques d'autocritique peuvent réduire davantage les erreurs dans les tâches de raisonnement complexe.
Checklist pratique: avant d'envoyer un prompt critique
Utilisez cette checklist avant d'envoyer un prompt sur lequel tu compteras pour des décisions ou une sortie publique:
- Le prompt permet-il explicitement "Je ne sais pas"? Ajoutez: "Tu peux dire 'Je ne sais pas' si tu n'es pas sûr."
- Y a-t-il un contexte ou des données réels dans le prompt? Les prompts vagues invitent l'invention. Fournissez des documents spécifiques, des exemples ou des données d'entrée.
- Les contraintes sont-elles explicites? Déclarez ce que le modèle ne doit PAS faire, en particulier: "N'invente pas de sources, d'URL ou de citations."
- Le format de sortie est-il structuré? Séparez Réponse / Raisonnement / Preuves / Confiance. Cela rend les affirmations non supportées évidentes.
- Demandez-vous des sources? Pour toute affirmation factuelle, demandez: "Cite la source pour ce fait."
- La tâche est-elle spécifique, pas ouverte? "Énumère cinq stratégies marketing *pour un produit B2B SaaS ciblant les professionnels financiers*" est mieux que "Parle-moi du marketing."
- Avez-vous demandé au modèle d'auto-vérifier? Ajoutez: "Examinez ta réponse pour les contradictions avant de la soumettre."
- Pour les décisions à haut risque, vérifiez-vous entre? Envoyez le même prompt à plusieurs modèles et comparez les réponses.
Exemple de prompt avant/après
Mauvais prompt
Pourquoi cela échoue: Ouvert, pas de contraintes, pas de permission d'admettre l'incertitude. Le modèle inventera des dates, attribuera mal les avancées, énoncera confidentement des informations obsolètes et citeras potentiellement des articles qui n'existent pas.
Parle-moi de l'histoire de l'intelligence artificielle. Inclus les grandes avancées et les chercheurs importants.
Bon prompt
En utilisant uniquement la chronologie suivante, résume les grandes avancées de l'IA de 1950 à 1990: {DONNÉES DE CHRONOLOGIE INSÉRÉES} Formate ta réponse comme: AVANCÉE: {Nom} ANNÉE: {Année — uniquement si indiquée dans la chronologie} IMPORTANCE: {Ce qu'elle a permis} SOURCE: {Quel document de la chronologie mentionne ceci?} N'ajoute pas d'informations qui ne sont pas dans la chronologie. Si tu n'es pas sûr que quelque chose est dans la chronologie, saute-le plutôt que de deviner.
Pourquoi cela fonctionne:
- Données réelles au lieu d'invention: Le modèle travaille à partir du contexte fourni, pas des lacunes dans les données d'entraînement
- Sortie structurée: Le format rend les sources manquantes immédiatement évidentes
- Instruction négative: "N'ajoute pas d'informations qui ne sont pas dans la chronologie" est explicite
- Permission d'omettre: "Si tu n'es pas sûr, saute-le" supprime la pression d'inventer des détails
- Responsabilité des sources: Chaque affirmation exige de citer quel document elle provient
Comment réduire les hallucinations de l'IA : 6 techniques de prompt
- 1Donner la permission explicite de dire "Je ne sais pas" : Ajoutez à chaque prompt factuel : "Si tu n'es pas certain, dis 'Je ne sais pas' plutôt que de deviner." Cela réduit une catégorie de fabrications assurées, mais ne les supprime pas.
- 2Demander des sources ou des preuves : Demandez au modèle de citer une source pour chaque affirmation, ou de signaler les affirmations qu'il ne peut pas vérifier. Exemple : "Après chaque fait, indique soit le nom de la source, soit 'non vérifié'."
- 3Ajouter une étape d'autocritique : Demandez au modèle de revoir sa propre réponse avant de la finaliser. Exemple : "Avant de répondre, liste toute affirmation dont tu es sûr à moins de 90 %."
- 4Utiliser des instructions négatives : Interdisez explicitement les comportements propices à l'hallucination. Exemple : "N'invente pas de noms, de titres ou de statistiques. Ne dépasse pas le contexte fourni."
- 5Exiger un raisonnement étape par étape : Le chain-of-thought prompting force le modèle à montrer son raisonnement, rendant les erreurs détectables avant qu'elles n'atteignent la réponse finale.
- 6Envoyer à plusieurs modèles avec PromptQuorum : Envoyez le même prompt simultanément à GPT-5.6, Claude et Gemini. Les faits confirmés par les trois ont plus de chances d'être justes (l'accord est un indice, pas une preuve) ; les réponses divergentes signalent des affirmations à vérifier.
Foire aux questions
Les hallucinations peuvent-elles être complètement éliminées?
Non. Les hallucinations sont inhérentes à la façon dont les modèles de langage fonctionnent – ils prédisent les modèles de texte plutôt que de récupérer les faits d'une source vérifiée. Vous pouvez les réduire considérablement avec une bonne conception de prompts, des outils comme RAG et le consensus multi-modèles, mais l'élimination complète n'est pas possible compte tenu de l'architecture LLM actuelle. La vérification humaine reste nécessaire pour les décisions à haut risque.
Pourquoi le modèle semble-t-il si confiant quand il se trompe?
Les modèles de langage sont entraînés pour générer du texte fluide et cohérent. La confiance est un sous-produit de la cohérence linguistique. Une fausse déclaration peut être beaucoup plus cohérente et bien articulée qu'un honnête aveu d'incertitude. Le modèle n'a pas de mécanisme intégré pour exprimer le doute – il produit du texte avec la même confiance fluide, indépendamment de l'exactitude.
Les modèles plus récents et plus grands hallucinent-ils moins?
Pas de façon fiable. Les taux d'hallucination dépendent du modèle, de la tâche et de la méthode de mesure, et les comparaisons publiées divergent : testez donc votre propre cas d'usage au lieu de supposer qu'un modèle plus récent ou plus grand est plus sûr. Les modèles récents suivent souvent mieux des consignes comme « dis que tu ne sais pas en cas de doute », mais aucun ne supprime le problème.
Connecter un modèle à Internet supprime-t-il les hallucinations?
Partiellement. L'accès Web en temps réel aide avec les événements actuels et les faits récents, mais il ne résout pas le problème fondamental: le modèle invente toujours des détails, mal interprète les résultats de recherche ou hallucine sur le contenu qu'il n'a pas récupéré. L'accès Internet est un outil qui réduit une classe d'hallucinations, pas une cure.
Comment puis-je vérifier rapidement si une réponse est hallucée?
Vérifiez les sources: Cliquez sur les URL ou recherchez les articles cités. S'ils n'existent pas, considérez la réponse comme peu fiable et vérifiez-la. Vérifiez les faits: Vérifiez les dates, les noms et les nombres contre les sources fiables. Comparez plusieurs modèles: Posez la même question à différents modèles. L'désaccord tranchant suggère qu'au moins un hallucine. Appliquez l'expertise du domaine: Si vous connaissez le domaine, lisez attentivement les plausibilités subtiles – les hallucinations ont souvent des signes révélateurs pour les lecteurs experts.
Dois-je cesser d'utiliser l'IA si elle hallucine?
Non. Utilisez l'IA stratégiquement avec vérification. Pour le brainstorming, la rédaction et l'exploration, les hallucinations sont une perte mineure. Pour le travail critique en fait (recherche, conformité, décisions médicales, conseils financiers), utilisez l'IA comme point de départ, puis vérifiez tout avec des sources fiables ou un examen expert.
Quelle est la différence entre une hallucination et une vraie erreur?
Une hallucination est confiante et fausse. Si un modèle dit "Je ne suis pas sûr, mais cela pourrait être X," c'est de l'incertitude honnête, pas une hallucination. S'il dit "La capitale de la France est Berlin" avec une confiance totale, c'est une hallucination – le modèle a dit quelque chose de faux comme si c'était un fait. Le hallmark est l'affirmation confiante de quelque chose d'inexact.
Que faire quand une IA donne une réponse assurée mais sans preuve ?
Considérez-la comme potentiellement incorrecte et vérifiez-la auprès de sources fiables avant de l'utiliser ou de la publier. Un ton assuré ne dit rien de l'exactitude. Demandez des sources, ouvrez chacune d'elles et confrontez l'affirmation à une source primaire ou à un second modèle.
La « confabulation » est-elle la même chose que l'hallucination ?
En pratique, oui : les deux mots décrivent un modèle qui produit un contenu fluide mais faux ou non étayé. « Hallucination » est le terme courant ; le NIST Generative AI Profile (NIST AI 600-1) emploie « confabulation » pour le même risque.
Pourquoi l'IA invente-t-elle du code, des noms de paquets et du SQL ?
Le modèle prédit du code qui ressemble à celui qu'il a vu ; il peut donc produire des appels de fonction, des paquets ou des noms de tables qui respectent le schéma habituel mais n'existent pas. Dans une étude de 2024 portant sur 16 modèles, en moyenne au moins 5.2 % des paquets suggérés par les modèles commerciaux et 21.7 % de ceux des modèles open source n'existaient pas. Donnez au modèle votre vrai schéma ou la référence de l'API, n'installez que des paquets vérifiés et testez le code généré avant de l'utiliser.
Lectures connexes
- Qu'est-ce que le prompt engineering ? — les concepts de base pour structurer des prompts
- Chain-of-Thought Prompting — un raisonnement pas à pas qui rend les erreurs visibles
- Workflows de test de prompts multi-modèles — comparer des modèles sur le même prompt pour repérer les divergences
- RAG expliqué — ancrer les réponses dans vos propres documents
- Limites de l'IA : ce que les LLM ne savent pas faire — les huit contraintes structurelles communes à tous les LLM et le contournement technique pour chacune
- Dates limites de connaissances, recherche en direct et GEO : le guide complet — des connaissances d'entraînement périmées peuvent produire des réponses erronées ; voyez comment RAG et GEO y répondent
Sources
- Kalai, A. T., Nachum, O., Vempala, S. S., & Zhang, E. (2025). « Why Language Models Hallucinate. » arXiv — soutient que l'entraînement et l'évaluation récompensent la devinette plutôt que l'aveu d'incertitude.
- Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). « On Faithfulness and Factuality in Abstractive Summarization. » ACL Anthology — étude empirique des hallucinations dans le résumé automatique ; origine de la distinction intrinsèque/extrinsèque.
- Manakul, P., Liusie, A., & Gales, M. J. F. (2023). « SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. » arXiv — détecte les hallucinations en vérifiant la cohérence entre plusieurs réponses générées.
- Dhuliawala, S., Komeili, M., Xu, J., et al. (2023). « Chain-of-Verification Reduces Hallucination in Large Language Models. » arXiv — méthode brouillon, vérification, révision qui a réduit les hallucinations dans les tests des auteurs.
- Spracklen, J., Wijewickrama, R., Sakib, A. H. M. N., et al. (2024). « We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs. » arXiv — mesure la fréquence à laquelle les modèles de code suggèrent des paquets inexistants.
- Wei, J., Wang, X., Schuurmans, D., et al. (2022). « Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. » arXiv — montre que les prompts de raisonnement pas à pas améliorent le raisonnement à plusieurs étapes.
- National Institute of Standards and Technology (2024). « Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1). » DOI — range la confabulation parmi les risques de l'IA générative.
- European Union (2024). « Artificial Intelligence Act, Article 15: Accuracy, robustness and cybersecurity. » AI Act Service Desk — exigences d'exactitude, de robustesse et de cybersécurité pour les systèmes d'IA à haut risque.
- LawNext (2023). « Court imposes sanctions on lawyers who filed bogus cases after relying on ChatGPT for legal research. » LawNext — compte rendu des sanctions du 22 juin 2023 dans Mata v. Avianca.
- Civil Resolution Tribunal of British Columbia (2024). « Moffatt v. Air Canada, 2024 BCCRT 149. » Decision — décision du tribunal dans Moffatt v. Air Canada.