Intelligence artificielle4 min de lecture

Hallucination IA : pourquoi ChatGPT invente des réponses

Une hallucination IA, c'est une réponse fausse énoncée avec aplomb. Voilà pourquoi ChatGPT invente, et les réflexes pour ne pas se faire avoir.

Par Jean Weber

Bulle de conversation dont la partie droite se désagrège en fragments, illustrant une réponse d'IA qui part en hallucination
Sommaire

Vous demandez une référence précise à une IA, elle vous sort un titre, un auteur, une année. Tout est faux, et rien dans le ton ne le laisse deviner. C'est ce qu'on appelle une hallucination, et ce n'est ni un bug ni un accident.

Une hallucination IA, c'est quoi exactement ?

Une hallucination IA est une réponse fausse produite par un modèle de langage, formulée avec le même naturel et la même assurance qu'une réponse juste. Le modèle ne dysfonctionne pas : il fait exactement ce pour quoi il est conçu, générer du texte plausible. La démonstration la plus parlante vient des chercheurs d'OpenAI eux-mêmes : ils ont demandé à ChatGPT, DeepSeek et Llama le titre de la thèse d'un de leurs auteurs. Trois titres différents, trois années différentes, aucun correct.

Les conséquences dépassent parfois l'anecdote. En juin 2023, un juge fédéral de New York a sanctionné deux avocats et leur cabinet à hauteur de 5 000 dollars : leur mémoire citait six décisions de justice entièrement inventées par ChatGPT, extraits et noms de parties compris.

Pourquoi le modèle préfère inventer plutôt que dire « je ne sais pas » ?

Parce qu'il ne consulte aucune base de faits : il prédit, mot après mot, la suite la plus probable de votre question. Rien dans cette mécanique ne sépare « je sais » de « je devine », la phrase sort avec la même fluidité dans les deux cas. Quand l'information est abondante dans les données d'entraînement, la prédiction tombe juste. Quand elle est rare, vue une seule fois ou jamais, le modèle produit quand même une suite crédible. On a détaillé comment fonctionne un LLM dans un autre article.

À ça s'ajoute un effet d'entraînement, documenté dans un papier publié par OpenAI en septembre 2025. Les auteurs comparent les modèles à des étudiants devant un QCM : quand la notation est binaire, répondre au hasard rapporte parfois un point, s'abstenir n'en rapporte jamais. Or les tests qui dominent les classements notent précisément comme ça. L'aveu d'ignorance est donc pénalisé pendant tout l'entraînement, et la devinette assurée récompensée.

Le mode recherche web règle-t-il le problème ?

Il le réduit, il ne l'efface pas. Brancher un modèle sur une recherche documentaire (le principe du RAG) l'oblige à s'appuyer sur des documents réels plutôt que sur sa mémoire, et fait nettement baisser le taux d'erreur. Mais des chercheurs de Stanford ont testé les assistants juridiques de LexisNexis et Thomson Reuters, tous deux construits ainsi, sur plus de 200 questions de droit ouvertes : Lexis+ AI produisait une information incorrecte dans plus de 17 % des cas, l'outil de Westlaw dans plus de 34 %. Un ancrage documentaire diminue le risque, il ne le supprime pas.

Cinq réflexes pour ne pas vous faire piéger

  • Demandez les sources, et ouvrez-les. Une URL citée de mémoire peut être inventée de bout en bout, domaine compris.
  • Croisez ce qui est vérifiable en trente secondes : date, chiffre, nom propre, référence légale, numéro de version.
  • Faites reformuler. Reposez la même question autrement, ou dans une conversation neuve. Deux réponses divergentes sur un fait, c'est un signal d'alerte.
  • Activez la recherche web dès que le sujet est factuel, récent ou local.
  • Fournissez le contexte au lieu de le faire chercher : collez le document, l'extrait, le tableau. Un modèle qui lit votre source se trompe moins qu'un modèle qui puise dans sa mémoire, et bien formuler vos prompts fait le reste.

Un principe résume tout : plus votre question est pointue, plus le risque monte. Les faits rares sont exactement ceux que le modèle a croisés une fois, voire jamais.

FAQ

Peut-on empêcher totalement une IA d'halluciner ?

Non, pas aujourd'hui. Le phénomène découle de la façon dont ces modèles produisent du texte, pas d'un défaut ponctuel à corriger. Les auteurs du papier OpenAI proposent plutôt de changer la notation des tests de référence, pour que l'abstention rapporte.

Certains modèles hallucinent-ils moins que d'autres ?

Oui, les écarts sont mesurables, et les modes raisonnement comme la recherche web font baisser le taux. Aucun ne descend à zéro, quelle que soit la marque.

Comment repérer une hallucination sans être expert du sujet ?

Testez le premier élément vérifiable venu : un titre, un nom, une date, un lien. S'il n'existe pas, traitez tout le reste de la réponse comme suspect.

Sources

À lire aussi