Qu'est-ce qu'une hallucination en IA ?

Une hallucination désigne le cas où une IA générative produit une information fausse, inventée ou inexacte, tout en la formulant avec la même assurance qu'une information correcte. C'est l'une des limites les plus importantes à connaître avant d'utiliser l'IA en contexte professionnel.

Une IA générative ne « sait » pas au sens humain du terme : elle prédit la suite la plus probable d'un texte à partir de ce qu'elle a appris. Lorsqu'elle manque d'information fiable sur un sujet précis, elle peut malgré tout produire une réponse plausible mais incorrecte : une référence juridique inexistante, un chiffre inventé, une citation erronée.

Ce risque est plus élevé sur des sujets très spécifiques, peu représentés dans les données d'entraînement, ou lorsque le prompt est imprécis.

En pratique, dans un cabinet

La règle est simple et non négociable : tout contenu généré par une IA doit être relu et vérifié par un professionnel avant d'être transmis à un client, en particulier sur les données chiffrées, les références réglementaires ou les engagements pris au nom du cabinet. Des techniques comme le RAG permettent de réduire ce risque en ancrant les réponses dans des documents vérifiables.

Deux exemples concrets

En cabinet. Interrogée sur un seuil fiscal, l'IA répond avec un montant précis et un article du Code général des impôts. Le montant est celui d'une année antérieure et l'article cité ne traite pas du sujet. Le texte est fluide, assuré, et faux.

Ce qu'il faut retenir

• Le risque augmente sur les chiffres, dates, références juridiques et normes, et diminue quand le modèle travaille à partir de documents fournis (RAG) plutôt que de sa mémoire.
• Demander à l'outil de citer sa source ou de dire « je ne sais pas » réduit le risque, sans le supprimer.
• La relecture par un professionnel n'est pas une étape optionnelle : c'est ce qui rend l'usage de l'IA compatible avec une profession réglementée.