Hallucination d'IA (hallucination de LLM)
Définition express
Une hallucination d'IA est une réponse d'un modèle de langage qui paraît fluide et assurée mais qui est fausse, inventée ou non étayée par ses sources. En service client, elle prend souvent la forme d'un prix, d'une condition ou d'un délai erronés.
Sur cette page
Pourquoi les modèles de langage hallucinent
Un modèle de langage produit la suite de texte la plus probable ; il n'a aucune notion intégrée du vrai et du faux. Quand la bonne information manque dans ses données d'entraînement ou dans les passages qu'on lui a fournis, il produit malgré tout quelque chose qui ressemble à une réponse. Des travaux de 2025 (Kalai et ses collègues) soutiennent que l'entraînement et l'évaluation aggravent le phénomène en récompensant une supposition assurée plutôt qu'un « je ne sais pas » honnête.
La littérature distingue deux familles. Les hallucinations intrinsèques contredisent la source fournie au modèle : il comprend mal votre politique de retour. Les hallucinations extrinsèques ajoutent des affirmations qu'aucune source n'étaye : il invente une garantie de 60 jours que vous n'avez jamais proposée.
Ce que cela coûte en service client
Une hallucination dans un chat de support n'a rien d'abstrait. Un client à qui l'on dit que les retours sont gratuits, qu'un produit est étanche ou qu'un colis arrivera demain agira en conséquence, et pourra s'en prévaloir auprès de l'entreprise. Tribunaux et autorités de protection des consommateurs considèrent en général que le chatbot d'une entreprise parle en son nom.
Le risque est maximal sur les engagements : prix, stock, délais de livraison, garanties, remboursements, informations juridiques ou de santé. Ce sont justement les questions que les clients posent le plus.
Comment réduire les hallucinations
Aucune méthode ne les supprime totalement, mais plusieurs les réduisent fortement. Ancrer les réponses dans vos propres contenus grâce à la génération augmentée par récupération (RAG), et tenir ces contenus à jour. Passer par des outils pour lire les données vivantes — stock, commandes — au lieu de laisser le modèle s'en souvenir. Demander au modèle de signaler quand les sources ne contiennent pas la réponse, et accepter cette issue. Exiger une preuve avant tout engagement. Passer la conversation à une personne quand la question est sensible ou que l'agent a un doute.
Ensuite, mesurer : relire les conversations, surtout celles qui ont reçu un avis négatif, et compléter la base de connaissances plutôt que de rapiécer la consigne au cas par cas.
Comment AI SmartTalk s'y prend
Les assistants AI SmartTalk répondent à partir des contenus et du catalogue indexés de l'entreprise, et consultent produits et commandes via des outils plutôt que dans la mémoire du modèle. Leurs règles intégrées exigent une information retrouvée avant d'affirmer un engagement — garantie, livraison, remboursement, stock — et leur interdisent d'annoncer un transfert ou un ticket si l'outil n'a pas réellement abouti. Les avis négatifs et les questions restées sans réponse remontent à l'équipe pour qu'elle complète la base de connaissances.
Questions fréquentes
Peut-on supprimer les hallucinations de l'IA ?
Pas avec les modèles de langage actuels. On peut les rendre rares et sans gravité en ancrant les réponses dans des sources vérifiées, en passant par des outils pour les données à jour, en autorisant l'assistant à dire qu'il ne sait pas et en transmettant les cas sensibles à des personnes.
Le RAG empêche-t-il les hallucinations ?
Il les réduit beaucoup, mais le modèle peut encore mal lire un passage ou répondre alors que les passages retrouvés sont hors sujet. La qualité de la récupération et la clarté des consignes comptent autant que la technique elle-même.
Pourquoi l'IA paraît-elle si sûre d'elle quand elle se trompe ?
La fluidité et l'exactitude sortent du même mécanisme : prédire un texte probable. Le ton du modèle ne dit rien de la justesse des faits, d'où la nécessité de sources et de vérifications.
Qui est responsable quand un chatbot donne une information fausse ?
En pratique, clients et autorités ont tendance à tenir l'entreprise qui exploite le chatbot pour responsable de ce qu'il dit. Ceci est une information générale et non un conseil juridique ; vérifiez les règles applicables dans votre pays.
Sources
Termes associés
- Génération augmentée par récupération (RAG)
- Garde-fous de l'IA (AI guardrails)
- Base de connaissances
- Transfert vers un humain (human handoff)
- Grand modèle de langage (LLM)
- Détection d'intention
- Embeddings (plongements vectoriels)
- MCP (Model Context Protocol)
- Prompt engineering (ingénierie de prompt)
- Recherche vectorielle (recherche sémantique)