Vous avez posé une question à un assistant conversationnel, il vous a répondu avec aplomb, chiffres précis, nom d’auteur, année de publication… et pourtant, l’étude citée n’existe pas. Ce phénomène a un nom : l’hallucination des modèles de langage. Ce n’est ni un bug ponctuel, ni un mensonge délibéré : c’est une conséquence directe de la façon dont ces systèmes sont construits. Comprendre ce mécanisme, c’est apprendre à utiliser l’IA sans se faire piéger.
Une machine à prédire, pas une machine à savoir
Un grand modèle de langage ne consulte pas une base de données lorsqu’il répond. Il calcule, mot après mot, quelle suite est statistiquement la plus plausible compte tenu de tout ce qu’il a lu pendant son entraînement. L’architecture qui rend cela possible, le Transformer, excelle à produire du texte cohérent, fluide, grammaticalement irréprochable. Mais la cohérence n’est pas la vérité.
Quand on demande une référence bibliographique, le modèle a appris à quoi ressemble une référence : un nom d’auteur, un titre en italique, une revue, un volume, une année, parfois un DOI. Il sait reproduire ce moule à la perfection. S’il ne dispose pas du contenu exact, il remplit les cases avec ce qui « sonne juste ». Le résultat est une citation parfaitement crédible et totalement fictive. C’est de la génération de forme, pas de la restitution de fait.
Pourquoi le modèle préfère répondre que se taire
Il y a une raison plus subtile encore. Ces systèmes sont affinés par un procédé d’apprentissage par renforcement à partir de retours humains. Concrètement, des évaluateurs notent les réponses, et le modèle apprend à maximiser cette note. Or un humain pressé note généralement mieux une réponse assurée et complète qu’un « je ne sais pas ». Le modèle intègre donc une incitation implicite : mieux vaut tenter que s’abstenir.
Ajoutons que la plupart des modèles n’ont pas de représentation interne fiable de leur propre ignorance. Ils produisent des probabilités sur les mots suivants, pas une mesure de confiance sur la véracité du contenu. Un énoncé faux peut sortir avec une probabilité très élevée, simplement parce que la formulation est banale. La certitude affichée n’est pas un indicateur de fiabilité — c’est le piège principal.
Là où le risque devient concret
Les conséquences ne sont plus théoriques. Plusieurs affaires judiciaires, aux États-Unis notamment, ont impliqué des avocats sanctionnés pour avoir déposé des mémoires citant une jurisprudence entièrement inventée par un chatbot. Le domaine médical n’est pas épargné : posologies approximatives, interactions médicamenteuses fantaisistes, protocoles attribués à des sociétés savantes qui ne les ont jamais publiés.
Dans le développement logiciel, le problème prend une forme particulière : l’IA propose d’importer une bibliothèque qui n’existe pas dans le dépôt PyPI ou npm. Le développeur copie, l’installation échoue — cas favorable. Cas défavorable : un attaquant a repéré le nom halluciné récurrent et a publié un paquet malveillant sous ce nom exact. On appelle cela le « slopsquatting », une variante du typosquatting adaptée à l’ère des assistants de code.
Les parades techniques
L’industrie ne reste pas les bras croisés. L’approche la plus répandue est la génération augmentée par récupération : avant de répondre, le système va chercher des documents réels dans une base ou sur le web, puis rédige en s’appuyant sur ces extraits, avec citation des passages. Le taux d’invention chute nettement — sans tomber à zéro, car le modèle peut encore mal interpréter un document authentique ou extrapoler au-delà de ce qu’il contient.
Autres pistes complémentaires :
- L’appel d’outils : déléguer le calcul à une calculatrice, la date à une horloge, la recherche à un moteur, plutôt que de laisser le modèle « deviner ».
- La vérification croisée : générer plusieurs réponses indépendantes et ne conserver que ce sur quoi elles convergent.
- La sortie structurée : contraindre le format de réponse pour qu’une source non vérifiable soit explicitement marquée comme telle.
- L’abstention entraînée : récompenser explicitement le « je n’ai pas cette information » pendant l’affinage.
Ce que vous pouvez faire, vous
Quelques réflexes suffisent à réduire drastiquement le risque. D’abord, ne jamais accepter une source sans la vérifier : un titre d’article, un DOI, un numéro d’arrêt se contrôlent en trente secondes sur un moteur de recherche ou sur Google Scholar. Si la référence n’apparaît nulle part, elle n’existe probablement pas.
Ensuite, formulez vos demandes de façon à autoriser le doute : « si tu n’es pas sûr, dis-le » change réellement le comportement de la plupart des modèles récents. Préférez également les questions fermées et documentables aux questions vastes, et fournissez vous-même le document de référence quand vous en avez un — le modèle devient alors un lecteur, pas un devin.
Enfin, calibrez votre confiance selon l’enjeu. Pour reformuler un paragraphe ou générer des idées, l’hallucination est sans gravité. Pour un diagnostic, un contrat, un chiffre financier ou une décision juridique, l’IA reste un brouillon à valider par une source humaine et vérifiable.
Un défaut structurel, pas une maladie infantile
Il serait rassurant de croire que le problème disparaîtra avec la prochaine génération de modèles. C’est peu probable. Tant qu’un système génère du langage par prédiction probabiliste, il conservera la capacité de produire du plausible-faux. Les travaux de chercheurs comme Yann LeCun insistent d’ailleurs sur cette limite : la maîtrise du langage n’implique pas un modèle du monde solide.
La bonne nouvelle, c’est que l’hallucination est un défaut connu, mesurable et atténuable. Elle ne disqualifie pas l’outil ; elle définit son mode d’emploi. Un assistant IA est un excellent rédacteur, un synthétiseur remarquable et un bibliothécaire médiocre. Traitez-le comme un stagiaire brillant mais un peu trop sûr de lui : écoutez ses propositions, exigez ses sources, et vérifiez-les.