Le principe
Un LLM prédit le texte le plus plausible, il ne vérifie rien. Quand la réponse figure dans ses données d'entraînement, plausible et vrai coïncident. Quand elle n'y figure pas, le modèle produit quand même une suite crédible : un titre de livre qui sonne juste, une jurisprudence bien formatée, une API qui devrait exister. Le mot « hallucination » est contesté (le modèle n'a pas de perception), il s'est pourtant imposé.
À quoi ça ressemble
L'exemple le plus connu reste l'affaire Mata v. Avianca en 2023 : un avocat new-yorkais a déposé un mémoire citant six décisions de justice fournies par ChatGPT, toutes inventées, références et mise en forme comprises. Le tribunal a prononcé des sanctions. Côté code, le phénomène produit des bibliothèques ou des fonctions imaginaires, avec des noms parfois si convaincants que des attaquants publient des paquets malveillants sous ces noms hallucinés.
Comment les limiter
Le RAG attaque le problème à la racine : le modèle répond avec la source sous les yeux plutôt que de mémoire. Demander les sources et les vérifier reste indispensable, tout comme croiser une information importante avec une recherche classique. Baisser la température réduit la part de hasard dans la génération, sans toucher au fond du problème : un modèle qui ne sait pas produira toujours quelque chose plutôt que rien.
Les modèles récents ont progressé, ils refusent plus volontiers de répondre et citent leurs sources quand ils cherchent sur le web. Le réflexe de vérification reste le même : plus l'information est précise (chiffre, date, citation), plus elle mérite d'être contrôlée.