Hallucination
Phénomène où un LLM génère des informations factuellement incorrectes mais présentées avec assurance.
Définition complète
Une hallucination est une affirmation générée par un LLM qui semble plausible et est exprimée avec confiance, mais qui est factuellement fausse, inventée ou non vérifiable. Les causes incluent les biais du corpus d'entraînement, l'optimisation pour la cohérence textuelle plutôt que la vérité factuelle, et les limitations de la fenêtre de contexte. Les hallucinations sont plus fréquentes sur des questions factuelles précises (dates, chiffres, noms), des domaines spécialisés peu représentés dans les données d'entraînement, ou des événements récents au-delà de la date de coupure du modèle. Des techniques comme le RAG (qui ancre les réponses dans des documents vérifiés), la chaîne de pensée et les modèles avec accès à des outils de recherche permettent de réduire les hallucinations. C'est l'une des limitations majeures freinant l'adoption des LLM en contexte critique.