L'intelligence artificielle « hallucine » car elle fonctionne comme un système de saisie prédictive géant.

Le terme « hallucination » dans les grands modèles de langage (LLM) comme GPT-4 ou Claude décrit la génération de contenus syntaxiquement corrects mais factuellement erronés. Ce phénomène découle de l'architecture même des transformeurs, introduite par Google dans l'article « Attention Is All You Need » en 2017. Ces modèles utilisent des mécanismes d'attention pour calculer la probabilité statistique d'une suite de jetons (tokens) sans posséder de modèle interne de la vérité objective.Une étude de l'Université de Stanford publiée en 2023 a révélé que les taux d'hallucination varient considérablement selon les modèles, atteignant parfois 15 à 20 % sur des requêtes juridiques complexes. L'un des exemples les plus célèbres s'est produit en mai 2023, lorsque l'avocat Steven Schwartz a utilisé ChatGPT pour rédiger un mémoire juridique. L'IA a inventé six affaires judiciaires inexistantes avec des citations de juges fictifs, ce qui a entraîné des sanctions judiciaires pour l'avocat.Le processus technique derrière ces erreurs est souvent lié au « surapprentissage » ou à un manque de données de haute qualité dans le jeu d'entraînement. Comme les modèles sont optimisés pour la fluidité et la satisfaction de l'utilisateur, ils privilégient parfois la cohérence narrative sur l'exactitude factuelle. Pour limiter ce risque, les chercheurs développent la technique du RAG (Retrieval-Augmented Generation), qui force l'IA à consulter des sources externes fiables avant de répondre.