Inteligența artificială „halucinează” deoarece funcționează ca un sistem ultra-avansat de auto-completare.

Fenomenul de halucinație în modelele de limbaj mari (LLM), precum GPT-4 sau Claude, are la bază arhitectura de tip Transformer introdusă de Google în 2017. Aceste sisteme utilizează mecanisme de „atenție” pentru a calcula probabilitatea statistică a fiecărui cuvânt dintr-o secvență. Deoarece AI-ul este antrenat pe seturi de date gigantice, el învață structuri lingvistice complexe, dar nu are o conexiune directă cu realitatea obiectivă sau cu o bază de date de fapte verificate.Un studiu realizat de cercetătorii de la Universitatea Oxford în 2023 a demonstrat că halucinațiile sunt adesea rezultatul „confabulației”, unde modelul completează golurile de informație folosind cele mai probabile asocieri de cuvinte. Un caz celebru a avut loc în iunie 2023, când avocatul Steven Schwartz a fost sancționat după ce a prezentat în fața unei instanțe din New York șase precedente juridice complet inventate de ChatGPT. Această eroare a evidențiat faptul că AI-ul poate genera citări false care respectă perfect formatul juridic standard.Erorile pot fi amplificate de „temperatura” modelului, un parametru care controlează gradul de creativitate al răspunsurilor. O temperatură ridicată crește diversitatea limbajului, dar sporește și riscul de a genera date eronate. Companii precum OpenAI și Google încearcă să reducă aceste incidente prin tehnici de „Reinforcement Learning from Human Feedback” (RLHF), unde operatori umani penalizează răspunsurile false în timpul antrenamentului. Totuși, experții avertizează că, din punct de vedere matematic, eliminarea completă a halucinațiilor rămâne o provocare fundamentală a tehnologiei actuale.