A inteligência artificial gera 'alucinações' porque funciona como um sistema de texto preditivo ultra-avançado.

As alucinações em Grandes Modelos de Linguagem (LLMs), como o GPT-4 da OpenAI ou o Gemini do Google, são uma consequência direta da arquitetura de redes neurais baseada em 'Transformers'. Esses modelos utilizam um mecanismo chamado 'atenção' para prever o próximo token em uma sequência. Eles não possuem um modelo interno da realidade ou um banco de dados de fatos verificáveis, operando apenas com probabilidades estatísticas aprendidas durante o treinamento.Um estudo de 2023 da Universidade de Washington destacou que a taxa de alucinação pode variar entre 3% e 27%, dependendo da complexidade da tarefa. Um caso emblemático ocorreu em maio de 2023, quando o advogado Steven Schwartz, de Nova York, utilizou o ChatGPT para redigir uma petição. A IA inventou seis decisões judiciais inexistentes, resultando em uma multa de 5 mil dólares para o profissional após a fraude ser detectada pelo juiz Kevin Castel.O termo técnico para esse comportamento é 'confabulação'. Isso ocorre porque o objetivo da função de perda do modelo é maximizar a verossimilhança linguística, não a precisão factual. Pesquisadores da Stanford University trabalham em métodos como RAG (Geração Aumentada de Recuperação) para mitigar o problema. Essa técnica força a IA a consultar fontes externas confiáveis antes de gerar uma resposta, tentando ancorar a fluidez do texto em dados concretos.