Uma alucinação de IA acontece quando o modelo responde algo que parece certo, mas é inventado. É um dos maiores cuidados ao usar essas ferramentas.
Por que a IA alucina
Modelos de linguagem preveem a próxima palavra mais provável, não a verdade absoluta. Quando não têm a informação certa, preenchem a lacuna com algo plausível, mesmo que falso.
Como reduzir o risco
Peça fontes, confira dados importantes e use ferramentas que consultam informação real, como as que aplicam RAG. Tratar a resposta como um rascunho, e não como verdade final, evita a maioria dos problemas.
O papel humano
A revisão de uma pessoa continua essencial, principalmente em temas sensíveis como saúde, direito e finanças. A IA acelera, mas a responsabilidade pela checagem é sua.