Alucinação de IA: o que é e como reduzir

Alucinação de IA é quando um modelo gera uma resposta que parece correta e confiante, mas é falsa ou não tem base em nenhuma fonte: um dado inventado, uma citação que não existe, um link que não abre. Acontece com qualquer LLM, e o problema é que o texto errado costuma soar tão fluente quanto o certo.

Este guia explica o que é alucinação, por que ela acontece, quais formas ela toma e o que realmente ajuda a reduzir, sem prometer que dá para eliminá-la por completo.

O que é alucinação de IA

Alucinação é uma saída que não corresponde à realidade nem ao material fornecido ao modelo. O termo vem da ideia de o modelo "perceber" algo que não existe. Na prática, é uma resposta plausível, mas sem fundamento: o modelo não avisa que está inventando, porque não tem como distinguir por dentro o que sabe do que está apenas completando.

Por que a IA alucina

Uma LLM é treinada para prever o próximo token mais provável a partir do contexto. O objetivo é produzir texto coerente, não verificar fatos. Quando falta informação, o caminho mais provável ainda é continuar escrevendo algo que soe bem. Os motivos mais comuns são:

• Lacuna de conhecimento: o assunto não estava bem representado no treinamento, ou aconteceu depois da data de corte do modelo.
• Pergunta ambígua ou sem dados: o pedido não traz informação suficiente e o modelo preenche o vazio por conta própria.
• Pressão para responder: o modelo tende a dar uma resposta em vez de admitir que não sabe, a menos que seja instruído a fazer isso.
• Contexto ruim: documentos desatualizados, contraditórios ou irrelevantes enviados junto com a pergunta podem levar a conclusões erradas.

Tipos comuns de alucinação

• Fato inventado: datas, números, nomes ou eventos que não existem ou estão errados.
• Fonte inventada: artigos, estudos, leis ou links citados com aparência real, mas que não existem.
• Contradição com o material fornecido: a resposta diz algo diferente do documento que foi enviado ao modelo.
• Raciocínio falho: uma conta ou uma dedução com passos que parecem lógicos, mas chegam a uma conclusão errada.

Como reduzir alucinações

Não existe um ajuste que elimine o problema, mas algumas práticas diminuem bastante a frequência:

• Dar a fonte ao modelo: em vez de depender da memória do treinamento, buscar os trechos relevantes e enviá-los junto com a pergunta com RAG. A resposta passa a se apoiar em material que você controla.
• Escrever bem o prompt: pedir que o modelo responda só com base no material enviado, que cite o trecho usado e que diga "não sei" quando a informação não estiver lá. Veja como estruturar isso no guia de prompt.
• Montar um contexto limpo: enviar só o que é relevante e atualizado. Esse cuidado com o que entra na janela é o que o context engineering trata.
• Verificar o que importa: conferir números, citações e links em respostas que vão para decisões, documentos ou clientes, com revisão humana ou uma checagem automática.
• Pedir a fonte junto da resposta: quando a resposta traz o trecho de origem, fica fácil conferir se ele realmente diz aquilo.

Fine-tuning resolve alucinação?

Não é a ferramenta indicada para isso. O fine-tuning ajusta comportamento, formato e estilo, mas não é um jeito confiável de ensinar fatos novos nem de garantir que o modelo só afirme o que é verdade. Para respostas apoiadas em informação específica e atual, buscar a fonte no momento da pergunta costuma funcionar melhor.

Perguntas frequentes

É possível eliminar totalmente as alucinações?

Hoje não. É possível reduzir muito a frequência com boas fontes, bons prompts e verificação, mas qualquer sistema baseado em geração de texto pode, em algum momento, produzir uma afirmação sem base.

Um modelo maior alucina menos?

Em geral, modelos mais capazes erram menos em tarefas gerais, mas nenhum está livre do problema. O que mais pesa é se a resposta está apoiada em uma fonte confiável.

Como saber se uma resposta é alucinação?

Confira o que é verificável: números, nomes, datas, citações e links. Se o sistema mostra a fonte usada, compare a resposta com ela. Se não mostra, trate afirmações específicas com cautela até confirmar.

Conclusão

Alucinação é consequência de como as LLMs funcionam: elas geram texto plausível, não verdade garantida. O caminho prático não é esperar que o problema desapareça, e sim reduzir o espaço para ele, dando ao modelo boas fontes, instruções claras e uma etapa de verificação onde o erro custa caro.