Alucinação

Definição

Alucinação é uma saída que soa plausível, mas está incorreta ou sem apoio nas informações fornecidas ao modelo. O texto pode ser fluente e confiante e ainda conter nomes, fatos ou relações que não existem no material de referência.

A fluência não valida o conteúdo

O modelo produz sequências prováveis de texto, não um relatório sobre a própria origem da informação. A aparência de confiança não confirma a veracidade. Quando a exatidão importa, a resposta precisa ser conferida contra o material de referência.

Reduzir e verificar

Fornecer trechos relevantes, pedir que a resposta indique a parte usada e validar o resultado contra o conteúdo são formas de reduzir alucinações. Nenhuma delas dispensa a verificação final.

Verificar antes de usar

No exemplo da função inexistente, a falha só aparece na conferência. A verificação começa por procurar o nome sugerido no código e na documentação do projeto. Se a busca não encontra a função, a resposta não tem apoio no material e precisa ser corrigida ou rejeitada. Esse passo vale também para nomes próprios, versões de pacotes e valores citados: sempre que a exatidão importa, a resposta é conferida contra o material de referência antes de entrar no fluxo.

Aplicação na formação

Vibe Coding: Do Zero ao MVP

Na Formação Vibe Coding, a alucinação aparece quando o assistente sugere código, nomes ou fatos que não existem no projeto.

Conhecer a formação →