Alucinação
Quando um modelo apresenta uma informação falsa com convicção - uma data, citação ou fonte inventada. Por isso, verifique os fatos.
Uma alucinação de IA é uma resposta do modelo que contém uma afirmação inventada ou sem respaldo em informações e que é apresentada como se fosse verdadeira.
Exemplo: você está preparando uma descrição em português brasileiro de uma empresa local e pergunta ao assistente em que ano ela foi fundada. O modelo informa uma data específica e o nome do fundador, embora nenhuma dessas informações esteja no material fornecido. A resposta parece confiável e combina com o restante do texto, mas precisa ser confirmada. Esta é uma situação ilustrativa, não um teste documentado de um modelo específico.
Como é uma alucinação no trabalho do dia a dia
Pode ser uma publicação inexistente, uma citação atribuída à pessoa errada, um recurso inventado de um programa ou um número que não consta na fonte. Às vezes, a maior parte da resposta está correta, mas há um problema em uma única frase. Escrever corretamente o nome de uma instituição e usar um estilo profissional não evitam esse tipo de erro.
Nem todo erro tem a mesma causa. O aplicativo pode buscar um documento antigo, interpretar uma tabela incorretamente ou receber dados errados do usuário. Na prática, primeiro identifique qual afirmação não tem respaldo e só depois procure a causa. Chamar o problema de “alucinação” não corrige o processo.
Por que o modelo completa as informações que faltam
Um modelo de linguagem gera respostas com base em padrões aprendidos e no contexto disponível. Ele não está automaticamente conectado a um banco de dados completo e atualizado de fatos. Uma pergunta que contém uma premissa falsa pode levá-lo a desenvolver essa premissa em vez de questioná-la.
A forma de treinar e avaliar as respostas também importa. Se chutar costuma ser mais recompensado do que admitir que não sabe, o modelo pode dar uma resposta específica em vez de se recusar a responder. O mecanismo é discutido no estudo Why Language Models Hallucinate. Isso não significa que todos os modelos erram com a mesma frequência ou que toda resposta seja suspeita.
Como verificar uma resposta passo a passo
-
Separe as afirmações que podem ser verificadas. Na descrição de uma empresa, podem ser a data, os nomes, o endereço e as áreas de atuação. Não avalie apenas a impressão geral de que o texto “parece fazer sentido”.
-
Associe cada informação importante a uma fonte que você possa abrir. Para uma comunicação da empresa, pode ser um documento ou o site oficial. O link, por si só, não basta: confira se a página indicada existe e realmente contém a informação.
-
Compare a citação caractere por caractere e verifique se a paráfrase corresponde ao sentido do original. Confira a data do documento e veja se o modelo não trocou “pode” por “deve”, ou um plano por um acontecimento que já ocorreu.
-
Refaça os cálculos em uma calculadora ou planilha. Copiar os números corretamente não garante um resultado correto. Se a resposta combina períodos ou unidades diferentes, primeiro é preciso padronizá-los.
-
Não publique um detalhe que não foi confirmado. Remova-o, marque-o como informação indisponível ou consulte alguém que tenha os dados. Perguntar ao mesmo modelo “tem certeza?” não é uma verificação independente.
Como evitar que o modelo invente informações no prompt
Você pode escrever: “Use apenas o material abaixo. Para cada fato, indique o trecho da fonte. Se a informação não estiver disponível, escreva SEM DADOS”. Assim, você separa o resumo do documento da criação de sugestões. Um slogan de exemplo pode ser inventado; o ano de fundação da empresa não pode ser preenchido de forma criativa.
A busca em documentos, ou RAG, pode fornecer o material adequado, mas não elimina todos os erros. Ainda é preciso verificar se a fonte escolhida é apropriada e se a resposta corresponde ao conteúdo dela. Reduzir a aleatoriedade da geração também não é um botão da verdade: a mesma resposta errada pode simplesmente se repetir com mais frequência.
O erro mais comum: usar outro chatbot como única confirmação
Dois modelos podem repetir o mesmo erro ou se basear na mesma fonte defeituosa. Um segundo assistente pode ajudar a identificar frases que precisam ser verificadas, mas respostas coincidentes não substituem provas. Confira o documento, a medição ou o funcionamento do programa. A confiança deve vir da fonte, não do número de bots que concordaram com o primeiro.