Alucinações da IA: o que são e como evitá-las?

O que são alucinações da IA?

Por exemplo, se pedirmos à IA os NIPC de 20 empresas de Lisboa cujas receitas estão a crescer, podemos receber uma lista aparentemente lógica e completa. No entanto, todos os números indicados podem ter sido inventados.

Uma característica das alucinações é precisamente essa aparência de lógica: as respostas parecem convincentes e a IA não demonstra qualquer dúvida. É por isso que as interfaces dos modelos de linguagem nos lembram de verificar os números e factos apresentados.

Porque acontecem as alucinações da IA?

Assim, as alucinações surgem sobretudo em três situações:

• falta de dados (a principal causa: o modelo adivinha);
• instruções pouco precisas (o modelo preenche as lacunas);
• tarefas demasiado complexas (o modelo tenta fazer tudo de uma vez).

Não é apenas uma questão dos modelos de linguagem, mas também do acesso aos dados. As alucinações não surgem do nada: resultam de condições identificáveis que podemos melhorar.

Como reduzir as alucinações da IA?

É possível reduzir as alucinações dando à IA acesso direto a dados estruturados. É nesse ambiente que os modelos de linguagem conseguem interpretar melhor a informação, tomar decisões e tirar conclusões.

É este o princípio das três abordagens seguintes, que podem ser adotadas consoante o nível de complexidade da tarefa.

Preparar um ficheiro de dados

Disponibilizar dados já preparados é a solução mais simples para reduzir as alucinações: deixa menos espaço para a IA inventar respostas.

Quem está a começar tende, por vezes, a tratar um modelo de linguagem como se fosse, ao mesmo tempo, um motor de pesquisa, um pipeline ETL e uma ferramenta de extração de dados. O problema é que, se a tarefa exigir recolha, limpeza e normalização de muitos dados, pode ultrapassar a janela de contexto e aumentar drasticamente o risco de alucinações.

Por isso, vale a pena dividir a recolha de dados em várias instruções mais pequenas e verificar os resultados à medida que surgem. Pode parecer monótono e demorado, mas é assim que se cria uma base sólida para os modelos de linguagem fazerem aquilo em que são realmente úteis: trabalhar com os dados disponíveis.

Utilizar uma API

A ligação a uma API é uma solução mais avançada: permite aceder aos dados de forma mais rápida e escalável, mantendo-os atualizados. Se preparar um ficheiro de dados é como entregar um balde de água, disponibilizar uma API é como abrir uma torneira.

As pesquisas feitas pelo ChatGPT, pelo Claude ou pelo Gemini não são muito diferentes das que uma pessoa faz. Os modelos de linguagem consultam conteúdos em sites externos, como o Reddit ou a Wikipedia, e regressam com uma resposta.

Este método, porém, não garante que a informação esteja correta ou atualizada. Fontes dispersas podem seguir critérios diferentes, apresentar dados de datas distintas e incluir erros ou opiniões. Uma API ajuda a contornar esta limitação ao fornecer uma fonte estável e programável de dados tratados.

Por exemplo, a API da Monitly dá acesso a estatísticas de todo o mundo através de ligações diretas a fontes de instituições como o Instituto Nacional de Estatística, o Eurostat, o Banco Mundial, a OMS e o FMI, entre outras. Assim, em vez de procurar informação em vários sites, a IA pode consultar diretamente a API e obter os dados mais recentes, facilitando a sua análise e interpretação.

Ligar a IA através do MCP

O MCP (Model Context Protocol) permite dar aos modelos de linguagem acesso direto a ficheiros, folhas de cálculo, código e aplicações. Ao disponibilizar dados com que o modelo pode trabalhar, esta solução reduz significativamente o risco de alucinações.

Por exemplo, a plataforma de dados empresariais Compabase disponibilizou uma ligação MCP que permite à IA verificar rapidamente empresas locais. Se lhe pedirmos os NIPC de 20 empresas de Lisboa com receitas crescentes, em vez de informações inventadas podemos obter uma lista coerente e verificada. A diferença não é que o modelo se tenha tornado subitamente «mais inteligente»: antes não tinha acesso aos dados; agora, pode fazer uma consulta SQL à base de dados e receber os respetivos resultados.

Por outras palavras:

Sem MCP:

• algumas empresas podem não existir;
• os dados financeiros podem ser arbitrários;
• os NIPC podem ser inventados.

Com MCP:

• o modelo consulta a base de dados;
• recebe registos concretos;
• a consulta produz resultados determinados pelos dados.

Naturalmente, o risco de alucinações não desaparece se continuarmos a exigir um processamento excessivo ou a combinação de dados sem controlo. Mas, num ambiente com dados estruturados, atualizados em tempo real e com menor margem para interpretações livres, a IA deixa de ter de adivinhar e passa a analisar informação existente.