A Inteligência Artificial (IA) é a tecnologia do momento, mas a verdade é que ainda estamos numa fase muito inicial do seu potencial. É verdade que esta tecnologia “nasceu” há muitos anos, mas só com o ChatGPT é que a IA ganhou interesse por parte de comunidade. Mas sabia que os modelos de IA podem “sofrer” alucinações?
No contexto da Inteligência Artificial (IA), especialmente em Chatbots como o ChatGPT, que são alimentados por LLMs LLM (Large Language Model), o termo “alucinação” é usado quando o modelo gera informações incorretas, inventadas ou enganosas, mas que parecem plausíveis.
Exemplos de alucinações em Inteligência Artificial
- Inventar factos: o modelo pode afirmar que uma pessoa escreveu um livro que nunca escreveu.
- Criar referências falsas: citar artigos académicos ou livros que não existem.
- Errar cálculos ou datas históricas: apresentar dados factualmente errados, mas com confiança.
- Assumir relações inexistentes: dizer que duas empresas estão relacionadas quando não estão.
- Sugerir coisas que não existem – ver aqui
A pergunta que se coloca é o porquê de existirem alucinações. Tal pode acontecer por limitações do modelo, ou seja, o modelo foi treinado com grandes volumes de texto e tenta prever a próxima palavra com base em padrões, não em factos confirmados. Também a falta de verificação de factos pode trazer “alucinações” às respostas. A ambiguidade ou falta de contexto também pode ser um problema, por exemplo, quando a pergunta é ambígua ou muito aberta, o modelo pode “preencher lacunas” com suposições erradas.
Leia também…