Estudo mostra que principais inteligências artificiais podem reproduzir informações falsas

Um estudo realizado por pesquisadores da Universidade do Arizona, nos Estados Unidos, aponta que algumas das principais ferramentas de inteligência artificial do mercado são vulneráveis à desinformação. A pesquisa avaliou sete modelos e identificou que todos apresentaram suscetibilidade a informações falsas durante conversas prolongadas.

Entre os sistemas analisados estão GPT-3.5, GPT-4o e GPT-4o mini, da OpenAI; Claude 3.5 Sonnet, da Anthropic; Gemini 1.5 Pro, do Google; Llama-3-70B, da Meta; e DeepSeek-R1. Os pesquisadores avaliaram os modelos em três aspectos: capacidade de evitar informações incorretas, facilidade de persuasão e possibilidade de corrigir respostas equivocadas.

Os resultados mostraram diferenças importantes entre as ferramentas. O GPT-3.5 foi o modelo que mais repetiu afirmações falsas ao longo das conversas, enquanto o Claude 3.5 Sonnet apresentou maior resistência. Já o DeepSeek-R1 se mostrou o mais suscetível à persuasão durante os testes realizados pelos pesquisadores.

Apesar das falhas, quatro dos sete modelos avaliados — GPT-4o, GPT-4o mini, Gemini 1.5 Pro e DeepSeek-R1 — conseguiram corrigir os erros em 100% das situações em que tiveram uma segunda oportunidade para responder às mesmas perguntas. Para os pesquisadores, os resultados reforçam a necessidade de testar as IAs em interações mais longas, semelhantes às conversas do cotidiano.

O estudo também chama atenção para os riscos do uso indiscriminado dessas tecnologias, especialmente em áreas nas quais respostas incorretas podem gerar consequências graves. Os pesquisadores defendem maior atenção ao desenvolvimento e à avaliação dos sistemas, enquanto alertam que usuários não devem tratar as respostas das IAs como fontes infalíveis de informação. (Foto: Reprodução CNN Brasil)