Nova pesquisa publicada na Science mostra que, para algumas pessoas que acreditam em teorias da conspiração, uma conversa baseada em fatos com um chatbot de inteligência artificial (IA) pode “tirá-las do buraco da conspiração”. Melhor ainda, parece mantê-las fora por pelo menos dois meses.
Esta pesquisa, realizada por Thomas Costello no Instituto de Tecnologia de Massachusetts (MIT) e seus colegas, mostra uma promessa para um problema social desafiador: a crença em teorias da conspiração.
Algumas teorias da conspiração são relativamente inofensivas, como acreditar que a Finlândia não existe (o que é tranquilo, até você conhecer um finlandês). Outras teorias, no entanto, reduzem a confiança nas instituições públicas e na ciência.
Isso se torna um problema quando as teorias da conspiração persuadem as pessoas a não se vacinarem ou a não tomarem medidas contra as mudanças climáticas. No seu extremo, a crença em teorias da conspiração tem sido associada à morte de pessoas.
Teorias da Conspiração são ‘Pegajosas’
Apesar dos impactos negativos das teorias da conspiração, elas têm se mostrado muito “pegajosas”. Uma vez que as pessoas acreditam em uma teoria da conspiração, mudar de ideia é difícil.
As razões para isso são complexas. Pois as crenças dos teóricos da conspiração estão associadas a comunidades. Além disso, os teóricos da conspiração geralmente fazem uma extensa pesquisa para chegar à sua posição.
Quando uma pessoa já não confia na ciência ou em qualquer pessoa fora de sua comunidade, é difícil mudar suas crenças.
Entra a IA
A explosão da IA generativa na esfera pública aumentou as preocupações sobre as pessoas acreditarem em coisas que não são verdade. A IA facilita muito a criação de conteúdo falso e crível.
Mesmo quando usada de boa fé, os sistemas de IA podem cometer erros. (O ChatGPT e outros chatbots até alertam os usuários de que podem estar errados sobre alguns tópicos).
Os sistemas de IA também contêm preconceitos generalizados, o que significa que podem promover crenças negativas sobre alguns grupos de pessoas.
Dado tudo isso, é bastante surpreendente que uma conversa com um sistema conhecido por produzir notícias falsas possa convencer algumas pessoas a abandonar teorias da conspiração, e que a mudança pareça durar.
No entanto, esta nova pesquisa nos deixa com um problema de boas notícias/más notícias.
É ótimo termos identificado algo que tem algum efeito nas crenças dos teóricos da conspiração! Mas se os chatbots de IA são bons em convencer as pessoas a abandonar crenças anticientíficas e pegajosas, o que isso significa para as crenças verdadeiras?
O Que os Chatbots Podem Fazer?
Vamos nos aprofundar na nova pesquisa. Os pesquisadores estavam interessados em saber se argumentos factuais poderiam ser usados para persuadir as pessoas contra as crenças conspiratórias.
Essa pesquisa usou mais de 2.000 participantes em dois estudos, todos conversando com um chatbot de IA depois de descreverem uma teoria da conspiração em que acreditavam. Além disso, todos os participantes foram informados de que estavam conversando com um chatbot de IA.
As pessoas no grupo “tratamento” (60% de todos os participantes) conversaram com um chatbot que foi personalizado para sua teoria da conspiração em particular e os motivos pelos quais acreditavam nela. Esse chatbot então tentou convencer esses participantes de que suas crenças estavam erradas usando argumentos factuais em três rodadas de conversa (o participante e o chatbot, cada um, alternando a fala é uma rodada). A outra metade dos participantes teve uma discussão geral com um chatbot.
Os pesquisadores descobriram que cerca de 20% dos participantes do grupo de tratamento mostraram uma redução na crença em teorias da conspiração após a discussão. Além disso, quando os pesquisadores verificaram os participantes dois meses depois, a maioria dessas pessoas ainda mostrava uma redução na crença em teorias da conspiração. Os cientistas até verificaram se os chatbots de IA estavam corretos, e eles (em sua maioria) estavam.
Portanto, podemos ver que, para algumas pessoas, pelo menos, uma conversa de três rodadas com um chatbot pode persuadi-las contra uma teoria da conspiração.
Então Podemos Resolver as Coisas com Chatbots?
Os chatbots oferecem alguma promessa para dois dos desafios ao lidar com crenças falsas.
Como são computadores, não são percebidos como tendo uma “agenda”, o que torna o que dizem mais confiável (especialmente para alguém que perdeu a fé nas instituições públicas).
Os chatbots também conseguem estruturar um argumento, o que é melhor do que apenas apresentar fatos. Uma simples repetição de fatos é minimamente eficaz contra crenças falsas.
No entanto, os chatbots não são uma cura milagrosa. Este estudo mostrou que eles eram mais eficazes para pessoas que não tinham razões pessoais fortes para acreditar em uma teoria da conspiração, o que significa que provavelmente não ajudarão pessoas para as quais a conspiração é comunidade.
Então, Devo Usar o ChatGPT para Verificar Meus Fatos?
Este estudo demonstra o quão persuasivos os chatbots podem ser. Isso é ótimo quando eles são configurados para convencer as pessoas de fatos, mas e se não forem?
Uma maneira importante pela qual os chatbots podem promover desinformação ou conspirações é quando seus dados subjacentes estão errados ou são tendenciosos: o chatbot refletirá isso.
Alguns chatbots são projetados para refletir deliberadamente preconceitos ou aumentar ou limitar a transparência. Você pode até conversar com versões do ChatGPT personalizadas para argumentar que a Terra é plana.
Uma segunda, e mais preocupante, possibilidade é que, à medida que os chatbots respondem a solicitações tendenciosas (que os pesquisadores podem não perceber que são tendenciosas), eles podem perpetuar desinformação (incluindo crenças conspiratórias).
Já sabemos que as pessoas não são boas em checar os fatos e, quando usam motores de busca para fazer isso, esses motores de busca respondem aos seus termos de pesquisa (inadvertidamente tendenciosos). Dessa forma, reforçando as crenças em informações incorretas. Assim, os chatbots provavelmente serão iguais.
Em última análise, os chatbots são uma ferramenta. Eles podem ser úteis para desmascarar teorias da conspiração – mas como qualquer ferramenta, a habilidade e a intenção do criador e do usuário da ferramenta importam. As teorias da conspiração começam com as pessoas, e serão as pessoas que as acabarão.
Este artigo, escrito por Dana McKay e Johanne Trippas, foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original aqui.
