São Paulo — InkDesign News — Um novo estudo destaca as capacidades persuasivas dos modelos de linguagem, mostrando que a inteligência artificial pode influenciar opiniões em debatas baseadas em informações pessoais, levantando preocupações sobre sua utilização em campanhas de desinformação.
Contexto da pesquisa
A pesquisa, publicada no periódico Nature Human Behavior, deriva de um crescente corpo de evidências que sugere o potencial de convencimento das ferramentas de inteligência artificial. Os autores alertam para o risco de campanhas de desinformação coordenadas sendo orquestradas através da AI, especialmente em um momento em que a tecnologia já permite a criação de redes de perfis automatizados que podem manipular a opinião pública. Riccardo Gallotti, físico interdisciplinar da Fondazione Bruno Kessler, na Itália, participou do estudo e enfatiza a urgência de uma resposta políticas e regulamentares a essa nova ameaça.
Método e resultados
O estudo envolveu 900 participantes nos Estados Unidos, que forneceram dados pessoais, incluindo gênero, idade, etnia, nível educacional, situação de emprego e afiliação política. Cada participante foi emparelhado com um oponente humano ou com a versão GPT-4 do modelo de linguagem. Eles debateram um dos 30 tópicos designados aleatoriamente, como a proibição de combustíveis fósseis ou a obrigatoriedade do uso de uniformes escolares. Em muitos casos, informações pessoais sobre o oponente foram fornecidas para melhor personalizar os argumentos. Ao final, os participantes avaliaram seu nível de concordância com a proposição e se acreditavam estar debatendo com um humano ou um AI.
Implicações e próximos passos
Os resultados levantam questões éticas significativas. Gallotti destaca que “esses bots poderiam ser usados para disseminar desinformação, e essa influência difusa seria muito difícil de rebater em tempo real” (“These bots could be used to disseminate disinformation, and this kind of diffused influence would be very hard to debunk in real time”). A pesquisa sugere que plataformas online e reguladores devem considerar seriamente os perigos associados ao uso da inteligência artificial em contextos de debate, especialmente em questões sociais e políticas. O desafio será encontrar o equilíbrio entre utilizar essas tecnologias para fins positivos e mitigar seus riscos.
As implicações dessa pesquisa não são apenas acadêmicas, mas práticas, afetando a maneira como a sociedade interage com as informações. A crescente capacidade persuasiva da AI aponta para a necessidade de um diálogo mais profundo sobre regulamentações e diretrizes que governem o uso de inteligência artificial em discussões públicas.
Fonte: (MIT Technology Review – Artificial Intelligence)
