São Paulo — InkDesign News —
A pesquisa recente sobre como técnicas de “machine learning” podem ser usadas para disseminar desinformação revela que a combinação de inteligências artificiais pode ter implicações significativas nas percepções públicas.
Contexto da pesquisa
Um estudo publicado na PNAS Nexus por Saloni Dash e pesquisadores foca no fenômeno conhecido como “AIPasta”. Este conceito une o poder da AI para gerar conteúdos persuasivos e a técnica de CopyPasta, que se baseia na repetição de informações.
Método proposto
Na abordagem AIPasta, algoritmos de geração de texto, possivelmente modelos de linguagem de grande escala (LLMs), produzem versões levemente modificadas de mensagens, fazendo parecer que existe um consenso amplo entre diferentes autores. Os pesquisadores testaram essa abordagem em mensagens sobre teorias da conspiração relacionadas à eleição presidencial dos EUA de 2020 e à pandemia de COVID-19.
Resultados e impacto
Os resultados do estudo revelaram que nem as técnicas de CopyPasta nem as de AIPasta foram eficazes em convencer os participantes da veracidade das teorias conspiratórias. Entretanto, entre os participantes republicanos, a AIPasta aumentou a crença nas alegações estudadas.
“A AIPasta aumentou a percepção de que existe um amplo consenso sobre a veracidade da afirmação”
(“AIPasta increased the perception that there was broad consensus that the claim was true.”)— Saloni Dash, Pesquisadora, PNAS Nexus
Os autores destacaram que os textos gerados pela AIPasta não foram detectados por sistemas de identificação de textos gerados por AI, o que pode dificultar sua remoção de plataformas de redes sociais, aumentando sua eficácia ao contrário da CopyPasta.
Estudos futuros podem se concentrar em como mitigar o impacto de desinformação criada por essas tecnologias. A aplicação dessa pesquisa é ampla e pode afetar a forma como informações são consumidas e percebidas na sociedade.
Fonte: (TechXplore – Machine Learning & AI)
