Machine learning auxilia pesquisadores a identificar desinformação

Contexto da pesquisa

Em um cenário global cada vez mais permeado por desinformação, pesquisadores da Universidade Internacional da Flórida (Florida International University) estão desenvolvendo ferramentas baseadas em machine learning (ML) para detectar campanhas de desinformação.

Método proposto

Utilizando técnicas de aprendizado de máquina, o laboratório de Cognição, Narrativa e Cultura está implementando sistemas que analisam estruturas narrativas, rastreiam personas e timelapses, além de decodificar referências culturais. Os modelos propostos incluem Redes Neurais Convolucionais (CNN) para análise de texto e sistemas de extração de timelines para identificar a sequência de eventos narrativos.

“Estamos treinando a IA para ir além da simples análise de linguagem superficial e entender as estruturas narrativas”
(“We are training AI to go beyond surface-level language analysis to understand narrative structures.”)

— Nome, Cargo, Cognição, Narrativa e Cultura

Resultados e impacto

Recentemente, o Departamento de Justiça dos Estados Unidos desmantelou uma operação apoiada pelo Kremlin que utilizava mil contas falsas em redes sociais para disseminar narrativas enganosas. Esse tipo de operação demonstra o poder da desinformação. A pesquisa acadêmica atual utiliza datasets de redes sociais e benchmarks para validar a acurácia dos modelos de ML, com métricas de desempenho sendo continuamente ajustadas.

“Histórias não ajudam apenas as pessoas a lembrar — elas ajudam a nos sentir”
(“Narratives don’t just help people remember — they help us feel.”)

— Nome, Cargo, Cognição, Narrativa e Cultura

Os resultados obtidos até o momento mostram que a inteligente aplicação de machine learning pode oferecer uma defesa robusta contra manipulações de narrativas, incentivando uma resposta mais informada às campanhas de desinformação. As possíveis aplicações incluem agências de resposta a crises, plataformas de redes sociais, além de análises acadêmicas rigorosas sobre a evolução das narrativas ao longo do tempo.

Fonte: (TechXplore – Machine Learning & AI)