
O crescente uso de machine learning e inteligência artificial tem gerado discussões significativas sobre sua influência nas comunidades online, especialmente em plataformas como o Reddit. Estudo recente explora as preocupações de moderadores sobre o impacto do conteúdo gerado por AI.
Contexto da pesquisa
A pesquisa foi realizada por cientistas da Cornell University e foi apresentada na conferência ACM SIGCHI 2025. O estudo investiga a resposta dos moderadores de subreddits à crescente presença de conteúdo gerado por inteligência artificial, refletindo sobre a autenticidade e qualidade das interações na plataforma.
Método proposto
Os pesquisadores conduziram entrevistas com 15 moderadores de subreddits, que gerenciavam mais de 100 comunidades distintas, desde grupos pequenos até aqueles com mais de 32 milhões de membros. O estudo focou na dificuldade de detectar conteúdo AI e em como esta nova dinâmica afeta as interações humanas.
Resultados e impacto
A maioria dos moderadores considera o conteúdo gerado por AI uma ameaça. “O conteúdo AI ‘tenta chegar à profundidade de uma postagem típica… no entanto, frequentemente apresenta erros em estilo e conteúdo.’”
(“AI content tries to meet the substance and depth of a typical post … however, there are frequent glaring errors in both style and content.”)— Travis Lloyd, Autor principal, Cornell University
Além das preocupações com qualidade, os moderadores relataram que a presença de AI pode afetar as dinâmicas sociais e a conexão significativa entre os usuários. Um moderador mencionou: “Eu classificaria isso como a preocupação mais ameaçadora … É frequentemente difícil de detectar.”
O estudo enfatiza a necessidade de uma resposta proativa dos moderadores e da plataforma para preservar a autenticidade das comunidades online. Com o aumento da presença de AI, a habilidade de moderadores para manter a humanidade do Reddit será desafiadora. “Ainda há um apetite por interação humana,” afirmou Lloyd.
As conclusões apontam para a necessidade de desenvolver diretrizes e ferramentas que ajudem a distinguir entre conteúdo gerado por humanos e por máquinas. Proximamente, a pesquisa sugere que a integração contínua de sistemas de machine learning nas plataformas pode não apenas melhorar a detecção de conteúdo gerado por AI, mas também ajudar a fomentar discussões mais autênticas e significativas.
Fonte: (TechXplore – Machine Learning & AI)