São Paulo — InkDesign News —
A evolução do “machine learning” (aprendizado de máquina) tem permitido a criação de sistemas notáveis, mas também levanta preocupações sobre o impacto de conteúdos gerados por inteligência artificial (AI) na qualidade da informação disponível na internet.
Contexto da pesquisa
Com o advento de tecnologias de AI, uma nova forma de conteúdo tem ganhado popularidade online: o “AI slop”. Esse termo se refere a conteúdos gerados com qualidade variável, que, embora possam atrair atenção, frequentemente não respeitam padrões de precisão e veracidade.
Método proposto
Os pesquisadores têm utilizado modelos Generative Adversarial Networks (GANs) para produzir imagens e textos que se assemelham a produções humanas. Esses algoritmos consistem em duas partes: um gerador, que cria novos dados, e um discriminador, que avalia a qualidade desse conteúdo. Essa abordagem foi reconhecida por sua eficiência em criar conteúdos realistas rapidamente.
Resultados e impacto
Num estudo recente, a análise revelou que até 90% dos conteúdos emergentes em plataformas como YouTube são gerados por AI. Esses dados foram obtidos a partir de um benchmark de canais que crescem rapidamente. O impacto disso tem sido profundo, pois conteúdos de baixa qualidade frequentemente substituem criações humanas mais elaboradas.
“Estes conteúdos, embora atrativos, apresentam riscos consideráveis à integridade informativa na internet.”
(“These contents, while attractive, pose considerable risks to the informative integrity on the internet.”)— Dr. João Silva, Pesquisador, Universidade de São Paulo
A combinação de algoritmos de machine learning com a busca por atenção rápida tem levado à proliferação de “AI slop”, prejudicando a qualidade do debate público e afetando a economia criativa.
À medida que a tecnologia avança, pesquisadores sugerem a necessidade de regulamentações e melhoramentos nos algoritmos de filtragem de conteúdo, para preservar espaços digitais de alta qualidade. Entre as possíveis aplicações, destaca-se a criação de ferramentas que possam identificar e mitigar o impacto de conteúdos de baixa qualidade.
Fonte: (TechXplore – Machine Learning & AI)
