São Paulo — InkDesign News —
A pesquisa mais recente sobre machine learning e inteligência artificial revela os efeitos preocupantes de conteúdos gerados por IA, com destaque para a capacidade desta tecnologia de criar vídeos hiper-realistas que distorcem a percepção da realidade e fomentam conteúdos misóginos.
Contexto da pesquisa
A proliferação de vídeos gerados por inteligência artificial, como os que mostram entrevistas fictícias com mulheres, suscita questões sobre o impacto social e a representação de gênero nas plataformas digitais. Especialistas e pesquisadores têm acompanhado essa onda crescente com preocupação.
Método proposto
Os conteúdos são frequentemente criados utilizando modelos de geração adversarial (GAN), que permitem a produção de imagens e vídeos realistas a partir de simples comandos de texto. Essa abordagem tem sido utilizada em larga escala, com evidências mostrando que ferramentas como o Veo 3, desenvolvidas pelo Google, são amplamente empregadas na criação desses vídeos.
Resultados e impacto
Os resultados preliminares indicam que vídeos fabricados podem gerar milhões de visualizações e, consequentemente, monetização por meio de aplicativos de bate-papo. Pesquisa da firma de cibersegurança GetReal Security apontou que “a IA não inventa a misoginia — apenas reflete e amplifica o que já existe” (“AI doesn’t invent misogyny—it just reflects and amplifies what’s already there”).
“Esta é uma questão de dano de gênero mediado por IA”
(“This is part of AI-mediated gendered harm.”)— Nirali Bhatia, Psicóloga Cibernética
Além disso, a análise de 900 contas do Instagram reveladas pelo diretor da Iniciativa de Segurança, Confiança e Segurança da Cornell Tech indicou que a maioria dos “modelos” exibidos era composta por imagens de mulheres em poses sexualizadas, acumulando milhões de seguidores.
Esses achados levam a um entendimento claro sobre as implicações da IA na geração de conteúdo: a integridade e a autenticidade das interações nas redes sociais estão em risco devido ao aumento de conteúdos enganosos. O caráter viral desses vídeos, conforme alertado, pode obscured a distinção entre a realidade e a ficção.
À luz desses resultados, as futuras aplicações da IA em mídias sociais e outras plataformas devem ser cuidadosamente reguladas, garantindo que a produção de conteúdos não contribua para a perpetuação de estereótipos prejudiciais.
Fonte: (TechXplore – Machine Learning & AI)
