Contexto da pesquisa
A crescente preocupação com a utilização de machine learning e inteligência artificial (IA) em contextos não éticos tem gerado debates relevantes na academia e na sociedade. Recentemente, a Universidade de Hong Kong foi alvo de um escândalo envolvendo a criação de pornografia gerada por IA. Alunas da instituição relataram como foram afetadas por esse fenômeno, revelando a necessidade urgente de regulamentação e pesquisa nesta área.
Método proposto
Os pesquisadores que estudam a incidência de imagens geradas por IA frequentemente utilizam abordagens como Redes Generativas Adversariais (GANs) para compreender a natureza e a propagação de conteúdos ofensivos. As GANs consistem em um modelo que treina um gerador e um discriminador em um ciclo contínuo, visando melhorar a acurácia das imagens geradas. Embora essa tecnologia possa ser aplicada em áreas criativas, seu uso malicioso destaca um dilema ético em pesquisa e implementação.
Resultados e impacto
Dados coletados indicam que cerca de 90% das vítimas de pornografia gerada por IA são mulheres, levantando questões sobre violência de gênero e privacidade. A falta de legislação específica em Hong Kong sobre a criação dessas imagens complica as investigações e a responsabilização dos infratores. “A simples criação (de pornografia por IA) é um problema… Meu direito ao corpo, à privacidade e à dignidade foram comprometidos por isso,” disse uma das vítimas (B).
“Apenas 11 solicitações de ajuda foram registradas em um curto período na Associação de Violência Sexual Contra Mulheres,”
(“Only 11 requests for help were recorded in a short period at the Association Concerning Sexual Violence Against Women.”)— Doris Chong, Diretora Executiva, Associação Concerning Sexual Violence Against Women
Os desafios enfrentados pelas vítimas destacam a urgência de uma abordagem de policiamento que integre tecnologias emergentes e leis que protejam os indivíduos de práticas prejudiciais. À medida que a tecnologia avança, o papel da ética na pesquisa sobre machine learning torna-se primordial para moldar um futuro responsável.
Próximos passos podem incluir o desenvolvimento de frameworks legais abrangentes e a implementação de tecnologias de detecção mais efetivas, visando proteger os direitos dos indivíduos nas esferas digital e real.
Fonte: (TechXplore – Machine Learning & AI)
