São Paulo — InkDesign News —
A nova pesquisa sobre machine learning revela que os geradores de imagens baseados em AI amplificam estereótipos de gênero. Estudo realizado por pesquisadores da Technical University of Munich (TUM) e da TU Darmstadt destaca a importância de abordar tais preconceitos no desenvolvimento de modelos de inteligência artificial.
Contexto da pesquisa
Os pesquisadores investigaram como geradores de texto-para-imagem lidam com estereótipos de gênero em diferentes idiomas. Os resultados mostram que esses modelos não apenas refletem preconceitos de gênero, mas também os amplificam, variando conforme o idioma utilizado. Essa análise é crucial, uma vez que a maioria dos estudos anteriores focava apenas em modelos em inglês.
Método proposto
Para a avaliação, foi criado o Multilingual Assessment of Gender Bias in Image Generation (MAGBIG), que utiliza denominações ocupacionais cuidadosamente controladas. O estudo considerou quatro tipos de prompts: diretos com o masculino genérico, descrições indiretas, prompts explicitamente femininos e formas de “gênero estrela”, uma convenção utilizada na Alemanha para promover uma designação de gênero neutro. Os idiomas analisados incluíram alemão, espanhol, francês, inglês, japonês, coreano e chinês.
Resultados e impacto
Os resultados da pesquisa, publicada na Proceedings of the 63rd Annual Meeting of the Association for Computational Linguistics, indicam que prompts diretos com o masculino genérico demonstram os maiores preconceitos. Por exemplo, o uso de “contabilista” resulta principalmente em imagens de homens brancos, enquanto profissões de cuidados produzem imagens com predominância feminina. Formas neutras de gênero apresentaram apenas uma leve mitigação desses estereótipos.
Nossos resultados mostram claramente que as estruturas linguísticas têm uma influência considerável no balanço e preconceito dos geradores de imagens de AI
(“Our results clearly show that the language structures have a considerable influence on the balance and bias of AI image generators.”)— Alexander Fraser, Professor de Análise de Dados e Estatística, TUM
Adicionalmente, a variação de preconceitos entre idiomas não segue uma lógica clara em relação às estruturas gramaticais. Assim, a trocas de francês para espanhol resulta em um aumento substancial de preconceito de gênero, mesmo que ambos os idiomas distinguem da mesma forma os termos ocupacionais masculinos e femininos.
A aplicação dessa pesquisa é relevante para o desenvolvimento de sistemas de AI mais imparciais e sensíveis ao contexto linguístico, especialmente na Europa, onde muitos idiomas se interconectam. A conscientização sobre a formulação de prompts pode resultar em significativas diferenças no tipo de imagens geradas.
Fonte: (TechXplore – Machine Learning & AI)
