IA revela influência de gênero e nacionalidade em suspeita no freelance writing
São Paulo — InkDesign News — A crescente adoção de machine learning e inteligência artificial (AI) em profissões de escrita levanta questões sobre avaliações e percepções sociais. Pesquisa conduzida por Cornell Tech e University of Pennsylvania investiga como suspeitas de uso de AI afetam freelancers, considerando variáveis demográficas.
Contexto da pesquisa
O estudo analisou a influência de suspeitas relativas ao uso de modelos de linguagem de grande porte (Large Language Models, LLMs) sobre avaliações e oportunidades de contratação de escritores freelancers. Pesquisadores exploraram vieses baseados em raça, gênero e nacionalidade, motivados por relatos de percepções diferenciadas em ambientes profissionais relacionados ao uso de AI.
Método proposto
Foram realizadas experiências online nas quais participantes avaliaram perfis fictícios de escritores em redes sociais. Os perfis simulavam identidades diversas em gênero, raça e nacionalidade, e os avaliadores deveriam identificar se suspeitavam de utilização de AI, além de julgar a qualidade do trabalho e a probabilidade de contratação. Os escritores fictícios não utilizavam AI, permitindo isolar os efeitos da percepção. As variáveis demográficas foram manipuladas por nomes e imagens sugestivas, mostrando interações com a suspeita de uso de AI.
Resultados e impacto
Os resultados indicam que suspeitas de uso de AI geram avaliações piores de qualidade e menor chance de contratação para todos os grupos demográficos. Houve maior probabilidade de suspeitar de escritores com perfis associados a identidades asiáticas e homens, embora tais suspeitas não tenham influenciado diretamente avaliações qualitativas ou resultados de emprego para esses grupos. Os autores sugerem que esse padrão pode refletir estereótipos de gênero e raça relacionados ao uso da tecnologia.
“Sabemos há muito tempo que a suspeita do uso de AI causa redução na avaliação da confiabilidade da pessoa supostamente a utilizando, e também que as pessoas não são boas em detectar o uso de AI.”
(“We have known for a long time that suspicion of using AI caused reduced evaluation of trustworthiness for the person allegedly using it, and also that people are not good at detecting AI use.”)— Mor Naaman, Professor, Cornell Tech
“Acreditamos que essa diferença de gênero possa estar associada a estereótipos sobre o uso da tecnologia: a crença de que homens são mais propensos a usar AI ou são percebidos como mais dispostos a trapacear.”
(“We believe that this gender difference might be due to stereotypes about the use of technology: the belief that men are more likely to use AI, or are perceived as willing to cheat.”)— Mor Naaman, Professor, Cornell Tech
Essa pesquisa, apresentada na conferência CHI 2025, destaca a necessidade de investigar os impactos sociais do uso e da percepção da AI, assim como desenvolver estratégias para mitigar discriminações baseadas nessas percepções.
Aplicações futuras incluem o aprimoramento de políticas e ferramentas para garantir avaliações mais justas em ambientes profissionais com crescente uso de AI.
Fonte: (TechXplore – Machine Learning & AI)
