IA gera receio em pessoas trans, não-binárias e com deficiência

São Paulo — InkDesign News —

A pesquisa recente explora como as atitudes em relação à inteligência artificial (IA) e machine learning variam entre populações marginalizadas nos Estados Unidos, revelando diferenças significativas nas percepções sobre a tecnologia.

Contexto da pesquisa

A crescente implementação de sistemas de IA em áreas críticas, como saúde e recrutamento, levanta preocupações sobre viés algorítmico e a equidade no acesso. Um estudo liderado por Oliver L. Haimson e colaboradores, envolvendo um grupo diversificado de 700 participantes, investiga especificamente as percepções de indivíduos transgêneros, não binários, com deficiência e de minorias raciais em relação à IA.

Método proposto

A pesquisa utilizou uma abordagem quantitativa para avaliar as atitudes em relação à IA. Os participantes responderam a um questionário sobre suas expectativas e opiniões sobre como a IA impacta suas vidas. As métricas incluíram a medição de crenças sobre melhorias na vida pessoal e profissional, bem como a disposição para utilizar tecnologias de IA no futuro.

Resultados e impacto

“Os participantes transgêneros, não binários e com deficiência relataram, em média, atitudes significativamente mais negativas em relação à IA do que seus pares cisgêneros e não deficientes”
(“Transgender, nonbinary, and disabled participants reported, on average, significantly more negative attitudes toward AI than their cisgender and nondisabled counterparts.”)

— Oliver L. Haimson, Pesquisador Principal, Universidade de Michigan

A pesquisa revelou que as pessoas trans e não binárias demonstraram as atitudes mais negativas em relação à IA. Além disso, indivíduos com deficiência, especialmente os neurodivergentes, expressaram uma visão crítica mais acentuada sobre a tecnologia. Surpreendentemente, pessoas de cor, incluindo participantes negros, mostraram-se mais otimistas em relação à IA, indicando uma abordagem pragmática diante do potencial tecnológico, apesar dos riscos conhecidos.

Esses resultados destacam a necessidade urgente de considerar as preocupações de grupos marginalizados no desenvolvimento de sistemas de inteligência artificial. A falta de confiança nesses sistemas pode limitar a participação e acentuar desigualdades existentes.

As implicações de políticas para a IA incluem a criação de opções para consentimento significativo, proporcionando maior transparência sobre o uso de dados e testes cuidadosos sobre o impacto em grupos vulneráveis. O estudo sugere que, ao priorizar a inclusão, os desenvolvedores podem mitigar preconceitos e melhorar a confiança nas tecnologias emergentes.

Em um futuro próximo, as aplicações da pesquisa podem orientar práticas de desenvolvimento ético e inclusivo em IA, promovendo um entendimento mais profundo sobre as complexidades de identidade e tecnologia.

Fonte: (TechXplore – Machine Learning & AI)