São Paulo — InkDesign News —
Recentes pesquisas sobre machine learning (ML) revelam questões cruciais sobre a integridade das decisões geradas por algoritmos em situações de alto risco, como empregos e concessões de crédito.
Contexto da pesquisa
Pesquisadores da Universidade da Califórnia em San Diego e da Universidade de Wisconsin-Madison estão questionando o uso comum de um único modelo de machine learning para decisões críticas. O professor associado Loris D’Antoni liderou a pesquisa apresentada na Conferência sobre Fatores Humanos em Sistemas de Computação (CHI 2025). O artigo, intitulado “Perceptions of the Fairness Impacts of Multiplicity in Machine Learning”, explora a percepção pública em relação a diferentes modelos que geram decisões divergentes.
Método proposto
A equipe utilizou uma abordagem qualitativa envolvendo partes interessadas comuns — pessoas leigas na área — para entender suas visões sobre como decisões devem ser tomadas quando múltiplos modelos altamente precisos apresentam previsões divergentes. D’Antoni observa que “as práticas atuais representam um risco de equidade”, o que justifica a atenção a este tema.
Resultados e impacto
Os resultados mostraram que as partes interessadas hesitavam em aceitar a prática padrão que depende de um único modelo, especialmente quando havia desacordo entre múltiplos modelos. Além disso, a ideia de randomizar decisões foi amplamente rejeitada pelos participantes. “Achamos esses resultados interessantes porque essas preferências contrastam com a prática padrão no desenvolvimento de ML e a pesquisa filosófica sobre práticas justas”, afirma Anna Meyer, uma das autoras do estudo.
A pesquisa sugere expandir a busca por uma gama de modelos e incorporar a decisão humana para resolver desacordos, particularmente em contextos de alto risco. Essa investigação lança luz sobre a necessidade urgente de reavaliar as bases sobre as quais as decisões de machine learning são tomadas. As aplicações dessa pesquisa podem influenciar tanto o desenvolvimento de modelos futuros quanto a formulação de políticas em tecnologias de IA.
Fonte: TechXplore – Machine Learning & AI
