Machine Learning e AI em Foco
Pesquisadores da Universidade do Colorado em Boulder estão explorando como a confiança do usuário em sistemas de inteligência artificial (AI) pode ser construída e mantida, especialmente em aplicações de machine learning.
Contexto da pesquisa
A confiança em AI é fundamental para a aceitação do público em tecnologias inovadoras, como veículos autônomos e assistentes de voz. Amir Behzadan e sua equipe do Laboratório de Informática Conectada e Ambiente Construído (CIBER) investigam os fatores que influenciam essa confiança.
Método proposto
Behzadan e sua equipe desenvolveram uma estrutura conceitual que incorpora elementos de confiança nos sistemas de AI, aplicando uma abordagem contextualizada. O estudo inclui um modelo hipotético de AI, denominado PreservAI, capaz de equilibrar interesses concorrentes em projetos de preservação histórica, facilitando a colaboração entre diferentes partes interessadas.
“A confiança humana pode ser aplicada ao relacionamento entre humanos e tecnologia.”
(“As a human, when you make yourself vulnerable to potential harm, assuming others have positive intentions, you’re trusting them.”)— Amir Behzadan, Professor, Universidade do Colorado em Boulder
Resultados e impacto
Os pesquisadores identificaram cinco princípios fundamentais para tornar a AI mais confiável: entender os usuários, ser confiável e ética, considerar o contexto, ser fácil de usar e se adaptar para reconstruir a confiança quando esta é perdida. A pesquisa indicou que a transparência nos processos de decisão e a capacidade de feedback dos usuários aumentam a confiança em AI.
“Quando as pessoas confiam nos sistemas de AI, eles se tornam mais úteis e precisos.”
(“When people trust AI systems enough to share their data and engage with them meaningfully, those systems can improve significantly, becoming more accurate, fair, and useful.”)— Amir Behzadan, Professor, Universidade do Colorado em Boulder
Estudos adicionais poderão explorar a implementação desses princípios em diferentes contextos, como saúde e transporte público, ampliando as aplicações práticas da pesquisa.
Fonte: (TechXplore – Machine Learning & AI)
