São Paulo — InkDesign News — Uma equipe internacional de pesquisadores propôs um novo modelo para avaliar a confiabilidade da inteligência artificial (AI) em um cenário que se torna cada vez mais relevante à medida que tecnologias de machine learning são integradas em processos decisórios críticos.
Contexto da pesquisa
Com a crescente adoção de ferramentas impulsionadas por AI em diversos setores, permanece a dúvida sobre a confiabilidade dessas tecnologias. Roger Mayer, coautor do estudo e professor no North Carolina State University’s Poole College of Management, ressalta: “Se nós vamos usar AI para tomar decisões significativas, ou até para informar decisões importantes, a confiança é uma consideração crítica” (“If we’re going to use AI to make meaningful decisions, or even to inform important decisions, trust is a critical consideration”).
“Se nós vamos usar AI para tomar decisões significativas, ou até para informar decisões importantes, a confiança é uma consideração crítica.”
(“If we’re going to use AI to make meaningful decisions, or even to inform important decisions, trust is a critical consideration.”)— Roger Mayer, Professor, North Carolina State University
Método proposto
A abordagem, denominada TrustNet Framework, busca conectar experiência em psicologia, ética e impactos sociais da confiança em AI. O modelo foi desenvolvido a partir de estudos de 34.459 artigos de pesquisa transdisciplinares sobre a confiança, gerando um framework que integra múltiplas perspectivas para abordar desafios como desinformação e discriminação.
Resultados e impacto
A TrustNet Framework apresenta componentes-chave: transformação do problema, produção de novos conhecimentos e integração transdisciplinar. Este modelo orienta equipes de pesquisa na consideração de diferentes stakeholders, incluindo responsáveis pela implementação das tecnologias.
“Um modelo eficaz de confiança precisa considerar não só como os humanos confiam na AI, mas também como sistemas de AI podem avaliar a confiabilidade humana.”
(“Future trust frameworks must consider not only how humans trust AI, but also how AI systems might evaluate and respond to human reliability.”)— René Riedl, Coautor, University of Applied Sciences Upper Austria & Johannes Kepler University Linz
Os resultados sugerem que a confiança, sendo a base de todas as relações saudáveis, deve guiar o desenvolvimento e a utilização da AI. O framework oferece um caminho para a pesquisa mais aprofundada nas multidisciplinaridades que cercam essa questão, potencialmente informando a criação de regulamentações e diretrizes éticas futuras.
Com a previsão de que a AI impactará diversos setores, a implementação bem-sucedida da TrustNet Framework poderia reverberar em aplicações práticas, desde cuidados com idosos até a automatização de processos produtivos.
Fonte: (TechXplore – Machine Learning & AI)
