Machine Learning e a confiança em IA
Recentes pesquisas em machine learning têm explorado a dinâmica da confiança em agentes de inteligência artificial (IA). Um novo estudo da Universidade de Binghamton analisa como as interações entre humanos e chatbots podem ser visualizadas e compreendidas.
Contexto da pesquisa
O trabalho, desenvolvido por Xin “Vision” Wang, estudante de doutorado na Escola de Ciência de Sistemas e Engenharia Industrial, busca entender a confiança do usuário em sistemas de IA. A pesquisa foi apresentada na conferência ACM CHI 2025 em Yokohama, Japão, e oferece uma nova ferramenta chamada VizTrust.
Método proposto
VizTrust se baseia em quatro dimensões da psicologia social: competência, benevolência, integridade e previsibilidade. Usando técnicas de aprendizado de máquina e processamento de linguagem natural, a ferramenta analisa mensagens de usuários, levando em conta aspectos como tom emocional, nível de engajamento e estratégias de polidez.
A maioria dos estudos depende de entrevistas pós-conversa, mas não capturam o estado de confiança momentâneo durante a interação.
(“Most studies rely on post-conversation surveys, but they only can capture trust state before and after the human-AI interaction.”)— Xin “Vision” Wang, Doutoranda, Universidade de Binghamton
Resultados e impacto
Os resultados mostraram que a confiança do usuário pode variar significativamente durante a interação. O estudo de caso analisado envolveu um engenheiro de software e um chatbot de terapia, demonstrando como sugestões indesejadas podem diminuir a confiança. Wang observa que o modelo oferece insights valiosos para melhorar o design de sistemas de IA.
A confiança não é apenas uma questão do usuário, mas do sistema.
(“Trust is not just a user issue—it’s a system issue.”)— Xin “Vision” Wang, Doutoranda, Universidade de Binghamton
O VizTrust será desenvolvido para aumentar sua adaptabilidade e consideração de diferenças individuais no comportamento dos usuários. Wang pretende tornar a ferramenta disponível publicamente, contribuindo para uma experiência mais centrada no ser humano em aplicações de IA.
Fonte: (TechXplore – Machine Learning & AI)
