São Paulo — InkDesign News —
A nova pesquisa em machine learning da Universidade de Michigan apresenta um modelo inovador para inteligência artificial que promete aumentar a transparência nas decisões, especialmente em áreas críticas como diagnósticos médicos.
Contexto da pesquisa
A compreensão do processo decisório de modelos de IA é crucial em setores onde as consequências são significativas, como o diagnóstico de doenças. O novo método, chamado Constrained Concept Refinement (CCR), visa tornar as previsões de IA mais explicáveis e justas, permitindo que médicos e outros profissionais entendam as bases por trás das decisões automatizadas.
Método proposto
O CCR introduz um refinamento direto das embeddinds de conceito no modelo, abordando a interpretabilidade de maneira integrada. Essas representações numéricas auxiliam a IA a identificar elementos como “tumor maligno” ou “fratura” em imagens, permitindo uma análise mais clara. Isso contrasta com abordagens anteriores que adicionavam características interpretativas após o desenvolvimento do modelo.
“Precisamos de sistemas de IA em que possamos confiar, especialmente em áreas críticas como a saúde. Se não entendemos como um modelo toma decisões, não podemos dependê-lo com segurança.”
(“We need AI systems we can trust, especially in high-stakes areas like health care. If we don’t understand how a model makes decisions, we can’t safely rely on it.”)— Salar Fattahi, Professor Assistente, Universidade de Michigan
Resultados e impacto
Os testes do CCR mostraram um desempenho superior em comparação com dois métodos explicáveis anteriores, melhorando a acurácia em conjuntos de dados como CIFAR10/100, ImageNet e Places365, além de reduzir o tempo de execução em dez vezes. Isso demonstra não apenas eficiência, mas também potencial para adaptação em diferentes domínios de machine learning.
“O que mais me surpreendeu foi perceber que a interpretabilidade não precisa sacrificar a acurácia. É possível alcançar decisões claras e explicáveis sem perder desempenho.”
(“What surprised me most was realizing that interpretability doesn’t have to come at the cost of accuracy. In fact, with the right approach, it’s possible to achieve both—clear, explainable decisions and strong performance.”)— Salar Fattahi, Professor Assistente, Universidade de Michigan
O CCR pode ser aplicado além da área médica. Em setores como finanças, onde decisões de crédito são frequentemente opacas, a aplicação de IA explicável pode aumentar a justiça e a transparência, assegurando que escolhas sejam baseadas em critérios específicos e relevantes.
Fonte: (TechXplore – Machine Learning & AI)
