Modelo de machine learning aumenta transparência de resultados
Machine learning está na vanguarda da inovação tecnológica, especialmente em aplicações de alta responsabilidade, como veículos autônomos e desenvolvimento de fármacos. Contudo, a falta de transparência nos modelos de IA pode gerar consequências significativas.
Contexto da pesquisa
Recentemente, a Themis AI, uma startup surgida no MIT, tem investigado maneiras de minimizar incertezas e falhas nos modelos de aprendizado de máquina. Fundada em 2021, a empresa foca em abordar a confiança nos outputs de sistemas de IA, com ênfase em aplicações críticas.
Método proposto
O sistema Capsa da Themis AI modifica modelos de aprendizado de máquina para revelar incertezas em seus processos de decisão. O método inclui a identificação de padrões que apontam para ambiguidade, incompletude ou viés nos dados. “A ideia é pegar um modelo, envolvê-lo no Capsa, identificar as incertezas e modos de falha do modelo e, então, aprimorar o modelo” (
“The idea is to take a model, wrap it in Capsa, identify the uncertainties and failure modes of the model, and then enhance the model”
— Daniela Rus, Co-fundadora, Themis AI
).
O Capsa é projetado para trabalhar com qualquer modelo de machine learning, oferecendo correções em questão de segundos. Esse sistema ajuda, por exemplo, empresas farmacêuticas a prever a eficácia de candidatos a medicamentos com base em dados complexos.
Resultados e impacto
A aplicação do Capsa já demonstrou efeitos positivos em várias indústrias, incluindo telecomunicações e energia. As empresas que integram esta tecnologia conseguem quantificar a incerteza em suas respostas, o que torna o processo de decisão mais confiável. “Nós ajudamos LLMs (modelos de linguagem) a se autorrelatarem quanto à confiança e incerteza, o que possibilita respostas mais confiáveis e a sinalização de outputs não confiáveis” (
“We help LLMs self-report their confidence and uncertainty, which enables more reliable question answering and flagging unreliable outputs”
— Stewart Jamieson, Chefe de Tecnologia, Themis AI
).
As etapas dos modelos de raciocínio também estão sendo otimizadas através do Capsa, com potenciais implicações na redução de latências e nas exigências computacionais.
Com a evolução contínua das tecnologias de IA, a Themis AI projeta um futuro onde dispositivos menores, como smartphones, poderão executar tarefas complexas com alta precisão, encaminhando pedidos incertos para servidores centrais quando necessário. O sistema promete melhorar a confiabilidade em setores críticos, acelerando inovações com grandes benefícios sociais.
Fonte: (TechXplore – Machine Learning & AI)
