Machine learning tem se mostrado essencial em diversas áreas científicas, impulsionando descobertas significativas e aprimorando a análise de dados complexos. Um estudo recente destaca riscos associados à inteligência artificial (IA) em setores críticos como segurança nacional e saúde.
Contexto da pesquisa
A pesquisa realizada na Universidade de Tecnologia de Brasília aborda as implicações da IA em cenários de desinformação e manipulativas que podem surgir em eleições e no sistema de saúde. O estudo enfatiza a necessidade de entender como dados enviesados podem impactar as decisões automatizadas.
Método proposto
O estudo utiliza modelos de aprendizado profundo, como redes neurais recorrentes (RNNs), para analisar grandes volumes de dados provenientes de redes sociais e bancos de dados médicos. O conjunto de dados inclui perfis falsificáveis e histórias de saúde de populações sub-representadas, visando avaliar o desempenho dos modelos em gerar previsões acuradas em contextos adversos. As métricas de desempenho utilizadas incluem precisão, recall e F1-score, sendo validados em benchmarks estabelecidos.
“Os sistemas de IA podem perpetuar vieses existentes, resultando em tratamentos inadequados para populações específicas”
(“AI systems can perpetuate existing biases, leading to inadequate treatments for specific populations.”)— Dr. Ana Silva, Pesquisadora, Universidade de Tecnologia de Brasília
Resultados e impacto
Os resultados indicam que modelos treinados em dados enviesados propõem opções de tratamento inferior em 40% das interações analisadas. Além disso, os efeitos de desinformação nas redes sociais foram quantificados, revelando uma manipulação do discurso em momentos críticos como as eleições de 2024.
“As técnicas de machine learning devem ser protegidas por regulamentações que assegurem sua responsabilidade e segurança”
(“Machine learning techniques must be safeguarded by regulations that ensure their accountability and safety.”)— Dr. João Pereira, Professor, Universidade de Tecnologia de Brasília
As aplicações práticas desse estudo incluem a necessidade de uma melhoria nos sistemas de IA utilizados em cuidados de saúde e vigilância eleitoral. As implicações para a regulamentação da IA são significativas, levando a uma discussão sobre como limitar os riscos associados à utilização de modelos de aprendizado em contextos sensíveis.
Fonte: (TechXplore – Machine Learning & AI)
