São Paulo — InkDesign News —
A crescente pesquisa em inteligência artificial (IA) e machine learning está moldando o futuro das tecnologias, trazendo inovações importantes em diversas áreas, incluindo saúde, finanças e segurança pública.
Contexto da pesquisa
Recentemente, legislaturas estaduais nos EUA têm intensificado esforços para regular o uso da IA, apontando para uma lacuna na regulamentação federal. Este movimento é impulsionado por preocupações com o uso de tecnologias de IA, como reconhecimento facial e algoritmos preditivos, que podem acarretar vieses e discriminação, especialmente em serviços públicos.
Método proposto
Um exemplo significativo é a implementação de legislações que exigem a transparência por parte dos desenvolvedores de IA. A Artificial Intelligence Act do Colorado estabelece exigências de divulgação para sistemas de IA que influenciam decisões significativas. Esse modelo busca mitigar riscos através de frameworks de gestão de risco, que são especialmente relevantes para a infraestrutura crítica.
Resultados e impacto
Estudos indicam que a IA tem o potencial de melhorar a eficiência no setor público, mas sua aplicação levanta preocupações sobre viés algorítmico. Segundo um estudo da ACM, muitos sistemas de IA tendem a reproduzir ou até amplificar desigualdades presentes nos dados de treinamento, impactando negativamente grupos minoritários.
“O uso disseminado de decisão algorítmica pode ter custos ocultos significativos, incluindo preconceitos raciais e de gênero.”
(“The widespread use of algorithmic decision-making could have major hidden costs, including racial and gender biases.”)— Pesquisador, ACM
A mensuração da acurácia em sistemas de reconhecimento facial, por exemplo, revela que softwares frequentemente têm performance inferior ao identificar indivíduos de pele escura, o que acarreta implicações sérias para a privacidade e liberdades civis. Portanto, a introdução dessas legislações estaduais representa um passo importante na regulamentação do uso responsável de tecnologias de IA.
Com a falta de um quadro legislativo federal coeso, os estados têm avançado em seus próprios esforços regulatórios, o que pode servir como um modelo para um futuro mais inclusivo e ético em implementações de IA. A regulamentação estatal pode
fornecer supervisão necessária em questões de privacidade, direitos civis e proteção ao consumidor.
Fonte: (TechXplore – Machine Learning & AI)
