Modelo de machine learning orienta uso ético de AI nas finanças
São Paulo — InkDesign News —
Pesquisas sobre machine learning e inteligência artificial (AI) estão em alta, com instituições financeiras adotando a tecnologia para aprimorar operações, como negociação algorítmica e detecção de fraudes, enquanto buscam assegurar a ética em sua aplicação.
Contexto da pesquisa
Um estudo publicado no International Journal of Business Information Systems aborda os desafios do uso ético de AI em finanças. Os pesquisadores enfatizam a “explicabilidade” como fundamental para tanto, característica que inclui a transparência, interpretabilidade e responsabilidade nas decisões algorítmicas.
Método proposto
A abordagem se fundamenta na criação de um “framework de maturidade” que visa operacionalizar a explicabilidade em sistemas de AI. Esse modelo propõe práticas incrementais que as instituições financeiras deveriam adotar, adaptadas ao nível de sofisticação tecnológica e à complexidade dos modelos de AI utilizados. O estudo sugere o uso de modelos de AI interpretáveis, com funcionamento claro para os humanos, além da formação de comitês de ética interna e auditorias periódicas para verificar viés e equidade.
A explicabilidade é chave para o uso ético de AI na finança.
(“explicability is key to the development and use of AI ethically in finance.”)— Sam Solaimani, Pesquisador, Instituto de Pesquisa
Resultados e impacto
Os resultados indicam que sistemas opacos de AI podem reforçar desigualdades existentes. Por exemplo, modelos de pontuação de crédito e algoritmos de precificação de seguro baseados em dados históricos podem prejudicar grupos minoritários. Tais impactos muitas vezes não são intencionais, mas provêm de preconceitos nos dados de treinamento.
As recomendações apresentadas no framework são responsivas a diferentes contextos institucionais, permitindo melhorias contínuas ao longo do tempo. Ademais, ao evitar uma solução única para todos os casos, o framework propõe um caminho que permite a evolução constante na aplicação de AI ética nos serviços financeiros.
Em um futuro próximo, essas pesquisas poderão transformar a forma como as instituições financeiras operam, garantindo que as decisões automatizadas sejam justas e transparentes. A diagnóstica de viés e a responsabilidade nas decisões algorítmicas continuam sendo desafios a serem superados.
Fonte: (TechXplore – Machine Learning & AI)
