Amsterdam — InkDesign News — Amsterdam implementou um sistema de inteligência artificial chamado Smart Check, com o intuito de aprimorar a análise de solicitações de benefícios sociais, reduzindo a ocorrência de erros e protegendo os cidadãos de investigações indevidas.
Contexto da pesquisa
A iniciativa surge em um contexto de crescente preocupação com a eficácia e justiça na distribuição de benefícios sociais. O serviço público da cidade de Amsterdam, responsável por avaliar os pedidos de assistência, enfrenta desafios recorrentes relacionados a erros administrativos e investigações que, muitas vezes, se revelam infundadas. A pressão para aprimorar os processos foi um dos fatores que motivaram o desenvolvimento do Smart Check. O projeto foi gerido por de Koning, um funcionário municipal que enfatizou a importância de uma abordagem científica para avaliar a eficácia do sistema antes de sua implementação total.
Método e resultados
O Smart Check utiliza um modelo de aprendizado de máquina denominado “explainable boosting machine”, que busca oferecer previsões compreensíveis sobre os casos. O algoritmo analisa 15 características particulares — como histórico de solicitações e ativos financeiros — para atribuir uma pontuação de risco a cada candidato. Surpreendentemente, o modelo evita fatores demográficos tradicionais, como gênero e idade, para não incorrer em preconceitos raciais ou sociais. Com um treinamento baseado em 3.400 investigações anteriores, o Smart Check demonstra uma capacidade potencial de identificar casos problemáticos enquanto minimiza o número de solicitações injustamente perseguidas.
O projeto estava tentando algo novo, em vez de assumir que seria eficaz sem confirmação.
(“era muito um tipo de projeto inovador que estava tentando algo novo.”)— Loek Berkers, Cientista de Dados
Implicações e próximos passos
As implicações desse sistema são profundas. A redução nas investigações infundadas não apenas preserva a dignidade dos beneficiários, mas também promove uma alocação mais eficiente dos recursos públicos. Apesar das promessas, o sistema não é isento de desafios éticos; a utilização de algoritmos na análise de benefícios sociais levanta questões acerca da transparência e responsabilidade dos modelos. Com a exposição do funcionamento do Smart Check, a cidade de Amsterdam convida um escrutínio externo que pode ser vital para garantir sua aceitação e eficácia.
O algoritmo seria capaz de identificar uma maior proporção de casos com erros, prevenindo cobranças indevidas junto aos cidadãos.
(“o modelo impediria até 125 Amsterdammers de enfrentar cobrança de dívidas.”)— Documento interno da cidade de Amsterdam
Futuras melhorias no sistema poderão incluir testes ampliados e adaptação constante aos dados coletados, ampliando seu escopo de eficácia e justo manejo na distribuição de benefícios.
Fonte: (MIT Technology Review – Artificial Intelligence)
