O uso de machine learning e inteligência artificial em cidades inteligentes tem levantado questões éticas sobre o comportamento dessas tecnologias e suas interações com os cidadãos.
Contexto da pesquisa
Pesquisadores da North Carolina State University analisam como as tecnologias de cidades inteligentes estão cada vez mais se integrando aos serviços públicos, levantando preocupações éticas sobre vigilância e tomada de decisões automatizadas.
Método proposto
A abordagem sugerida pelos pesquisadores utiliza o modelo chamado Agent Deed Consequence (ADC). O modelo considera três elementos: o agente, que é o caráter ou intenção do agente; o ato, que diz respeito ao que está sendo feito; e a consequência, que se refere ao resultado do ato. Essa estrutura analisa como os humanos fazem julgamentos morais e pode ser programada em sistemas de IA, utilizando lógica deóntica.
“Esse modelo permite capturar não apenas o que é verdadeiro, mas o que deve ser feito”
(“It allows us to capture not only what is true, but what should be done.”)— Daniel Shussett, Pesquisador Pós-Doutoral, North Carolina State University
Resultados e impacto
Os pesquisadores publicaram seus achados em uma revista científica com foco em algoritmos. O modelo ADC pode diferenciar entre ordens legítimas e ilegítimas, algo crucial para a implementação ética de tecnologias de cidades inteligentes. Por exemplo, ao gerenciar semáforos, sistemas de IA programados com o modelo ADC poderiam priorizar veículos de emergência, evitando decisões baseadas em solicitações não autorizadas.
“Essa abordagem pode ajudar a endereçar o escopo completo das questões éticas que essas tecnologias levantam”
(“This work suggests the ADC model can be used to address the full scope of ethical questions these technologies pose.”)— Veljko Dubljević, Professor de Filosofia, North Carolina State University
O próximo passo envolve testar o modelo em simulações com diversos cenários e tecnologias, assegurando que funcione de maneira consistente antes de sua aplicação em ambientes reais.
Fonte: (TechXplore – Machine Learning & AI)
