RNN gera ministro na Albânia e especialistas questionam efeitos
Machine Learning e Inteligência Artificial: Avanços e Desafios
O crescente uso de machine learning e inteligência artificial (AI) em diversas áreas levanta questões sobre potencialidades e limitações. A recente nomeação de um ministro virtual na Albânia ilustra bem esse debate, evidenciando os desafios éticos e técnicos que acompanham esta tecnologia.
Contexto da pesquisa
A ideia de um ministro virtual, denominado “Diella”, foi proposta na Albânia como uma solução para corromper o processo de licitação pública. O Primeiro-Ministro Edi Rama enfatizou que “Diella nunca dorme, não precisa de pagamento e não possui interesses pessoais” (“Diella never sleeps, she doesn’t need to be paid, she has no personal interests”), destacando a proposta de total transparência.
“Diella depende totalmente da qualidade e consistência dos dados e da confiabilidade dos modelos por trás dela,”
(“Like any AI system, she depends entirely on the quality and consistency of the data and the reliability of the models behind her.”)— Erjon Curraj, Especialista em Transformação Digital, Universidade de Tirana
Método proposto
Embora detalhes técnicos sobre Diella ainda estejam em discussão, presume-se que o sistema se baseie em modelos de linguagem de grande porte (LLM), similar ao funcionamento de chatbots como ChatGPT. A eficácia do sistema depende da qualidade dos dados utilizados, já que informações tendenciosas ou incompletas podem derivar em decisões errôneas, prejudicando o objetivo de reduzir a corrupção.
Resultados e impacto
Pesquisadores ressaltam que gerar um sistema “incorruptível” por meio de AI não é uma solução simples. “Um sistema de AI não elimina os preconceitos que existem na sociedade,” afirmou Jean-Gabriel Ganascia, cientista da computação. Portanto, a eficácia de Diella na luta contra a corrupção permanece questionável, com a possibilidade de que “um sistema corrupto forneça dados manipulados” (“If a corrupt system provides manipulated data”), segundo o especialista em política, Lutfi Dervishi.
As aplicações de máquinas em políticas públicas trazem à tona discussões sobre responsabilidade e controle. Caso as decisões sejam entregues a um sistema automatizado, há o risco de extinção da responsabilidade institucional. O futuro da “Diella” na Albânia ainda é incerto, dado que ela enfrenta desafios legais e éticos na sua operacionalização.
Esses desenvolvimentos geram um diálogo sobre o papel da AI em áreas críticas e a forma como as sociedades devem se adaptar para garantir que a tecnologia permaneça um aliado no combate a problemas fundamentais, como a corrupção.
Fonte: (TechXplore – Machine Learning & AI)
