Pentágono desmantela equipe que testa AI em sistemas armados
São Paulo — InkDesign News —
A recente reestruturação no escritório de Teste e Avaliação Operacional do Pentágono levanta preocupações sobre a eficácia das avaliações de segurança em tecnologias de inteligência artificial (IA) no setor de defesa, com impactos potenciais no futuro da adoção em larga escala.
Contexto da pesquisa
A mudanças significativas na estrutura da defesa dos EUA, prevista pela administração Trump, tem como foco o fortalecimento de laços com empresas de tecnologia, especialmente no campo da IA. Missy Cummings, ex-piloto da Marinha dos EUA e professora na Universidade George Mason, afirma que, historicamente, o escritório teve um papel crucial na mitigação de desperdícios e fraudes, proporcionando uma verificação independente das alegações de eficácia das tecnologias.
Método e resultados
O escritório, que funciona como um “último portão” antes da implementação em campo, é responsável por assegurar que novas tecnologias sejam rigorosamente testadas. Segundo Cummings, “até agora, todo mundo viu que está funcionando para ajudar reduzir desperdício, fraude e abuso” (“up until now—everybody has seen it’s working to help reduce waste, fraud, and abuse”). O novo enfoque, que busca acelerar a adoção de sistemas de IA, poderia fazer com que problemas críticos não fossem detectados antes da implementação, comprometendo a segurança e a eficácia das operações.
Implicações e próximos passos
Mark Cancian, conselheiro sênior do Center for Strategic and International Studies, expressou sua preocupação com as eventuais lacunas nos testes. “Não é que deixamos de ser eficazes, mas você pode não detectar alguns problemas que surgiriam em combate sem essa etapa de testes” (“It’s not that we’ll go from effective to ineffective, but you might not catch some of the problems that would surface in combat without this testing step.”). À medida que empresas como Anduril e Anthropic aproveitam o aumento de investimentos para desenvolver aplicações de IA para uso militar, a pressão para acelerar a adoção pode eclipsar a necessidade de uma avaliação rigorosa.
Com o cenário em rápida evolução em torno da IA militar, os próximos passos do escritório de Teste e Avaliação serão cruciais para determinar não apenas a segurança das novas tecnologias, mas também a confiança pública em sua eficácia. O equilíbrio entre inovação e segurança se torna um tema central neste novo capítulo da defesa.
Fonte: (MIT Technology Review – Artificial Intelligence)
