Um novo estudo revela que agentes de inteligência artificial (AI) podem resolver desafios complexos em cibersegurança autonomamente, usando técnicas de machine learning. Essa pesquisa pode revolucionar a forma como abordamos questões de segurança digital.
Contexto da pesquisa
A pesquisa foi realizada por uma equipe da NYU Tandon School of Engineering e NYU Abu Dhabi, que desenvolveu um agente chamado EnIGMA para enfrentar desafios de cibersegurança. O modelo foi apresentado na International Conference on Machine Learning (ICML) 2025, em Vancouver, Canadá.
Método proposto
O EnIGMA utiliza uma abordagem baseada em modelos de linguagem de grande escala (Large Language Models – LLM), adaptando um framework chamado SWE-agent, criado inicialmente para tarefas de engenharia de software. “Tivemos que reestruturar as interfaces para introduzi-las adequadamente em um LLM. Fizemos isso para várias ferramentas de cibersegurança”, afirmou Meet Udeshi, aluno de doutorado na NYU Tandon.
“Tivemos que reestruturar as interfaces para introduzi-las adequadamente em um LLM. Fizemos isso para várias ferramentas de cibersegurança”
(“We have to restructure those interfaces to feed it into an LLM properly. So we’ve done that for a couple of cybersecurity tools.”)— Meet Udeshi, Aluno de Doutorado, NYU Tandon
Os pesquisadores desenvolveram “Ferramentas de Agente Interativas” que convertem programas de cibersegurança em formatos textuais, permitindo que o AI processasse e interagisse com os dados coletados. O sistema foi alimentado com um conjunto de desafios Capture The Flag (CTF), que simulam vulnerabilidades do mundo real.
Resultados e impacto
EnIGMA demonstrou desempenho superior em vários benchmarks, resolvendo três vezes mais desafios do que os agentes de AI anteriores. Durante os testes, o sistema foi capaz de lidar com 390 desafios CTF em quatro benchmarks diferentes, atingindo resultados de estado-da-arte.
“CTFs são como uma versão gamificada da cibersegurança usada em competições acadêmicas. Eles não são problemas verdadeiros de cibersegurança, mas são boas simulações”
(“CTFs are like a gamified version of cybersecurity used in academic competitions. They’re not true cybersecurity problems that you would face in the real world, but they are very good simulations.”)— Meet Udeshi, Aluno de Doutorado, NYU Tandon
A pesquisa também identificou um fenômeno conhecido como “solilóquio”, onde o modelo gera observações sem interação real com o ambiente, levantando questões importantes sobre segurança e confiabilidade em AI. As potenciais aplicações vão além das competições acadêmicas, incluindo avaliação de vulnerabilidades no mundo real.
Udeshi acredita que “um agente autônomo de LLM que pode resolver esses CTFs possui habilidades substanciais em cibersegurança que podem ser utilizadas para outras tarefas”. As implicações da pesquisa podem se estender à segurança de sistemas de controle industrial e geração de código quântico.
Fonte: (TechXplore – Machine Learning & AI)
