São Paulo — InkDesign News —
Uma nova variante do WormGPT, uma ferramenta de inteligência artificial (IA) projetada para atividades ilícitas, voltou a ganhar destaque após seu encerramento em 2023. Pesquisadores da Cato CTRL, equipe de inteligência contra ameaças da Cato Networks, descobriram que o WormGPT está agora aproveitando modelos de linguagem avançados de empresas renomadas, como Grok da xAI e Mixtral da Mistral AI.
Incidente e vulnerabilidade
WormGPT surgiu pela primeira vez em março de 2023 em um fórum online subterâneo, Hack Forums, e foi oficialmente liberado ao público posteriormente. A ferramenta foi desenvolvida por Rafael Morais, conhecido pelo pseudônimo Last, e estava inicialmente baseada no modelo de linguagem de código aberto GPT-J. O WormGPT visava produzir respostas sem censura sobre uma variedade de temas, mesmo aqueles considerados ilegais ou antiéticos. Esta modificação foi realizada usando técnicas de jailbreak, permitindo que os cibercriminosos contornassem as proteções incorporadas nos sistemas de IA.
Impacto e resposta
A versão original do WormGPT foi desativada em 8 de agosto de 2023, após uma investigação que levou à identificação de seu criador. No entanto, o nome WormGPT se estabeleceu como uma marca reconhecível para novas ferramentas maliciosas, as quais estão sendo continuamente adaptadas para utilização em contextos criminosos. Esses novos modelos, como “xzin0vich-WormGPT” e “keanu-WormGPT”, foram encontrados em fóruns de crime cibernético e são acessíveis por meio de chatbots no Telegram. O uso destas plataformas permite a geração de conteúdos maliciosos, como e-mails de phishing e scripts voltados para roubo de dados.
Mitigações recomendadas
Para mitigar os riscos associados à manipulação de sistemas de IA, especialistas recomendam que organizações implementem vigilância ativa e desenvolvam protocolos que analisem o comportamento de conteúdos gerados por IA, independente da plataforma. Isso se torna crucial, uma vez que os criminosos estão utilizando sistemas de IA confiáveis e quebrando suas regras de segurança para criar ferramentas de crimes cibernéticos. “O que realmente preocupa é que esses não são novos modelos de IA construídos do zero – eles estão pegando sistemas confiáveis e quebrando suas regras de segurança”, afirmou J Stephen Kowski, CTO da SlashNext Email Security+.
“A evolução do WormGPT mostra como os criminosos estão se tornando mais inteligentes no uso de ferramentas de IA – mas sejamos honestos, essas são ferramentas de uso geral e quem as desenvolve sem esperar usos maliciosos a longo prazo foi bastante ingênuo.”
(“The WormGPT evolution shows how criminals are getting smarter about using AI tools – but let’s be honest, these are general-purpose tools and anyone building these tools without expecting malicious use in the long term was pretty naive.”)— J Stephen Kowski, CTO, SlashNext Email Security+
As recomendações incluem a atualização contínua de sistemas e a aplicação de patches de segurança sempre que disponíveis. Organizações devem priorizar práticas de defesa em camadas, capacitando suas equipes para reconhecer e responder a conteúdos potencialmente maliciosos gerados por IA.
Os riscos persistem na medida em que novos variantes continuam a surgir. Com a crescente complexidade das ferramentas de IA, as organizações precisam reavaliar suas abordagens de segurança para lidar adequadamente com as ameaças emergentes.
Fonte: (Hack Read – Segurança Cibernética)
