São Paulo — InkDesign News — Uma nova pesquisa da Cisco Talos revela que cibercriminosos estão abusando de Modelos de Linguagem Ampla (LLMs) para aprimorar suas atividades ilícitas. Recentemente, identificou-se um aumento na utilização dessas ferramentas de IA para ataques mais sofisticados e abrangentes.
Incidente e vulnerabilidade
A pesquisa do Talos destaca três métodos principais utilizados por adversários para explorar LLMs: o uso de LLMs não censurados, a criação de LLMs personalizados com propósitos maliciosos e o jailbreak em LLMs legítimos, que manipulam modelos para ignorar suas proteções. Um exemplo significativo é o WormGPT, onde cibercriminosos criam modelos de IA voltados para a geração de malware, e-mails de phishing e ferramentas de hacking.
Características como a manipulação de conteúdos sensíveis e a exploração de técnicas como “prompt injection” revelam a vulnerabilidade das LLMs a ataques proativos. Esses exploits têm se tornado ferramentas comuns na dark web, onde os cibercriminosos comercializam suas criações como FraudGPT, que promete a necessidade de um arsenal de ataques cibernéticos.
Impacto e resposta
O aumento no abuso de LLMs culminou em novas ameaças, como a criação de ransomware, Trojans de acesso remoto e páginas de phishing. O impacto se estende à integridade de dados e à operabilidade de sistemas, uma vez que os criminosos, além de gerar conteúdo para suas atividades fraudulentas, utilizam a IA para validar informações sobre cartões de crédito roubados e explorar vulnerabilidades.
“Os cibercriminosos estão utilizando LLMs para automatizar processos que antes eram manuais, aumentando sua eficiência e alcance”
(“Cybercriminals are using LLMs to automate processes that were once manual, increasing their efficiency and reach.”)— Cisco Talos
Mitigações recomendadas
Para mitigar esses riscos, é essencial que as empresas e usuários adotem práticas de segurança robustas. A atualização constante dos sistemas, o uso de ferramentas de validação de segurança e a conscientização sobre phishing são fundamentais. Além disso, recomenda-se a implementação de patches disponíveis e a vigilância quanto a modelos que possam estar comprometidos.
“É vital que as organizações desenvolvam uma cultura de segurança cibernética para résistir a esses novos vetores de ataque”
(“It is vital that organizations develop a culture of cybersecurity to resist these new attack vectors.”)— Especialista em Segurança Cibernética
Com a evolução contínua da tecnologia de IA, os riscos residuais são significativos. É imperativo que as medidas preventivas sejam sempre aprimoradas para lidar com a crescente complexidade e sofisticação das ameaças cibernéticas.
Fonte: (Hack Read – Segurança Cibernética)
