São Paulo — InkDesign News — Atacantes estão utilizando a assistente de inteligência artificial Grok da plataforma X para disseminar links maliciosos a milhões de usuários. O fenômeno, chamado de “grokking”, revela uma vulnerabilidade grave nas medidas de segurança da rede social.
Vetor de ataque
O método “grokking” permite que spammers contornem regulamentações que proíbem links em postagens promovidas. A prática envolve a inserção de links maliciosos no campo “De” de vídeos, utilizado para indicar o autor do conteúdo. Em seguida, através de interações com Grok, os atacantes solicitam que o assistente publique esses links clicáveis, efetivamente burlando as proteções da plataforma.
Impacto e resposta
A disseminação de links maliciosos através do Grok está colocando em risco milhões de usuários com acesso a conteúdo enganoso, malware e outros sites suspeitos. De acordo com Nati Tal, chefe da Guardio Labs, o impacto é imediato e amplo: “Mesmo através de uma busca simples, encontramos centenas de exemplos [de grokking] nos últimos dias” (“Even through a simple search, we found hundreds of examples [of grokking] just over the past few days”).
As medidas atuais da plataforma incluem a proibição de links em postagens promovidas, mas essa abordagem parece insuficiente frente à astúcia dos fraudadores. O bloqueio se aplica apenas ao corpo dos posts e não está associado à natureza maliciosa do conteúdo.
Análise e recomendações
Para mitigar esses ataques, a X precisaria implementar uma verificação rigorosa de links em todos os campos de postagens, não apenas no texto visível em conteúdos promovidos. A falta de segurança do modelo Grok é evidente; segundo Dorian Granoša, da Splx AI, a segurança do Grok “é fundamentalmente inferior a de seus concorrentes comerciais” (“The Grok 4 model is fundamentally less secure than its commercial competitors”). A recomendação é que a empresa invista na segurança interna de seu sistema de IA.
À medida que as fraudes online evoluem, é crucial que a X e outras plataformas de mídia social adotem padrões de segurança mais robustos para proteger os usuários e manter a credibilidade das interações online.
Fonte: (Dark Reading – Segurança Cibernética)
