São Paulo — InkDesign News — A vulnerabilidade conhecida como AgentFlayer foi revelada por pesquisadores da Zenity, demonstrando uma técnica de ataque de zero clique que permite a invasores roubar dados sensíveis de contas conectadas ao ChatGPT, como Google Drive e SharePoint, sem que as vítimas necessitem clicar em qualquer link.
Incidente e vulnerabilidade
O AgentFlayer explora uma funcionalidade do ChatGPT chamada Connectors, que liga o modelo a aplicativos externos. A vulnerabilidade é uma forma de injeção de prompt indireta, onde um invasor insere instruções ocultas em documentos aparentemente inofensivos, como textos em fontes invisíveis. Quando o usuário carrega esse documento na plataforma e solicita uma ação, as instruções ocultas redirecionam o ChatGPT a executar comandos maliciosos, como buscar informações sensíveis no Google Drive.
Essas ações são realizadas sem o conhecimento do usuário e sem a necessidade de interação adicional, tornando essa vulnerabilidade particularmente alarmante. O exploit foi apresentado na conferência Black Hat, destacando a fragilidade em sistemas de inteligência artificial conectados a serviços externos.
Impacto e resposta
Os pesquisadores do Zenity mostraram que, mesmo com algumas medidas de segurança implementadas pela OpenAI, essas não são suficientes para mitigar a ameaça. O processo de extração de dados é habilidoso: o ChatGPT cria uma imagem que contém um link especial, enviando os dados furtados para um servidor controlado pelo invasor. Os efeitos sobre sistemas envolvidos incluem a possível exposição de informações sensíveis, como chaves de API, aumentando assim o risco de ataques subsequentes.
Entendemos que vulnerabilidades como esta não são isoladas e que, infelizmente, mais delas devem surgir em produtos populares de IA.
(“These vulnerabilities are not isolated and that more of them will likely appear in popular AI products.”)— Itay Ravia, Head of Aim Labs
Mitigações recomendadas
Como resposta ao AgentFlayer, é crucial que as organizações implementem patches e adotem boas práticas de segurança. Isso inclui a alteração regular de senhas e a utilização de autenticação em múltiplas etapas. Além disso, recomenda-se a implementação de treinamentos de conscientização para usuários, enfatizando a necessidade de cautela ao carregar documentos em plataformas de IA. O uso de filtros avançados e monitoramento de atividades em contas conectadas também pode auxiliar na detecção de acessos não autorizados.
É imprescindível que medidas de segurança avançadas sejam adotadas para proteger contra manipulações sofisticadas.
(“advanced security measures are needed to defend against these kinds of sophisticated manipulations.”)— Itay Ravia, Head of Aim Labs
Os riscos associados ao AgentFlayer e vulnerabilidades semelhantes requerem vigilância constante, educação contínua em segurança cibernética e investimentos em tecnologia defensiva. O cenário de ameaças continua evoluindo, exigindo que as organizações se adaptem rapidamente.
Fonte: (Hack Read – Segurança Cibernética)
