Vetor de ataque
Pesquisadores da Cybernews relataram que o banco de dados vazado foi indexado por motores de busca da Internet das Coisas (IoT) em fevereiro, permitindo que o acesso malicioso fosse possível por vários meses. O conteúdo inclui prompts de inteligência artificial, tokens de autenticação e agentes de usuário. Essas informações expostas são alvos ideais para atacantes, permitindo o monitoramento do comportamento do usuário e o acesso completo a contas.
Impacto e resposta
O impacto do vazamento é significativo, pois permite a compromissos de contas, acesso a históricos de conversa e até a compras fraudulentas de tokens de IA. Os registros vazados representam logs de produção e desenvolvimento em um intervalo de dois dias a uma semana, o que aumenta a gravidade do risco. “Esse vazamento é significativo, pois teria permitido o monitoramento do comportamento do usuário e a extração de informações sensíveis que os usuários compartilharam com modelos de IA”, afirmam os pesquisadores.
“Esse vazamento é significativo, pois teria permitido o monitoramento do comportamento do usuário e a extração de informações sensíveis que os usuários compartilharam com modelos de IA.
(“This leak is significant, as it would have allowed for monitoring user behavior, extracting sensitive information that users shared with AI models.”)— Cybernews, Pesquisadores
Análise e recomendações
A análise da Harmonic Security identificou que 22% de um milhão de prompts e 20 mil arquivos analisados continham informações sensíveis. Para mitigar riscos, é recomendado que as empresas adotem soluções de IA seguras e monitorizem os tipos de dados inseridos em sistemas de GenAI. Aras Nazarovas, pesquisador de segurança da Cybernews, diz que “as empresas devem educar seus funcionários sobre os riscos do uso irresponsável de IA”.
“As empresas devem educar seus funcionários sobre os riscos do uso irresponsável de IA.
(“Companies should educate their employees on the risks of irresponsible AI use.”)— Aras Nazarovas, Pesquisador de Segurança, Cybernews
O incidente destaca a necessidade de vigilância cibernética robusta em um cenário de crescente adoção de IA nas empresas. Espera-se que a adoção de protocolos de segurança evolua à medida que mais organizações implementem tecnologias de inteligência artificial.
Fonte: (Dark Reading – Segurança Cibernética)
