AI browsers enfrentam ataque que induz pagamento a lojas falsas

São Paulo — InkDesign News — Cybersecurity experts from Guardio Labs have uncovered a novel attack method dubbed PromptFix, exploiting AI browsers through fake CAPTCHAs that lead users to phishing sites and fraudulent stores, raising alarms over digital vulnerabilities.

Incidente e vulnerabilidade

O ataque PromptFix utiliza CAPTCHAs fraudulentos, que normalmente servem como verificação de segurança. Enquanto um usuário humano pode facilmente identificar e ignorar essa verificação falsa, os assistentes de IA a interpretam como um comando legítimo a ser seguido. Essa vulnerabilidade permite que informações sensíveis sejam comprometidas ou que compras sejam realizadas automaticamente. O contexto técnico revela que esses “agentes AIs” podem ser enganados por técnicas que têm estado em circulação por anos, utilizando dados como endereços de sites suspeitos que um humano geralmente reconheceriam:

A confiança que depositamos na IA agente será absoluta, e quando essa confiança é mal colocada, o custo é imediato.
(“The trust we place in Agentic AI is going to be absolute, and when that trust is misplaced, the cost is immediate.”)

— Guardio Labs

Impacto e resposta

Os testes feitos pelos pesquisadores mostraram que um navegador AI, ao ser solicitado a comprar um item em um site falso que imitava o Walmart, procedeu com a compra sem hesitação, preenchendo automaticamente informações de pagamento salvas do usuário. Além disso, uma simulação de phishing apresentou um e-mail falso que aparentava ser do banco, levando o AI a clicar em um link malicioso que redirecionou o usuário a uma página de login falsa. Tais incidentes destacam a fragilidade das defesas atuais diante de um “circuito de confiança perfeito” que os usuários depositam nos sistemas automáticos:

O que estamos vendo agora é um ponto onde um modelo de IA comprometido pode levar a um comprometimento em massa de usuários.
(“The report warns that in the future, scammers won’t need to trick millions of people. Instead, they can simply break one AI model and use that same trick to compromise millions of users at the same time.”)

— Guardio Labs

Mitigações recomendadas

A proteção de assistentes virtuais contra os ataques PromptFix deve ser uma prioridade. As recomendações incluem a implementação de patches que verifiquem a autenticidade das interações e autenticações em múltiplos níveis. As boas práticas indicadas envolvem a educação dos usuários sobre reconhecer sinais de phishing e a importância de monitorar as atividades dos navegadores AI, assim como a utilização de ferramentas de segurança que possam detectar comportamentos anômalos.

À medida que os atacantes simultaneamente otimizam o uso de agentes autônomos, os defensores humanos precisarão confiar cada vez mais nesses mesmos agentes para a proteção. O nível de segurança deve ser proporcional à responsabilidade que esses sistemas assumem.

Os riscos residuais, se não forem imediatamente abordados, podem resultar em consequências severas para usuários e instituições financeiras.

Fonte: (Hack Read – Segurança Cibernética)