São Paulo — InkDesign News — Novos avanços em segurança cibernética apontam para a crescente preocupação sobre como dados fornecidos a chatbots de inteligência artificial podem ser usados em investigações criminais. O caso do incêndio de Palisades, resultando em 12 mortes, destacou que registros de interações com IA podem ser essenciais para a construção de casos legais.
Vetor de ataque
Responsáveis pela investigação de crimes estão cada vez mais voltando sua atenção para os dados coletados por ferramentas de IA, como o ChatGPT. A utilização de registros digitais, desde conversas até imagens criadas, pode servir como evidência para a intenção criminosa. Especialistas alertam que esses sistemas podem registrar atividades que inadvertidamente expõem planos maliciosos de indivíduos.
Impacto e resposta
“Interações com IA são tão sensíveis quanto seu diário pessoal — vezes dez”
(“Your interactions with AI are as sensitive as your personal diary — times 10.”)
— Autor anônimo, Artigo publicado na Dark Reading
As conversas mantidas por chatbots podem traçar um panorama detalhado das intenções de um usuário. Durante a investigação do incêndio de Palisades, por exemplo, o suspeito utilizou o ChatGPT para abordar questões sobre responsabilidades relacionadas a acidentes. Essas informações, antes desconsideradas, agora estão sendo analisadas com grande detalhe.
Análise e recomendações
A crescente utilização de ferramentas de IA em empresas pode gerar evidências contra elas, mesmo sem a intenção aparente de comprometer informações confidenciais. As organizações devem reavaliar suas políticas de uso de IA, considerando os riscos potenciais de exposição de ideias e estratégias.
Implementações de monitoramento e treinamento em segurança cibernética são fundamentais. “A abordagem deve mudar de ‘não’ para ‘sim, com salvaguardas’ na adoção de IA”
(“the baseline must shift from ‘no’ to ‘yes, with guardrails.’”)
— Autor anônimo, Artigo publicado na Dark Reading
É vital que instituições educativas invistam em conscientização para que funcionários compreendam os perigos associados ao uso inadequado de tecnologias emergentes.
À medida que as capacidades das IAs aumentam, empresas e profissionais de segurança enfrentam o desafio de se adaptar a esse novo cenário, onde a vigilância sobre dados e intenções se torna ainda mais crucial para evitar abusos e preservar a segurança empresarial.
Fonte: (Dark Reading – Segurança Cibernética)
