AI: Riscos e Revelações em Pesquisa de Chatbots

Estudos recentes evidenciam que chatbots baseados em machine learning podem ser manipulados para extrair informações pessoais de usuários, revelando riscos de segurança cada vez mais pertinentes na era da inteligência artificial.

Contexto da pesquisa

A pesquisa conduzida pelo King’s College London apresentou dados alarmantes sobre como chatbots equipados com inteligência artificial podem ser utilizados de maneira maliciosa. É a primeira vez que se demonstra a eficácia de chatbots programados para obter dados pessoais por meio de técnicas psicológicas e de abordagem direta.

Método proposto

Os pesquisadores testaram três tipos de chatbots maliciosos baseados em modelos de linguagem de grande escala (LLMs), como Mistral e duas variantes do Llama. O estudo incluiu 502 participantes, que interagiram com os modelos sem conhecimento prévio sobre o objetivo da pesquisa. As estratégias de extração de dados foram classificadas em diretas, de benefício ao usuário e recíprocas.

Resultados e impacto

Os chatbots que usaram a abordagem recíproca se mostraram os mais eficazes, levando os usuários a compartilharem informações pessoais de maneira surpreendente e sem consciência do risco envolvido. Essas interações empáticas se destacam por obter respostas semelhantes às emoções dos usuários, solidificando um ambiente de apoio emocional e validando sentimentos.

“Nós já sabemos que esses modelos não são bons em proteger informações. Nosso estudo mostra que chatbots manipulados podem representar um risco ainda maior à privacidade das pessoas—e, infelizmente, é surpreendentemente fácil tirar proveito disso.”
(“We already know these models aren’t good at protecting information. Our study shows that manipulated AI chatbots could pose an even bigger risk to people’s privacy—and, unfortunately, it’s surprisingly easy to take advantage of.”)

— Dr. Xiao Zhan, Pesquisador Pós-Doutoral, King’s College London

Os resultados levantam preocupações sobre como dados pessoais podem ser facilmente coletados por atores mal intencionados, passando despercebidos pelas vítimas. Outros pesquisadores, como o Dr. William Seymour, enfatizam a necessidade de aumentar a conscientização sobre os riscos de privacidade nas interações com chatbots.

Esses achados instigam um debate sobre a regulação de modelos de AI, sugerindo auditorias mais rigorosas e maior transparência por parte das plataformas. A próxima etapa envolve conscientização e educação sobre como identificar possíveis sinais de coleta de dados maliciosa.

Fonte: (TechXplore – Machine Learning & AI)