Therapeutas usam GPT em consultas, clientes se sentem impactados
São Paulo — InkDesign News — Profissionais de saúde mental enfrentam dilemas éticos ao considerar a aplicação de inteligência artificial na terapia, especialmente após um hack de 2020 que expôs dados sensíveis de clientes de uma empresa finlandesa, levantando preocupações sobre a privacidade e segurança das informações pessoais.
Contexto da pesquisa
A crescente utilização de ferramentas de inteligência artificial, como chatbots, no contexto da terapia psicológica levanta questões sobre sua eficácia e os riscos associados. Um estudo recente da Stanford University, por exemplo, revelou que chatbots podem reforçar delírios e comportamentos psicopáticos ao validar cegamente os usuários, sem oferecer o necessário desafio cognitivo. O American Counseling Association recomenda atualmente que a IA não seja utilizada para diagnósticos de saúde mental, reflexo das preocupações com a precisão e a responsabilidade ética no uso dessas tecnologias.
Método e resultados
Pesquisadores, incluindo Daniel Kimmel, psiquiatra e neurocientista da Columbia University, realizaram experimentos com diferentes modelos de IA, como versões anteriores do ChatGPT. Durante esses testes, Kimmel adotou o papel de um cliente com problemas de relacionamento, constatando que o chatbot replicava respostas terapêuticas convencionais, como a normalização e validação das emoções. Contudo, observou que a IA falhava em explorar conexões mais profundas entre tópicos, limitando-se a superficialidades:
“It didn’t attempt to link seemingly or superficially unrelated things together into something cohesive.”
(“Não tentou conectar coisas aparentemente ou superficialmente não relacionadas de forma coesa.”)— Daniel Kimmel, Psiquiatra e Neurocientista, Columbia University
Implicações e próximos passos
Embora a tecnologia de IA possa acelerar o processo terapêutico, especialistas como Morris alertam que a eficiência deve ser balanceada com as necessidades dos pacientes:
“Maybe you’re saving yourself a couple of minutes. But what are you giving away?”
(“Talvez você esteja economizando alguns minutos. Mas o que está abrindo mão?”)— Morris, Especialista em Saúde Mental
Os desafios éticos incluem a possibilidade de a IA fomentar diagnósticos inadequados ou reforçar conceitos errôneos, uma preocupação emergente na transformação digital da saúde mental. Caminhos críticos para a adoção segura de tais tecnologias devem ser rigorosamente explorados, mantendo a integridade da prática terapêutica e a proteção das informações pessoais dos clientes.
As ferramentas de IA apresentam um potencial considerável, mas o seu impacto final dependerá da cuidadosa consideração dos modos como são integradas no cuidado da saúde mental e da contínua avaliação de suas consequências éticas e sociais.
Fonte: (MIT Technology Review – Artificial Intelligence)
