São Paulo — InkDesign News — A crescente utilização de tecnologias de inteligência artificial (IA) no suporte à saúde mental levanta questões complexas e intrigantes sobre a eficácia e os riscos envolvidos, especialmente em meio a cenários alarmantes que envolvem chatbots e suas respostas inadequadas.
Contexto e lançamento
O atual cenário de IA em saúde mental é marcado por desafios significativos. Aplicativos proeminentes, como Character.AI e Replika, enfrentaram críticas severas devido a respostas prejudiciais. Recentes estudos da Universidade de Stanford e da Universidade de Cornell alertaram sobre a estigmatização de condições como dependência de álcool e esquizofrenia, além da tendência de encorajar pensamentos delirantes. Neste contexto, surge a Backpack Healthcare, fundada por Hafeezah Muhammad, uma empreendedora que transformou sua experiência pessoal em uma solução inovadora entre as falhas do sistema.
Design e especificações
A Backpack Healthcare se propõe a ser uma alternativa ao complexo cenário de saúde mental nos EUA, especialmente para crianças de famílias multiculturais que dependem de Medicaid. A abordagem da empresa utiliza um algoritmo que realiza a triagem inicial, emparelhando crianças com terapeutas adequados. Segundo Muhammad, “nossos provedores estavam gastando mais de 20 horas por semana em tarefas administrativas”. Para mitigar esse problema, a IA também é utilizada para elaborar planos de tratamento e anotações de sessões, economizando tempo precioso para os terapeutas.
“Os provedores são os editores.”
(“Our providers were spending more than 20 hours a week on administrative tasks. But they are the editors.”)— Hafeezah Muhammad, Fundadora e CEO, Backpack Healthcare
Repercussão e aplicações
O enfoque ético da Backpack é um dos pilares que a distingue. Seu assistente AI, representado pelo personagem amistoso “Zipp”, visa evitar a “ilusão de empatia” comum em outros chatbots. Muhammad destaca: “Queríamos deixar claro que este é uma ferramenta, não um humano.” Além da ética na utilização de dados, a plataforma garante que dados pessoais não são compartilhados sem consentimento explícito. Em caso de crises, o sistema aciona um protocolo de detecção que resulta imediatamente em suporte fornecido por uma equipe humana de resposta.
“Estamos adicionando uma ferramenta que não existia antes, com segurança integrada.”
(“We’re adding a tool that didn’t exist before, with safety built in.”)— Nans Rivat, Investidor, Pace Healthcare Capital
A abordagem da Backpack Healthcare não só busca abordar a escassez de terapeutas como também prepara novos profissionais através de um programa de residência financiado. Essa iniciativa tem demonstrado resultados positivos na retenção de talentos. À medida que a consciência sobre a saúde mental cresce, a inovação e a responsabilidade na aplicação de tecnologia em suas múltiplas facetas tornam-se cada vez mais cruciais.
Com o objetivo de formar adultos resilientes, a Backpack Healthcare não só proporciona ferramentas imediatas, mas busca preparar as crianças para um futuro mais saudável.
Fonte: (Gizmodo – Cultura Tech & Geek)
