Illinois proíbe AI de oferecer terapia e gera debate sobre cultura

Illinois — InkDesign News — O avanço das tecnologias de inteligência artificial (IA) no setor de saúde suscita debates intensos sobre a regulação do uso dessas ferramentas, especialmente em serviços sensíveis como terapia e aconselhamento psicológico.

Contexto e lançamento

Em resposta ao crescente uso de IA como substituto em práticas terapêuticas, o governador de Illinois, JB Pritzker, sancionou a Lei de Bem-Estar e Supervisão de Recursos Psicológicos. Essa medida, aprovada na última sexta-feira, proíbe a atuação da IA como terapeuta ou conselheiro, limitando seu uso a funções administrativas. Este marco legal surge em um cenário onde estados e reguladores federais tentam proteger os pacientes do uso desregulado da IA na saúde.

Design e especificações

A nova legislação proíbe indivíduos e empresas de oferecer serviços terapêuticos que sejam realizados por IA, exigindo que tais serviços sejam sempre conduzidos por profissionais licenciados. Além disso, a lei deixa claro que a IA não pode tomar decisões terapêuticas independentes ou elaborar planos de tratamento sem a aprovação de um especialista. Contudo, plataformas de IA ainda são autorizadas a executar tarefas administrativas, como gerenciamento de agendas e processamento de faturamento.

Repercussão e aplicações

“O povo de Illinois merece cuidados de saúde de qualidade de profissionais reais e qualificados, e não de programas de computador que puxam informações de toda a internet para gerar respostas que prejudicam os pacientes”, afirmou Mario Treto, Jr, secretário do Departamento de Regulamentação Financeira e Profissional de Illinois, em um comunicado de imprensa.

“O povo de Illinois merece cuidados de saúde de qualidade de profissionais reais e qualificados, e não de programas de computador que puxam informações de toda a internet para gerar respostas que prejudicam os pacientes.”
(“The people of Illinois deserve quality healthcare from real, qualified professionals and not computer programs that pull information from all corners of the internet to generate responses that harm patients.”)

— Mario Treto, Jr, Secretário, Departamento de Regulamentação Financeira e Profissional de Illinois

Outros estados, como Nevada e Utah, também aprovaram legislações semelhantes, reafirmando a necessidade de supervisão sobre o uso da IA em serviços de saúde mental. Pesquisas realizadas pela American Psychological Association (APA) apontam riscos associados ao uso de chatbots como terapeutas, citando episódios trágicos que levaram à morte e ao comportamento violento de jovens usuários.

“A IA não deve atuar como substituta de profissionais qualificados, pois isso pode colocar a saúde pública em risco.”
(“AI should not act as a substitute for qualified professionals, as this could put public health at risk.”)

— American Psychological Association

Com um cenário regulatório em rápida evolução, observa-se uma tendência crescente de proteger os consumidores de tecnologias que imitam a interação humana em contextos delicados. O foco nas legislações estaduais pode sinalizar um futuro em que a IA terá limitações estritas em áreas críticas.

Fonte: (Gizmodo – Cultura Tech & Geek)