São Paulo — InkDesign News — A integração da inteligência artificial generativa em áreas críticas da saúde pública, como a aprovação de medicamentos, gera discussões intensas sobre seus impactos e confiabilidade. Recentes declarações de Robert F. Kennedy Jr., Secretário de Saúde e Serviços Humanos dos EUA, sinalizam um movimento audacioso na intersecção da tecnologia e da saúde.
Contexto e lançamento
A implementação de ferramentas de IA, como a Elsa da FDA, promete acelerar processos de aprovação de medicamentos. Em junho de 2023, o Comissário da FDA, Marty Makary, anunciou a introdução de Elsa, que, segundo ele, é “antecipada e abaixo do orçamento”. Contudo, relatos de funcionários revelam que a IA tem produzido resumos e pesquisas inventados, o que levanta preocupações sobre a sua eficácia e precisão.
Design e especificações
A Elsa foi projetada para otimizar a eficiência da agência na análise de estudos e em tarefas administrativas, como resumos de reuniões. No entanto, sua capacidade de gerar informações falsas foi identificada como um problema crítico. Um funcionário do FDA destacou: “Qualquer coisa que você não tenha tempo de verificar é não confiável. Ela ‘alucina’ com confiança” (“Anything that you don’t have time to double-check is unreliable. It hallucinates confidently.”) — Funcionário anônimo, FDA.
Repercussão e aplicações
A repercussão da utilização de Elsa gerou debates sobre os riscos da substituição de análises humanas por algoritmos. Estudos mostram que a dependência excessiva de IA pode não apenas prolongar o tempo de execução de tarefas, mas também comprometer a qualidade do trabalho. Um estudo recente apontou que programadores levaram 20% mais tempo para completar tarefas quando utilizaram ferramentas de IA, desafiando a nociva crença de que a tecnologia economiza tempo.
“Doloroso ver tecnologias não testadas sendo injetadas na ciência convencional.”
(“Painful to see untested technologies being injected into mainstream science.”)— Washington, Analista, CNN
A crescente dependência de ferramentas como a Elsa suscita preocupações em relação à integridade da pesquisa científica. O FDA até agora não apresentou um plano claro para mitigar os problemas resultantes do uso da IA que “alucina”.
O futuro da aprovação de medicamentos por IA, como imaginado por Kennedy, ainda está envolto em incertezas e exige um debate rigoroso sobre a viabilidade e os limites da tecnologia na saúde pública.
Fonte: (Gizmodo – Cultura Tech & Geek)
