São Paulo — InkDesign News — Com o lançamento do GPT-5, a OpenAI está orientando explicitamente usuários a utilizarem seus modelos para obter conselhos sobre saúde, levantando preocupações sobre a responsabilidade e qualidade das orientações proporcionadas pela inteligência artificial.
Contexto da pesquisa
Este aprimoramento por parte da OpenAI se insere em um contexto crescente de utilização da inteligência artificial em áreas críticas como a saúde. A decisão de permitir que indivíduos sem formação médica consultem modelos de IA sobre questões de saúde foi evidenciada durante o evento de lançamento do GPT-5. Altman, CEO da OpenAI, apresentou Felipe e Carolina Millon, onde Carolina discutiu sua experiência ao usar o ChatGPT para traduzir terminologia médica e tomar decisões sobre seu tratamento contra câncer, buscando reduzir a lacuna de conhecimento entre médicos e pacientes.
Método e resultados
O modelo GPT-5 utiliza uma arquitetura Transformer, otimizada para compreensão e geração de texto, incorporando um treinamento com vastos conjuntos de dados, que incluem publicações médicas e informações de saúde. Entretanto, a transição do uso da IA como ferramenta assistencial para um conselheiro de saúde levanta questões complicadas sobre a implementação. Um estudo publicado nas Annals of Internal Medicine documentou um caso em que um homem desenvolveu intoxicação por brometo após seguir conselhos obtidos através do ChatGPT, exemplificando os perigos associados à aplicação prática desse conhecimento sem supervisão médica.
Implicações e próximos passos
A questão central surge sobre a responsabilização. Ao contrário dos médicos, que podem ser processados por erros, não existem diretrizes claras sobre como os usuários podem buscar reparação por danos causados por conselhos inadequados de modelos de IA. Como ressalta Damien Williams, “quando ChatGPT dá conselho médico prejudicial, qual é o seu recurso?” Essa falta de responsabilidade pode desestimular os usuários a buscar consultas médicas adequadas. A OpenAI poderá enfrentar um dilema ético e legal à medida que mais pessoas recorrem a sistemas de IA para consultoria em saúde.
“Quando médicos lhe fornecem conselhos médicos prejudiciais devido a erro ou viés prejudicial, você pode processá-los por erro médico e obter compensação.”
(“When doctors give you harmful medical advice due to error or prejudicial bias, you can sue them for malpractice and get recompense.”)— Damien Williams, Professor Assistente de Ciência de Dados e Filosofia, Universidade da Carolina do Norte em Charlotte
O potencial impactante do uso de IA em saúde é inegável, oferecendo acesso democratizado à informação médica. No entanto, a implementação crescente desse modelo requer uma análise cuidadosa das implicações éticas e legais, bem como a necessidade de orientação e regulamentação apropriadas para garantir a segurança dos usuários.
Fonte: (MIT Technology Review – Artificial Intelligence)
