São Paulo — InkDesign News — O uso crescente de tecnologias de inteligência artificial generativa no setor público dos Estados Unidos gera discussões sobre sua adequação e eficácia, especialmente em funções críticas que envolvem questões legais e financeiras.
“Estamos em um ciclo de hype insano”, diz Meg Young, pesquisadora do Data & Society, uma respeitada instituição de pesquisa e política independente em Nova York. “As agências federais estão implementando essas tecnologias sem avaliar adequadamente sua prontidão.”
Contexto e lançamento
Recentemente, a administração de Donald Trump permitiu a utilização de chatbots geradores de IA por agências federais como a Administração de Serviços Gerais (GSA) e a Administração da Segurança Social. Isso representa uma tentativa de modernizar operações, com a previsão de uma redução de 300.000 empregos na força de trabalho federal até o final do ano. Contudo, a GSA enfrenta desafios significativos em sua aplicação, especialmente em processos de aquisição que exigem um alto nível de precisão legal.
Design e especificações
As tecnologias utilizadas incluem ferramentas de IA generativa que automatizam tarefas administrativas, como a redacção de e-mails e a síntese de documentos. No entanto, Young avisa que, devido à falta de precisão dos chatbots, sua aplicação em contextos legais pode gerar mais trabalho do que solução. Um estudo de 2024 revelou que os chatbots destinados à pesquisa legal, desenvolvidos por empresas como LexisNexis e Thomson Reuters, cometeram erros factuais entre 17% e 33% das vezes.
“No exemplo de um processo movido contra a Avianca Airlines, os advogados foram sancionados por citarem casos inexistentes gerados pelo ChatGPT”, explica Faiz Surani, coautor do estudo. Isso ilustra o nível de imprecisão que pode ser encontrado na aplicação dessas tecnologias no campo jurídico.
Repercussão e aplicações
A implementação apressada dessas ferramentas trouxe preocupações sobre seu impacto cultural e prático. Embora uma parceria da Pennsylvania com a OpenAI tenha mostrado que o uso de ChatGPT poderia economizar em média 95 minutos por dia em tarefas administrativas, muitos especialistas alertam que a falta de uma integração cuidadosa nos fluxos de trabalho pode resultar em confusão e erros dispendiosos. “Esse processo que estão seguindo demonstra que não se preocupam se a IA funciona para seu propósito declarado”, afirma Young.
O desenvolvimento de chatbots também suscita questões sobre a transparência e a responsabilização no governo. É vital que as agências tenham uma “cadeia de comando clara” na criação e manutenção desses sistemas, conforme enfatiza Joshua Blank, professor de direito na Universidade da Califórnia, Irvine. A pesquisa de Osofsky e Blank recomenda que as implementações futuras incluam meios de informar aos usuários que não estão interagindo com humanos e que as saídas dos chatbots não são juridicamente vinculativas.
O uso de IA generativa no governo ainda está em seus primeiros estágios e as empresas de tecnologia, como OpenAI, estão buscando ativamente os casos de uso que possam ser benéficos. “Ainda estamos nos primeiros dias de avaliação do que a IA é e o que não é útil para os governos”, conclui Young.
Fonte: (Gizmodo – Cultura Tech & Geek)
