Pesquisa revela novos desafios para uso de AI em contextos legais
São Paulo — InkDesign News — O aumento do uso de machine learning e inteligência artificial (AI) nas profissões, especialmente no campo jurídico, revela tanto oportunidades quanto desafios significativos para a precisão e integridade dos processos legais.
Contexto da pesquisa
Recentemente, tribunais em diversos países, incluindo os Estados Unidos e a Austrália, têm alertado advogados sobre os riscos de depender de AI sem a devida verificação. Em particular, a utilização de modelos de linguagem generativa (LLMs) em processos legais tem gerado preocupações sobre a precisão dos documentos apresentados.
Método proposto
Um exemplo significativo é o caso Snell v United Specialty Insurance Co, onde o juiz Kevin Newsom utilizou o ChatGPT para interpretar a expressão “paisagismo” em um contrato de seguro. O juiz inicialmente recorreu a três dicionários, mas encontrou definições divergentes. Como uma alternativa, ele utilizou o ChatGPT para obter uma “interpretação” do termo.
Esses modelos são alimentados por grandes volumes de dados escritos, incluindo livros, artigos e interações humanas, permitindo-lhes oferecer interpretações baseadas em contextos variados. Apesar disso, a pesquisa destaca a cautela ao considerar esses modelos como ferramentas de avaliação, sugerindo que “LLMs devem ser apenas uma ferramenta entre muitas” (“LLMs should only be one tool among many”)— Kevin Newsom, Juiz.
Resultados e impacto
Embora o uso de AI possa ajudar na análise e interpretação de documentos legais, diversos problemas foram identificados. O fenômeno conhecido como “alucinação” em AI, onde respostas incorretas são apresentadas como verdadeiras, e a falta de transparência na construção dos modelos de linguagem, levantam questões sobre a confiabilidade desses sistemas. “Os modelos não podem ser tratados como mais autoritários ou confiáveis do que qualquer outra fonte” (“These models cannot be treated as any more authoritative or reliable than any other source”)— Especialistas em direito.
Em termos de desempenho, as métricas de precisão e verificabilidade foram destacadas como essenciais para o uso eficaz dos LLMs em processos legais. A pesquisa continua a avançar, buscando maneiras de refinar as interações entre AI e as práticas jurídicas, preservando valores centrais como a transparência e a responsabilidade no uso de tecnologia no direito.
As implicações desse estudo podem levar a uma reavaliação do papel da AI no direito, incentivando não apenas a sua utilização, mas a combinação com métodos tradicionais e verificação rigorosa. Os próximos passos incluem a pesquisa sobre a integração de ferramentas de AI em processos judiciais e o desenvolvimento de diretrizes para seu uso ético.
Fonte: (TechXplore – Machine Learning & AI)
