Contexto da pesquisa
A aplicação de técnicas de “machine learning” em ambientes jurídicos tem ganhado destaque, principalmente com a introdução de sistemas de inteligência artificial (IA) que auxiliam na análise e geração de documentos. Porém, questões sobre precisão e veracidade emergem, evidenciadas por recentes incidentes envolvendo advogados e processos legais.
Método proposto
O modelo de IA utilizado em muitos casos envolve “Large Language Models” (LLMs) que se beneficiam de conjuntos de dados extensos para aprender a gerar textos. No entanto, a dependência de dados de treinamento pode levar a “alucinações”, onde a IA cria informações que não correspondem à realidade. Por exemplo, um advogado admitiu que informações contidas em um documento legal foram geradas por IA, identificando esses erros como produtos de “alucinações” artificiais.
“Assumi total responsabilidade por não garantir que o arquivo fosse factual”
(“I take full responsibility for not ensuring the filing was factual.”)— Jack Russo, Advogado, Computerlaw Group
Resultados e impacto
Os impactos desses erros são significativos, levando a sanções financeiras que podem ultrapassar US$ 31.000 e até a interrupção de processos legais. Um levantamento mostrou que, desde 2023, 113 casos nos EUA foram identificados em que advogados apresentaram documentos com informações fabricadas, frequentemente envolvendo citações de casos que não existem. Isso levanta preocupações sobre as repercussões nas decisões judiciais, que podem afetar vidas, especialmente em questões sensíveis como guarda de filhos e reivindicações de invalidez.
“Os riscos em alguns casos são muito altos, e se alguém estiver distorcendo a tomada de decisão do juiz, o sistema se quebra”
(“The stakes in some cases are so high, and if someone is distorting the judge’s decision-making, the system breaks down.”)— Eric Goldman, Professor de Direito, Santa Clara University
O uso de IA na legalidade apresenta um paradoxo: a tecnologia pode melhorar a eficiência, mas também introduz riscos de integridade. A pesquisa contínua sobre a interação entre IA e práticas jurídicas é essencial para mitigar esses desafios e garantir a precisão nas interações legais.
Fonte: (TechXplore – Machine Learning & AI)
