Juízes adotam inteligência artificial para avaliações precoces

São Paulo — InkDesign News — Em um cenário contemporâneo cada vez mais marcado pela presença da inteligência artificial, juízes enfrentam a pressão de adotar modelos de machine learning para otimizar processos, mas isso levanta preocupações significativas sobre a precisão e integridade das decisões judiciais.

Contexto da pesquisa

A rápida evolução da inteligência artificial nas últimas décadas tem suscitado discussões intensas sobre seus impactos em várias áreas, incluindo o sistema judiciário. Juízes, como o Scott Schlegel da Quinta Corte de Apelação da Louisiana, têm analisado a potencialidade da tecnologia para modernizar a Justiça. No entanto, Schlegel também alerta que a utilização inapropriada de ferramentas de IA pode representar uma “crise à espera de acontecer”, especialmente quando se trata de decisões cruciais que afetam a vida das pessoas.

Método e resultados

Os modelos atualmente em uso, como aqueles que geram textos fluentes e humanizados, podem obscurecer problemas sérios, como informações incorretas ou “alucinações” — respostas que parecem corretas, mas são factualmente erradas. A crescente adoção desses modelos torna-se arriscada, especialmente em casos sensíveis, como custódia de filhos ou julgamentos de fiança. Conforme demonstrado em ocorrências recentes, como erros de juízes que se basearam em casos fabricados, a transparência nas decisões judiciais é crucial. Na prática, esses erros não podem ser simplesmente corrigidos posteriormente, como reforça Schlegel:

“Quando o juiz faz um erro, essa é a lei. Eu não posso dizer um mês ou dois depois ‘Desculpe, cometi um engano’; não funciona assim.”
(“When the judge makes a mistake, that’s the law. I can’t go a month or two later and go ‘Oops, so sorry,’ and reverse myself. It doesn’t work that way.”)

— Scott Schlegel, Juiz da Quinta Corte de Apelação da Louisiana

Implicações e próximos passos

As implicações do uso de inteligência artificial no judiciário são profundas. Enquanto algumas aplicações, como resumos de depoimentos ou feedback de escrita, podem ser benéficas, os juízes devem tratar a IA como uma ferramenta auxiliar, não como a responsável pelas decisões cruciais. Como aponta Schlegel, o trabalho de um juiz exige que se lide com questões complexas e decisões em situações de alta pressão. Ele enfatiza a importância do julgamento humano em situações delicadas:

“Se você está decidindo quem ficará com as crianças neste final de semana e alguém descobre que você usou Grok quando deveria ter usado Gemini ou ChatGPT — isso não é o sistema de justiça.”
(“If you’re making a decision on who gets the kids this weekend and somebody finds out you use Grok and you should have used Gemini or ChatGPT—you know, that’s not the justice system.”)

— Scott Schlegel, Juiz da Quinta Corte de Apelação da Louisiana

O adequando uso da inteligência artificial no judiciário pode revolucionar o sistema, mas é necessário avançar com cautela, garantindo que as decisões judiciais mantenham sua integridade e precisão. O desafio ético e prático não é apenas de adotar nova tecnologia, mas de fazê-lo de maneira que não erosione a confiança pública no sistema legal.

Fonte: (MIT Technology Review – Artificial Intelligence)