São Paulo — InkDesign News —
A pesquisa em machine learning e inteligência artificial (AI) está evoluindo rapidamente, levantando questões sobre sua aplicabilidade em contextos legais, especialmente no que se refere ao uso da coleta de dados de chatbots como evidência judicial.
Contexto da pesquisa
Um estudo recente realizado na D’Amore-McKim School of Business da Northeastern University trouxe à tona a complexidade legal da utilização de interações com chatbots em tribunal. Mark Esposito, especialista em governança de AI, aponta que, apesar das interações com chatbots serem armazenadas permanentemente, “ainda estamos longe de ter a estrutura legal e processual” necessária para considerar essas evidências de forma viável.
Método proposto
O foco da pesquisa se deu na forma como os dados dos chatbots são coletados e geridos. Esposito afirma que “as interações dos chatbots são permanentes por design, uma vez que cada troca é registrada e armazenada” e isso gera complicações em relação ao que pode ser acessado em um processo judicial. O modelo ilustra um problema de consideração de dados que muitas vezes são considerados irrelevantes, mas podem ser acessados por advogados adversários durante o processo judicial.
Resultados e impacto
As preocupações da pesquisa também envolvem a responsabilidade sobre as recomendações feitas pelos chatbots. “Se um chatbot gera um argumento ou recomendação, quem é responsável? O usuário, o desenvolvedor ou o próprio sistema?”, questiona Esposito. Este cenário levanta questões sobre atribuição e auditoria, em um ambiente onde muitos modelos de AI ainda são descritos como “caixas pretas”. Os investigadores também chamam a atenção para a necessidade de regras de proteção de dados, observando que “os chatbots tendem a coletar informações em excesso em comparação com o que é legalmente ‘proporcional’”.
Embora ainda existam muitos desafios para a aceitação de logs de chatbots em tribunais, o professor não descarta a possibilidade de que um dia tenham um papel mais significativo. “Desenvolvedores de clínicas jurídicas estão testando como essas tecnologias podem ser usadas no futuro”, diz o pesquisador.
As questões em andamento sobre privacidade, propriedade de dados e vigilância estão começando a chamar a atenção, especialmente em reuniões legais recentes. “Reconhecemos isso nos últimos quatro anos sob a administração Biden, e agora estamos mais orientados para a pergunta: ‘Onde estão os dados e como estão sendo usados?’”, conclui Esposito.
Essa pesquisa ressalta a necessidade de um diálogo contínuo entre tecnologia, direito e ética em um mundo cada vez mais digital.
Fonte: (TechXplore – Machine Learning & AI)
