São Paulo — InkDesign News —
A recente pesquisa publicada no PeerJ Computer Science lança luz sobre os desafios impostos pelas ferramentas de detecção de texto gerado por inteligência artificial (AI), abordando o impacto na integridade acadêmica e nas oportunidades de publicação.
Contexto da pesquisa
Estudos indicam um aumento na utilização de modelos de linguagem, como os LLMs (Modelos de Linguagem de Grande Escala), em ambientes acadêmicos. Entretanto, ferramentas de detecção de texto baseadas em AI apresentam variabilidade na precisão e podem criar barreiras para certos grupos de autores, especialmente não nativos do inglês.
Método proposto
A pesquisa analisou ferramentas populares, como GPTZero e DetectGPT, para avaliar seu desempenho na distinção entre textos escritos por humanos e gerados por AI. Um conjunto de dados consistiu de resumos acadêmicos, servindo como benchmark para medir a precisão das ferramentas.
Resultados e impacto
- Os resultados mostram que as ferramentas de detecção apresentam inconsistências significativas, com taxas de falsos positivos altas, especialmente entre autores não nativos. “Estranhamente, a ferramenta mais precisa mostrou o maior viés contra certos grupos de autores e disciplinas acadêmicas.” (
“Ironically, the most accurate tool in this study showed the strongest bias against certain groups of authors and academic disciplines.”
— Ahmad R. Pratama, Pesquisador
)
- A pesquisa conclui que “as altas taxas de acurácia em ferramentas de detecção de texto não garantem justiça” para todos os autores. (
“This study highlights the limitations of detection-focused approaches and urges a shift toward ethical, responsible, and transparent use of LLMs in scholarly publication.”
— Equipe de Pesquisa
)
O estudo sugere a necessidade de um modelo que priorize a ética e a transparência no uso de AI em publicações acadêmicas, buscando equilibrar a precisão dos detetores com a equidade no acesso à publicação. Com estas descobertas, futuras investigações podem se concentrar na criação de diretrizes que promovam um ambiente de publicação mais inclusivo.
Fonte: (TechXplore – Machine Learning & AI)
