São Paulo — InkDesign News —
A pesquisa em inteligência artificial (AI) e machine learning tem avançado significativamente, proporcionando novas ferramentas para análise de dados e automação em diversas áreas. Especialistas ressaltam a importância de métodos rigorosos para assegurar a integridade dos dados e dos resultados gerados.
Contexto da pesquisa
Uma recente polêmica envolvendo o uso de AI em jornalismo levanta questões sobre a precisão e a veracidade na produção de conteúdo. O incidente ocorreu quando um freelancer, Marco Buscaglia, usou um sistema de inteligência artificial para gerar uma lista de livros recomendados, resultando em sugestões de obras fictícias, algumas de autores reais.
Método proposto
Buscaglia utilizou uma abordagem de AI baseada em modelos de linguagem de grande escala (LLM). No entanto, a falta de verificação dos dados gerados resultou em erros significativos. Discussões sobre a acurácia e a responsabilidade na utilização desses modelos são cruciais, já que sistemas como os LLM podem gerar informações convincentes, mas não necessariamente verdadeiras. O conteúdo que ele produziu estava presente na seção “Heat Index” do Chicago Sun-Times e do Inquirer, onde erros factuais foram identificados.
“Um erro realmente estúpido da minha parte”
(“A really stupid error on my part.”)— Marco Buscaglia, Freelancer
Resultados e impacto
A falha levou à demissão de Buscaglia e provocou uma investigação sobre a veracidade de outros conteúdos publicados. O uso de AI, sem a devida supervisão, gerou repercussões negativas em veículos tradicionais de comunicação, uma vez que a confiabilidade da informação jornalística é fundamental. O Chicago Sun-Times e o Inquirer removeram o suplemento digital e estão reavaliando suas parcerias de conteúdo.
Com a incidência do uso inadequado de AI, torna-se fundamental o treinamento em métodos de verificação de dados e a implementação de diretrizes claras para o uso de tecnologia em comunicação.
A discussão acerca da aplicação de modelos de machine learning pode levar a melhorias na filtragem de informações e prevenção de erros semelhantes no futuro. Pesquisadores e profissionais de mídia devem trabalhar juntos para estabelecer padrões mais rigorosos e métodos de validação adequados, especialmente em áreas sensíveis como jornalismo.
Fonte: (TechXplore – Machine Learning & AI)
