Machine Learning e a Pesquisa Qualitativa: Limitações e Ética

Pesquisas recentes destacam as limitações da inteligência artificial (IA) e do machine learning em estudos qualitativos, enfatizando a necessidade da participação humana nas investigações sociológicas e comportamentais.

Contexto da pesquisa

Pesquisadores da Carnegie Mellon University (CMU) exploraram a viabilidade de substituição de participantes humanos por modelos de linguagem de alto desempenho, conhecidos como Large Language Models (LLMs), em pesquisa qualitativa. O estudo levanta questões sobre a precisão dos dados gerados por IA e os impactos éticos de sua utilização.

Método proposto

No estudo intitulado “Simulacrum of Stories: Examining Large Language Models as Qualitative Research Participants”, a equipe da CMU conduziu entrevistas com 19 especialistas em pesquisa qualitativa. Os participantes interagiram com um chatbot baseado em LLM, permitindo comparações entre dados gerados por humanos e aqueles produzidos pela IA.

Resultados e impacto

Os pesquisadores identificaram que os LLMs, em muitos casos, combinam informações de diferentes fontes em respostas que não refletem adequadamente diversas perspectivas. Um exemplo disso é a discrepância de opiniões entre trabalhadores e gerentes em ambientes industriais, que uma IA poderia amalgamar em uma resposta única, não realista.

“O que encontramos é que os participantes humanos contribuem com nuances que modelos baseados em LLM não conseguem replicar, independentemente de quão avançada a tecnologia seja.”
(“We looked into this question of if LLM-based agents can replace human participation in qualitative research, and the high-level answer was no.”)

— Hoda Heidari, Professora Assistente, Carnegie Mellon University

Além disso, o uso de LLMs levanta preocupações éticas, particularmente em relação ao consentimento informado, visto que esses modelos são treinados em dados públicos que podem não ter sido fornecidos com a devida permissão. O estudo sugere que a adoção de IA em pesquisas pode levar a uma produção de conhecimento que perpetua hierarquias e exclusões existentes.

O futuro da pesquisa qualitativa, portanto, provavelmente exigirá uma abordagem que combine a análise humana e a capacidade de processamento de dados oferecida por tecnologias de AI. Investigação adicional é necessária para desenvolver frameworks éticos que integrem ambos os mundos de maneira eficaz e responsável.

Fonte: (TechXplore – Machine Learning & AI)