LLMs revelam diferenças culturais em respostas em inglês e chinês
Os modelos de linguagem de grande escala (LLMs), como o que fundamenta a plataforma de conversação ChatGPT da OpenAI, estão revolucionando o campo da inteligência artificial e machine learning. Pesquisadores buscam entender a precisão e a neutralidade cultural das respostas geradas por esses sistemas.
Contexto da pesquisa
A pesquisa realizada no Massachusetts Institute of Technology (MIT) e na Universidade Tongji investigou a tendência cultural nas respostas geradas por LLMs nas línguas inglesa e chinesa. Segundo os pesquisadores, é essencial compreender se os LLMs demonstram vieses culturais nas interações, dado seu crescente uso global.
Método proposto
O estudo analisou dois modelos, GPT e ERNIE, focando em dois conceitos fundamentais da psicologia cultural: orientação social e estilo cognitivo. A primeira se refere à forma como os indivíduos se relacionam uns com os outros, enquanto a segunda diz respeito ao processamento de informações. Essas análises foram realizadas usando escalas como a Collectivism Scale e outras métricas.
Resultados e impacto
Os resultados demonstraram que “quando utilizado em chinês (versus inglês), o GPT apresenta uma orientação social mais interdependente (versus independente) e um estilo cognitivo mais holístico (versus analítico)” (“when used in Chinese (versus English), GPT exhibits a more interdependent (versus independent) social orientation and a more holistic (versus analytic) cognitive style”).
— Jackson G. Lu, Pesquisador, MIT. A pesquisa observou que os modelos LLM não são culturalmente neutros, mas sim refletem valores e estilos cognitivos específicos, influenciando, por exemplo, a recomendação de anúncios e conteúdo gerado.
Os achados podem fornecer uma base para futuras investigações sobre como ajustar ou mitigar essas tendências culturais em modelos de IA. O uso de *prompts* culturais específicos pode ajudar a alinhar as respostas geradas com as expectativas culturais dos usuários, um ponto crucial para o desenvolvimento de LLMs mais sensíveis a contextos culturais diversos.
Fonte: (TechXplore – Machine Learning & AI)
