Cornell University — InkDesign News — Pesquisas recentes em machine learning revelam que assistentes de escrita baseados em inteligência artificial (AI) podem homogeneizar estilos de escrita culturalmente diversos, privilegiando padrões ocidentais e impactando usuários do Sul Global.
Contexto da pesquisa
Um estudo da Universidade Cornell avaliou a influência dos assistentes de escrita AI, baseados em grandes modelos de linguagem (LLMs), sobre a diversidade cultural na escrita de usuários da Índia e dos Estados Unidos. Embora essas ferramentas acelerem o processo de escrita, foi constatado que dão um viés para estilos mais genéricos e americanos, especialmente prejudicando a autenticidade da escrita india.
Método proposto
O experimento envolveu 118 participantes, divididos igualmente entre os dois países. Metade dos participantes teve auxílio de um assistente com sugestões automáticas para completar textos sobre temas culturais, enquanto a outra metade escreveu de forma independente. Foram registradas as teclas digitadas e o grau de aceitação ou rejeição das sugestões automáticas fornecidas pelos LLMs, predominantemente treinados por empresas americanas.
O modelo de AI forneceu sugestões baseadas em contextos ocidentais, como a preferência por pizza e Natal em exemplos culturais, e apresentou dificuldade em reconhecer referências locais relevantes, como o ator indiano Shah Rukh Khan. Participantes indianos aceitaram 25% das sugestões, contra 19% dos americanos, porém modificaram muitas dessas sugestões para que se ajustassem aos seus contextos.
Resultados e impacto
O uso da AI levou à escrita mais homogênea, com perda de detalhes culturais indianos, evidenciando um fenômeno denominado “colonialismo de AI”. Por exemplo, textos sobre o festival Diwali passaram de descrições específicas, como “adorar a deusa Laxmi” para termos vagos como “café da manhã tradicional indiano”.
“Quando usuários indianos utilizam sugestões de escrita de um modelo AI, eles começam a imitar estilos de escrita americanos a ponto de descrever seus próprios festivais, suas comidas e artefatos culturais sob uma lente ocidental.”
(“When Indian users use writing suggestions from an AI model, they start mimicking American writing styles to the point that they start describing their own festivals, their own food, their own cultural artifacts from a Western lens.”)— Dhruv Agarwal, Doutorando em Ciência da Informação, Cornell University
Os pesquisadores destacam que, apesar do valor dos assistentes de AI, é fundamental que empresas de tecnologia adaptem seus produtos para respeitar e preservar as nuances culturais, buscando um impacto equitativo global. O estudo será apresentado na conferência ACM CHI 2025, em Yokohama, Japão.
A próxima etapa do Global AI Initiative da Cornell inclui parcerias para desenvolver políticas globais e criar inteligências artificiais que atendam melhor às necessidades culturais do Sul Global.
Leia mais sobre avanços em machine learning e deep learning no InkDesign News.
Fonte: (TechXplore – Machine Learning & AI)
