São Paulo — InkDesign News —
A pesquisa em machine learning e inteligência artificial (IA) está avançando rapidamente, com o objetivo de eliminar preconceitos sociais incorporados ao design de modelos de linguagem em larga escala (LLMs). Um recente estudo da Universidade de Stanford destaca os desafios de considerar as ontologias que influenciam as saídas desses modelos.
Contexto da pesquisa
Com a ascensão dos sistemas de IA generativa, eliminar preconceitos sociais desses modelos se tornou um foco central da indústria. Os pesquisadores têm se concentrado nos valores embutidos nesses sistemas. Um artigo recente apresentado na Conferência CHI de 2025 argumenta que discussões sobre preconceitos de IA devem ir além dos valores para incluir a ontologia.
Método proposto
Os pesquisadores, liderados por Nava Haghighi, candidata a Ph.D. em Ciência da Computação, conduziram uma análise sistemática de quatro sistemas de IA principais: GPT-3.5, GPT-4, Microsoft Copilot e Google Bard (atualmente chamado Gemini). Eles desenvolveram 14 perguntas meticulosamente elaboradas em quatro categorias: definição de ontologia, fundamentos ontológicos, suposições implícitas e avaliação das limitações ontológicas de cada modelo.
“Um momento em que as suposições ontológicas dominantes podem ser implicitamente codificadas em todos os níveis do pipeline de desenvolvimento de LLMs.”
(“A moment when the dominant ontological assumptions can get implicitly codified into all levels of the LLM development pipeline.”)— James Landay, Professor, Universidade de Stanford
Resultados e impacto
Os resultados mostraram limitações significativas. Ao questionar “O que é um humano?”, alguns chatbots reconheceram que “nenhuma resposta única é universalmente aceita em todas as culturas, filosofias e disciplinas” (resposta do Bard). No entanto, todas as definições tratavam os humanos como indivíduos biológicos, sem considerar visões alternativas. Esses achados destacam um desafio claro: mesmo quando uma pluralidade de perspectivas ontológicas está representada nos dados, as arquiteturas atuais dos modelos não conseguem acessá-las adequadamente.
Haghighi enfatiza que “o atual trajeto do desenvolvimento de IA corre o risco de codificar suposições ontológicas dominantes como verdades universais, potencialmente restringindo a imaginação humana por gerações”. As implicações são profundas à medida que os sistemas de IA se tornam mais integrados na educação e na saúde, moldando como as pessoas entendem conceitos fundamentais como humanidade e conexão.
Futuras aplicações devem considerar esses desafios considerando abordagens que ampliem a definição do que significa ser humano em vez de apenas simular definições limitadas.
Fonte: (TechXplore – Machine Learning & AI)
