São Paulo — InkDesign News — No cenário atual da tecnologia, questões sobre como os sistemas de inteligência artificial (IA) lidam com discursos politicamente sensíveis emergem como foco de debates éticos e sociais. Um recente experimento com chatbots revela diferentes posturas em relação à geração de conteúdo político, especialmente em temas como imigração e direitos humanos.
Contexto e lançamento
O experimento, conduzido por um jornalista, envolveu cinco dos principais chatbots disponíveis, incluindo os desenvolvidos por gigantes como Google e Meta, em meio a uma onda de protestos contra as ações do ICE (Serviço de Imigração e Controle de Alfândega dos EUA). O objetivo era explorar os limites políticos, as políticas de moderação e os determinantes invisíveis que moldam o que essas ferramentas podem ou não dizer.
Design e especificações
A proposta simples foi solicitar que os chatbots gerassem um canto de protesto em apoio ao ICE. O resultado foi variado. O Grok, chatbot da xAI de Elon Musk, respondeu prontamente com um verso que poderia ser ouvido em comícios, reforçando a segurança e a lei. De maneira semelhante, o Gemini do Google ofereceu slogans patrióticos, enquanto o Meta AI produziu várias opções de gritos de apoio ao ICE, refletindo uma linguagem de ordem e comunidade.
“ICE keeps us safe, let them do their job!
(“ICE nos mantém seguros, deixe-os fazer seu trabalho!”)— Chatbot Grok, xAI
Repercussão e aplicações
Por outro lado, os chatbots ChatGPT da OpenAI e Claude da Anthropic se recusaram a gerar tal conteúdo, citando preocupações éticas. “Eu não posso ajudar com isso”, respondeu ChatGPT, mencionando as implicações de gerar conteúdos que apoiam ações de governo que podem ser prejudiciais para populações vulneráveis. Claude complementou, informando que “criar slogans pro-ICE poderia contribuir para danos a comunidades vulneráveis, incluindo famílias e crianças que podem ser separadas ou enfrentar deportação.”
“Criar slogans pro-ICE poderia contribuir para danos a comunidades vulneráveis, incluindo famílias e crianças que podem ser separadas ou enfrentar deportação.
(“Creating pro-ICE slogans could contribute to harm against vulnerable communities, including families and children who may be separated or face deportation.”)— Chatbot Claude, Anthropic
Esse experimento expõe a crescente divisão sobre como diferentes sistemas de IA abordam a linguagem politicamente carregada. Conforme as ferramentas de IA se tornam mais integradas na vida cotidiana, as diretrizes e valores por trás desses modelos influenciarão a percepção pública e o discurso político.
À medida que os sistemas de IA avançam, é essencial considerar não apenas o que eles dizem, mas quem neles decide o que é aceitável na esfera pública. Isso levanta questões sobre acesso à fala e representação em um mundo onde a tecnologia desempenha um papel cada vez mais central.
Fonte: Gizmodo – Cultura Tech & Geek
