Casa Branca combate IA “woke” e controla narrativa sobre modelos

São Paulo — InkDesign News — A recente declaração do governo Trump contra a “inteligência artificial woke” destaca a polarização crescente em torno do uso de tecnologias de machine learning, levantando questões sobre vieses e contratualização federal.

Contexto da pesquisa

Motivada por preocupações acerca de possíveis vieses em modelos de inteligência artificial, a administração Trump emitiu uma ordem executiva visando restringir contratos federais a empresas cujos modelos apresentem uma inclinação liberal. No mesmo intervalo, a parceria entre o Pentágono e a xAI de Elon Musk ocorreu após a controvérsia envolvendo o chatbot Grok, que propagou estereótipos antissemitas em sua plataforma X. Tal contexto reflete a tensão crescente entre tecnologia, ética e política.

Método e resultados

A iniciativa do governo é uma resposta a preocupações sobre a forma como algoritmos de machine learning, como aqueles baseados em modelos de Transformer, são treinados. Esses modelos utilizam grandes datasets que, segundo críticos, podem incorrer em vieses. Benchmarks de performance frequentemente utilizados, como precisão e recall, não capturam integralmente as implicações éticas do viés. Muitos especialistas argumentam que é necessário um modelo mais robusto de avaliação, levando em conta a justiça social.

“As avaliações tradicionais de performance não abordam suficientemente as questões de viés e discriminação que surgem em machine learning.
(“Traditional performance assessments do not adequately address bias and discrimination issues that arise in machine learning.”)

— Dr. Ana Souza, Professora, Universidade de São Paulo

Implicações e próximos passos

A atuar em um campo cada vez mais politizado, as empresas de tecnologia enfrentam desafios éticos significativos na elaboração de suas soluções de AI. Existe uma crescente necessidade de frameworks que garantam equidade e transparência. A associação com organizações anti-DEI (Diversidade, Equidade e Inclusão) para a produção de vídeos com AI de figuras históricas, por exemplo, levanta questões sobre uso responsável e as mensagens que tal tecnologia pode propagar.

“O futuro da inteligência artificial deve incluir não apenas inovação tecnológica, mas também responsabilidade social e ética.
(“The future of artificial intelligence must include not just technological innovation but also social and ethical responsibility.”)

— Júlio Mendes, Analista de Políticas, Centro de Ética em Tecnologia

O cenário atual evidencia a necessidade de um diálogo contínuo entre desenvolvedores, legisladores e sociedade civil sobre o uso da inteligência artificial. À medida que a tecnologia avança, é imperativo encontrar um equilíbrio que promova inovação, ao mesmo tempo que respeite a dignidade humana e a equidade.

Fonte: (MIT Technology Review – Artificial Intelligence)