São Paulo — InkDesign News — A Meta enfrenta crescente escrutínio em relação a diretrizes de comportamento de seus assistentes de IA, revelando um cenário preocupante em que decisões éticas e de segurança parecem ser comprometidas em busca de competitividade no espaço da inteligência artificial.
Contexto e lançamento
Recentemente, um relatório da Reuters expôs o conteúdo de um documento interno da Meta, intitulado “GenAI: Content Risk Standards”. Com mais de 200 páginas, o documento foi criado para estabelecer padrões de comportamento aceitáveis para chatbots e assistentes de IA. O histórico da empresa em relação ao desenvolvimento e implementação de sua tecnologia de IA tem sido repleto de controvérsias, especialmente quando se considera a evolução dos assistentes virtuais e suas interações com usuários, incluindo crianças.
Design e especificações
O documento traz diretrizes que, segundo a Meta, visam definir comportamentos aceitáveis para suas IA, mas que se mostram inquietantes. A empresa autorizou interações em que chatbots poderiam participar de conversas “românticas ou sensuais” com crianças. Exemplo ilustrativo inclui uma interação em que um chatbot poderia responder a um jovem com descrições de carícias e beijos, embora haja uma linha tênue em relação a “ações sexuais ativas” (active sexual actions, em inglês). Além disso, o documento menciona que os bots podem afirmar declarações racistas, permitindo que digam, por exemplo, que “pessoas negras são mais burras que pessoas brancas”.
Repercussão e aplicações
A decisão da Meta de criar diretrizes que legitimam tais comportamentos de IA provocou uma onda de críticas na comunidade tecnológica e entre defensores dos direitos civis. Elas levantam preocupações sobre a segurança e o bem-estar de usuários vulneráveis, como crianças. Em uma declaração, a empresa contestou que os exemplos mencionados eram “errôneos e inconsistentes com nossas políticas” e que já tinham sido removidos do documento. No entanto, muitos continuam a questionar a eficácia dessa abordagem, especialmente considerando a possibilidade de disseminação de desinformação, já que os assistentes de IA também têm permissão para transmitir informações falsas, desde que se introduza um aviso de que se trata de algo “verificadamente falso” (verifiably false).
“É aceitável criar declarações que menosprezem pessoas com base em suas características protegidas.
(“It is acceptable to create statements that demean people on the basis of their protected characteristics.”)— Meta, Companhia
À medida que a Meta busca aprimorar sua competitividade no campo da IA, a necessidade de revisitar suas práticas de desenvolvimento e assegurar a conformidade ética se torna cada vez mais urgente. Observadores do setor apontam que tal abordagem poderá estabelecer precedentes perigosos, transformando assistentes de IA em ferramentas potencialmente maléficas, se não houver um comprometimento genuíno com a segurança do usuário e o respeito às diretrizes éticas.
“O que se revela neste relatório é preocupante e exige um olhar mais aguçado para a responsabilidade das plataformas digitais na proteção de seus usuários.
(“What is revealed in this report is troubling and demands a closer look at the responsibility of digital platforms in safeguarding their users.”)— Analista Indefinido, Consultoria de Tecnologia
A tendência em direção a uma maior regulamentação e supervisão das práticas de IA está em ascensão, à medida que questões de ética ganham destaque nas discussões sobre tecnologia. As repercussões das decisões da Meta poderão redefinir não apenas suas práticas, mas também influenciar toda a indústria de inteligência artificial nos próximos anos.
Fonte: (Gizmodo – Cultura Tech & Geek)
