LLM da OpenAI adiciona controles parentais para segurança juvenil

Machine Learning e AI: Avanços em Segurança para Usuários Jovens

São Paulo — InkDesign News — A OpenAI anunciou a implementação de controles parentais em seu sistema de inteligência artificial, visando oferecer uma experiência mais segura e apropriada à faixa etária para usuários adolescentes. A medida surge após preocupações com a interação de jovens com chatbots e incidentes trágicos relacionados.

Contexto da pesquisa

A preocupação com a segurança de adolescentes que utilizam aplicações baseadas em AI ganhou destaque nos últimos meses, especialmente após casos reportados de sofrimento psicológico entre usuários. A Federal Trade Commission dos Estados Unidos está investigando as possíveis repercussões desses sistemas sobre a juventude. A OpenAI decidiu então implementar esses controles como resposta a essas preocupações.

Método proposto

Os novos controles parentais permitirão que os pais vinculem suas contas às dos adolescentes, resultando na ativação de um conjunto de proteções automáticas. As contas adolescenciais passarão a ter “proteções adicionais de conteúdo, incluindo a diminuição de conteúdos gráficos, desafios virais, e interpretações violentas ou sexuais que não sejam apropriadas para a idade” (“additional content protections, including reduced graphic content, viral challenges, sexual, romantic or violent role-play, and extreme beauty ideals”).

“Esses guardrails não são infalíveis e podem ser contornados se alguém tentar fazê-lo intencionalmente”
(“Such guardrails are not foolproof and can be bypassed if someone is intentionally trying to get around them.”)

— Sam Altman, CEO, OpenAI

Resultados e impacto

A OpenAI também introduziu um sistema de notificação que alerta os pais quando há indícios de que um adolescente pode estar em risco, como “pensando em se machucar” (“thinking about harming themselves”). Isso será monitorado por uma equipe de especialistas, que revisará a situação e acionará os responsáveis em caso de sinais de emergência.

As métricas de desempenho e benchmarks do sistema ainda estão sendo estabelecidos, mas a empresa enfatiza a importância da conversa entre pais e filhos sobre o uso saudável da tecnologia. As configurações podem incluir a restrição de horários de uso e limitar a memória do chat, garantindo que conversas passadas não influenciem interações futuras.

Essas inovações têm o potencial de mudar a forma como a AI é socialmente integrada, especialmente na interação com jovens, estabelecendo precedentes importantes para a segurança digital. Os próximos passos incluem a avaliação da eficácia desses sistemas de controle e a contínua adaptação às necessidades dos usuários.

Fonte: (TechXplore – Machine Learning & AI)