São Paulo — InkDesign News — A OpenAI anunciou uma importante mudança em sua plataforma, visando implementar um novo sistema de verificação de idade que irá filtrar usuários menores de idade para uma experiência de chatbot mais adequada a eles. A decisão surge em meio a crescente pressão de legisladores e reguladores sobre o uso do ChatGPT por crianças e adolescentes.
Contexto e lançamento
A OpenAI, conhecida por seus avanços em inteligência artificial, agora se vê diante da necessidade urgente de gerenciar as interações de menores com sua tecnologia. Essa atualização foi impulsionada por preocupações relacionadas ao impacto que a plataforma pode ter sobre os usuários mais jovens, notadamente após incidentes que levantaram questões sobre a segurança emocional de adolescentes em interações com chatbots.
Design e especificações
O novo sistema de verificação de idade da OpenAI irá utilizar um método preditivo que estima a idade do usuário com base em sua interação com o chatbot. Quando houver suspeitas de que um usuário tenha menos de 18 anos, ele será redirecionado para uma versão do ChatGPT projetada para um público mais jovem. Nesse ambiente, certos conteúdos, como “conteúdo sexual gráfico”, serão bloqueados. Para usuários que, na realidade, são maiores de idade, mas que forem erroneamente redirecionados, será requerido um documento de identificação para garantir o acesso à versão completa do chatbot.
Repercussão e aplicações
Essa mudança foi amplamente discutida, especialmente após o processo judicial movido pelos pais de um adolescente que tirou a própria vida nas interações com o ChatGPT, onde ele expressou pensamentos suicidas sem que a plataforma acionasse qualquer medida de intervenção. A medida da OpenAI é acompanhada de perto, pois reflete uma tendência maior de empresas tecnológicas no que tange à responsabilidade de proteger os menores de interações prejudiciais em ambientes digitais. “Tratar nossos usuários adultos como adultos”, disse um porta-voz, referindo-se à política interna da empresa que tenta equilibrar liberdade de expressão e segurança.
A experiência para adolescentes prioriza “a segurança em detrimento da privacidade e liberdade”
(“the teen experience prioritizes safety ahead of privacy and freedom.”)— OpenAI
Com essa abordagem, a OpenAI se junta a um movimento crescente de verificação de idade na internet, especialmente após decisões judiciais que reforçaram a necessidade de plataformas digitais em adotar políticas mais rigorosas para proteger os usuários mais jovens. Contudo, a implementação de métodos preditivos é frequentemente criticada por sua imprecisão.
“É um método que pode ser impreciso e considerado invasivo”
(“It’s a method that can be inaccurate and considered creepy.”)— Especialistas em segurança digital
À medida que a OpenAI e outras empresas enfrentam um futuro repleto de desafios regulatórios, o sucesso dessas novas diretrizes poderá moldar os próximos passos na interação digital entre tecnologia e juventude.
Fonte: (Gizmodo – Cultura Tech & Geek)
