LLM oferece ChatGPT seguro para adolescentes com controle dos pais

São Paulo — InkDesign News —

A pesquisa sobre machine learning está avançando rapidamente, especialmente no que se refere à segurança e à proteção de usuários, especialmente entre adolescentes. Recentemente, a OpenAI anunciou uma versão modificada do ChatGPT, projetada para oferecer um ambiente mais seguro para jovens.

Contexto da pesquisa

A crescente preocupação com a saúde mental de adolescentes e o impacto de agentes digitais levou a OpenAI a criar uma versão alternativa de seu chatbot. Reguladores estão cada vez mais atentos ao uso de chatbots e suas consequências. A mudança vem após uma tragédia que despertou a atenção do público e da mídia sobre o uso de tecnologia de forma segura.

Método proposto

A nova versão do ChatGPT utiliza restrições de conteúdo voltadas para a idade, restringindo o acesso a material impróprio. A plataforma se comprometeu a envolver a “lei em casos raros em que um usuário esteja em aguda angústia” para garantir a segurança dos adolescentes.

“A forma como o ChatGPT responde a um jovem de 15 anos deve ser diferente da forma como responde a um adulto”
(“The way ChatGPT responds to a 15-year-old should look different than the way it responds to an adult.”)

— Representante da OpenAI

A implementação envolverá a verificação da idade, onde, se essa informação não puder ser confirmada, o usuário será automaticamente direcionado para a versão para adolescentes.

Resultados e impacto

A OpenAI está desenvolvendo controles parentais que serão lançados até o final de setembro. Estes permitirão que os responsáveis vinculem contas, visualizem o histórico de chats e definam horários de uso. Enquanto outras plataformas, como o YouTube, adotaram tecnologias de estimativa de idade, as famílias continuam preocupadas com a saúde mental de seus filhos.

“Uma pesquisa do Pew Research Center revelou que 44% dos pais que se preocupam com a saúde mental dos adolescentes acreditam que a mídia social tem o maior impacto negativo”
(“A Pew Research Center report released earlier this year found 44% of parents who worry about teen mental health believe social media has the biggest negative impact.”)

— Pew Research Center

Essas inovações não apenas demonstram um avanço na segurança do AI, mas também levantam questões sobre a eficácia do sistema de verificação de idade. O futuro da tecnologia deve incorporar pesquisas contínuas para melhorar a segurança e a experiência do usuário.

Fonte: (TechXplore – Machine Learning & AI)