Machine learning implementa controles parentais em interações AI
São Paulo — InkDesign News — A crescente importância de machine learning e inteligência artificial (AI) destaca a necessidade de um maior controle e compreensão dos efeitos desses sistemas, especialmente em interações com adolescentes. Recentes avanços na implementação de recursos de controle parental por plataformas como a Meta refletem essa preocupação.
Contexto da pesquisa
A Meta anunciou a implementação de controles parentais para interações de crianças com chatbots de inteligência artificial. As mudanças têm como objetivo mitigar preocupações relacionadas à segurança de jovens usuários e à influência potencialmente prejudicial de interações com AI. Em meio a críticas sobre a segurança e o bem-estar dos adolescentes em redes sociais, Meta busca reafirmar seu compromisso com a proteção infantil.
Método proposto
Os novos controles permitem que os pais desativem completamente as conversas individuais com personagens AI ou bloqueiem chatbots específicos. Os pais receberão “insights” sobre os tópicos discutidos pelos filhos, embora as conversas completas não estejam disponíveis para visualização. Adicionalmente, as contas de adolescentes no Instagram serão restritas ao conteúdo considerado PG-13, estabelecendo um padrão de segurança nas interações online.
Resultados e impacto
Com mais de 70% dos adolescentes relatando uso de companheiros AI, as implementações visam proteger este grupo etário de interações potencialmente prejudiciais. A Meta compromete-se a manter a segurança nas interações digitais, com o assistente AI oferecendo informações úteis que incluem “oportunidades educacionais” em um ambiente controlado. Embora a empresa enfrente críticas, as novas diretrizes são um passo em direção a maior supervisão e limite às interações perigosas.
“Essas alterações se concentram em antecipar legislações que a Meta teme e tranquilizar os pais preocupados com o que acontece no Instagram.”
(“From my perspective, these announcements are about two things. They’re about forestalling legislation that Meta doesn’t want to see, and they’re about reassuring parents who are understandably concerned about what’s happening on Instagram.”)— Josh Golin, Executivo Diretor, Fairplay
Essas medidas práticas indicam um aumento na responsabilidade das plataformas digitais em relação aos jovens, refletindo uma necessidade emergente de integração segura de AI no cotidiano. As próximas etapas incluem o monitoramento da eficácia desses controles e a possibilidade de novas funcionalidades para garantir um ambiente virtual mais seguro.
Fonte: (TechXplore – Machine Learning & AI)
