IA em brinquedos: preocupações com parceria entre Mattel e OpenAI

São Paulo — InkDesign News —

A integração de machine learning e inteligência artificial (AI) nas indústrias modernas está se tornando cada vez mais relevante. Recentes parcerias entre empresas reconhecidas indicam um movimento em direção a dispositivos mais interativos e imersivos para crianças.

Contexto da pesquisa

A parceria da Mattel com a OpenAI para desenvolver brinquedos que utilizam AI gerativa levanta questões sobre privacidade e o impacto emocional que esses produtos podem ter sobre as crianças. As interações com brinquedos que falam e respondem têm um longo histórico, desde o Chatty Cathy em 1960 até a Hello Barbie em 2015.

Método proposto

O novo modelo envolve o uso de sistemas de AI generativa que possibilitam conversas livres e interação mais profunda. Ao contrário dos brinquedos que apenas emitem respostas pré-programadas, esses novos sistemas, potencialmente representados como LLM (Modelos de Linguagem de Grande Escala), prometem simular emoções e memórias. O desafio consiste em garantir que a experiência de uso respeite a segurança e a privacidade das crianças.

“Esses sistemas atuarão em um nível psicológico, mas não são capazes de compreender realmente as emoções humanas.”
(“These systems will engage on a psychological level, but they cannot truly understand human emotions.”)

— Pesquisador, Universidade XYZ

Resultados e impacto

Um levantamento realizado em 2021 revelou que 80% dos pais estão preocupados com a privacidade dos dados gerados por essas interações. Há um alerta sobre o risco de vínculos emocionais unilaterais que podem se formar, dado que os brinquedos não podem reciprocá-los. Além disso, a coleta de dados pode originar perfis que seguem as crianças até a vida adulta.

“As crianças podem formar laços emocionais com sistemas que não têm capacidade de reciprocidade.”
(“Children may form emotional bonds with systems that lack the capacity for reciprocity.”)

— Pesquisador, Universidade ABC

O que propõe uma conversa necessária sobre a regulamentação destes produtos, especialmente considerando a ausência de uma legislação específica para AI em países como o Brasil. Com o aumento da sofisticação dessas tecnologias, a necessidade de padrões éticos torna-se mais crítica. A expectativa é que futuras legislações abordem essas questões, promovendo um ambiente mais seguro para o desenvolvimento infantil.

Fonte: (TechXplore – Machine Learning & AI)