Avanços em Machine Learning e Inteligência Artificial: O Caso do Chatbot Gemini
São Paulo — InkDesign News — O campo de “machine learning” tem avançado rapidamente, especialmente com o recente lançamento do chatbot Gemini, que utiliza inteligência artificial para interagir com usuários, incluindo crianças menores de 13 anos.
Contexto da pesquisa
O desenvolvimento do chatbot Gemini da Google segue um contexto crescente de integração da inteligência artificial no cotidiano de crianças. Pesquisas indicam que o uso prematuro de tecnologias baseadas em IA pode ter implicações significativas para o desenvolvimento cognitivo infantil.
Método proposto
A abordagem adotada para o Gemini é baseada em Large Language Models (LLMs), que geram texto e imagens a partir de padrões aprendidos em grandes volumes de dados. Os dados de treinamento não incluem informações pessoais de crianças, com um compromisso de que “os dados das crianças não serão utilizados para treinar o sistema de IA” (“children’s data when using the system will not be used to train the AI system”).
Para garantir a segurança, o acesso ao chatbot por padrão é “ativado”, exigindo que os pais restrinjam o uso manualmente. Essa implementação levanta questões sobre a eficácia das salvaguardas projetadas para impedir a geração de conteúdo inadequado.
Resultados e impacto
Dados mostram que chatbots, como o Gemini, podem “fazer erros” e, portanto, a qualidade do conteúdo gerado deve ser sempre avaliada (“the system may ‘make mistakes’”). Pesquisadores ressaltam que o reconhecimento de informações geradas por IA é crucial, sendo que até mesmo adultos muitas vezes são enganados por informações falsas produzidas por essas ferramentas.
As métricas de desempenho do Gemini serão avaliadas à medida que usuários interagem com o sistema, em ambientes controlados e na prática. Um ponto crucial para o desenvolvimento de aplicações futuras será a implementação de uma legislação que garanta um “dever digital de cuidado” para proteger os menores no ambiente virtual.
As possíveis aplicações incluem suporte educacional, mas a necessidade de avaliação crítica por parte dos pais e educadores continua sendo primordial à medida que essas tecnologias se tornam mais comuns.
Fonte: (TechXplore – Machine Learning & AI)
