São Paulo — InkDesign News —
A pesquisa em machine learning e inteligência artificial está avançando rapidamente, mas um estudo recente revelou que modelos de geração de imagens ainda apresentam falhas significativas, incluindo viés e erros lógicos, limitando sua aplicabilidade em contextos diversos.
Contexto da pesquisa
Gursimran Vasir, estudante de graduação na Stevens Institute of Technology, observou dificuldades em alunos de um camp de verão ao utilizarem a ferramenta de IA do Photoshop. Muitas imagens retornadas não correspondiam às expectativas. Este fenômeno levantou a questão sobre a necessidade de um vocabulário padronizado para descrever erros e viéses em sistemas de IA de geração de imagens.
Método proposto
A pesquisa de Vasir envolveu a coleta e análise de 482 postagens do Reddit, onde usuários relataram falhas em imagens geradas por IA. Os erros foram categorizados em quatro grupos: surrealismo da IA, viés cultural, falácia lógica e desinformação. Vasir propôs assim um modelo de categorização para orientar desenvolvimentos futuros em tecnologias de IA.
“Muitas crianças estavam lutando com a IA porque não estava dando exatamente o que elas queriam”
(“A lot of kids were struggling with AI because it wasn’t exactly giving them what they wanted.”)— Gursimran Vasir, Estudante de Graduação, Stevens Institute of Technology
Resultados e impacto
Os resultados identificaram problemas como a geração de imagens que não retratam a realidade, como um “Cristo surfista” em uma tempestade. Vasir encontrou também que, ao solicitar uma imagem de um “cleaning person”, as respostas frequentemente apresentavam uma mulher, refletindo um viés de gênero. Essa situação não só impacta a precisão da IA, mas também sua aceitação social.
“Desenvolvedores devem fornecer tecnologias adequadas que funcionem como esperado”
(“Developers owe users adequate technology that functions as intended.”)— Gursimran Vasir, Estudante de Graduação, Stevens Institute of Technology
Essas descobertas levantam questões cruciais sobre a integridade e eficácia de sistemas de IA em contextos práticos, com implicações na indústria criativa e nas interações diárias dos usuários. Vasir sugere que a criação de terminologias apropriadas facilitará o diálogo entre usuários e desenvolvedores, essencial para o desenvolvimento responsável de tecnologias de IA.
Fontes: (TechXplore – Machine Learning & AI)
