Redes neurais e humanos interpretam objetos de formas distintas

São Paulo — InkDesign News —

A pesquisa recente publicada na revista Nature Machine Intelligence revela que a inteligência artificial (AI) processa informações e reconhece objetos de maneira diferente em comparação aos humanos, levantando questões sobre a confiabilidade desses sistemas em decisões críticas.

Contexto da pesquisa

A equipe do Max Planck Institute for Human Cognitive and Brain Sciences, liderada por Florian Mahner, investigou como humanos e modelos de deep learning (DNN) percebem objetos de maneiras distintas. Os cientistas conduziram estudos utilizando 5 milhões de julgamentos de imagens, comparando respostas de participantes humanos e redes neurais profundas.

Método proposto

Para entender essas diferenças, os pesquisadores usaram uma abordagem de comparação direta entre as representações de objetos. A análise envolveu a coleta de dados de “odd-one-out”, onde participantes humanos identificavam o objeto que não se encaixava entre outros. Em paralelo, redes neurais foram alimentadas com os mesmos conjuntos de dados para gerar julgamentos de similaridade.

“Essas dimensões representam várias propriedades de objetos, desde aspectos visuais simples, como ‘redondo’ ou ‘branco’, a propriedades semânticas, como ‘relacionado a animais’ ou ‘relacionado ao fogo’.”
(“These dimensions represent various properties of objects, ranging from purely visual aspects, like ‘round’ or ‘white,’ to more semantic properties, like ‘animal-related’ or ‘fire-related.’”)

— Florian Mahner, Pesquisador, Max Planck Institute for Human Cognitive and Brain Sciences

Resultados e impacto

Os resultados mostraram que a AI tende a enfatizar características visuais, como forma e cor, enquanto os humanos focam no significado e no que sabemos sobre os objetos. Os cientistas nomearam isso de “viés visual” em AI. A comparação revelou que, mesmo quando a AI difere aparentemente no reconhecimento de objetos, suas estratégias são fundamentalmente distintas, o que traz implicações sobre a confiança que podemos ter nos sistemas de AI.

“Nossos resultados revelaram uma diferença importante: enquanto humanos se concentram em dimensões relacionadas ao significado, modelos de AI se baseiam em propriedades visuais.”
(“Our results revealed an important difference: While humans primarily focus on dimensions related to meaning—what an object is and what we know about it—AI models rely more heavily on dimensions capturing visual properties.”)

— Florian Mahner, Pesquisador, Max Planck Institute for Human Cognitive and Brain Sciences

Com esses insights, os pesquisadores sugerem que futuras investigações devem explorar mais comparações diretas entre a percepção humana e a das máquinas. Essas descobertas não apenas ajudam a melhorar as tecnologias de AI, mas também oferecem novas perspectivas sobre a cognição humana e suas aplicações em áreas como atendimento médico, automação e educação.

Fonte: (TechXplore – Machine Learning & AI)