ML e a superconfiança da AI refletem desordem linguística humana
São Paulo — InkDesign News —
A inteligência artificial (AI) e o aprendizado de máquina (machine learning) têm avançado rapidamente, sendo utilizados em diversas áreas. Pesquisadores da Universidade de Tóquio identificaram semelhanças intrigantes entre os comportamentos de modelos de linguagem de grande porte (LLMs) e um distúrbio da linguagem em seres humanos conhecido como afasia.
Contexto da pesquisa
Os LLMs, como o ChatGPT, são conhecidos por sua fluência na formação de respostas, mas frequentemente apresentam informações convincentes, porém incorretas. A equipe da Universidade de Tóquio, liderada pelo Professor Takamitsu Watanabe, observou que essa fluência pode lembrar a fala de pessoas que sofrem de Wernicke’s aphasia, uma condição que gera frases que parecem coerentes mas carecem de sentido.
Método proposto
A pesquisa utilizou uma técnica de análise conhecida como “análise de paisagem de energia”, originalmente desenvolvida por físicos para visualizar estados de energia em metais magnéticos, e que foi adaptada para a neurociência. Os pesquisadores analisaram padrões de atividade cerebral em indivíduos com diferentes tipos de afasia e compararam esses dados com modelos de LLMs disponíveis publicamente.
Resultados e impacto
A análise revelou semelhanças significativas nos padrões de sinal entre os LLMs e as atividades cerebrais de pessoas com afasia. O Professor Watanabe explicou, “Você pode imaginar a paisagem de energia como uma superfície com uma bola em cima. Quando há uma curva, a bola pode rolar para baixo e parar, mas quando as curvas são rasas, a bola pode rolar de maneira caótica” (
“You can imagine the energy landscape as a surface with a ball on it. When there’s a curve, the ball may roll down and come to rest, but when the curves are shallow, the ball may roll around chaotically”
— Takamitsu Watanabe, Professor, Universidade de Tóquio
).
Os dados revelaram que o comportamento dos sinais digitais nos LLMs se assemelha ao de certos estados do cérebro em indivíduos com Wernicke’s aphasia. Essa descoberta poderia ter implicações importantes tanto para a neurociência, ao oferecer novas formas de classificação e monitoramento de condições como a afasia, quanto para a engenharia de AI, ao permitir o desenvolvimento de melhores ferramentas diagnósticas.
Embora a pesquisa sugira semelhanças, Watanabe ressaltou: “Não estamos dizendo que chatbots têm danos cerebrais” (
“We’re not saying chatbots have brain damage”
— Takamitsu Watanabe, Professor, Universidade de Tóquio
). Ele acrescentou que os LLMs podem estar presos em padrões internos rígidos que limitam seu acesso ao conhecimento armazenado, similar à afasia receptiva.
As aplicações futuras deste estudo incluem a melhoria da confiabilidade de agentes de AI e a possível utilização de novos métodos para diagnosticar distúrbios de linguagem, ampliando as fronteiras da pesquisa em cognição humana e tecnologia de inteligência artificial.
Fonte: (TechXplore – Machine Learning & AI)
