São Paulo — InkDesign News —
Pesquisas recentes em machine learning têm chamado a atenção para a necessidade de sistemas de inteligência artificial (AI) que sejam mais seguros e responsáveis. A abordagem inovadora visa corrigir falhas observadas em modelos atuais, que frequentemente carecem de explicações robustas para suas decisões.
Contexto da pesquisa
David Bengio, professor de ciência da computação, e sua equipe estão desenvolvendo o modelo “Scientist AI” através da organização sem fins lucrativos LawZero. Este modelo pretende ser “honesto e não enganador” e incorporar princípios de segurança desde a concepção (safety-by-design). Sua proposta surge em um contexto onde o FBI revelou que dois indivíduos utilizaram AI para instruções sobre fabricação de bombas, enfatizando a necessidade de maior segurança na AI.
Método proposto
O “Scientist AI” se distingue por duas abordagens principais. Em primeiro lugar, ele pode avaliar e comunicar seu nível de confiança em respostas, mitigando o problema de respostas incorretas e excessivamente confiantes. Em segundo lugar, ele é capaz de explicar seu raciocínio, permitindo que suas conclusões sejam avaliadas e testadas quanto à precisão.
“Esses modelos permitem que a AI se torne mais transparente e confiável, promovendo um ambiente mais seguro para seu uso”
(“These models allow AI to become more transparent and trustworthy, fostering a safer environment for its use”)— David Bengio, Professor, LawZero
Resultados e impacto
Com o uso de grandes conjuntos de dados e benchmarks adequados, o novo modelo busca superar as limitações de AI atuais, que muitas vezes não conseguem explicar suas decisões devido a um foco excessivo em velocidade. O sonho de Bengio é que “Scientist AI” atue como um guardião contra sistemas de AI inadequados, utilizando AI para monitorar outras AIs menos confiáveis.
A combinação de técnicas de machine learning com novas metodologias pode resultar em um sistema mais robusto. Ao estabelecer um modelo “mundo”, que simula a realidade, a AI será equiparada na tomada de decisões. O projeto de Bengio pode, portanto, desempenhar um papel crucial em como a AI impacta a sociedade, promovendo uma era onde tecnologia e segurança caminham lado a lado.
Possíveis aplicações incluem melhorias em sistemas de decisão autônoma, não apenas em contextos industriais, mas também na saúde e na segurança pública, abrindo caminho para um futuro onde AI contribua positivamente para o bem-estar humano.
Fonte: (TechXplore – Machine Learning & AI)
