São Paulo — InkDesign News —
A pesquisa inovadora da TU Wien está redefinindo a forma como a inteligência artificial (AI) aprende e realiza tarefas, combinando métodos de machine learning e lógica para garantir que os agentes autônomos sigam normas legais e éticas definidas.
Contexto da pesquisa
O crescente uso da inteligência artificial em diversas aplicações exige que essas tecnologias não apenas produzam resultados úteis, mas também respeitem normas sociais e legais. O desenvolvimento da pesquisa na TU Wien explora como ensinar esses pré-requisitos a máquinas, uma questão que se torna cada vez mais relevante.
Método proposto
A equipe da TU Wien introduziu uma abordagem que combina aprendizado por reforço com lógica formal. Ao invés de premiar comportamentos corretos, os agentes recebem punições por não conformidade. As
São Paulo — InkDesign News —
A pesquisa inovadora da TU Wien está redefinindo a forma como a inteligência artificial (AI) aprende e realiza tarefas, combinando métodos de machine learning e lógica para garantir que os agentes autônomos sigam normas legais e éticas definidas.
Contexto da pesquisa
O crescente uso da inteligência artificial em diversas aplicações exige que essas tecnologias não apenas produzam resultados úteis, mas também respeitem normas sociais e legais. O desenvolvimento da pesquisa na TU Wien explora como ensinar esses pré-requisitos a máquinas, uma questão que se torna cada vez mais relevante.
Método proposto
A equipe da TU Wien introduziu uma abordagem que combina aprendizado por reforço com lógica formal. Ao invés de premiar comportamentos corretos, os agentes recebem punições por não conformidade. As normas são representadas como fórmulas lógicas, e cada norma é tratada como um objetivo independente. Por exemplo, a norma “não ultrapassar o limite de velocidade” é convertida em “se ultrapassar o limite de velocidade, há uma punição de X”.
“Isso nos permite calcular algorítmica e automaticamente o peso relativo que devemos atribuir a esses objetivos para obter um bom resultado geral.”
(“This allows us to algorithmically compute the relative weight that we have to assign to these objectives in order to get a good overall result.”)— Emery Neufeld, Autor Principal, TU Wien
Resultados e impacto
A pesquisa demonstrou que esses sistemas são adaptáveis, permitindo a atualização das normas sem necessidade de reinício do treinamento. Isso possibilita a implementação de um amplo espectro de regras, independente de sua complexidade, e mantém o foco dos agentes em seus objetivos primários.
“O grande benefício é que, quando as normas mudam, o treinamento não precisa começar tudo de novo.”
(“The great thing is that when the norms change, the training does not have to start all over again.”)— Agata Ciabattoni, Professora, TU Wien
Essa pesquisa tem potencial para transformar não apenas veículos autônomos, mas também sistemas de AI em áreas como serviços públicos e robótica industrial, estabelecendo um novo padrão de conformidade com normas éticas.
Fonte: (TechXplore – Machine Learning & AI)
