O estudo sobre machine learning e suas vulnerabilidades ganhou nova relevância com o aumento da dependência em sistemas de inteligência artificial, revelando a importância da segurança dos dados utilizados para o treinamento e aprimoramento desses modelos.
Contexto da pesquisa
Pesquisadores da Florida International University investigaram a ameaça da contaminação dos dados, conhecida como “data poisoning”. Este fenômeno ocorre quando dados errados são intencionalmente inseridos em sistemas automatizados, resultando em aprendizado de padrões incorretos e, consequentemente, ações prejudiciais.
Método proposto
A equipe de pesquisadores propõe a utilização de abordagens descentralizadas, como o aprendizado federado, permitindo que modelos de AI aprendam a partir de fontes de dados descentralizadas, minimizando o risco de contaminação centralizada. Essa técnica impede que dados contaminados de um único dispositivo afetem o modelo global. Adicionalmente, a implementação de blockchain tem mostrado ser uma solução eficaz para registrar e verificar como os dados são compartilhados e atualizados entre os modelos.
Resultados e impacto
A combinação de aprendizado federado e blockchain proporciona uma camada adicional de proteção. O último utiliza mecanismos de consenso para validar atualizações de forma confiável, o que pode ajudar a identificar anomalias que apontam para contaminações de dados antes que se tornem um problema maior. Em pesquisas anteriores, o exemplo do chatbot Tay da Microsoft destacou não apenas a vulnerabilidade de sistemas baseados em dados sociais, mas também como a contaminação pode rapidamente comprometer a integridade de um modelo. “Estamos criando um novo mecanismo que considera dados contaminados antes que eles afetem o processo de aprendizado”, explica o pesquisador.
“Estamos criando um novo mecanismo que considera dados contaminados antes que eles afetem o processo de aprendizado”
(“We are developing a new mechanism that considers contaminated data before it impacts the learning process.”)— Pesquisador, Florida International University
Esses avanços têm implicações em várias aplicações, desde sistemas de transporte até plataformas de mídia social. A crescente integração de aprendizado federado e blockchain pode levar a sistemas de AI mais resilientes, capazes de detectar tentativas de manipulação mais eficazmente. O foco em segurança não só contribui para a integridade dos dados, mas também amplia a confiança em implementação de AI em setores críticos.
Fonte: (TechXplore – Machine Learning & AI)
