Pesquisadores estão desenvolvendo novas abordagens em machine learning para garantir maior privacidade e eficiência, especialmente em campos que tratam de dados sensíveis, como saúde e finanças.
Contexto da pesquisa
Recentemente, cientistas da Universidade Tsinghua, do Instituto de Pesquisa da China Mobile e da Universidade de Hebei desenvolveram um novo chip compute-in-memory baseado em memristores. Essa inovação promete melhorar as abordagens de aprendizado federado, uma técnica que permite o treinamento colaborativo de redes neurais sem a necessidade de troca de dados brutos entre participantes.
Método proposto
O chip proposto é capaz de realizar cálculos e armazenar informações simultaneamente, adaptando sua resistência com base na corrente elétrica que passou por ele anteriormente. “A aprendizagem federada fornece uma estrutura para múltiplos participantes coletivamente treinar uma rede neural enquanto mantém a privacidade dos dados, comumente alcançada por meio de criptografia homomórfica” (“Federated learning provides a framework for multiple participants to collectively train a neural network while maintaining data privacy, and is commonly achieved through homomorphic encryption.”)
fala traduzida
(“A aprendizagem federada fornece uma estrutura para múltiplos participantes coletivamente treinar uma rede neural enquanto mantém a privacidade dos dados, comumente alcançada por meio de criptografia homomórfica”)— Xueqi Li, Pesquisador, Universidade Tsinghua
.
Esse novo chip inclui uma função física não clonável (PUF) e um gerador de números aleatórios verdadeiro, que são essenciais para a geração segura de chaves e polinômios de erro, otimizando assim o processo de aprendizado.
Resultados e impacto
Os pesquisadores conduziram um estudo de caso onde quatro participantes co-treinavam uma rede neural de memória de longo prazo (LSTM) para prever sepse, utilizando dados de saúde. A precisão dos testes com o chip de 128-kb foi apenas 0,12% menor em comparação com o aprendizado centralizado por software, enquanto apresentaram redução significativa no consumo de energia e tempo em relação ao aprendizado federado digital convencional.
“Nosso método apresenta um menor consumo de energia e tempo em comparação com o aprendizado digital federado convencional” (“Our approach also exhibits reduced energy and time consumption compared with conventional digital federated learning.”)
fala traduzida
(“Our approach also exhibits reduced energy and time consumption compared with conventional digital federated learning.”)— Bin Gao, Pesquisador, Universidade Tsinghua
.
Os resultados indicam que as arquiteturas de computação em memória baseadas em memristores têm um grande potencial para aprimorar a eficiência e a privacidade das implementações de aprendizado federado. No futuro, o chip pode ser aprimorado e utilizado para treinar outros algoritmos de aprendizado profundo em diversas tarefas do mundo real.
Fonte: (TechXplore – Machine Learning & AI)
