
São Paulo — InkDesign News —
A área de machine learning tem avançado continuamente, e um recente estudo da KAIST destaca a evolução das redes neurais em grafo (GNN). A pesquisa apresentou um sistema inovador capaz de treinar grandes modelos de GNN a uma velocidade até 95 vezes superior, usando apenas um único servidor GPU.
Contexto da pesquisa
As GNNs são fundamentais na análise de dados não estruturados, como transações financeiras e registros médicos. No entanto, o treinamento completo dessas redes requer recursos de memória significativos e, frequentemente, múltiplos servidores GPU, o que pode resultar em comunicação de dados lenta e sobrecarga de memória. Essa investigação, liderada pelo professor Min-Soo Kim da KAIST, permite uma abordagem mais eficiente ao treinamento de grandes modelos, focando na velocidade e na capacidade de processamento em apenas um servidor.
Método proposto
O sistema, denominado FlexGNN, altera a forma como os dados são manipulados durante o treinamento. Em vez de utilizar vários servidores, o FlexGNN faz uso óptimo das unidades de estado sólido (SSDs) e da memória principal. Esta nova tecnologia de otimização de treinamento calcula temporalidades ideais para modelagem, dados e informações intermediárias entre camadas de GPU e SSD, o que melhora significativamente a eficiência dos recursos.
Resultados e impacto
“Uma vez que conseguimos treinar GNNs em dados que excedem a capacidade da memória principal, a análise se torna mais precisa do que a realizada por supercomputadores, especialmente em aplicações como previsão do clima.”
(“As full-graph GNN models are actively used to solve complex problems such as weather prediction and new material discovery, the importance of related technologies is increasing.”)— Min-Soo Kim, Professor, KAIST
Os resultados são promissores; o FlexGNN apresenta uma eficiência de até 95 vezes mais rápida na comparação com métodos convencionais. Essa tecnologia poderá ter aplicações vastas em setores como finanças, saúde e meio ambiente, propiciando análises mais precisas e rápidas.
O próximo passo envolve a adoção do FlexGNN em diferentes indústrias, ampliando seu uso nas áreas de previsão climática e descobertas em novos materiais, contribuindo para resolver problemas complexos em escala global.
Fonte: (TechXplore – Machine Learning & AI)