Gemini do Google provoca debate sobre impacto em machine learning
São Paulo — InkDesign News — Um estudo recente da Google sobre os modelos Gemini revelou importantes métricas de consumo energético relacionados a machine learning, levantando questões sobre o impacto ambiental dessas tecnologias em larga escala.
Arquitetura de modelo
O modelo Gemini utiliza TPUs (unidades de processamento de tensor), equivalente a GPUs, para processamento de texto e está preparado para lidar com tarefas de processamento em larga escala. O relatório da Google mede especificamente o consumo de energia durante o serviço, considerando não apenas os TPUs, mas também a energia dos CPUs e DRAM, uma abordagem incomum no setor.
A exposição da Google é notável pela inclusão da energia de CPU e DRAM, o que é, infelizmente, incomum na indústria.
(“Google’s paper stands out because of the detail behind it. They included CPU and DRAM, which is unfortunately uncommon.”)— Autor do Estudo, Google
Treinamento e otimização
A documentação da Google apresenta dados sobre o consumo de energia de 0,24 Wh por prompt, o que totaliza cerca de 2,62 kWh ao longo de um ano, considerando 30 prompts diários. As comparações com o uso de eletrodomésticos, como a máquina de lavar louça, ajudam a contextualizar essas métricas. No entanto, o impacto total ainda é incerto devido a questões de treinamento e armazenamento de dados que não foram abordadas.
Um passo a mais é sempre bem-vindo, especialmente se comparado com medições menos detalhadas que têm predominado.
(“Something is better than nothing. It is a big step forward from back of the envelope measurements.”)— Autor do Estudo, Google
Resultados e métricas
O debate sobre o impacto ambiental das IA continua a crescer, com a Google enfatizando o consumo de água de 0,26 mililitros por prompt. Embora os números pareçam pequenos em contexto isolado, a falta de perspectiva abrangente suscita críticas. Os dados omitem informações sobre o tráfego de rede e os dispositivos finais, que também contribuem para as emissões.
O impacto acumulado dos serviços de LLM da Google ainda não é totalmente claro, o que gera uma reflexão sobre a real contribuição para a pegada ambiental da empresa.
(“It lacks accumulative figures – ideally we would like to know the total impact of their LLM services and what percentage of Google’s total footprint they account for.”)— Analista Ambiental, Setor de Tecnologia
Com as recentes publicações sobre o impacto ambiental de IA por Google, OpenAI e Mistral, há um movimento crescente em direção à transparência nesse segmento. Futuras análises devem considerar esses fatores para uma compreensão mais total do impacto das tecnologias de aprendizado profundo.
Fonte: (Towards Data Science – AI, ML & Deep Learning)
