São Paulo — InkDesign News — O relato recente sobre o consumo de energia e água durante as consultas ao ChatGPT introduz uma nova dimensão nas discussões sobre a sustentabilidade em sistemas de **machine learning**. A análise propõe tanto credibilidade quanto ceticismo em relação aos dados apresentados.
Arquitetura de modelo
A estimativa de 0,34 Wh por consulta ao ChatGPT foi defendida por alinhamentos com métricas anteriores. Por exemplo, a pesquisa da Epoch.AI em 2025 apontou um consumo semelhante de aproximadamente 0,0003 KWh por consulta. Este estudo considerou uma arquitetura de mistura de especialistas com 100 bilhões de parâmetros ativos e um comprimento médio de resposta de 500 tokens. Apesar disso, não incluiu fatores como a eficácia do uso de energia (PUE) em seus cálculos.
A aprovação das estimativas e do dado da OpenAI sugere que este valor se encaixa dentro de uma faixa razoável, focando apenas na fase onde o modelo responde a um pedido (denominada “inferência”).
(“The agreement between the estimates and OpenAI’s data point suggests that OpenAI’s figure falls within a reasonable range, at least when focusing only on the stage where the model responds to a prompt (called “inference”).”)— Autor Desconhecido, Pesquisa sobre Eficiência Energética
Treinamento e otimização
A dinâmica das consultas diárias ao ChatGPT, estimadas em 1 bilhão, levanta questões sobre a arquitetura do servidor. Se a energia por consulta é realmente 0.34 Wh, isso resultaria em um consumo diário de cerca de 340 megawatts-hora. Isso indica que cerca de 3.200 servidores poderiam ser suficientes, considerando cada um respondendo a aproximadamente 4,5 consultas por segundo. Contudo, a realidade da capacidade de processamento pode variar, como evidenciado pelos dados de Stojkovic et al, que induziram um throughput de 6.000 tokens por segundo em hardware avançado.
Resultados e métricas
Críticos levantam preocupações sobre a metodologia, sugerindo que o cálculo pode não incluir todo o sistema de suporte, como armazenamento de dados e sistemas de resfriamento. Além disso, estimativas de uso de servidores podem ser subestimadas, pois especialistas desconsideram a necessidade de suporte para alta disponibilidade e outras funcionalidades além do chat casual. Essa falta de detalhes nas declarações da OpenAI gera questionamentos sobre a precisão do número.
“Sem respostas a essas perguntas, é difícil saber quanta confiança depositar no número ou como compará-lo com outros sistemas de IA.”
(“Without answers to these questions, it’s hard to know how much trust to place in the number or how to compare it to other AI systems.”)— David Mytton, Especialista em Sustentabilidade
A divulgação de dados pela OpenAI sinaliza uma possível mudança em direção à transparência no setor. No entanto, é necessário um maior detalhamento para que se possa avaliar de forma crítica o impacto ambiental e o uso de recursos. O potencial para uma abordagem mais conscientizada em relação ao uso de energia em **deep learning** é evidente, mas requer mais esclarecimentos.
Fonte: (Towards Data Science – AI, ML & Deep Learning)
