São Paulo — InkDesign News — Nos últimos anos, os modelos de linguagem de grande escala (LLMs) têm se tornado essenciais em diversas aplicações do cotidiano, mas essa eficácia pode estar custando caro ao meio ambiente, conforme revela um novo estudo.
Contexto e lançamento
O uso crescente de LLMs, como o ChatGPT, 💬 tem sido amplamente debatido, especialmente no que se refere às suas implicações energéticas. De acordo com pesquisas anteriores, o treinamento do ChatGPT utilizou até 30 vezes mais energia que a média anual de consumo de um americano. Essa preocupação ambiental ganhou nova luz com um estudo recente da Hochschule München University of Applied Sciences, que avaliou LLMs em diferentes níveis de eficiência energética.
Design e especificações
A pesquisa analisou 14 LLMs com parâmetros variando de 7 a 72 bilhões. Um dos aspectos mais significativos é que cada palavra ou parte de palavras em uma consulta é convertida em uma sequência numérica, conhecida como token. Modelos de raciocínio, por exemplo, introduzem “tokens de pensamento” em suas sequências, o que gera um aumento na demanda de energia e na emissão de CO2. O estudo demonstrou que, em média, modelos de raciocínio geraram 543,5 tokens de pensamento por pergunta, em contraste com os 37,7 tokens requeridos por modelos mais concisos.
Repercussão e aplicações
A relação entre precisão e impacto ambiental é evidente.
“O impacto ambiental de questionar LLMs treinados é fortemente determinado pelo seu método de raciocínio”
(“The environmental impact of questioning trained LLMs is strongly determined by their reasoning approach.”)— Maximilian Dauner, Pesquisador, Hochschule München University of Applied Sciences
O modelo Cogito, com 70 bilhões de parâmetros, atingiu 84,9% de precisão, mas gerou três vezes mais emissões de CO2 do que modelos de tamanho semelhante que são mais concisos. Além disso, a complexidade do tópico das perguntas desempenha um papel crucial nas emissões, com questões mais complexas gerando até seis vezes mais emissões de carbono.
Os pesquisadores ressaltam a necessidade de um uso mais consciente dos LLMs, sugerindo que limitações na complexidade das perguntas possam reduzir significativamente as emissões.
“Os usuários podem reduzir significativamente as emissões ao solicitar respostas concisas ou limitar o uso de modelos de alta capacidade a tarefas que realmente exigem essa potência”
(“Users can significantly reduce emissions by prompting AI to generate concise answers or limiting the use of high-capacity models to tasks that genuinely require that power.”)— Maximilian Dauner, Pesquisador, Hochschule München University of Applied Sciences
À medida que a adoção desses modelos continua a crescer, a indústria pode precisar equilibrar precisão e sustentabilidade em suas inovações futuras, uma preocupação que deve permanecer central no debate sobre tecnologia e meio ambiente.
Fonte: (Gizmodo – Cultura Tech & Geek)
