Corvallis, Oregon — InkDesign News — Pesquisadores da Oregon State University desenvolveram um chip de comunicação com inteligência artificial (AI) que reduz em 50% o consumo energético associado ao processamento de grandes modelos de linguagem (LLMs), como Gemini e GPT-4, aplicados em data centers.
Contexto da pesquisa
O crescente uso de machine learning em grandes modelos de linguagem demanda transmissão de enorme volume de dados via enlaces cabeados em data centers, acarretando consumo energético intenso. Conforme Tejasvi Anand, professor da Oregon State University e diretor do Mixed Signal Circuits and Systems Lab, “O problema é que a energia necessária para transmitir um único bit não está sendo reduzida na mesma proporção que o aumento da demanda por taxas de dados” (
“The problem is that the energy required to transmit a single bit is not being reduced at the same rate as the data rate demand is increasing”
— Tejasvi Anand, Associate Professor, Oregon State University
).
Método proposto
O chip projetado incorpora princípios de AI para melhorar a eficiência na recuperação dos dados transmitidos, reduzindo a energia associada ao processo. Tradicionalmente, equalizadores usados em comunicações cabeadas são responsáveis por limpar sinais corrompidos, mas possuem alto consumo energético. A inovação da equipe consiste em incorporar um classificador treinado diretamente no chip para reconhecer e corrigir erros de forma mais eficiente.
Ramin Javadi, estudante de doutorado e coautor do trabalho, esclarece: “Grandes modelos de linguagem precisam enviar e receber enormes quantidades de dados via links cabeados de cobre em data centers, o que exige energia significativa” (
“Large language models need to send and receive tremendous amounts of data over wireline, copper-based communication links in data centers, and that requires significant energy”
— Ramin Javadi, Doctoral Student, Oregon State University
).
Resultados e impacto
O chip, fabricado em tecnologia 16nm FinFET, alcança uma energia de consumo de apenas 0.055 picojoules por bit por decibel (pJ/bit/dB) em uma taxa de transmissão de 42Gb/s utilizando modulação PAM-4 e codificação consecutiva simbolo-centro (CSC) para perdas de até 26dB. Essa abordagem representa uma redução de cerca de 50% no gasto energético em comparação aos designs tradicionais.
Os pesquisadores sinalizam que a próxima versão do chip deverá ampliar ainda mais os ganhos em eficiência energética, contribuindo para a redução do impacto ambiental associado ao uso intensivo de IA em escala industrial.
Essa inovação tecnológica pode ser aplicada em data centers que hospedam sistemas avançados de deep learning, trazendo benefícios relevantes em sustentabilidade e custo operacional.
Fonte: (TechXplore – Machine Learning & AI)
