São Paulo — InkDesign News —A adoção crescente da inteligência artificial tem levado empresas a um dilema significativo: escolher entre modelos de código aberto e fechado. Um novo estudo ilumina a questão ao revelar que, embora os modelos de código aberto pareçam mais econômicos inicialmente, seus custos ocultos podem surgir rapidamente.
Contexto e lançamento
O estudo publicado pela Nous Research apresenta uma análise detalhada de modelos de IA, tanto abertos quanto fechados. Os pesquisadores testaram modelos de empresas como Google e OpenAI, assim como alternativas de código aberto de DeepSeek e Magistral, focando na eficiência do uso de recursos computacionais. “Open-weight models use 1.5–4× more tokens than closed ones—and up to 10× for simple knowledge questions—making them sometimes more expensive per query despite lower per-token costs,” explicaram os autores.
Design e especificações
No contexto da eficiência de tokens, os pesquisadores mediram o número de tokens utilizados para resolver questões simples de conhecimento, problemas matemáticos e quebra-cabeças lógicos. Cada token representa um pedaço de texto ou dado, e o desempenho do modelo se torna mais oneroso à medida que mais tokens são processados. Modelos fechados como os da OpenAI foram destacados pela sua otimização no uso de tokens, revelando que, na execução de tarefas semelhantes, eles consomem significativamente menos recursos.
“Closed models (OpenAI, Grok-4) optimize for fewer tokens to cut costs, while open models (DeepSeek, Qwen) use more tokens, possibly for better reasoning.”
(“Modelos fechados (OpenAI, Grok-4) otimizam para menos tokens a fim de reduzir custos, enquanto modelos abertos (DeepSeek, Qwen) usam mais tokens, possivelmente para um melhor raciocínio.”)— Nous Research
Repercussão e aplicações
A revelação de que modelos abertos consomem em média mais do que o dobro de tokens para questões simples tem implicações profundas. Este aumento no número de tokens não só encarece a operação como também pode gerar latências mais longas. Apesar do preço inicial atraente dos modelos abertos, a matemática demonstra que a economia pode rapidamente se dissipar. Modelos como o llama-3.3-nemotron-super-49b-v1 mostraram-se mais eficientes entre os abertos, enquanto os de Magistral figuraram como os menos eficientes. “OpenAI’s gpt‑oss models, with their concise chain-of-thoughts, could serve as a benchmark for improving token efficiency in other open models,” observaram os pesquisadores.
O futuro da IA aponta para uma continua evolução, onde a capacidade de procesar informações de maneira mais eficiente pode se revelar decisiva em um mercado cada vez mais competitivo. O debate sobre os méritos dos modelos de código aberto versus fechado deverá continuar a moldar as decisões empresariais e a esfera tecnológica em geral.
Fonte: (Gizmodo – Cultura Tech & Geek)
