São Paulo — InkDesign News — A inteligência artificial (IA) continua a avançar, especialmente no campo dos modelos de linguagem de grande escala (LLM) e técnicas de deep learning. A startup Thinking Machines, fundada por Mira Murati, ex-CTO da OpenAI, lançou seu primeiro produto, Tinker. Essa ferramenta promete facilitar o fine-tuning de LLMs de forma acessível e poderosa.
Tecnologia e abordagem
O Tinker é uma API baseada em Python que oferece controle direto sobre os pipelines de treinamento de LLMs, permitindo que desenvolvedores e pesquisadores gerenciem a complexidade do treinamento distribuído e da infraestrutura. A plataforma não se limita a um serviço de ajuste black-box; em vez disso, fornece uma API de baixo nível, mas amigável, que possibilita desenvolvedores a trabalharem com funções de perda, loops de treinamento e fluxos de dados de forma eficiente.
Tinker traz ferramentas de ponta para os pesquisadores, oferecendo abstrações limpas para escrever experimentos e pipelines de treinamento.
(“Tinker brings frontier tools to researchers, offering clean abstractions for writing experiments and training pipelines.”)— Mira Murati, CEO, Thinking Machines
Aplicação e desempenho
Desde seu lançamento em beta privado, Tinker foi testado em diversos laboratórios de pesquisa, como os da Universidade de Princeton e da Universidade de Berkeley. Um dos exemplos de sucesso é o time de Princeton que utilizou Tinker para ajustar LLMs para provas formais, conseguindo alcançar 88,1% de acerto no benchmark MiniF2F utilizando apenas 20% dos dados em comparação aos modelos de SFT de parâmetros completos.
A equipe do Rotskoff Lab, em Stanford, utilizou o Tinker para melhorar modelos de raciocínio químico, aumentando a precisão de conversão de IUPAC para fórmulas de 15% para 50%. As aplicações demonstram a versatilidade da ferramenta, capaz de suportar tanto fine-tuning supervisionado quanto pipelines experimentais de aprendizado por reforço.
Impacto e mercado
A Thinking Machines arrecadou US$ 2 bilhões de investidores como a16z e NVIDIA, o que a posiciona como uma das startups de IA mais bem financiadas. O Tinker, com sua abordagem diferenciada, permitiu que pesquisadores mantivessem cerca de 90% do controle algorítmico, reduzindo a dor de infraestrutura em 90%.
Comparado ao paradigma comum de ‘envie seus dados, nós post-treinaremos seu LLM’, isso, na minha opinião, é um lugar mais inteligente para segmentar a complexidade do post-training.
(“Compared to the more common and existing paradigm of ‘upload your data, we’ll post-train your LLM,’ this is, in my opinion, a more clever place to slice up the complexity of post-training.”)— Andrej Karpathy, Head of AI, Eureka Labs
A startup também enfatiza a importância da ciência aberta, lançando modelos, códigos e pesquisas publicamente. Com a introdução de um modelo de preços baseado em uso, a empresa visa garantir que o Tinker permaneça acessível enquanto atende a uma demanda crescente por integração e suporte mais profundos.
Com a evolução contínua das tecnologias de IA, o Tinker está posicionado para ser uma ferramenta crucial que potencializa desenvolvedores e pesquisadores em suas iniciativas de IA, transformando a forma como modelos complexos são ajustados e utilizados.
Fonte: (VentureBeat – AI)
