São Paulo — InkDesign News — A startup Liquid AI, formada por pesquisadores do Massachusetts Institute of Technology (MIT), lançou a plataforma LEAP, um kit de desenvolvimento de software (SDK) que visa integrar modelos de linguagem pequenos (SLMs) diretamente em aplicativos móveis, priorizando a privacidade e a eficiência da inteligência artificial.
Tecnologia e abordagem
O LEAP permite que os desenvolvedores utilizem modelos de IA diretamente em seus dispositivos, em vez de depender de serviços em nuvem. Esse SDK foi projetado para ser acessível a desenvolvedores com pouca experiência em aprendizado de máquina. Segundo a Liquid AI, "o SDK pode ser adicionado a um projeto iOS ou Android com apenas algumas linhas de código" e a interação com os modelos locais é semelhante à de uma API tradicional de nuvem.
(“The SDK can be added to an iOS or Android project with just a few lines of code, and calling a local model is meant to feel as familiar as interacting with a traditional cloud API.”)
— Ramin Hasani, Co-fundador e CEO, Liquid AI
Aplicação e desempenho
O SDK é compatível com modelos leves de até 300MB, podendo ser executado em dispositivos com apenas 4GB de RAM. Ele gerencia inferências locais, otimização de memória e compatibilidade de dispositivos, simplificando o processo de implantação em edge computing. A LEGO é agnóstica em relação a sistemas operacionais e modelos, suportando tanto iOS quanto Android, além dos Modelos de Fundação Líquida (LFMs) e modelos abertos populares.
A abordagem local-first do LEAP é particularmente relevante em um momento em que os desenvolvedores buscam alternativas devido a preocupações com latência, custo e privacidade associados ao uso de nuvens. "Nosso objetivo é construir uma plataforma de implantação flexível e completa para tornar a IA de edge acessível", afirma Hasani.
(“Our goal is to create a flexible, end-to-end deployment platform to make edge AI truly accessible.”)
— Ramin Hasani, Co-fundador e CEO, Liquid AI
Impacto e mercado
A Liquid AI também apresentou o aplicativo Apollo, uma opção para que desenvolvedores testem modelos localmente, funcionando de forma offline e preservando a privacidade dos usuários. Os modelos da família LFM2, que compõem a biblioteca do LEAP, foram otimizados para serem competitivos em precisão e velocidade, suportando cargas de trabalho em dispositivos móveis.
O LEAP se destaca como uma opção valiosa para desenvolvedores que desejam construir aplicações de inteligência artificial mais eficientes e privadas. Atualmente, o SDK está disponível gratuitamente sob uma licença de desenvolvedor, com planos para oferecer características premium no futuro. O foco em modelos menores, que se destacam em tarefas específicas, também pode fomentar a inovação em um mercado cada vez mais saturado de grandes modelos.
À medida que a demanda por IA local cresce, a Liquid AI se posiciona como uma solução essencial para desenvolvedores que buscam explorar o potencial da inteligência artificial em dispositivos móveis.
Fonte: (VentureBeat – AI)
