Apertus: Um modelo de linguagem aberto e multilíngue
O desenvolvimento de modelos de aprendizado de máquina (machine learning) avança com o lançamento do Apertus, um modelo de linguagem multilíngue que visa proporcionar acessibilidade e transparência no domínio da inteligência artificial (AI).
Contexto da pesquisa
Em julho de 2025, uma colaboração entre o EPFL, ETH Zurich e CSCS foi anunciada para a construção de um modelo de linguagem grande (LLM) chamado Apertus. O projeto se destaca por sua abertura, já que todo seu processo de desenvolvimento, incluindo a arquitetura, os pesos do modelo e os dados utilizados, é totalmente acessível.
Método proposto
Apertus foi desenvolvido utilizando um treinamento em 15 trilhões de tokens em mais de 1.000 línguas, das quais 40% são não inglesas. Isso inclui idiomas comumente menos representados em modelos de LLM, como o alemão suíço e o romanche. A abordagem permite uma adaptação flexível do modelo às necessidades específicas dos usuários.
Apertus é construído para o bem público, destacando-se entre os poucos LLMs totalmente abertos em grande escala e incorporando o multilinguismo como um princípio de design fundamental.
(“Apertus is built for the public good. It stands among the few fully open LLMs at this scale and is the first of its kind to embody multilingualism, transparency, and compliance as foundational design principles.”)— Imanol Schlag, Cientista de Pesquisa, ETH Zurich
Resultados e impacto
Os modelos Apertus estão disponíveis em duas variáveis, com 8 bilhões e 70 bilhões de parâmetros, atendendo tanto ao uso individual quanto a aplicações empresariais. Ambos são distribuídos sob uma licença de código aberto permissiva, viabilizando seu uso em educação, pesquisa e aplicações comerciais.
Apertus não é um caso convencional de transferência de tecnologia da pesquisa para o produto, mas sim um motor de inovação que fortalece a expertise em AI na pesquisa, sociedade e indústria.
(“Apertus is not a conventional case of technology transfer from research to product. Instead, we see it as a driver of innovation and a means of strengthening AI expertise across research, society and industry.”)— Thomas Schulthess, Diretor do CSCS e Professor, ETH Zurich
O modelo será atualizado regularmente por uma equipe especializada, visando incrementar sua eficiência e explorar adaptações específicas em áreas como direito, clima, saúde e educação. A expectativa é que os desenvolvedores experimentem o modelo nas próximas semanas, proporcionando feedback valioso para futuras versões.
As potenciais aplicações de Apertus incluem chatbots, sistemas de tradução e ferramentas educativas, destacando a relevância do modelo no avanço de tecnologias inclusivas no campo da inteligência artificial.
Fonte: (TechXplore – Machine Learning & AI)
