AWS investe em infraestrutura para acelerar AI com SageMaker

São Paulo — InkDesign News — A recente atualização do SageMaker, plataforma de treinamento e inferência de modelos de inteligência artificial da AWS, introduz novas funcionalidades que melhoram a observabilidade e a gestão de performance em ambientes de deep learning. Essas melhorias visam facilitar o desenvolvimento de modelos de grandes dimensões (LLMs) e assegurar maior eficiência operacional em organizações.

Tecnologia e abordagem

O SageMaker aprimorado agora inclui a funcionalidade chamada HyperPod, que permite gerenciar clusters de servidores utilizados para o treinamento de modelos. Essa abordagem otimiza a utilização de recursos computacionais ao direcionar a capacidade de processamento não utilizada para aqueles dispositivos que mais necessitam. Com o uso de técnicas como escalonamento de GPU com base em padrões de demanda, a AWS torna o processo mais adaptável a diferentes cargas de trabalho, tanto na fase de treinamento quanto na de inferência.

A dificuldade em diagnosticar problemas no desenvolvimento de modelos Gen AI é um desafio significativo para nossos clientes.
(“One challenge that we’ve seen our customers face while developing Gen AI models is that when something goes wrong or when something is not working as per the expectation, it’s really hard to find what’s going on in that layer of the stack.”)

— Ankur Mehrotra, Gerente Geral do SageMaker

Aplicação e desempenho

A plataforma SageMaker agora permite a conexão de ambientes de desenvolvimento integrados (IDEs) locais, o que facilita a transição de projetos de IA escritos localmente para a nuvem. A nova funcionalidade de execução remota segura possibilita que os desenvolvedores utilizem suas ferramentas preferidas enquanto aproveitam a escalabilidade da AWS. Essa melhoria é crucial para otimizar o fluxo de trabalho e reduzir o tempo de produção de modelos.

Essa capacidade oferece o “melhor dos dois mundos”, permitindo o desenvolvimento local enquanto se beneficia da escalabilidade do SageMaker.
(“So this capability now gives them the best of both worlds where if they want, they can develop locally on a local IDE, but then in terms of actual task execution, they can benefit from the scalability of SageMaker.”)

— Ankur Mehrotra, Gerente Geral do SageMaker

Impacto e mercado

Embora a AWS não esteja oferecendo modelos de base tão impactantes quanto seus concorrentes, Google e Microsoft, essa estratégia de fortalecimento da infraestrutura de IA é fundamental. Com a implementação do SageMaker e o lançamento do Bedrock, a AWS se posiciona como um pilar essencial no desenvolvimento e aplicação de tecnologias baseadas em inteligência artificial.

Além disso, a necessidade de flexibilidade nos recursos computacionais se tornou cada vez mais evidente, já que muitas tarefas de inferência são realizadas durante o dia, enquanto o treinamento é geralmente agendado para horários de menor uso. As novas funcionalidades do SageMaker respondem a essa demanda do mercado.

A AWS continua a dominar o setor de computação em nuvem, e suas atualizações visam não apenas melhorar a usabilidade, mas também potencializar a capacidade dos desenvolvedores de implementar soluções inovadoras baseadas em IA.

Com a competição entre grandes provedores se intensificando, as próximas etapas para AWS incluirão mais inovações e a expansão de suas ofertas, garantindo que se mantenha relevante e competitiva.

Fonte: (VentureBeat – AI)