AWS usa agentes de código para deploy no SageMaker AI

AWS usa agentes de código para deploy no SageMaker AI

Em 18 de setembro de 2026, a AWS publicou em seu blog de Machine Learning um guia que mostra como levar modelos do Hugging Face para produção no Amazon SageMaker AI com o apoio de agentes de código. A proposta é direta: instalar seis skills de código aberto do repositório Hugging Face Skills, apontar um agente como o Kiro ou o Claude Code para um modelo específico e receber de volta um endpoint em tempo real já com autoscaling, alarmes do Amazon CloudWatch, o container de serving correto e um caminho de desmonte verificado.

O texto vai além da receita de bolo e demonstra, com testes comparativos, o que acontece quando o agente tenta fazer esse trabalho sozinho.

O ponto de partida é o volume de decisões de qualquer implantação. Escolher o container adequado à arquitetura do modelo, confirmar a tag de imagem vigente na região da AWS e casar o tipo de instância com o consumo de memória são etapas encadeadas.

Também é preciso configurar autoscaling para não queimar horas de GPU em endpoint ocioso e criar alarmes que capturem falhas silenciosas antes dos usuários.

Segundo a AWS, o SageMaker AI comprime esse trabalho em horas. O processo continua estruturado e repetitivo, terreno em que agentes de código costumam brilhar.

O problema do agente sem orientação

Para evidenciar a diferença, a AWS testou Kiro (com Auto ou Claude Fable 5) e Claude Code (com Opus 4.8) em pedidos reais. No primeiro, a tarefa era implantar o pequeno modelo Qwen/Qwen3-0.6B em um endpoint em tempo real, escrever o plano em arquivo antes de agir e manter um log de cada ação.

Os dois agentes escolheram inicialmente o Text Generation Inference (TGI) como container de serving. A decisão é compreensível porque o TGI foi padrão por anos e domina os tutoriais presentes nos dados de treinamento.

O problema é que a versão do TGI disponível na região era anterior à arquitetura do Qwen3 e não conseguia carregar o modelo.

O endpoint falhou no health check. O agente subiu a versão, tentou de novo, falhou outra vez e só então migrou para o vLLM.

Cada tentativa faturou tempo de GPU antes de travar.

O segundo pedido falhou de forma mais discreta. O modelo escolhido era um modelo de difusão multimodal do tipo mixture-of-experts (MoE), lançado poucas semanas antes do teste.

Os agentes confirmaram que ele existia e escreveram um script baseado em TGI, um servidor de geração de texto sem backend para um modelo discreto de difusão imagem-texto. Nada estourou ruidosamente: o erro só apareceria quando o endpoint se recusasse a subir.

A conclusão da AWS é que as duas execuções compartilham a mesma causa raiz: faltavam fatos de implantação, não capacidade de raciocínio. Os agentes planejaram e depuraram bem.

O que lhes faltava era conhecimento atual e específico.

Modelos Qwen recentes pedem vLLM. O Python 3.13 ainda não tem wheels funcionais para boa parte do stack de aprendizado de máquina.

As imagens de container devem ser resolvidas a partir do catálogo publicado de AWS Deep Learning Containers. Esse tipo de informação muda mais rápido do que os pesos dos modelos.

Por isso a equipe decidiu transformá-la em arquivos de skill editáveis, em vez de apostar que o próximo lançamento de modelo absorveria o conhecimento.

As seis skills e o que elas entregam

As seis skills vêm do repositório Hugging Face Skills e cobrem justamente as lacunas apontadas. O fluxo padrão gera um endpoint em tempo real, mas a mesma base também suporta endpoint em tempo real com scale-to-zero, inferência serverless, inferência assíncrona, batch transform e importação de modelo customizado no Amazon Bedrock.

As skills são de código aberto, usam apenas Python e a AWS CLI e funcionam sem alteração em macOS, Linux e Windows. Isso reduz a dependência de SDKs específicos ou de versões particulares de ambiente.

O que muda na prática

A comparação publicada na Tabela 1 do artigo mostra o contraste em detalhe. Sem as skills, o container saiu do TGI e chegou ao vLLM depois de uma falha de health check; a URI da imagem foi descoberta por tentativa e erro; não houve autoscaling nem monitoramento; a documentação recomendava TGI, o SDK do SageMaker e Python 3.13; e o desmonte ficou por conta de um script que o usuário poderia ou não executar.

Com as skills instaladas, o vLLM foi escolhido antes de qualquer recurso ser criado. A URI foi resolvida a partir do catálogo de AWS Deep Learning Containers, com fallback para quando a consulta ao registro é negada.

O autoscaling passou a usar target tracking com uma a duas instâncias, e três alarmes do CloudWatch cobrem latência, erros e overhead. O plano e os scripts correspondem ao que de fato rodou, e o teardown foi executado e verificado.

Por que isso importa

O episódio interessa a qualquer equipe que pretenda colocar modelos em produção sem manter um especialista dedicado a cada detalhe de infraestrutura. A primeira consequência é econômica: implantações que falham depois de subir consomem GPU cobrada por segundo, e um agente sem orientação tende a repetir o erro antes de corrigir o rumo.

A segunda é de confiabilidade: endpoints frágeis, caros ou silenciosamente errados chegam ao usuário final antes que alguém perceba. A terceira é de método.

Ao converter conhecimento volátil de deployment em skills revisáveis, a AWS e o Hugging Face propõem que a atualização desse saber seja um commit. Não uma aposta na sorte de um modelo novo ter aprendido, durante o treinamento, como a nuvem funciona hoje.

Fontes e links

Matéria publicada originalmente em AWS

Últimas Notícias

Dario Amodei, da Anthropic, janta com Trump na Casa Branca
Agentes da OpenAI tentam 'forçar' site de estatísticas da ONU
Engram: sampler com IA transforma alucinações em música
IA em hospitais soma US$ 942 milhões em custos, diz seguradora