Vera Rubin e DSX: NVIDIA mira tokens por watt em AI factories

Vera Rubin e DSX: NVIDIA mira tokens por watt em AI factories

O vice-presidente de hyperscale e computação de alto desempenho da NVIDIA, Ian Buck, subiu ao palco nesta terça-feira (15 de setembro de 2026) para apresentar, no AI Infra Summit, a nova aposta da companhia para a eficiência das chamadas AI factories. O evento, realizado no Santa Clara Convention Center, saltou de 3.500 para mais de 8.000 participantes em um ano.

A plateia lotada foi ouvir como a NVIDIA pretende medir a infraestrutura de IA não mais pelo pico de desempenho, mas por tokens agênticos validados por megawatt.

De pico de desempenho a tokens por megawatt

A mudança de métrica acompanha a chegada da IA agêntica, uma nova classe de cargas de trabalho que exige mais desempenho, eficiência e escala da infraestrutura.

Para responder a esse desafio, a NVIDIA aposta em uma plataforma de AI factory de pilha completa. Ela vai dos sistemas Vera Rubin ao software de inferência Dynamo, passando pelas bibliotecas NeMo e pela camada de rede.

O NVLink faz a computação scale-up, enquanto Ethernet Spectrum-X e ConnectX SuperNICs conectam milhares de nós. O armazenamento de memória de contexto usa BlueField, e as DPUs BlueField cuidam da segurança da infraestrutura.

Segundo a empresa, o DSX MaxLPS pode entregar até 1,4x mais tokens por megawatt por meio de otimização de energia em toda a fábrica. O NVLink ajuda a unir a computação acelerada em larga escala em um único sistema de alto desempenho.

A programação do summit também abordou como os sistemas Vera Rubin e o Groq 3 LPX convertem mais energia em tokens.

Parcerias: annapurna, d-matrix e pinterest

Buck anunciou ainda novas colaborações em torno das plataformas NVIDIA.

A Annapurna Labs, da Amazon, está trabalhando com a NVIDIA na NVHBM, tecnologia de memória de alta largura de banda customizada. A d-Matrix está se integrando ao NVLink Fusion para combinar CPUs Vera, da NVIDIA, com XPUs Raptor, da d-Matrix, com o objetivo de entregar inferência de latência ultrabaixa em escala.

Já o Pinterest está usando a plataforma NVIDIA Blackwell e o software de inferência NVIDIA Dynamo para levar IA conversacional à descoberta visual.

O conjunto de anúncios mostra como o ecossistema em torno das AI factories se amplia para além dos chips, alcançando memória, interconexão e aplicações finais.

Lambda valida o dsx maxlps em servidores blackwell

A provedora de nuvem de IA Lambda divulgou no evento a primeira validação do NVIDIA DSX MaxLPS sobre servidores NVIDIA Blackwell.

O sistema monitora continuamente o consumo de energia em GPUs e racks. Desloca de forma dinâmica a energia disponível para onde ela é mais necessária e recupera capacidade que o provisionamento estático costuma deixar ociosa.

Isso é relevante porque cargas de treinamento e de inferência têm perfis de potência diferentes.

Na prática, a Lambda rodou 19 nós dentro do orçamento de energia normalmente destinado a 16 nós em potência total. O throughput de tokens do cluster subiu 24%, de cerca de 4 milhões para 5 milhões de tokens por segundo, com ganho de 23% em desempenho por watt.

Para as AI factories de próxima geração com Vera Rubin NVL72, o DSX MaxLPS pode habilitar até 40% mais capacidade de GPU dentro do mesmo orçamento de megawatt, em ambientes de implantação adequados. Isso significa mais capacidade de IA e mais tokens dentro do mesmo envelope de potência.

AI factories como recurso flexível da rede elétrica

Em outra frente, a Emerald AI e a NVIDIA demonstraram um programa comercial de carga flexível para AI factories, em parceria com a Silicon Valley Power, que opera um programa de interconexão desse tipo.

O sistema respondeu com sucesso a centenas de sinais de demanda enviados pela concessionária, sem comprometer o desempenho das cargas de IA.

A Emerald AI planeja usar o NVIDIA DSX Flex em seu software de gestão de energia responsiva à rede, o Conductor. O Conductor ajusta dinamicamente o consumo de uma AI factory com base em sinais elétricos em tempo real e fontes híbridas de energia.

O DSX Flex recebe pedidos de redução de carga, eventos de resposta à demanda e sinais de preço. Age automaticamente dentro de uma hierarquia de cargas previamente definida: os trabalhos mais críticos continuam rodando, enquanto o restante é pausado temporariamente e depois retomado.

Por que isso importa

Com essa capacidade, as AI factories passam a operar como recursos flexíveis da rede elétrica.

Elas podem reduzir demanda quando o sistema precisa de alívio, proteger cargas prioritárias de IA e comprovar que uma carga controlável pode ajudar a liberar mais capacidade elétrica para expansão.

Para operadores, o recado do AI Infra Summit é direto: em um cenário no qual a energia é o gargalo, eficiência deixou de ser discurso ambiental e passou a ser métrica de negócio, medida em tokens por megawatt entregues.

Fontes e links

Matéria publicada originalmente em NVIDIA

Últimas Notícias

Gusto, Insight e Leland debatem agentes de IA em startups
OpenAI e AARP levam oficina gratuita de ChatGPT a 1.000 idosos
Suleyman alerta contra 'bem-estar de modelos' e direitos à IA
OpenAI lança framework para reportar desalinhamento de modelos