A NVIDIA acaba de divulgar dados que vão fazer muita gente no setor de infraestrutura parar e pensar.
Os AI Agents já são uma realidade em produção — e eles são muito mais famintos por recursos do que qualquer chatbot convencional. Segundo dados do OpenRouter, cargas de trabalho agentic consomem até 15 vezes mais tokens do que uma simples conversa de chat. Isso não é um detalhe técnico menor, é uma virada de chave completa na forma de pensar infraestrutura de IA.
E é exatamente aí que entra a Vera Rubin NVL72. A NVIDIA revelou que o novo sistema entrega até 30x mais throughput por megawatt do que a geração anterior, a GB300 NVL72, especificamente em workloads agentic. Não estamos falando de uma melhoria incremental — esse é um salto que muda a matemática das AI factories operando em ambientes com restrição de energia. Neste artigo, você vai entender por que os agentes de IA exigem tanto, o que os números reais de performance significam na prática, e quais tecnologias estão por trás dessa eficiência que a NVIDIA está apresentando ao mercado. 🚀
Por que os AI Agents são tão diferentes de um chatbot comum?
Antes de entrar nos números da Vera Rubin NVL72, vale entender o problema que ela está tentando resolver. Um chatbot convencional tem um fluxo relativamente simples: o usuário envia uma mensagem, o modelo processa e devolve uma resposta. O contexto é curto, a interação é pontual e o volume de tokens por sessão é bastante controlado. Nesses casos, as sequências de entrada e saída ficam normalmente entre 1 mil e 8 mil tokens. Mas os AI Agents funcionam de um jeito completamente diferente. Eles não apenas respondem — eles planejam, executam etapas, verificam resultados, chamam ferramentas externas, criam sub-agentes e iteram sobre si mesmos até chegar num objetivo.
Pensa num exemplo concreto: um agente de IA pesquisando uma empresa para uma decisão de investimento. Ele consulta bancos de dados financeiros, busca notícias e documentos regulatórios, aciona um sub-agente para rodar comparações com concorrentes e modelar avaliações, e então sintetiza tudo numa recomendação final. Agentes e sub-agentes continuam raciocinando até a tarefa estar completa, e cada passo acumula tokens que se tornam a entrada do próximo passo. É por isso que o manejo de contexto longo se torna absolutamente central para a performance de IA agentic.
Segundo os dados compartilhados pela NVIDIA com base em informações do OpenRouter, as cargas de trabalho agentic chegam a consumir 15 vezes mais tokens do que interações de chat tradicionais. Na prática, isso significa que um único agente autônomo rodando uma tarefa complexa pode gerar um volume de processamento equivalente a dezenas de conversas simultâneas num sistema convencional. E esse mesmo padrão se repete em praticamente todos os casos de uso agentic, do desenvolvimento de software ao atendimento ao cliente, passando por pesquisas aprofundadas. Para quem opera infraestrutura de IA em escala, esse número é um alerta importante: a demanda por throughput vai crescer muito mais rápido do que o crescimento no número de usuários finais sugere.
- E-BOOK GRATUITO
Um guia prático para avaliar, comparar e implementar inteligência artificial com clareza — sem desperdício de tempo ou dinheiro.
Pare de contratar ferramentas sem direção. Criamos um método estruturado para decidir qual IA realmente faz sentido para o seu negócio.
Entrega em PDF no seu e-mail · Sem spam · LGPD
🔒 Seus dados são protegidos conforme a LGPD. Você pode descadastrar a qualquer momento.
Esse comportamento cria um gargalo sério. Se a infraestrutura não for projetada para aguentar esse tipo de carga, o que acontece é latência alta, filas longas de requisições e, no pior cenário, degradação completa da experiência. Empresas que já estão migrando seus fluxos de trabalho para arquiteturas baseadas em agentes estão sentindo isso na prática. A questão não é mais se os AI Agents vão dominar os casos de uso corporativos — é quando. E a resposta para esse quando depende diretamente de quão rápido a infraestrutura consegue evoluir para suportar essa nova realidade.
Vera Rubin NVL72: 30x mais throughput por megawatt e 35x menor custo por token
A Vera Rubin NVL72 é a mais recente arquitetura de sistema da NVIDIA, e ela foi projetada com esse cenário agentic em mente desde o início. O dado mais impactante divulgado pela empresa é a melhoria de 30x em throughput por megawatt em comparação com a geração anterior, a GB300 NVL72, especificamente quando o workload é do tipo agentic. Esses números foram medidos usando o workload SemiAnalysis AgentX, composto por sessões reais de programação agentic gravadas, com crescimento de contexto real, chamadas de ferramentas e criação de sub-agentes preservados. Ou seja: não é um teste sintético, é comportamento de produção de verdade.
Essa métrica é muito mais relevante do que throughput absoluto, porque ela coloca a eficiência energética no centro da equação — algo que qualquer operador de data center em larga escala vai reconhecer imediatamente como um fator crítico de custo e sustentabilidade. Para AI factories com restrição de energia, isso se traduz diretamente em 30x mais trabalho agentic dentro do mesmo consumo energético.
Mas o que está por trás desse salto? A arquitetura Vera Rubin representa uma evolução significativa em múltiplas frentes ao mesmo tempo. Do ponto de vista de silício, a nova geração incorpora avanços no processo de fabricação e na organização da hierarquia de memória, o que permite que os modelos processem contextos muito mais longos com muito menos latência. Nas sessões agentic, o contexto se acumula ao longo dos passos e pode chegar a centenas de milhares de tokens de entrada, com grande variação tanto no tamanho de entrada quanto de saída entre as requisições. Por isso a medição de performance precisou evoluir para capturar o fluxo completo do agente, e não apenas uma única requisição de inferência.
A plataforma Blackwell como base sólida
No benchmark SemiAnalysis AgentX, a plataforma NVIDIA Blackwell entrega performance de liderança em múltiplos modelos agentic, incluindo Kimi K3, MiniMax M3, GLM5.3, Qwen3.5 e DeepSeek V4 Pro. A GB300 NVL72, por exemplo, já entregava até 15x mais throughput por megawatt do que a arquitetura Hopper no modelo DeepSeek V4 Pro, oferecendo uma fundação de alto desempenho para rodar cargas agentic. Esse avanço reflete a vantagem de um domínio de GPU com escala maior combinado com software codesenhado para entregar eficiência de inferência muito superior.
A Vera Rubin amplia ainda mais essa vantagem, elevando a performance por toda a curva de Pareto para entregar até 30x mais throughput por megawatt do que a GB300 NVL72 no modelo DeepSeek V4 Pro. Vale destacar que esses resultados iniciais, medidos com o workload SemiAnalysis AgentX e ainda pendentes de revisão pela SemiAnalysis, nem sequer refletem o desempenho da CPU Vera para chamadas de ferramentas. Ou seja, há margem para ficar ainda melhor. 💡
Custo por token e o impacto na margem
O throughput por megawatt impacta diretamente o custo de cada token produzido. Com custo por milhão de tokens até 35x menor do que a GB300 NVL72, a Vera Rubin NVL72 consegue rodar agentes continuamente, em escala, cobrindo toda a amplitude das cargas de trabalho dos clientes. Para AI factories com restrição de energia, o throughput por megawatt determina a receita da AI factory, enquanto o custo por milhão de tokens determina a margem de lucro sobre essa receita.
Vale mencionar também que as tecnologias NVIDIA DSX MaxLPS gerenciam energia nos níveis de GPU, rack e workload para provisionar até 40% mais GPUs dentro do mesmo orçamento de megawatt, empurrando ainda mais o throughput por megawatt na escala de AI factory. 🔥
Codesign extremo para escala agentic
A otimização moderna de inferência abrange uma série de técnicas que são especialmente críticas para IA agentic. A Vera Rubin NVL72 viabiliza todas elas e mais um pouco por meio de um codesign extremo em cada camada da plataforma. Vamos aos principais destaques:
- Serving desagregado: separa o processamento de contexto (prefill) da geração de resposta (decode), permitindo que cada etapa escale de forma independente.
- Rate matching: sincroniza as velocidades com que GPUs de prefill e de decode produzem tokens, maximizando a eficiência.
- Paralelismo de especialistas em larga escala: distribui as sub-redes especialistas em modelos mixture-of-experts pelo domínio de GPU de escala.
- KV-caching distribuído: estende a memória pelo domínio de GPU, enquanto o offloading de KV-cache move contextos menos ativos para host e armazenamento, mantendo o contexto já processado acessível sem recomputação.
- Roteamento com consciência de KV: direciona requisições que chegam para as GPUs que já possuem o contexto em cache relevante, reduzindo computação redundante em sessões longas.
- Kernels CUDA fundidos: técnicas como o MegaMoE combinam muitas operações de computação e comunicação entre GPUs num único passo de execução, mantendo as GPUs ativas em vez de esperando por dados.
As GPUs Rubin trazem Tensor Cores de quinta geração aprimorados e o Transformer Engine de terceira geração, que aceleram tanto o prefill quanto o decode da inferência. Já a quantização NVFP4 comprime os pesos do modelo para precisão de 4 bits, reduzindo o uso de memória e aumentando o throughput sem sacrificar a qualidade da saída.
O domínio de escala NVL72
O domínio de escala NVL72, uma arquitetura que define tanto a Vera Rubin quanto a Grace Blackwell, viabiliza a comunicação entre GPUs de alta largura de banda e baixa latência que é essencial para técnicas como paralelismo de especialistas em larga escala e KV-caching distribuído. Feita sob medida para alimentar esse domínio, a tecnologia de interconexão NVIDIA NVLink e os NVLink Switches, agora na sexta geração, entregam 10x mais taxa de pacotes e 3x menos latência do que alternativas Ethernet de prateleira.
Receba o melhor conteúdo de inovação em seu e-mail
Todas as notícias, dicas, tendências e recursos que você procura entregues na sua caixa de entrada.
Ao assinar a newsletter, você concorda em receber comunicações da Método Viral. A gente se compromete a sempre proteger e respeitar sua privacidade.
Abrangendo kernels CUDA otimizados, runtimes de inferência como o NVIDIA TensorRT LLM e frameworks de serving como o NVIDIA Dynamo, a stack de software da NVIDIA é codesenhada junto com o hardware para habilitar todas essas otimizações. E os resultados apresentados até aqui refletem apenas a performance atual — a plataforma completa é uma arquitetura de sete chips que inclui a CPU Vera, o Groq 3 LPU, o NVLink 6 Switch, o BlueField-4 DPU, o Spectrum-6 SPX e o ConnectX-9 SuperNIC, todos feitos sob medida para AI factories implantando agentes em escala.
Por que throughput por megawatt é a métrica que importa agora
Durante muito tempo, o benchmark preferido de quem avaliava hardware de IA era o throughput bruto — quantos tokens por segundo o sistema consegue gerar, ponto final. Essa métrica ainda importa, claro, mas ela conta só metade da história. A outra metade é quanto você paga para gerar esses tokens, tanto em custo de energia quanto em custo de capital do hardware. É por isso que throughput por megawatt está emergindo como a métrica mais relevante para quem toma decisões de infraestrutura em ambientes de produção com AI Agents e modelos de linguagem de grande escala.
Vamos ser diretos: um ganho de 30x nessa métrica não é apenas uma nota de rodapé num slide de apresentação. Ele muda a matemática fundamental de como você projeta, opera e precifica uma AI factory. Imagine um data center que hoje opera com restrições de energia — um cenário extremamente comum, dado que a expansão de capacidade elétrica não acompanha o crescimento da demanda por computação. Com a Vera Rubin NVL72, o mesmo envelope de energia que antes suportava um determinado volume de workloads agentic passa a suportar até 30 vezes mais. Isso significa mais clientes, mais modelos em produção, mais agentes rodando em paralelo — sem precisar construir um novo data center ou negociar mais capacidade na rede elétrica.
A NVIDIA claramente entendeu essa mudança de perspectiva antes de apresentar a Vera Rubin NVL72. Ao posicionar o produto com foco nessa métrica específica — e especificamente para cargas agentic — a empresa está sinalizando que conhece bem onde o mercado está indo. Os próximos anos vão ser marcados por uma explosão no número de agentes autônomos rodando em produção, e cada um deles vai exigir um volume de computação que nenhum modelo de custo baseado em chatbots convencionais estava preparado para absorver. Falar em eficiência energética nesse contexto não é greenwashing corporativo — é planejamento financeiro e operacional sério.
É também por isso que a comparação com a geração GB300 NVL72 é tão reveladora. Não estamos comparando gerações separadas por muitos anos de distância — e mesmo assim o salto é de 30x na métrica que mais importa para quem opera em escala. Esses resultados iniciais da Vera Rubin NVL72 demonstram o ritmo acelerado de inovação da NVIDIA, e com otimizações contínuas de software, a performance tanto da Vera Rubin quanto da GB300 NVL72 deve continuar melhorando. O codesign extremo também se estende à co-engenharia com parceiros, e a Vera Rubin já está em produção plena, escalando por todo o ecossistema. Para quem acompanha o setor de perto, esse tipo de progresso em ciclos curtos é o que define quais plataformas de hardware vão dominar a infraestrutura de IA dos próximos anos. 🧠
