Um modelo multimodal pensado para agentes especializados
A NVIDIA anunciou o Nemotron 3.5 Super VL como um modelo aberto e personalizável para fluxos de trabalho que combinam raciocínio, compreensão visual e uso de ferramentas. Segundo a descrição técnica da empresa, ele pode processar texto, imagens, documentos e vídeo dentro de um mesmo modelo, com o objetivo de evitar separar algumas tarefas entre um modelo linguístico e outro de visão.
A proposta se destina a agentes que devem completar sequências de trabalho, não apenas responder a uma pergunta isolada: por exemplo, ler um documento, contrastar dados e utilizar ferramentas. A empresa também propõe que o modelo possa ser adaptado com dados, ferramentas e políticas próprios. Isso descreve o uso previsto e as capacidades que a NVIDIA apresenta; não demonstra que o sistema funcione igualmente bem em todos os setores ou configurações.
A evidência disponível é desigual em alcance. O anúncio corporativo confirma o lançamento e situa o modelo dentro da família Nemotron; o artigo técnico fornece números e detalhes de avaliação, mas é conteúdo publicado pela NVIDIA, não uma replicação independente. Por isso, seus resultados devem ser lidos como medições declaradas pelo fabricante e não como uma garantia geral de desempenho.
Arquitetura MoE: capacidade total versus cálculo ativo
O Nemotron 3.5 Super VL possui 120 bilhões de parâmetros totais e ativa 12 bilhões por token, de acordo com a documentação técnica da NVIDIA. Em uma arquitetura de mistura de especialistas, ou MoE, diferentes partes especializadas do modelo podem participar no processamento de uma entrada. A cifra de parâmetros ativos indica quanto do modelo é utilizado em cada passo, não que o sistema tenha apenas 12 bilhões de parâmetros armazenados.
Essa diferença pode ajudar a equilibrar capacidade e cálculo: o modelo conserva um conjunto amplo de parâmetros, enquanto ativa uma fração durante cada token. Mas a quantidade ativa, por si só, não determina os requisitos reais de memória nem a velocidade. Também influenciam a precisão numérica, o comprimento do contexto, a implementação, o tamanho do lote e o hardware.
O material técnico descreve ainda uma combinação de técnicas de inferência: decodificação especulativa LiLiCorr, previsão de vários tokens, reutilização de contexto e quantização. São otimizações distintas e seus efeitos dependem da carga de trabalho. Não se deve atribuir à arquitetura MoE, sem mais, qualquer melhoria que inclua a avaliação completa do sistema.
Como interpretar as cifras principais
As cifras descrevem aspectos distintos do modelo; não são intercambiáveis nem bastam por si só para estimar uma implementação.
| Dado | O que significa | O que não permite concluir |
|---|---|---|
| 120 bilhões de parâmetros | Tamanho total declarado do modelo. | Memória necessária em uma configuração concreta sem conhecer formato e implantação. |
| 12 bilhões ativos por token | Parâmetros que se ativam para processar cada token, segundo a NVIDIA. | Que só haja que armazenar 12 bilhões de parâmetros. |
| MoE | Arquitetura que distribui o processamento entre especialistas. | Uma redução garantida de latência ou custo em qualquer hardware. |
Benchmarks: resultados úteis, mas ligados à sua configuração
A NVIDIA afirma que o modelo atinge até cinco vezes mais desempenho de saída em tarefas agênticas que outros modelos abertos de sua categoria. O artigo técnico descreve também resultados em avaliações de agentes, compreensão de gráficos e execução local em DGX Spark. Essas métricas não são equivalentes: throughput mede produção de tokens sob condições determinadas, enquanto completar uma tarefa depende também dos passos, chamadas a ferramentas e tokens consumidos.
No Hermes Bench, o artigo técnico publica 63,44% para o Nemotron 3.5 Super VL e 56,33% para o Nemotron 3 Ultra. Nas avaliações comportamentais da LangChain, apresenta 87,05% frente a 84,3%, respectivamente. A fonte atribui as cifras a essas provas concretas; não acredita que sejam avaliações independentes nem permite extrapolá-las a todos os agentes, modelos ou conjuntos de dados.
Para compreensão de gráficos, a NVIDIA informa 80,8% no CharXiv e 84% ao utilizar interpretação de código Python. Essa diferença ilustra que o resultado pode depender do procedimento de avaliação. Para decidir se o modelo serve em um caso real, convém reproduzir a prova com documentos, ferramentas, critérios de sucesso e limites de tempo próprios.
DGX Spark, NVFP4 e custos: o que ainda não se pode comparar
A documentação técnica indica que o Nemotron 3.5 Super VL foi otimizado para executar localmente no NVIDIA DGX Spark e recolhe uma avaliação independente da EXO Labs sobre o equilíbrio entre precisão e tempo de tarefa. No entanto, a informação fornecida não inclui uma tabela completa e comparável de latência e throughput frente ao Bolt 74B-A9B ou Bolt E4B, nem medições homogêneas de consumo elétrico em DGX Spark, RTX 6000 ou RTX 8000.
Portanto, não é possível responder com rigor quanto custaria cada tarefa nessas GPUs nem qual desses modelos seria mais rápido em uma instalação concreta. O resultado depende do hardware exato, o formato de pesos, o motor de inferência, o tamanho de entrada, a concorrência e a definição de tarefa terminada. O anúncio dos modelos Bolt não constitui por si mesmo uma comparação de desempenho com o Super VL.
A NVIDIA descreve uma receita NVFP4 para a arquitetura Blackwell que quantiza pesos e ativações a quatro bits, e aponta que a destilação consciente da quantização busca conservar precisão frente ao modelo BF16. Também indica que o mesmo checkpoint pode executar em plataformas não Blackwell com pesos de quatro bits e ativações de 16 bits. É uma descrição de compatibilidade e método; as fontes disponíveis não fornecem uma medição independente, em uma carga comum, que quantifique a perda ou melhoria de precisão e energia.
Compatibilidade e possíveis usos industriais
A NVIDIA apresenta ferramentas próprias para personalizar e implantar o modelo, entre elas NeMo, NVIDIA NIM e Dynamo. A documentação técnica menciona também uma ampla relação de plataformas e marcos do ecossistema, incluindo vLLM, SGLang, Ollama e LM Studio. A presença de um nome em uma lista de parceiros ou ferramentas não demonstra que todas as funções, formatos e otimizações estejam disponíveis em todas as versões; antes de implantar, é preciso verificar o suporte específico do checkpoint e do backend.
Entre os usos descritos estão a inteligência documental, a análise de vídeo, a pesquisa web, a cibersegurança e a assistência a tarefas de programação. São exemplos de aplicações possíveis, não resultados garantidos. Para cada caso importa avaliar também o tratamento de dados sensíveis, a confiabilidade das respostas, as políticas de acesso a ferramentas e a recuperação ante erros.
A documentação menciona adaptações para fluxos de trabalho especializados, incluindo tarefas financeiras e de análise de ameaças. As melhorias concretas comunicadas correspondem a configurações particulares e a trabalhos posteriores de ajuste; não devem ser tomadas como uma propriedade automática do modelo base. Para uma adoção industrial, a validação deve incluir dados próprios e medidas de segurança, qualidade e custo.
Processo breve para validar uma implementação
Uma prova de conceito útil deve separar a qualidade do modelo das otimizações de infraestrutura.
- 01Definir uma tarefa e um critério de sucesso verificável, além de limites de latência e custo.
- 02Fixar hardware, formato de pesos, motor de inferência, contexto e concorrência para que a comparação seja reprodutível.
- 03Testar o modelo base e a configuração quantizada com o mesmo conjunto de casos, registrando erros, tempos e consumo.
- 04Repetir com entradas representativas e revisar compatibilidade, privacidade e controles de ferramentas antes de passar à produção.
Conclusão: capacidade promissora, evidência ainda limitada
O Nemotron 3.5 Super VL combina um tamanho total de 120 bilhões de parâmetros com 12 bilhões ativos por token e um design multimodal orientado a agentes. A documentação da NVIDIA descreve técnicas para acelerar inferência e apresenta resultados em benchmarks específicos; também aponta uma rota de execução local em DGX Spark e opções de personalização.
A conclusão prudente é que o modelo merece avaliação em tarefas onde texto, documentos ou vídeo devam ser combinados com raciocínio e ferramentas. Mas não há base na evidência fornecida para afirmar que seja o mais rápido em termos gerais, que consuma menos energia que alternativas concretas ou que ofereça um custo determinado em RTX 6000, RTX 8000 ou DGX Spark. Também não se fornecem comparativas específicas e homogêneas contra o Bolt 74B-A9B e o Bolt E4B.
Para leitores que comparam sistemas, a decisão prática é medir a tarefa completa, não apenas tokens por segundo: exatidão, latência de ponta a ponta, consumo, custo, estabilidade e compatibilidade real. A arquitetura e as cifras anunciadas servem para formular hipóteses; a prova com dados e hardware próprios determina se essas hipóteses se sustentam.
Decisão segundo o objetivo da implantação
Um guia de avaliação inicial baseado nas capacidades e limites documentados.
| Objetivo | O que medir primeiro | Precaução |
|---|---|---|
| Processar documentos com imagens e tabelas | Exatidão por campo, leitura de gráficos e latência completa. | Não inferir desempenho industrial a partir de um benchmark isolado. |
| Executar agentes localmente | Memória, throughput, consumo e qualidade no hardware de destino. | A otimização para DGX Spark não fixa o resultado em outras GPUs. |
| Comparar NVFP4 com BF16 | Precisão em casos difíceis, memória e desempenho com configuração idêntica. | A destilação busca fechar lacunas, mas é preciso verificá-lo na tarefa própria. |
| Comparar com modelos Bolt | Mesmas entradas, ferramentas, hardware e critério de finalização. | As fontes fornecidas não oferecem uma comparação homogênea completa. |
Questões em aberto
- Não há dados comparáveis suficientes sobre latência, throughput ou energia para o Super VL frente ao Bolt 74B-A9B e ao Bolt E4B em DGX Spark, RTX 6000 e RTX 8000.
- Os benchmarks técnicos procedem de material da NVIDIA; não se documenta nas fontes fornecidas uma replicação independente completa das cifras principais.
- Não se especificam de forma suficiente todos os parâmetros de carga e configuração necessários para extrapolar os resultados de throughput para uma implementação concreta.
- A documentação descreve NVFP4 e destilação consciente da quantização, mas não fornece uma medição independente homogênea de seu impacto em precisão e consumo energético.
Continue a explorar
Fontes consultadas
Correções e transparência
Se encontrar informação incorreta ou desatualizada, envie-nos a página e a fonte que devemos rever.
Propor uma correção