NVIDIA amplia família Nemotron com modelos abertos para data centers e desktops
NVIDIA anuncia Nemotron 3.5 Super VL e Bolt para cargas locais e empresariais. Modelos abertos prometem mais eficiência e personalização.
Resumo: A NVIDIA expandiu sua família de modelos abertos Nemotron com três novos integrantes: o Super VL, de 120 bilhões de parâmetros, e dois modelos da série Bolt voltados para cargas locais em desktops e dispositivos de borda. A novidade importa porque reforça a tendência de modelos abertos customizáveis, que podem ser executados na infraestrutura do próprio cliente, com controle sobre dados e aplicações.
Pontos-chave
- NVIDIA lança Nemotron 3.5 Super VL de 120 bilhões de parâmetros e dois modelos Bolt para cargas locais.
- Super VL promete 5x o throughput do próximo melhor modelo de sua classe, segundo a NVIDIA.
- Bolt 74B-A9B usa quantização de 2 bits para caber em 24 GB de memória e rodar em RTX e DGX Spark.
- Modelos já são usados por empresas como Scale AI, EY, Atlassian, CrowdStrike e Perplexity.
- Super VL está disponível no Hugging Face, OpenRouter, ModelScope e NVIDIA NIM, com pesos e receitas abertos.
Nesta matéria
O que a NVIDIA anunciou na família Nemotron?#
A NVIDIA apresentou três novos modelos abertos da família Nemotron, voltados para fluxos de trabalho empresariais, agentes locais e aplicações conversacionais. Os lançamentos incluem o Nemotron 3.5 Super VL, com 120 bilhões de parâmetros, e dois modelos menores da série Nemotron 3.5 Bolt.
Os modelos Bolt são o 74B-A9B 24GB e o E4B 4GB, projetados para cargas locais em sistemas desktop e dispositivos de borda. Super VL e Bolt 74B-A9B já estão disponíveis, enquanto o Bolt E4B tem lançamento previsto para 23 de outubro.
A notícia é relevante agora porque a demanda por IA executada localmente e em infraestrutura própria cresce, e a NVIDIA amplia as opções para quem deseja personalizar modelos com dados próprios sem depender exclusivamente da nuvem.
O que o Nemotron 3.5 Super VL oferece?#
O Super VL é um modelo de 120 bilhões de parâmetros que, segundo a NVIDIA, alcança acurácia comparável ao seu maior modelo de raciocínio com cerca de um quinto dos parâmetros. A empresa afirma que ele entrega até 5 vezes o throughput do próximo melhor modelo de sua classe.
Ele suporta tarefas como seguimento de instruções, uso de ferramentas, fluxos de negócios de múltiplas etapas e compreensão visual. Pode processar páginas web, PDFs, tabelas e gráficos, extraindo informações para agentes de IA.
O modelo foi desenvolvido com a Nemotron Coalition e treinado com aproximadamente 26 trilhões de tokens, incluindo pré-treinamento e pré-treinamento continuado. Depois, passou por pós-treinamento com cerca de 3,8 milhões de amostras e aprendizado por reforço em dezenas de ambientes.
Como os modelos Bolt se posicionam para IA local?#
O Nemotron 3.5 Bolt 74B-A9B 24GB foi projetado para tarefas cotidianas de agentes de IA em sistemas NVIDIA RTX e DGX Spark. Ele usa quantização de 2 bits para caber em 24 GB de memória e rodar ao lado de outras aplicações.
Segundo a NVIDIA, o modelo fica em primeiro lugar entre modelos abertos de sua classe no PinchBench e em segundo no BrowseComp. Pode ser usado para pesquisa na web, escrita e depuração de código sem enviar cargas para a nuvem.
Já o Bolt E4B 4GB é voltado para agentes conversacionais e físicos, com design para sistemas GeForce RTX, Jetson e RTX/DGX Spark. Ele suporta assistentes de voz locais, personagens interativos e interfaces embarcadas.
Quem já está usando e personalizando os modelos?#
A NVIDIA informou que a Scale AI pós-treinou o modelo para o agente de crédito financeiro da Skydance e para o agente de due diligence de fusões e aquisições da EY. Outras aplicações incluem análise de contratos de crédito para a Hebbia, segurança cibernética com AI21 e Alice, e codificação com a Mercor.
A Ramp está customizando o modelo para inteligência de documentos financeiros, enquanto a Lila Sciences o usa para descoberta científica e busca. Empresas de software também integram o Super VL: a Atlassian explora busca agêntica no Jira e Confluence, a CrowdStrike customiza para operações de segurança empresarial e a Perplexity integra o modelo para busca e tarefas de agentes.
Esses exemplos mostram como os modelos abertos podem ser adaptados a domínios específicos, mantendo controle sobre dados e infraestrutura.
Como desenvolvedores podem acessar e customizar?#
O Super VL está disponível no Hugging Face, OpenRouter, na comunidade ModelScope e no NVIDIA NIM. O Bolt 74B-A9B também está no Hugging Face, com suporte a llama.cpp, Ollama, LM Studio, Unsloth e vLLM.
A NVIDIA afirma que as organizações podem implantar o Super VL de acordo com requisitos de segurança e residência de dados. O modelo inclui pesos abertos, conjuntos de dados e receitas de treinamento.
Desenvolvedores podem customizar por meio do NVIDIA NeMo e pipelines baseados em Python, o que facilita a adaptação a fluxos específicos.
O que isso muda para quem usa IA?#
A expansão da família Nemotron amplia o leque de modelos abertos que podem ser executados localmente ou em infraestrutura própria, algo relevante para empresas que lidam com dados sensíveis e querem evitar dependência total da nuvem. A Invision, API multimodelo da Dream Vision, oferece acesso a diversos modelos por uma única chave, o que pode simplificar a experimentação e a integração de diferentes opções, incluindo modelos abertos, sem a necessidade de gerenciar múltiplos provedores.
Para quem desenvolve, a possibilidade de customizar com dados próprios e manter controle sobre a aplicação é um diferencial. A disponibilidade de pesos, datasets e receitas de treinamento reduz a barreira para ajustes finos e implantação em ambientes controlados.
Perguntas frequentes
O que é o Nemotron 3.5 Super VL?
É um modelo aberto de 120 bilhões de parâmetros da NVIDIA, voltado para fluxos empresariais, agentes de IA e compreensão visual, com suporte a instruções, uso de ferramentas e processamento de documentos.
Quais são os modelos da série Nemotron 3.5 Bolt?
São o Bolt 74B-A9B 24GB, para tarefas de agentes em sistemas RTX e DGX Spark, e o Bolt E4B 4GB, para agentes conversacionais e físicos em GeForce RTX, Jetson e RTX/DGX Spark.
Quando o Nemotron 3.5 Bolt E4B estará disponível?
A NVIDIA informou que o lançamento do Bolt E4B está previsto para 23 de outubro. Os demais modelos já estão disponíveis.
Como acessar os modelos Nemotron 3.5?
O Super VL está disponível no Hugging Face, OpenRouter, ModelScope e NVIDIA NIM. O Bolt 74B-A9B está no Hugging Face com suporte a ferramentas como llama.cpp, Ollama, LM Studio, Unsloth e vLLM.
É possível customizar os modelos com dados próprios?
Sim, a NVIDIA afirma que o Super VL inclui pesos abertos, datasets e receitas de treinamento, e pode ser customizado com NVIDIA NeMo e pipelines Python.
Fonte original: NVIDIA Expands Nemotron AI Models for Data Centres and Desktop Devices (Analytics India). Matéria escrita pela redação da Invision a partir dessa notícia. Versão em texto.