Modelos· atualizado em · 4 min de leitura· Redação Invision

NVIDIA amplia família Nemotron com modelos abertos para data centers e desktops

NVIDIA anuncia Nemotron 3.5 Super VL e Bolt para cargas locais e empresariais. Modelos abertos prometem mais eficiência e personalização.

Servidores de data center em racks iluminados
Imagem ilustrativa: Lapalmauz · CC BY-SA 4.0 · origem

Resumo: A NVIDIA expandiu sua família de modelos abertos Nemotron com três novos integrantes: o Super VL, de 120 bilhões de parâmetros, e dois modelos da série Bolt voltados para cargas locais em desktops e dispositivos de borda. A novidade importa porque reforça a tendência de modelos abertos customizáveis, que podem ser executados na infraestrutura do próprio cliente, com controle sobre dados e aplicações.

Pontos-chave

  • NVIDIA lança Nemotron 3.5 Super VL de 120 bilhões de parâmetros e dois modelos Bolt para cargas locais.
  • Super VL promete 5x o throughput do próximo melhor modelo de sua classe, segundo a NVIDIA.
  • Bolt 74B-A9B usa quantização de 2 bits para caber em 24 GB de memória e rodar em RTX e DGX Spark.
  • Modelos já são usados por empresas como Scale AI, EY, Atlassian, CrowdStrike e Perplexity.
  • Super VL está disponível no Hugging Face, OpenRouter, ModelScope e NVIDIA NIM, com pesos e receitas abertos.
Nesta matéria

O que a NVIDIA anunciou na família Nemotron?#

A NVIDIA apresentou três novos modelos abertos da família Nemotron, voltados para fluxos de trabalho empresariais, agentes locais e aplicações conversacionais. Os lançamentos incluem o Nemotron 3.5 Super VL, com 120 bilhões de parâmetros, e dois modelos menores da série Nemotron 3.5 Bolt.

Os modelos Bolt são o 74B-A9B 24GB e o E4B 4GB, projetados para cargas locais em sistemas desktop e dispositivos de borda. Super VL e Bolt 74B-A9B já estão disponíveis, enquanto o Bolt E4B tem lançamento previsto para 23 de outubro.

A notícia é relevante agora porque a demanda por IA executada localmente e em infraestrutura própria cresce, e a NVIDIA amplia as opções para quem deseja personalizar modelos com dados próprios sem depender exclusivamente da nuvem.

O que o Nemotron 3.5 Super VL oferece?#

O Super VL é um modelo de 120 bilhões de parâmetros que, segundo a NVIDIA, alcança acurácia comparável ao seu maior modelo de raciocínio com cerca de um quinto dos parâmetros. A empresa afirma que ele entrega até 5 vezes o throughput do próximo melhor modelo de sua classe.

Ele suporta tarefas como seguimento de instruções, uso de ferramentas, fluxos de negócios de múltiplas etapas e compreensão visual. Pode processar páginas web, PDFs, tabelas e gráficos, extraindo informações para agentes de IA.

O modelo foi desenvolvido com a Nemotron Coalition e treinado com aproximadamente 26 trilhões de tokens, incluindo pré-treinamento e pré-treinamento continuado. Depois, passou por pós-treinamento com cerca de 3,8 milhões de amostras e aprendizado por reforço em dezenas de ambientes.

Como os modelos Bolt se posicionam para IA local?#

O Nemotron 3.5 Bolt 74B-A9B 24GB foi projetado para tarefas cotidianas de agentes de IA em sistemas NVIDIA RTX e DGX Spark. Ele usa quantização de 2 bits para caber em 24 GB de memória e rodar ao lado de outras aplicações.

Segundo a NVIDIA, o modelo fica em primeiro lugar entre modelos abertos de sua classe no PinchBench e em segundo no BrowseComp. Pode ser usado para pesquisa na web, escrita e depuração de código sem enviar cargas para a nuvem.

Já o Bolt E4B 4GB é voltado para agentes conversacionais e físicos, com design para sistemas GeForce RTX, Jetson e RTX/DGX Spark. Ele suporta assistentes de voz locais, personagens interativos e interfaces embarcadas.

Quem já está usando e personalizando os modelos?#

A NVIDIA informou que a Scale AI pós-treinou o modelo para o agente de crédito financeiro da Skydance e para o agente de due diligence de fusões e aquisições da EY. Outras aplicações incluem análise de contratos de crédito para a Hebbia, segurança cibernética com AI21 e Alice, e codificação com a Mercor.

A Ramp está customizando o modelo para inteligência de documentos financeiros, enquanto a Lila Sciences o usa para descoberta científica e busca. Empresas de software também integram o Super VL: a Atlassian explora busca agêntica no Jira e Confluence, a CrowdStrike customiza para operações de segurança empresarial e a Perplexity integra o modelo para busca e tarefas de agentes.

Esses exemplos mostram como os modelos abertos podem ser adaptados a domínios específicos, mantendo controle sobre dados e infraestrutura.

Como desenvolvedores podem acessar e customizar?#

O Super VL está disponível no Hugging Face, OpenRouter, na comunidade ModelScope e no NVIDIA NIM. O Bolt 74B-A9B também está no Hugging Face, com suporte a llama.cpp, Ollama, LM Studio, Unsloth e vLLM.

A NVIDIA afirma que as organizações podem implantar o Super VL de acordo com requisitos de segurança e residência de dados. O modelo inclui pesos abertos, conjuntos de dados e receitas de treinamento.

Desenvolvedores podem customizar por meio do NVIDIA NeMo e pipelines baseados em Python, o que facilita a adaptação a fluxos específicos.

O que isso muda para quem usa IA?#

A expansão da família Nemotron amplia o leque de modelos abertos que podem ser executados localmente ou em infraestrutura própria, algo relevante para empresas que lidam com dados sensíveis e querem evitar dependência total da nuvem. A Invision, API multimodelo da Dream Vision, oferece acesso a diversos modelos por uma única chave, o que pode simplificar a experimentação e a integração de diferentes opções, incluindo modelos abertos, sem a necessidade de gerenciar múltiplos provedores.

Para quem desenvolve, a possibilidade de customizar com dados próprios e manter controle sobre a aplicação é um diferencial. A disponibilidade de pesos, datasets e receitas de treinamento reduz a barreira para ajustes finos e implantação em ambientes controlados.

Perguntas frequentes

O que é o Nemotron 3.5 Super VL?

É um modelo aberto de 120 bilhões de parâmetros da NVIDIA, voltado para fluxos empresariais, agentes de IA e compreensão visual, com suporte a instruções, uso de ferramentas e processamento de documentos.

Quais são os modelos da série Nemotron 3.5 Bolt?

São o Bolt 74B-A9B 24GB, para tarefas de agentes em sistemas RTX e DGX Spark, e o Bolt E4B 4GB, para agentes conversacionais e físicos em GeForce RTX, Jetson e RTX/DGX Spark.

Quando o Nemotron 3.5 Bolt E4B estará disponível?

A NVIDIA informou que o lançamento do Bolt E4B está previsto para 23 de outubro. Os demais modelos já estão disponíveis.

Como acessar os modelos Nemotron 3.5?

O Super VL está disponível no Hugging Face, OpenRouter, ModelScope e NVIDIA NIM. O Bolt 74B-A9B está no Hugging Face com suporte a ferramentas como llama.cpp, Ollama, LM Studio, Unsloth e vLLM.

É possível customizar os modelos com dados próprios?

Sim, a NVIDIA afirma que o Super VL inclui pesos abertos, datasets e receitas de treinamento, e pode ser customizado com NVIDIA NeMo e pipelines Python.

nvidianemotronmodelos abertosia localdata centers

Fonte original: NVIDIA Expands Nemotron AI Models for Data Centres and Desktop Devices (Analytics India). Matéria escrita pela redação da Invision a partir dessa notícia. Versão em texto.