2026-10-16
Nemotron 3.5 Super VL: 120B multimodal en una GPU
El nuevo modelo abierto de NVIDIA lee texto, imágenes y vídeo con 12 mil millones de parámetros activos. Este es el hardware que realmente necesita, desde una H200 hasta una RTX PRO 6000.
Nemotron 3.5 Super VL es el modelo de visión y lenguaje que NVIDIA publicó el 15 de octubre de 2026 para agentes de programación, investigación documental y comprensión de imágenes y vídeo. Se incorpora al catálogo de SophyAI con tres perfiles de referencia.
Arquitectura
Es un Mixture of Experts híbrido de Mamba-2 y Transformer. Tiene 120 mil millones de parámetros y activa 12 mil millones por token. Cada capa MoE contiene 512 expertos. Un encoder visual C-RADIO y un conector llevan imágenes, páginas y fotogramas al modelo de lenguaje. La salida es solo texto.
| Característica | Valor |
|---|---|
| Parámetros totales / activos | 120B / 12B |
| Entrada | texto, imágenes, vídeo |
| Salida | texto |
| Contexto nativo | hasta 1.048.576 tokens |
| Decodificación especulativa | Multi-Token Prediction nativo |
| Licencia | OpenMDW-1.1 |
El razonamiento es configurable: desactivado, medio o activado. Para texto, NVIDIA recomienda temperatura 1,0 y top_p 0,95; para visión, temperatura 0,6 y el mismo top_p. Los vídeos publicados llegan hasta 2 minutos. La receta vLLM muestrea hasta 256 fotogramas a 2 FPS para 720p, y 1 FPS con 128 fotogramas para 1080p.
Dos checkpoints, dos tamaños
El checkpoint NVFP4 ocupa 75 GB en Hugging Face. Visión, conector, convoluciones Mamba y embeddings permanecen en BF16; el router permanece en FP32. NVIDIA indica inferencia W4A4 en Blackwell y W4A16 en Hopper.
El checkpoint BF16 ocupa 249 GB y es la referencia para personalización y evaluación a precisión completa. Su despliegue publicado usa 4× H100 o 2× GB200.
Hardware para inferencia NVFP4
NVIDIA publica estas configuraciones de vLLM, todas con contexto de hasta 1M:
| Hardware | Modalidades | MTP |
|---|---|---|
| 1× H200 | texto, imágenes, vídeo | 3 tokens |
| 2× H100 | texto, imágenes, vídeo | 3 tokens |
| 1× GB200 | texto, imágenes, vídeo | 5 tokens |
| 1× DGX Spark | texto e imágenes | 5 tokens |
SGLang cubre texto e imágenes en 1× GB200 o 2× H100. TensorRT-LLM está documentado en 1× GB200 para 1M tokens. En DGX Spark, su receta baja a 131.072 tokens.
Para estaciones de trabajo, NVIDIA señala llama.cpp y Unsloth en DGX Spark, RTX Spark y RTX PRO 6000. El GGUF NVFP4 de Unsloth pesa 77,7 GB en tres shards, más 1,7 GB de proyector visual. Cabe en 96 GB de VRAM, pero deja poco margen: no hay que prometer el contexto de 1M en esta GPU hasta medirlo. NVIDIA no publica tokens/s para ninguna de estas configuraciones.
Perfiles de SophyAI
Tres recetas son visibles, pero todavía no ejecutables:
- vLLM NVFP4 en 1× H200, 1M, texto, imágenes y vídeo.
- vLLM NVFP4 en 2× H100, con la misma cobertura.
- llama.cpp NVFP4 en 1× RTX PRO 6000, con un límite prudente de 131.072 tokens.
Están marcadas como reference: no publicamos precios ni benchmarks de SophyAI. El repositorio no está restringido.
Para un despliegue hoy elegiría una H200 cuando basta una sola GPU de centro de datos. La pareja H100 es la alternativa Hopper oficial. RTX PRO 6000 es la vía de estación de trabajo y su contexto debe medirse primero. BF16 queda reservado a personalización y evaluación.