NVIDIA DGX Vera Rubin NVL72
La base para el entrenamiento y la inferencia de IA a gran escala.
Descripción General
Escalabilidad de la Inteligencia en la Era de la IA Basada en Agentes
Con la convergencia de las leyes de preentrenamiento, posentrenamiento y escalabilidad del tiempo de inferencia, los data centers modernos se enfrentan a cuellos de botella de desempeño y eficiencia cuando intentan admitir modelos que requieren cadenas de pensamiento complejas y de varios pasos.
NVIDIA DGX™ Vera Rubin NVL72, diseñada específicamente para enfrentar estos desafíos, es una solución de infraestructura de IA lista para usar que ofrece un desempeño de vanguardia al tiempo que mejora significativamente la eficiencia energética. DGX Vera Rubin NVL72 ofrece un desempeño líder en la industria por vatio y tokens por vatio para cualquier carga de trabajo de IA, lo que permite a las empresas escalar la inteligencia de forma significativa, al tiempo que mejora la economía de los tokens.
Funciones
Entrenamiento e Inferencia Acelerados para Cualquier Modelo de IA
Máxima Eficiencia con los Superchips NVIDIA Vera Rubin
DGX Vera Rubin NVL72 combina la CPU NVIDIA Vera de alta eficiencia energética con las GPU NVIDIA Rubin para ofrecer un desempeño por vatio líder en la industria. Esto permite a las empresas escalar el entrenamiento y la inferencia en contexto a largo plazo dentro de su huella energética existente, lo que convierte el data center en un motor de eficiencia energética para la innovación en IA.
El Motor Universal para la IA a Gran Escala
NVIDIA DGX SuperPOD™ con los sistemas DGX Vera Rubin NVL72 elimina las conjeturas al implementar una infraestructura de IA a gran escala. Con una arquitectura de rack simple y fácil de implementar, está diseñado para aprovechar los últimos avances en ingeniería de data center.
Aceleración de Operaciones con Software Inteligente
NVIDIA Mission Control™ acelera todos los aspectos de las operaciones, desde la configuración de DGX Vera Rubin NVL72 hasta la integración con las instalaciones y la administración de clústeres y cargas de trabajo. Al contar con un software inteligente e integrado, las empresas obtienen control sobre los eventos de refrigeración y alimentación para redefinir la resiliencia de la infraestructura.
El Estándar Comprobado para la IA Empresarial
La plataforma NVIDIA DGX, que se diseñó desde cero para la IA empresarial, con NVIDIA DGX SuperPOD, combina lo mejor del software, la infraestructura y la experiencia de NVIDIA en una solución de desarrollo de IA moderna y unificada.
Especificaciones
Especificaciones de NVIDIA DGX Vera Rubin NVL72
| GPU | 72 GPU NVIDIA Rubin, 36 CPU NVIDIA Vera |
| Memoria de GPU total | Ancho de Banda | 20,7 TB | Hasta 1,580 TB/s |
| Memoria Rápida Total | 75 TB |
| Desempeño | NVFP4 Inference: 3,600 PFLOPS NVFP4 Training: 2,520 PFLOPS FP8/FP6 Training: 1,260 PFLOPS |
| Redes | > 144 OSFP de un solo puerto NVIDIA® ConnectX®-9 VPI con 800 Gb/s NVIDIA InfiniBand y Ethernet > 18 NVIDIA BlueField®-4 VPI de doble puerto con 400 Gb/s NVIDIA InfiniBand y Ethernet |
| Sistema de Conmutadores NVIDIA NVLink™ | 9 Conmutadores L1 NVLink de NVIDIA |
| Red de Administración | Controlador de administración de placa base (BMC) de host con RJ45 |
| Software | NVIDIA Mission Control, NVIDIA AI Enterprise, NVIDIA DGX OS |
| Soporte Empresarial | Tres años de soporte estándar empresarial para hardware y software |
Specifications subject to change
Ofertas
Llevando la Supercomputación a Todas las Empresas
Empiece Ahora
Más Información Sobre NVIDIA DGX Vera Rubin NVL72
Hable con un experto de NVIDIA sobre NVIDIA DGX Vera Rubin NVL72.
Descubra los Beneficios de la Plataforma NVIDIA DGX
Descubra por qué NVIDIA DGX es el estándar comprobado en el que se basa la IA empresarial.
Explore el Ecosistema de NVIDIA DGX
Libere todo el potencial de la IA con opciones de implementación flexibles, desde soluciones en las instalaciones hasta soluciones alojadas.