Computación de alto rendimiento, formación e inferencia de IA/aprendizaje profundo, grandes modelos lingüísticos (LLM) e IA generativa,
Características principales
Interconexión NVLink® Chip-2-Chip (C2C) de gran ancho de banda y baja latencia entre la CPU y la GPU a 900 GB/s;
Hasta 576 GB de memoria coherente por nodo, incluidos 480 GB de LPDDR5X y 96 GB de HBM3 para aplicaciones LLM;
2 ranuras PCIe 5.0 x16 compatibles con NVIDIA BlueField®-3 o ConnectX®-7;
7 ventiladores de alta resistencia intercambiables en caliente con control óptimo de la velocidad del ventilador;
Este sistema sólo admite dos unidades E1.S directamente desde el procesador.;
Factor de forma
Caja: 440 x 44 x 940 mm (17,33" x 1,75" x 37")
Paquete: 1219 x 241 x 711mm (48" x 9.5" x 28")
Número máximo de GPU: Hasta 1 GPU integrada
GPU compatibles: NVIDIA: GPU H100 Tensor Core en superchip GH200 Grace Hopper™ (refrigeración líquida)
Interconexión CPU-GPU: NVLink®-C2C
Número de ranuras de memoria del sistema: Memoria integrada
Memoria máxima: Hasta 480 GB ECC LPDDR5X
Memoria GPU adicional: Hasta 96 GB ECC HBM3
Configuración de bahías por defecto: 8 bahías en total
8 bahías de unidad NVMe E1.S frontales intercambiables en caliente
M.2: 2 ranuras M.2 NVMe (llave M)
Ranuras de expansión Por defecto
2 ranuras PCIe 5.0 x16 FHFL
Dispositivos integrados System on Chip
Entrada / Salida LAN: 1 RJ45 1 GbE Puerto(s) LAN BMC dedicado(s)
Vídeo: 1 puerto(s) mini-DP
Ventiladores de refrigeración del sistema: 9 ventiladores extraíbles de 4 cm de alta resistencia
Refrigeración líquida: Placa fría directa al chip (D2C) (opcional)
Fuente de alimentación: 2 fuentes de alimentación redundantes de nivel Titanium (96%) de 2000 W
BIOS del sistema Tipo de BIOS: AMI 64MB SPI Flash EEPROM
Monitorización del estado del PC CPU: Monitores para núcleos de CPU, voltajes de chipset, memoria
VENTILADORES Ventiladores con monitorización de tacómetro
Monitor de estado para control de velocidad
Conectores de ventilador de ancho de pulso modulado (PWM)
Temperatura: Monitorización de la CPU y del entorno del chasis
---