Computación de alto rendimiento, formación e inferencia de IA/aprendizaje profundo, grandes modelos lingüísticos (LLM) e IA generativa,
Características principales
NVIDIA Grace™ Hopper Superchip (CPU Grace y GPU H100);
Interconexión NVLink® Chip-2-Chip (C2C) de gran ancho de banda y baja latencia entre CPU y GPU a 900GB/s;
Hasta 624 GB de memoria coherente por nodo, incluidos 480 GB de LPDDR5X y 144 GB de HBM3e para aplicaciones LLM;
3x PCIe 5.0 X16 compatibles con una tarjeta NVIDIA Bluefield 3 y dos tarjetas connectX-7 y 1x ranura PCIe 5.0 x8 por nodo compatible con una tarjeta NIC LP de 10 GB;
6 ventiladores Hot Swap Heavy Duty con control de velocidad opcional;
Factor de forma
Caja: 438,4 x 87 x 900 mm (17,3" x 3,43" x 35,43")
Caja: 700 x 280 x 1200 mm (27,56" x 11,02" x 47,24")
GPU compatible: NVIDIA: GPU H100 Tensor Core en superchip GH200 Grace Hopper™ (refrigeración por aire)
Interconexión CPU-GPU: NVLink®-C2C
Interconexión GPU-GPU: NVIDIA® NVLink
Número de ranuras de memoria del sistema: Memoria integrada
Memoria GPU adicional: Hasta 144 GB ECC HBM3
Configuración de bahías por defecto: Total 3 bahías
3 bahías frontales para unidades NVMe E1.S intercambiables en caliente
M.2: 2 ranuras M.2 NVMe (llave M)
Ranuras de expansión Por defecto
3 ranuras PCIe 5.0 x16 (en x16) FHFL
Dispositivos de a bordo System on Chip
Entrada / Salida LAN: 1 RJ45 1 GbE Puerto(s) LAN BMC dedicado(s)
Vídeo: 1 puerto(s) mini-DP
Ventiladores del sistema: 6 ventiladores extraíbles de 6 cm de alta resistencia
Fuente de alimentación 4 fuentes de alimentación redundantes (2 + 2) de 2000 W de nivel Titanium (96%)
BIOS del sistema Tipo de BIOS: AMI 64MB SPI Flash EEPROM
Monitorización del estado del PC CPU: Monitores para núcleos de CPU, voltajes de chipset, memoria
VENTILADORES Ventiladores con monitorización de tacómetro
Monitor de estado para control de velocidad
Conectores de ventilador de ancho de pulso modulado (PWM)
Temperatura: Monitorización de la CPU y del entorno del chasis
---