Sabíamos NVIDIAEl nuevo procesador GH200 Grace Hopper fue rápido, pero los primeros resultados de las pruebas comparativas revelan exactamente qué tan rápido es. GPTshop.ai, que ha construido una computadora de escritorio increíblemente poderosa basada en el procesador Grace Hopper, proporcionó a Phoronix acceso al chip para poder compararlo.
El GH200 de NVIDIA es una poderosa combinación de la CPU Grace de 72 núcleos y la GPU H100 Tensor Core. Admite hasta 480 GB de memoria LPDDR5 y 96 GB de memoria HBM3 o 144 GB de memoria HBM3e. La CPU Grace está construida sobre Brazo Núcleos Neoverse-V2, cada uno con 1 MB de caché L2 y un total de 117 MB de caché L3.
La NVIDIA GH200 ejecuta distribuciones estándar de Linux AArch64. Para fines de prueba, Phoronix utilizó Ubuntu 23.10 con Linux 6.5, lo que proporciona una visión de vanguardia del rendimiento de NVIDIA GH200 Linux frente a otros. Intel xeon escalable, AMD Procesadores EPYC y Ampere Altra Max.
rendimiento de la CPU
El sistema GPTshop.ai GH200 fue probado con 72 núcleos, una placa base Quanta S74G, 480 GB de RAM y 960 GB + 1920 GB. SAMSUNG Unidades SSD. Todos los procesadores de servidor probados funcionaban con sus frecuencias de memoria máximas y con el número máximo de canales de memoria admitidos.
Los puntos de referencia iniciales se centraron en el rendimiento de la CPU, y le seguirán los puntos de referencia de la GPU. Desafortunadamente, todavía no hay cifras de consumo de energía, ya que NVIDIA GH200 actualmente no expone ninguna interfaz en Linux para leer el uso de energía/potencia de GH200. Sin embargo, las cifras iniciales brutas de rendimiento de la CPU son prometedoras y muestran a la NVIDIA GH200 como una bestia en el campo de los procesadores.
Puede ver todos los resultados de las pruebas en el sitio de Phoronix. aquí, pero se puede ver una media de todos los resultados en el siguiente cuadro. Aunque el EPYC 9754 salió victorioso de alguna manera, el procesador GH200 quedó primero en algunas de las pruebas.
Resumiendo, Phoronix dice: “En términos geográficos en todos los puntos de referencia realizados, el rendimiento de la CPU GH200 Grace casi igualó al procesador Intel Xeon Platinum 8592+ Emerald Rapids. La CPU Grace basada en Arm Neoverse-V2 tendía a ser mucho más rápida que el servidor Ampere Altra Max AArch64 de 128 núcleos. Será interesante ver cómo AmpereOne puede competir, aunque todavía no hay hardware disponible para probar. (Desafortunadamente, tampoco hay hardware AMD MI300A para probar en este momento). El rendimiento de la CPU NVIDIA ARM ciertamente ha recorrido un largo camino desde la evaluación comparativa de los primeros días de NVIDIA Tegra para el rendimiento de ARM”.
Más números de referencia de CPU están disponibles a través de este archivo de resultados. También hay otros puntos de referencia. aquí de algunas de las pruebas preliminares.