NVIDIA presenta Grace Hopper Superchip para cargas de trabajo centradas en IA

NVIDIA presenta Grace Hopper Superchip para cargas de trabajo centradas en IA

Si bien NVIDIA no ofreció ninguna novedad para los jugadores en su keynote de la Computex 2023, su presentación estuvo repleta de productos centrados en IA. Entre ellos, el Grace Hopper Superchip, una combinación de CPU Grace y GPU Hopper. Impulsará el superordenador DGX GH2000 de NVIDIA y una amplia gama de otros servicios.

El CPU Grace incluye 72 núcleos de ARM Neoverse V2, hasta 480 GB de RAM LPDDR5X (512 GB/s de ancho de banda de memoria) y 117 MB de caché L3. La GPU Hopper que la acompaña puede configurarse con hasta 96 GB de memoria HBM3 (hasta 4 TB/s de ancho de banda de memoria). NVIDIA afirma que ofrece hasta 67 TFLOPS de rendimiento FP32. Del mismo modo, sus núcleos Tensor incluidos pueden ofrecer 67 TFLOPS de FP64.

NVIDIA presenta Grace Hopper Superchip para cargas de trabajo centradas en IA

Combinados, los Grace Hopper Superchip pueden consumir hasta 1.000W dependiendo de la configuración. El CPU y la GPU se conectan a través de un módulo Nvlink que funciona a 900 GB/s, 5 veces más rápido que PCIe-Gen 5.

La cohesión de la memoria permite que los hilos del CPU y la GPU accedan a la memoria de los demás, lo que permite a su nuevo motor Transformer Engine entrenar modelos de IA 30 veces más rápido que las actuales GPUs. En comparación con las soluciones basadas en x86, el Grace Hopper Superchip es entre 2,75 y 3,9 veces más rápido.

NVIDIA presenta Grace Hopper Superchip para cargas de trabajo centradas en IA

Los dispositivos con el Grace Hopper Superchip ya circulan por numerosas regiones, incluidos Estados Unidos y Europa. Si los últimos rumores son ciertos, podríamos incluso ver una versión recortada del mismo junto a la futura consola Nintendo Switch 2.

Vía: NotebookCheck

Sobre el autor