Nvidia Corp. ha presentato un processore AI migliorato che aumenta la capacità e le prestazioni del chip, con l’obiettivo di consolidare la supremazia dell’azienda in un settore in crescita. NVIDIA GH200 Grace Hopper sarà disponibile nel secondo trimestre del 2024.
Nvidia ha dichiarato martedì alla conferenza Siggraph di Los Angeles che il Grace Hopper Superchip, un chip grafico ibrido e CPU, beneficerà di una nuova forma di memoria. Il dispositivo si basa sulla memoria 3 ad alta larghezza di banda, o HBM3e, che può accedere ai dati a una velocità di 5 gigabyte al secondo.
L’ultimo annuncio di Nvidia segue l’annunciato GH200 con HBM3, che è attualmente in produzione e sarà disponibile entro la fine dell’anno. Ciò implica che NVIDIA produrrà due versioni dello stesso dispositivo, la prima utilizzando HBM3 e la seconda incorporando HBM3e. Nvidia afferma inoltre che la prossima generazione di GH200 sarà in grado di eseguire modelli AI 3,5 volte più velocemente rispetto al modello attuale grazie alla memoria HBM3e.
Nvidia GH200 Grace Hopper: costruita su una CPU Grace a 72 core
Il nuovo Superchip Grace Hopper GH200 si basa su una CPU Grace a 72 core con 480 GB di memoria ECC LPDDR5X e una GPU computazionale GH100 con 141 GB di memoria HBM3E in sei stack da 24 GB e un’interfaccia di memoria con una larghezza di 6.144 bit. NVIDIA installa fisicamente 144 GB di memoria, tuttavia, solo 141 GB sono accessibili per maggiori rendimenti.
L’attuale Superchip Grace Hopper GH200 di NVIDIA dispone di 96 GB di memoria HBM3 con una larghezza di banda inferiore a 4 TB/s. In confronto, il nuovo modello aumenta la capacità di memoria di circa la metà e la larghezza di banda di oltre un quarto. Tali importanti miglioramenti consentono alla nuova piattaforma di eseguire modelli di intelligenza artificiale più grandi rispetto alla precedente iterazione, con conseguenti notevoli aumenti delle prestazioni.
Microsoft e NVIDIA firmano un accordo per portare Pass di gioco per Nvidia GeForce Now
Nvidia afferma che ciò è dovuto alle diverse configurazioni dello stesso componente, simili alle versioni da 40 GB e 80 GB dell’A100 di alcuni anni fa. In verità, il carico di RAM è la principale distinzione qui, almeno per il momento. Invece dei 96 GB di vRAM HBM3 e 480 GB di DRAM LPDDR5x trovati nel GH200 di generazione attuale, il GH200 di “nuova generazione” ha 141 GB di HBM3e e 500 GB di LPDDR5x da 400 GB/sec più lento. Nella precedente iterazione è stata utilizzata DRAM LPDDR5x da 512 GB/sec.
Nvidia ha lavorato su Grace Hopper Superchips per un po’ di tempo
Almeno dal 2021, quando l’azienda ha rivelato i piani preliminari, i Grace Hopper Superchip sono stati un tema caldo per il CEO di Nvidia.
Il Superchip è costruito sull’architettura Arm, che è ampiamente utilizzata nei dispositivi mobili e compete con la tecnologia basata su x86 di Intel e AMD. Viene definito “superchip” da Nvidia poiché combina la CPU Nvidia Grace basata su Arm con l’architettura della GPU Hopper.
Il Grace Hopper Superchip riceve una spinta dalla memoria più veloce del mondo, HBM3e, nell’ultima iterazione del Nvidia GH200 Grace Hopper. Secondo Nvidia, la memoria HBM3e è fino al 50% più veloce della tecnologia HBM3 inclusa nell’attuale iterazione del GH200.
Nvidia Computex 2023 porta il futuro del gioco
“Siamo molto entusiasti di questo nuovo GH200. Conterrà 141 gigabyte di memoria HBM3e. HBM3e non solo aumenta la capacità e la quantità di memoria collegata alle nostre GPU, ma è anche molto più veloce”, ha affermato Ian Buck, vicepresidente e direttore generale di hyperscale e HPC di Nvidia, durante un incontro con la stampa e gli analisti, secondo Battuta d’avventura.
Nvidia non sta solo sviluppando hardware più veloce, ma anche ridimensionandolo in un nuovo design del server.
Buck ha dichiarato che Nvidia sta lavorando a un nuovo sistema server Nvidia MGX basato su dual-GH200 che avrebbe due Grace Hopper Superchip della prossima generazione. Ha continuato dicendo che il nuovo GH200 sarà collegato utilizzando NVLink, la tecnologia di interconnessione di Nvidia.
Sia le CPU che le GPU nel nuovo server dual-GH200 saranno accoppiate con una connessione di memoria completamente coerente grazie a NVLink.
Data di rilascio di Nvidia GH200 Grace Hopper
Secondo NVIDIA, la piattaforma GH200 Grace Hopper con HBM3 è ora in produzione e sarà disponibile in commercio il prossimo mese. Al contrario, la piattaforma GH200 Grace Hopper con HBM3e è ora in fase di campionamento e dovrebbe essere pronta nel secondo trimestre del 2024.
Il nuovo GH200 Grace Hopper, secondo NVIDIA, impiega la stessa tecnologia Grace CPU e GH100 GPU dell’iterazione precedente, pertanto non sono necessarie ulteriori modifiche o stepping.
Credito immagine in primo piano: NVIDIA
Source: Ecco il nuovo Nvidia GH200 Grace Hopper