NVIDIA GH200 superchip è ufficiale, il più potente mai visto per l’AI generativa

In occasione del SIGGRAPH 2023 NVIDIA ha svelato la nuova piattaforma di computing GH200 Grace Hopper, un vero e proprio mostro di potenza che surclassa l’attuale generazione e conferma, qualora ce ne fosse ancora bisogno, la leadership del produttore nel settore dell’HPC e dell’AI generativa. Basata sulla nuova variante del superchip Grace Hopper, questo è anche il primo sistema ad utilizzare memorie di tipo HBM3e, utilissime per incrementare la larghezza di banda del sistema e gestire così carichi di lavoro molto complessi come possono essere appunto quelli legati all’ambito dell’Intelligenza Artificiale generativa.

NVIDIA GH200 Grace Hopper non teme alcun workload, arriverà nel 2024

Nata sulla scia del suo predecessore GH100, con il quale condivide la stessa GPU NVIDIA H100, anche NVIDIA GH200 sarà disponibile in diverse configurazioni; stando ai dati forniti dall’azienda, la “Dual-Configuration”offrirà 3,5 volte la capacità di memoria e una larghezza di banda tre volte superiore alla precedente generazione. Come anticipato, questo risultato è stato ottenuto anche grazie alle più recenti memorie HBM3e, sino al 50% più veloci delle HBM3 e capaci di una banda totale combinata nell’ordine dei 10 TB/s.

Tutta questa potenza bruta è contenuta in un singolo server che integra, oltre alla GPU, 144 core Arm Neoverse e 282 GB di memoria HBM3e, il tutto per una potenza di calcolo pari a 8 petaFLOPS sui carichi AI. Il Superchip Grace Hopper può essere connesso ad altre unità grazie alla tecnologia NVIDIA NVLINK, un’interfaccia ad altissima velocità che permette tra l’altro alla GPU di avere accesso a tutta la memoria di sistema, portando quindi il totale a 1,2 TB (sempre in Dual-Configuration).

A corredo della presentazione arriva anche una dichiarazione del CEO NVIDIA, Jensen Huang, che dichiara:

Per soddisfare la crescente domanda di IA generativa, i data center richiedono piattaforme di elaborazione accelerate con esigenze specializzate. La nuova piattaforma GH200 Grace Hopper Superchip offre tutto ciò con un’eccezionale tecnologia di memoria e larghezza di banda per migliorare il throughput, la capacità di collegare le GPU per aggregare le prestazioni senza compromessi e un design del server che può essere facilmente implementato nell’intero data center.

NVIDIA GH200 Grace Hopper sarà disponibile sui primi sistemi a partire dal secondo trimestre 2024, come detto arriverà in diverse varianti in base alle scelte dei partner.

Potrebbe interessarti: Le NVIDIA GeForce RTX 50 potrebbero arrivare più tardi del previsto