NVIDIA manda in pensione Ampere e presenta Hopper, la strepitosa architettura con 80 miliardi di transistor

0
478

Battezzata in onore della matematica, militare e pioniera dell’informatica statunitense Grace Murray Hopper, la nuova architettura di NVIDIA applicata in ambito di acceleratori di datacenter per HPC (ovvero per calcoli ad alte prestazioni) e di intelligenza artificiale, utilizzerà il modello Megatron 530B con un throughput fino a 30 volte superiore alla generazione precedente.

NVIDIA Hopper ComputerMagazine.it 25 Marzo 2022
NVIDIA annuncia Hopper: la nuova architettura che stravolgerà il campo dei datacenter e dell’intelligenza artificiale – ComputerMagazine.it

Hopper, appunto: è la nuova architettura presentata da NVIDIA che promette di stravolgere il campo degli HPC degli acceleratori di datacenter ed il campo dell’intelligenza artificiale, garantendo prestazioni mai raggiunte fino ad ora ed anche senza paragoni rispetto all’architettura precedente di Ampere.

La prima GPU basata su Hopper è la NVIDIA GH100, con 80 miliardi di transistor ed un core in grado di raggiungere 18432 CUDA FP32, abbinata a memoria HBM3 e con supporto PCI Express 5.0. I core, inoltre, sono assistiti da 576 Tensor e 60 MB di cache L2, con 12 controller a 512 bit e 6 stack di HBM3 che portano la capacità della memoria ad un totale di 96 GB.

Per intenderci in termini di potenza, NVIDIA ha dichiarato che “venti GPU GH100 possono sostenere l’intero traffico Internet mondiale” e, entrando ancor più nello specifico, ha affermato che consentono “ai clienti di fornire sistemi di raccomandazione avanzati e modelli linguistici di grandi dimensioni, in grado di eseguire inferenze sui dati in tempo reale”.

Trasformer Engine, Intelligenza Artificiale e periodo di lancio

New NVIDIA Hopper ComputerMagazine.it 25 Marzo 2022
Il “Transformer Engine” consentirà livelli di prestazione mai raggiunti prima d’ora – ComputerMagazine.it

E’ il Transformer Engine la novità più importante di questo modello di acceleratore: si tratta di una soluzione hardware estremamente duttile che utilizza i Tensor core ed è dedicata al processo di linguaggio naturale. Le sue prestaioni sono talmente elevate da consentire di raggiungere un aumento di velocità fino a sei volte superiore rispetto alla generazione precedente. Il tutto senza perdere alcunché in termini di accuratezza e precisione di calcolo e processione.

“Oggi i modelli più grandi di intelligenza artificiale arrivano a richiedere mesi per l’addestramento sulle piattaforme di calcolo”, ha annunciato NVIDIA. “Grazie al Transformer Engine, le prestazioni e le capacità relative a questi modelli verranno velocizzate in maniera estremamente significativa, e con l’architettura Hopper il motore di trasformazione potrà addestrare grandi modelli non più in settimane e settimane, ma in giorni e addirittura in ore”.

Il chip, come ha reso noto NVIDIA, è ora in fase di produzione e la società ha annunciato che il suo debutto è previsto nel terzo trimestre di quest’anno.

LEAVE A REPLY

Please enter your comment!
Please enter your name here