Non è chiaro se si tratta dello stesso prodotto venduto nei mercati americani ed europei o se sarà una versione depotenziata come nel caso dell’A800 di Nvidia.
Intel ha tenuto recentemente una conferenza stampa a Pechino durante la quale ha annunciato il lancio sul mercato cinese del processore Habana Gaudi 2, il suo prodotto di punta per accelerare le attività di addestramento e inferenza dell’IA, già introdotto negli Stati Uniti e in Europa nel maggio 2022.
Intel sta collaborando con i più importanti provider cinesi di servizi AI come Inspur, New H3C e xFusion che dovrebbero rilasciare nei prossimi mesi prodotti server con il processore Gaudi 2.
Non è chiaro se la versione venduta in Cina di Gaudi 2 avrà le stesse caratteristiche del processore attualmente in commercio o se, e in che misura, sarà una versione depotenziata per rispondere alle normative introdotte dagli Stati Uniti per limitare le prestazioni dei chip AI destinati al mercato cinese.
A questo proposito, Chen Baoli, VP e GM Intel’s Datacenter and AI Group in Cina ha affermato che “La disponibilità di Gaudi2 in Cina continua la storia di quasi 40 anni di Intel nella fornitura di prodotti innovativi ma conformi alla legge a questo mercato chiave in crescita“. Nel 2022 Intel ha realizzato in Cina quasi un terzo delle proprie vendite.
Chen Baoli ha anche affermato che Intel ha recentemente ottimizzato il software per la piattaforma Gaudi che continua a maturare e a tenere il passo con il crescente numero di AI generativa e dei modelli di linguaggio di grandi dimensioni (LLM).
Le restrizioni introdotte dagli Stati Uniti hanno indotto Nvidia a realizzare una versione depotenziata della sua GPU A100 per il mercato cinese, chiamata A800, che dispone di meno memoria e di una larghezza di banda ridotta di un terzo circa. Sempre Nvidia ha annunciato una versione per il mercato cinese della sua GPU di punta H100.
Le attuali normative degli Stati Uniti limitano a 600 GB/sec la larghezza di banda I/O dei processori esportabili in Cina, limiti ampiamente superati dalle GPU A100 e H100 di Nvidia ma anche da Instinct MI250X di AMD e da Gaudi2 di Intel.
Introdotto oltre un anno fa per competere con le GPU A100 di Nvidia, il processore Habana Gaudi 2 (fabbricato con nodo di processo a 7 nm e che impiega 24 tensor core, 96 GB di memoria HBM2e e 24 porte 100 GbE) non ha incontrato il successo sperato, azzoppato sin dall’inizio dall’annuncio della GPU H100 di Nvidia che prometteva prestazioni superiori di sei volte rispetto al predecessore A100, largamente adottato dalle aziende che addestrano modelli di linguaggio di grandi dimensioni (LLM).
Intel aveva acquistato la startup israeliana Habana per 2 miliardi di dollari nel dicembre 2019 proprio per colmare il ritardo da Nvidia nei prodotti avanzati per intelligenza artificiale.
Recentemente Intel ha diffuso una serie di benchmark del suo Gaudi2 per confutare l’attuale narrativa del settore secondo la quale l’AI generativa e i modelli di linguaggio di grandi dimensioni (LLM) possono essere eseguiti solo su GPU Nvidia. Secondo Intel i nuovi dati mostrano che il portafoglio di soluzioni AI di Intel offre opzioni competitive e convincenti per i clienti che cercano di liberarsi dagli ecosistemi chiusi che limitano l’efficienza e la scalabilità.
In particolare, gli ultimi risultati di MLPerf Training 3.0 sottolineano le prestazioni dei prodotti Intel su una serie di modelli di deep learning. La maturità del software e dei sistemi per la formazione basati su Gaudi2 è stata dimostrata su larga scala sul modello di linguaggio di grandi dimensioni, GPT-3. Gaudi2 è una delle uniche due soluzioni di semiconduttori a presentare i risultati delle prestazioni per la formazione LLM di GPT-3.
Secondo Intel, dunque, le prestazioni dell’acceleratore convalidate da MLPerf su GPT-3, la visione artificiale e i modelli di linguaggio naturale, oltre agli imminenti progressi del software, rendono Gaudi2 un’alternativa prezzo/prestazioni estremamente interessante all’H100 di Nvidia.
Nei prossimi mesi sapremo se, almeno sul mercato cinese, il processore Gaudi2 riuscirà a raggiungere il successo che non è riuscito a conquistare sui mercati Occidentali.
