Broadcom ha lanciato Jericho3-AI, un fabric ad alte prestazioni per reti di intelligenza artificiale (AI). La nuova soluzione è progettata per ridurre drasticamente il tempo necessario ai carichi di lavoro AI per completare un’attività. L’architettura di interconnessione Jericho3-AI consente di aumentare le connessioni in un singolo cluster fino a 32.000 GPU, ciascuna con 800 Gbps.
Broadcom ha annunciato oggi Jericho3-AI, fabric con le prestazioni più elevate del settore per reti di intelligenza artificiale (AI). Jericho3-AI rivoluziona il networking AI con funzionalità best-in-class come perfetto bilanciamento del carico, eliminazione della congestione, radix ultra-elevato e failover a impatto zero, consentendo agli amministratori di rete di gestire i carichi di lavoro in costante crescita per effetto delle richieste di AI.
Jericho3-AI arriva sul mercato al momento giusto, in un periodo durante il quale la richiesta di intelligenza artificiale sta aumentando a dismisura. Secondo un recente report di IDC, la spesa globale per l’AI raggiungerà 154 miliardi di dollari nel 2023 e più di 300 miliardi di dollari entro il 2026. La cifra del 2023 rappresenta un aumento del 26,9% rispetto al 2022.
Il sistema di interconnessione Jericho3-AI aiuterà gli operatori di rete a gestire i carichi di lavoro in continua espansione spinti dalle richieste di intelligenza artificiale.
“Il punto di riferimento per il networking AI sta riducendo il tempo e gli sforzi necessari per completare l’addestramento e l’inferenza di modelli AI su larga scala“, ha affermato Ram Velaga, senior vice president and general manager, Core Switching Group, Broadcom. “Jericho3-AI offre una significativa riduzione dei tempi di completamento del lavoro rispetto a qualsiasi altra alternativa sul mercato.”
I carichi di lavoro IA hanno caratteristiche uniche come un numero ridotto di flussi di grandi dimensioni e di lunga durata, che iniziano tutti contemporaneamente al completamento di un ciclo di calcolo AI. Il fabric Jericho3-AI offre le massime prestazioni per questi carichi di lavoro con funzionalità uniche progettate specificamente per i carichi di questo genere:
- Il perfetto bilanciamento del carico distribuisce uniformemente il traffico su tutti i collegamenti del fabric, garantendo il massimo utilizzo della rete con i carichi di rete più elevati.
- Il funzionamento senza congestioni con la pianificazione del traffico end-to-end che garantisce l’assenza di collisioni di flusso e di jitter.
- Radix ultra-elevato consente in modo univoco al fabric Jericho3-AI di scalare la connettività a 32.000 GPU, ciascuna con 800 Gbps, in un singolo cluster.
- La funzionalità di failover a impatto zero garantisce una convergenza automatica del percorso inferiore a 10 ns, senza alcun impatto sui tempi di completamento del lavoro.
Sfruttando questa funzionalità unica, il fabric Jericho3-AI offre tempi di completamento dei lavori inferiori di almeno il 10% rispetto alle soluzioni di rete alternative per i principali benchmark AI come All-to-All. Questo miglioramento delle prestazioni ha un effetto moltiplicativo sulla riduzione del costo di esecuzione dei carichi di lavoro AI poiché implica che i costosi acceleratori AI vengono utilizzati in modo più efficiente del 10%. La rete, in effetti, si ripaga da sola.
Il fabric Jericho3-AI offre 26 petabit al secondo di larghezza di banda Ethernet, quasi quattro volte la larghezza di banda della generazione precedente, garantendo al contempo il 40% in meno di potenza per gigabit.
“Gli operatori cloud aggiorneranno la loro infrastruttura AI per far fronte alla massiccia crescita della larghezza di banda, guidata da una nuova generazione di GPU ad alta capacità e dall’emergere di modelli di linguaggio di grandi dimensioni“, ha affermato Bob Wheeler, principal analyst at Wheeler’s Network. “Jericho3-AI offre una scelta a larghezza di banda elevata, bassa latenza e basso consumo per le reti che collegano decine di migliaia di GPU, rivoluzionando l’economia della creazione e della manutenzione dei cluster AI per questa nuova ed entusiasmante era“.
Una caratteristica unica di Jericho3-AI è il costo totale di proprietà più basso pur fornendo prestazioni più elevate. Ciò si ottiene grazie a SerDes a lunga portata, buffering distribuito e telemetria avanzata, tutti forniti utilizzando Ethernet standard. Questi fattori forniscono un elevato grado di flessibilità nelle architetture di rete e nelle opzioni di implementazione con il più grande ecosistema di fornitori hardware e software.
Ulteriori informazioni su Jericho3-AI sono disponibili qui. Jericho3-AI è attualmente disponibile per i clienti qualificati.
