xAI Potenzia il Suo Colossus Supercluster con 200.000 GPU NVIDIA Hopper | | | | Turtles AI

xAI Potenzia il Suo Colossus Supercluster con 200.000 GPU NVIDIA Hopper
Musk e NVIDIA raggiungono nuovi traguardi nella realizzazione del più grande supercomputer al mondo, accelerando l’addestramento dei modelli di AI
Isabella V29 ottobre 2024

 

 xAI sta ampliando il suo Colossus Supercluster, portando il totale a 200.000 GPU NVIDIA Hopper. Questo supercomputer, già il più grande al mondo, è stato realizzato in tempi record grazie alla collaborazione tra xAI e NVIDIA. Musk continua a stupire con ambizioni straordinarie nel settore dell’AI.

Punti chiave:

  •  xAI raddoppia il Colossus Supercluster a 200.000 GPU NVIDIA Hopper.
  •  Il supercomputer è stato reso operativo in soli 122 giorni.
  •  Jensen Huang elogia Musk come "sovrumano" nell’ingegneria.
  •  Le vendite delle GPU Hopper di NVIDIA sono previste in aumento.

xAI, l’azienda fondata da Elon Musk, sta compiendo un passo significativo nel suo sviluppo tecnologico con l’espansione del Colossus Supercluster, che passerà a un impressionante numero di 200.000 GPU NVIDIA Hopper. Questo supercomputer, già considerato il più grande al mondo, sta attualmente addestrando la serie di modelli linguistici Grok. La notizia dell’ampliamento arriva dopo il rapido successo di xAI nel mettere in funzione il Colossus, un processo che ha richiesto solo 122 giorni, un risultato straordinario se confrontato con i tempi usuali che possono estendersi per mesi o addirittura anni per sistemi di tale complessità. NVIDIA ha confermato che xAI è stata in grado di avviare l’addestramento del Grok LLM in un lasso di tempo sorprendentemente breve: soltanto 19 giorni dopo l’installazione del primo rack di GPU H100. Questo risultato testimonia l’efficienza della collaborazione tra xAI e NVIDIA, che ha permesso di ottimizzare ogni aspetto della realizzazione del supercomputer. La comunicazione dell’azienda sottolinea anche l’elevata affidabilità del sistema, che ha mantenuto il 95% del throughput dei dati, senza problemi di latenza o perdita di pacchetti. In un’intervista recente, Jensen Huang, CEO di NVIDIA, ha elogiato pubblicamente Musk, definendolo "sovrumano" per la sua eccezionale capacità di gestire progetti di grande scala, evidenziando la sua comprensione unica dell’ingegneria e della logistica necessaria per costruire impianti complessi e raffreddati a liquido in tempi record. Nel contesto delle vendite di GPU, si prevede che NVIDIA raggiunga un volume di circa 1,5 milioni di unità delle sue GPU Hopper nel quarto trimestre del 2024, prima di una previsione di riduzione nel primo trimestre del 2025, quando le vendite delle nuove GPU Blackwell inizieranno a decollare.

In questo scenario, l’innovazione e la velocità di esecuzione di xAI e NVIDIA potrebbero segnare un cambiamento decisivo nel panorama dell’AI.