Nuovi Benchmark AI: Prestazioni del Modello Llama 3.1 e Velocità dei Chip Nvidia Blackwell nei Test MLPerf | Large language models wikipedia | Chat gpt gratis | Chat gpt gratis italiano | Turtles AI

 MLCommons ha introdotto due nuovi benchmark per valutare la velocità di esecuzione delle applicazioni di AI, utilizzando il modello Llama 3.1 di Meta con 405 miliardi di parametri. Nvidia ha ottenuto prestazioni significativamente superiori con la sua piattaforma Blackwell, mentre AMD non ha presentato risultati per questo benchmark. Il secondo benchmark si concentra sulle aspettative di prestazioni delle applicazioni AI consumer, come ChatGPT, puntando a tempi di risposta quasi istantanei.

Punti chiave:

• Introduzione di nuovi benchmark IA: MLCommons ha sviluppato due benchmark per misurare l’efficienza delle applicazioni AI, utilizzando il modello Llama 3.1 di Meta.
• Eccellenti prestazioni di Nvidia Blackwell: La piattaforma Nvidia Blackwell ha registrato prestazioni fino a 3,4 volte superiori rispetto alla generazione precedente nei test MLPerf.
• Assenza di contributi da AMD: Nessun risultato è stato presentato da AMD per il benchmark con il modello Llama 3.1 da 405 miliardi di parametri.
• Focus su applicazioni consumer AI: Il secondo benchmark mira a simulare le prestazioni richieste da applicazioni AI come ChatGPT, enfatizzando risposte rapide e integrate.

Dalla presentazione di ChatGPT oltre due anni fa, le aziende produttrici di chip hanno intensificato gli sforzi per sviluppare hardware in grado di eseguire in modo efficiente i complessi modelli di AI che alimentano strumenti utilizzati quotidianamente da milioni di persone. Con l’aumento esponenziale delle richieste per applicazioni come chatbot e motori di ricerca basati su AI, MLCommons ha introdotto due nuovi benchmark per valutare la velocità di esecuzione delle applicazioni AI. Il primo di questi si basa sul modello Llama 3.1 di Meta, dotato di 405 miliardi di parametri, e valuta le capacità dei sistemi in termini di risposta a domande generali, risoluzione di problemi matematici e generazione di codice. Questo benchmark mette alla prova l’abilità dei sistemi nel gestire query di grandi dimensioni e nell’integrare dati provenienti da diverse fonti.

Nvidia ha partecipato attivamente a questi test, presentando diverse configurazioni della sua piattaforma Blackwell. I risultati ottenuti hanno evidenziato un incremento delle prestazioni da 2,8 a 3,4 volte superiori rispetto alla generazione precedente. Anche utilizzando solo otto GPU nella nuova configurazione, le prestazioni sono state significativamente migliori, sottolineando gli avanzamenti nella velocità di connessione tra i chip all’interno dei server, un aspetto cruciale per le applicazioni AI che richiedono l’uso simultaneo di più chip.

Inoltre, il secondo benchmark introdotto da MLCommons si concentra sulle aspettative di prestazioni delle applicazioni AI destinate agli utenti finali, come ChatGPT. L’obiettivo principale di questo test è ridurre al minimo i tempi di risposta, avvicinandosi il più possibile a una reattività immediata, in linea con le esigenze degli utenti che utilizzano quotidianamente questi strumenti.

Le informazioni presentate si basano su dati forniti da MLCommons e su comunicati ufficiali di Nvidia.  È importante notare che, mentre Nvidia ha mostrato miglioramenti significativi con la sua piattaforma Blackwell, AMD non ha presentato risultati per il benchmark con il modello Llama 3.1 da 405 miliardi di parametri, indicando possibili differenze nelle strategie di sviluppo o nelle priorità aziendali.

L’introduzione di questi nuovi benchmark rappresenta un passo fondamentale per valutare e confrontare le prestazioni delle applicazioni AI moderne, spingendo le aziende a innovare e ottimizzare continuamente le loro soluzioni hardware e software per soddisfare le crescenti esigenze del mercato.