AMD annuncia il supporto per i modelli distillati DeepSeek R1 su GPU Radeon RX e Ryzen AI | Chatgpt download | Reti neurali convoluzionali | Intelligenza artificiale google | Turtles AI

 AMD ha rilasciato oggi una guida per l’esecuzione dei modelli di ragionamento distillato DeepSeek R1 su schede grafiche Radeon RX e processori Ryzen AI. Le nuove configurazioni, tra cui i processori Ryzen AI Max "Strix Halo" e le schede grafiche RX 7000, promettono prestazioni avanzate nella distillazione di modelli complessi.

Punti chiave:

• I nuovi processori Ryzen AI Max "Strix Halo" sono configurati con memorie LPCAMM2 fino a 128 GB.
• Le schede grafiche Radeon RX 7000, in particolare la RX 7900 XTX, sono ottimizzate per accelerare la distillazione dei modelli DeepSeek R1.
• La guida distingue le prestazioni in base alla memoria e al modello di chip, consigliando diverse configurazioni per ogni scenario.
• I test mostrano un vantaggio prestazionale della RX 7900 XTX rispetto alle NVIDIA GeForce RTX, con miglioramenti significativi in vari modelli di distillazione.

AMD ha recentemente rilasciato una guida dettagliata per i propri utenti riguardante l’ottimizzazione dell’esecuzione dei modelli di ragionamento distillato DeepSeek R1 sulle sue nuove linee di processori e schede grafiche. I protagonisti principali di questa guida sono i nuovi processori Ryzen AI Max "Strix Halo", configurati con memorie LPCAMM2 in tagli da 32, 64 e 128 GB, escludendo però opzioni da 16 GB. Una scelta volta a favorire prestazioni superiori nei notebook alimentati da questi processori, che saranno in grado di eseguire modelli complessi come il DeepSeek-R1-Distill-Llama con ben 70 miliardi di parametri nelle configurazioni da 64 GB e 128 GB. La versione da 32 GB, invece, è pensata per l’esecuzione di modelli come DeepSeek-R1-Distill-Qwen-32B, mentre le configurazioni più piccole, con i processori "Strix Point" basati su iGPU e NPU RDNA 3.5, supporteranno modelli più contenuti come DeepSeek-R1-Distill-Qwen-14B e DeepSeek-R1-Distill-Llama-14B. AMD raccomanda anche di eseguire questi modelli utilizzando la quantizzazione Q4 KM per massimizzare le performance.

Passando alle soluzioni grafiche, la compagnia ha indicato che le schede della serie Radeon RX 7000, che integrano la nuova architettura RDNA 3 con acceleratori AI dedicati, sono le più indicate per l’esecuzione dei modelli distillati. In particolare, la Radeon RX 7900 XTX si distingue come la scelta migliore per la distillazione di modelli come DeepSeek-R1-Distill-Qwen-32B, mentre le versioni con memoria compresa tra 12 e 20 GB (RX 7600 XT, RX 7700 XT, RX 7800 XT, RX 7900 GRE e RX 7900 XT) si fermano ai modelli più leggeri come DeepSeek-R1-Distill-Qwen-14B. Anche la Radeon RX 7600, con 8 GB di memoria, si limita a gestire modelli più piccoli come DeepSeek-R1-Distill-Llama-8B.

In termini di prestazioni, AMD ha fornito i risultati dei test in un ambiente di utilizzo reale, mettendo a confronto la RX 7900 XTX con le soluzioni di NVIDIA, in particolare con le GeForce RTX 4080 SUPER e RTX 4090. Rispetto alla RTX 4080 SUPER, la RX 7900 XTX ha mostrato un miglioramento significativo, con prestazioni fino al 34% superiori nel modello DeepSeek-R1-Distill-Qwen-7B e fino al 27% migliori nel DeepSeek-R1-Distill-Llama-8B. Il confronto con la RTX 4090 è altrettanto interessante, con la RX 7900 XTX che prevale in tre su quattro test eseguiti. In particolare, ha registrato performance superiori del 13% con DeepSeek-R1-Distill-Qwen-7B e dell’11% con DeepSeek-R1-Distill-Llama-8B. Tuttavia, nel caso del modello DeepSeek-R1-Distill-Qwen-32B, la RX 7900 XTX è risultata inferiore di solo il 4% rispetto alla RTX 4090.

AMD ha sottolineato che per sfruttare al meglio tutte queste prestazioni è necessario avere la versione 0.3.8 o successiva del software LMStudio e i driver Radeon Software Adrenalin 25.1.1 beta o superiori.