01.ai sfida OpenAI con un modello AI ad alte prestazioni a basso costo | ChatGPT italiano | OpenAI italiano | ChatGPT download | Turtles AI

 
Un’azienda cinese, 01.ai, ha sfidato la concorrenza globale nell’ambito dell’AI, riuscendo ad addestrare un modello di alto livello con un budget di soli 3 milioni di dollari, contro i 80-100 milioni spesi da OpenAI per GPT-4. La chiave del successo di 01.ai è stata una combinazione di ingegneria ottimizzata, innovazioni nei processi e un uso altamente efficiente delle risorse.  

Punti chiave:

•  01.ai ha addestrato un modello di AI avanzato con solo 2.000 GPU, contro le decine di migliaia usate da OpenAI.  
•  Il costo di addestramento del modello Yi-Lightning di 01.ai è stato di soli 3 milioni di dollari, rispetto ai 80-100 milioni spesi da OpenAI per GPT-4.  
•  La strategia di 01.ai ha incluso ottimizzazioni nei processi di inferenza e l’utilizzo di un motore dedicato per migliorare l’efficienza e ridurre i costi operativi.  
•  Il costo dell’inferenza per 01.ai è di appena 10 centesimi per milione di token, significativamente più basso rispetto a modelli concorrenti.  

L’AI è diventata uno dei settori più competitivi e costosi, ma una nuova sfida è stata lanciata da un attore che potrebbe cambiare le regole del gioco. L’azienda cinese 01.ai ha recentemente rivelato di aver addestrato un modello avanzato di AI, Yi-Lightning, con un budget di soli 3 milioni di dollari, una cifra che appare notevolmente inferiore rispetto ai costi di sviluppo dei modelli più noti, come GPT-4 di OpenAI, il cui addestramento si dice sia costato tra gli 80 e i 100 milioni di dollari. Questo risultato dimostra che, contrariamente a quanto suggerito dalla consuetudine nel settore, raggiungere alte prestazioni nell’AI non richiede necessariamente un capitale immenso, ma può essere il frutto di un’innovazione ingegneristica e ottimizzazioni mirate. Kai-Fu Lee, fondatore e CEO di 01.ai, ha spiegato che la sua azienda, pur operando in un contesto di restrizioni e limitazioni legate all’accesso alle risorse tecnologiche avanzate come le GPU Nvidia, è riuscita a ottenere risultati eccellenti grazie a un uso altamente efficiente delle risorse disponibili.  

Il numero di GPU utilizzato da 01.ai per addestrare Yi-Lightning è stato notevolmente inferiore rispetto alle enormi flotte di hardware impiegate da aziende come OpenAI. Mentre quest’ultima si è affidata a decine di migliaia di GPU avanzate come le Nvidia A100 per i suoi modelli precedenti e molte altre per GPT-4, 01.ai ha potuto contare su "soli" 2.000 unità, il che porta a interrogarsi sulle differenze di approccio alla progettazione e ottimizzazione dei processi di addestramento. Nonostante il numero ridotto di GPU, 01.ai è riuscita a posizionarsi tra i leader del settore, con il suo modello Yi-Lightning che occupa la sesta posizione nelle prestazioni del modello, come misurato da LMSIS presso l’Università di Berkeley.  

Kai-Fu Lee ha sottolineato che una delle chiavi di questo successo risiede nel modo in cui la sua azienda ha affrontato i colli di bottiglia durante il processo di inferenza, ossia l’uso delle risorse necessarie per far sì che il modello potesse rispondere a richieste in tempo reale. L’azienda ha implementato soluzioni ingegneristiche avanzate per ridurre questi colli di bottiglia, trasformando alcune delle operazioni computazionali in attività meno costose in termini di memoria. Uno degli approcci più innovativi è stato lo sviluppo di un sistema di caching multistrato, che consente di velocizzare enormemente l’accesso ai dati richiesti durante l’inferenza. Inoltre, è stato progettato un motore di inferenza dedicato, capace di ottimizzare la gestione delle risorse in modo specifico per le esigenze del modello Yi-Lightning. Questo approccio ha permesso a 01.ai di abbattere i costi operativi: l’inferenza, che è uno degli aspetti più costosi dei modelli di AI, costa solo 10 centesimi per milione di token, una cifra che rappresenta circa 1/30 del costo tipico richiesto dai modelli concorrenti.  

Questa efficienza, che è il frutto di scelte tecniche mirate, si inserisce nel contesto di una realtà aziendale che ha dovuto affrontare difficoltà legate all’accesso alle risorse hardware di ultima generazione. Le aziende cinesi come 01.ai, infatti, devono fare i conti con le restrizioni imposte dalle normative statunitensi, che limitano l’accesso a GPU avanzate come quelle prodotte da Nvidia, per esempio, una delle principali aziende nel settore dell’AI. Nonostante queste limitazioni, 01.ai è riuscita a pianificare un percorso di crescita e sviluppo che le ha permesso di rimanere competitiva a livello globale, puntando su una pianificazione dettagliata delle risorse e su soluzioni innovative in ambito software.  

Se da un lato i numeri relativi al costo delle GPU sembrano non tornare (ad esempio, se si ipotizzano GPU Nvidia H100, dal costo di circa 30.000 dollari ciascuna, 2.000 GPU costerebbero circa 6 milioni di dollari, ben al di sopra dei 3 milioni dichiarati), dall’altro la storia di 01.ai offre uno spunto interessante sulle potenzialità di un approccio più agile e ottimizzato nell’addestramento e nell’uso dei modelli di AI. La scelta di concentrarsi sull’efficienza dei processi, in particolare nella fase di inferenza, potrebbe essere una via percorribile per altre aziende del settore, che si trovano a dover fare i conti con costi di produzione elevati e risorse limitate.  

L’incredibile risultato di 01.ai dimostra che, anche in un contesto altamente competitivo come quello dell’AI, l’innovazione non dipende esclusivamente dalla quantità di risorse investite, ma dalla capacità di sfruttarle al meglio.