Dopo R1 arriva S1, un modello di ragionamento addestrato con un budget di 50 $ | ChatGPT immagini | Chat GPT gratis italiano | OpenAI ChatGPT | Turtles AI

Un team di ricercatori di Stanford e dell’Università di Washington ha sviluppato un modello di AI per il ragionamento, chiamato s1, con un costo inferiore ai 50 dollari. Utilizzando la distillazione da Gemini 2.0 Flash di Google, il modello ha dimostrato elevate capacità in matematica e codifica, sollevando interrogativi sulla sostenibilità dell’innovazione nel settore.

Punti chiave:

• Modello economico: s1 è stato addestrato con un budget minimo, dimostrando che le capacità di ragionamento avanzato possono essere replicate senza ingenti investimenti.
• Tecnica di distillazione: I ricercatori hanno estratto le capacità cognitive da un modello avanzato di Google, Gemini 2.0 Flash, utilizzando il supervised fine-tuning.
• Risultati sorprendenti: Nonostante la semplicità dell’addestramento, s1 ha ottenuto prestazioni paragonabili a modelli di alto livello come o1 di OpenAI e R1 di DeepSeek.
• Implicazioni etiche e strategiche: La facilità con cui è possibile replicare modelli multimilionari solleva interrogativi sulla competitività e sulla protezione della proprietà intellettuale nel campo dell’AI.

Nel panorama della ricerca sull’AI, un recente studio condotto dai ricercatori di Stanford e dell’Università di Washington ha dimostrato che è possibile ottenere un modello di ragionamento AI di alto livello con un investimento minimo. Il modello s1, sviluppato con meno di 50 dollari di crediti per il cloud computing, si avvicina in termini di prestazioni a soluzioni avanzate come o1 di OpenAI e R1 di DeepSeek. Il codice, disponibile su GitHub, rappresenta una significativa innovazione nel settore e un esempio di efficienza nell’addestramento dei modelli. La chiave del successo di s1 risiede nell’uso della tecnica della distillazione, un processo in cui un modello più piccolo viene addestrato per emulare il comportamento di uno più avanzato. In questo caso, i ricercatori hanno sfruttato Gemini 2.0 Flash Thinking Experimental di Google, estraendo la sua capacità di ragionamento attraverso un dataset mirato. La distillazione è già stata utilizzata in precedenza per creare modelli AI a basso costo, come dimostrato da un team di Berkeley che, il mese scorso, ha realizzato un sistema simile per circa 450 dollari. Tuttavia, il progetto s1 porta questa tendenza all’estremo, riducendo il costo computazionale al minimo e mettendo in discussione la necessità di investimenti miliardari per sviluppare modelli performanti. Il metodo di addestramento si è basato su un dataset ridotto a sole 1.000 domande selezionate, ognuna corredata dalla risposta e dal processo di pensiero seguito dal modello avanzato di Google. Questo approccio ha permesso di raggiungere risultati notevoli, con un addestramento completato in meno di 30 minuti utilizzando 16 GPU Nvidia H100. Niklas Muennighoff, uno dei ricercatori coinvolti nel progetto, ha affermato che il costo del calcolo necessario oggi si aggirerebbe intorno ai 20 dollari. Un dettaglio particolarmente interessante riguarda l’inserimento della parola "aspetta" nel processo di ragionamento del modello: questa semplice istruzione ha contribuito a migliorare l’accuratezza delle risposte, suggerendo che un tempo di elaborazione più lungo possa favorire la qualità del ragionamento. Il successo di s1 ha riacceso il dibattito sulla democratizzazione dell’AI e sulla possibilità di replicare modelli complessi senza risorse illimitate. Tuttavia, la questione si scontra con gli interessi delle grandi aziende tecnologiche, che investono miliardi nell’addestramento di modelli sempre più avanzati. OpenAI ha già accusato DeepSeek di aver utilizzato in modo improprio i dati della sua API per scopi di distillazione, e la stessa Google, proprietaria di Gemini, vieta esplicitamente l’uso dei suoi modelli per creare concorrenti diretti. Al di là degli aspetti legali, la ricerca dimostra che il supervised fine-tuning rappresenta un’alternativa economica e competitiva rispetto agli approcci basati sull’apprendimento per rinforzo su larga scala, come quello adottato da DeepSeek per sviluppare R1. Nel frattempo, colossi come Meta, Google e Microsoft continuano a destinare investimenti di centinaia di miliardi di dollari alle infrastrutture di AI, puntando a superare i limiti tecnologici attuali.

Se da un lato queste risorse sono essenziali per il progresso dell’AI, dall’altro s1 evidenzia come l’ingegno e l’ottimizzazione possano offrire soluzioni competitive a costi drasticamente ridotti.