Mistral lancia nuovi modelli di AI per dispositivi edge | Llm cosa sono | Come impostare chat gpt in italiano | Llm cosa e | Turtles AI

 Mistral, startup francese attiva nel campo dell’AI, ha presentato i suoi modelli generativi "Les Ministraux", pensati per funzionare su dispositivi edge. Questi modelli rispondono a crescenti esigenze di privacy e performance locali.

Punti chiave:

•  Mistral ha lanciato due modelli generativi: Ministral 3B e Ministral 8B.
•  Entrambi i modelli supportano una finestra di contesto di 128.000 token.
•  L’azienda si focalizza su applicazioni locali, enfatizzando privacy e bassa latenza.
•  I modelli possono essere utilizzati tramite la piattaforma cloud di Mistral o scaricati per scopi di ricerca.

Mistral, startup con sede a Parigi e co-fondata da ex membri di Meta e DeepMind, ha recentemente introdotto la sua prima serie di modelli di AI generativa denominata "Les Ministraux", concepiti per operare su dispositivi edge come laptop e smartphone. Questi modelli, Ministral 3B e Ministral 8B, sono caratterizzati da una significativa capacità di gestione del contesto, essendo in grado di elaborare fino a 128.000 token, una quantità equivalente a circa 50 pagine di testo. La decisione di sviluppare questi modelli è stata guidata dalle richieste dei clienti per inferenze locali che privilegiano la privacy, in particolare in contesti come la traduzione in tempo reale, assistenti virtuali offline, analisi dei dati in loco e applicazioni di robotica autonoma. Mistral ha evidenziato che i suoi modelli sono stati progettati per garantire efficienza nel processamento e bassa latenza, qualità essenziali per le applicazioni critiche di oggi. Attualmente, il modello Ministral 8B è disponibile per il download esclusivamente per scopi di ricerca, mentre le aziende interessate possono richiedere una licenza commerciale per le versioni autogestite dei modelli. Gli sviluppatori, in alternativa, possono accedere ai modelli tramite la piattaforma cloud di Mistral e altre collaborazioni previste per le prossime settimane. I costi associati all’utilizzo sono di 10 centesimi per milione di token per Ministral 8B e 4 centesimi per Ministral 3B. In un contesto in cui si osserva una crescente inclinazione verso modelli di dimensioni più contenute, che risultano più economici e rapidi da addestrare, Mistral rivendica prestazioni superiori rispetto a modelli comparabili come quelli della famiglia Llama di Meta e Gemma di Google. Recentemente, Mistral ha ottenuto 640 milioni di dollari di finanziamenti e ha iniziato a generare ricavi, nonostante le difficoltà comuni a molte startup nel settore dell’AI generativa. Con l’obiettivo di creare modelli competitivi nel panorama dell’AI, Mistral continua a espandere il suo portafoglio di prodotti, inclusi servizi e strumenti per sviluppatori, mantenendo una visione orientata alla qualità e alla sostenibilità.

Mistral si posiziona, dunque, come un attore significativo nel panorama dell’AI, cercando di offrire soluzioni concrete a esigenze sempre più specifiche del mercato.