La startup AI Groq è pronta a competere nel mercato dei chip | | | | Turtles AI

 Groq raccoglie 640 milioni di dollari per accelerare l’AI generativa con chip innovativi

Punti chiave:
- Finanziamento sostanziale: Groq ha ottenuto 640 milioni di dollari in un round di finanziamento guidato da Blackrock.
- Valutazione aumentata: La startup ora è valutata 2,8 miliardi di dollari, più che raddoppiando la sua valutazione del 2021.
- Partnership strategiche: Yann LeCun di Meta e Stuart Pann, ex dirigente di Intel, si uniranno a Groq come consulenti.
- Avanzamenti tecnologici: Groq sta sviluppando chip LPU che promettono di eseguire modelli di AI generativa dieci volte più velocemente e con un decimo dell’energia rispetto ai processori convenzionali.

Groq, una startup specializzata nello sviluppo di chip per l’intelligenza artificiale generativa, ha annunciato un importante round di finanziamento da 640 milioni di dollari, guidato da Blackrock, con la partecipazione di Neuberger Berman, Type One Ventures, Cisco, KDDI e Samsung Catalyst Fund. Questa nuova iniezione di capitale porta il totale dei finanziamenti raccolti da Groq a oltre un miliardo di dollari e valuta la società a 2,8 miliardi di dollari.

Questa è una notevole vittoria per Groq, che inizialmente mirava a raccogliere 300 milioni di dollari con una valutazione di 2,5 miliardi di dollari. La nuova valutazione rappresenta un significativo incremento rispetto al valore di circa 1 miliardo di dollari stabilito nell’aprile 2021, quando Groq raccolse 300 milioni di dollari in un round guidato da Tiger Global Management e D1 Capital Partners.

L’annuncio di oggi include anche l’ingresso di personalità di rilievo nel team di Groq. Yann LeCun, scienziato capo dell’AI di Meta, fungerà da consulente tecnico. Questo è particolarmente interessante data l’attuale attenzione di Meta sui propri chip per l’AI. Inoltre, Stuart Pann, ex capo del settore fonderia di Intel, si unirà a Groq come direttore operativo.

Fondata nel 2016, Groq sta sviluppando quello che chiama un motore di inferenza LPU (unità di elaborazione del linguaggio). L’azienda sostiene che i suoi LPU possono eseguire modelli di AI generativa, simili a quelli di ChatGPT e GPT-4 di OpenAI, dieci volte più velocemente e con un decimo dell’energia rispetto ai chip tradizionali. Questo rappresenta un significativo avanzamento tecnologico nel campo dell’AI.

Il CEO di Groq, Jonathan Ross, è noto per il suo contributo allo sviluppo delle unità di elaborazione tensoriale (TPU) di Google, chip personalizzati utilizzati per addestrare ed eseguire modelli di IA. Ross ha co-fondato Groq insieme a Douglas Wightman, un imprenditore ed ex ingegnere presso il laboratorio X di Alphabet.

Groq offre una piattaforma per sviluppatori chiamata GroqCloud, basata su LPU, che supporta modelli "aperti" come la famiglia Llama 3.1 di Meta, Gemma di Google, Whisper di OpenAI e Mixtral di Mistral. GroqCloud ha già attirato oltre 356.000 sviluppatori a luglio, con l’obiettivo di aumentare questa capacità e aggiungere nuovi modelli e funzionalità.

In un contesto di crescente competizione nel settore dei chip per l’AI, Groq si trova a fronteggiare giganti come Nvidia, che attualmente controlla dal 70% al 95% del mercato dei chip per l’AI, oltre a concorrenti emergenti come Amazon, Google e Microsoft, che stanno sviluppando i propri chip per carichi di lavoro AI nel cloud. Anche Arm, Intel, AMD e numerose startup stanno entrando nel mercato, che potrebbe raggiungere i 400 miliardi di dollari di vendite annuali nei prossimi cinque anni.

Groq sta inoltre investendo nel rafforzamento delle relazioni con le imprese e il settore governativo. A marzo, ha acquisito Definitive Intelligence per formare una nuova unità chiamata Groq Systems, che fornirà soluzioni AI a organizzazioni, agenzie governative statunitensi e nazioni sovrane. Recentemente, Groq ha stretto una partnership con Carahsoft per vendere le sue soluzioni ai clienti del settore pubblico e ha siglato una lettera d’intenti per installare migliaia di LPU nel data center norvegese di Earth Wind & Power. Inoltre, sta collaborando con Aramco Digital per installare LPU nei futuri data center in Medio Oriente.

Groq sta già lavorando sulla prossima generazione del suo chip, con l’obiettivo di produrre LPU a 4 nm in collaborazione con Samsung, promettendo ulteriori miglioramenti in termini di prestazioni ed efficienza. L’azienda prevede di distribuire oltre 108.000 LPU entro il primo trimestre del 2025.

In sintesi, Groq sta rapidamente emergendo come un attore chiave nel settore dei chip per l’AI, grazie a finanziamenti significativi, partnership strategiche e avanzamenti tecnologici promettenti.