Lilian Weng lascia OpenAI dopo sette anni: un addio che segna il futuro della sicurezza AI | OpenAI ChatGPT | ChatGPT 4 | Chat OpenAI | Turtles AI

Lilian Weng lascia OpenAI dopo sette anni: un addio che segna il futuro della sicurezza AI
La ricercatrice, figura chiave nei sistemi di sicurezza, annuncia la sua partenza in un contesto di crescenti tensioni interne sull’equilibrio tra innovazione e sicurezza nell’AI
Editorial Team9 novembre 2024

 


Lilian Weng, storica figura di OpenAI, annuncia la sua partenza dopo sette anni. La sua uscita si inserisce in un contesto di tensioni interne alla startup legate alla priorità della sicurezza AI rispetto alla commercializzazione dei prodotti. Questo evento riflette l’incertezza crescente all’interno dell’azienda.

Punti chiave:

  •  Lilian Weng lascia OpenAI dopo sette anni di carriera.
  •  Weng è stata vicepresidente della ricerca e sicurezza dal 2023 e ha lavorato per rafforzare i sistemi di sicurezza AI.
  •  La sua uscita segue quella di altri ricercatori di alto profilo, tra cui Ilya Sutskever e Jan Leike, legati alla sicurezza dell’AI.
  •  Le dimissioni di Weng si collocano in un periodo di crescente critica verso OpenAI riguardo la gestione dei rischi legati all’AI.

Lilian Weng, una delle figure di punta nel campo della sicurezza dell’AI di OpenAI, ha annunciato la sua decisione di lasciare l’azienda dopo sette anni di carriera, con effetto dal prossimo 15 novembre. La ricercatrice, che per l’ultimo anno ha ricoperto il ruolo di vicepresidente della ricerca e sicurezza, ha condiviso la notizia tramite un post su X, esprimendo la sua soddisfazione per i risultati ottenuti e confermando la volontà di intraprendere nuove sfide professionali. Durante il suo lungo percorso in OpenAI, Weng ha svolto un ruolo importante nella creazione di sistemi di sicurezza avanzati per l’AI, iniziando nel 2018 come membro del team di robotica, impegnata tra l’altro nel progetto di una mano robotica capace di risolvere il cubo di Rubik. Nel 2021, con il crescente focus di OpenAI sui modelli linguistici come GPT, Weng ha contribuito alla costruzione di un team dedicato all’intelligenza artificiale applicata. Nel 2023, con l’espansione dell’ambito di lavoro e il lancio di GPT-4, è stata incaricata di dirigere il team che si occupa dei sistemi di sicurezza AI dell’azienda. Sotto la sua guida, il team è cresciuto notevolmente, arrivando a contare oltre 80 esperti, tra cui scienziati, ricercatori e specialisti delle politiche di sicurezza. Nonostante questo, Weng ha deciso di concludere la sua esperienza in OpenAI, non fornendo dettagli sulle sue prossime mosse professionali. La sua partenza è solo l’ultima di una serie di uscite di figure chiave all’interno della startup. Tra i più noti, si segnala quella di Ilya Sutskever e Jan Leike, leader del team Superalignment, che avevano lavorato allo sviluppo di metodi per governare i sistemi di AI superintelligenti e che hanno lasciato la società quest’anno per proseguire il loro lavoro altrove, a causa di divergenze sulle priorità aziendali. La decisione di Weng di lasciare l’azienda avviene in un contesto di crescente frustrazione all’interno di OpenAI riguardo alla gestione della sicurezza dell’AI, con critiche mosse da vari esperti e ricercatori sul fatto che l’azienda stia concentrando troppa attenzione sui prodotti commerciali, trascurando potenziali rischi e problematiche etiche. A ottobre, infatti, un altro ricercatore storico, Miles Brundage, ha deciso di abbandonare OpenAI, denunciando la dissoluzione del team di preparazione AGI, di cui faceva parte. Inoltre, alcuni ex membri come Suchir Balaji, hanno espresso pubblicamente la loro preoccupazione riguardo ai rischi che la tecnologia sviluppata da OpenAI potrebbe comportare per la società, accusando l’azienda di perseguire obiettivi a lungo termine che potrebbero causare danni. La partenza di Weng non è quindi un episodio isolato, ma un ulteriore tassello in una serie di scelte strategiche che sembrano riflettere il difficile equilibrio tra innovazione tecnologica e responsabilità etica che OpenAI sta cercando di gestire.

In questo scenario di evoluzione e tensione, resta da capire quale direzione prenderà OpenAI nei prossimi anni, soprattutto per quanto riguarda la gestione della sicurezza delle sue tecnologie avanzate.