OpenAI rivede le regole sulla sicurezza: possibili modifiche in risposta alla concorrenza | ChatGPT login | OpenAI Login | ChatGPT app | Turtles AI

 OpenAI ha aggiornato il suo Preparedness Framework, introducendo la possibilità di adattare le misure di sicurezza in risposta a rilasci di AI ad alto rischio da parte di concorrenti. Le modifiche includono l’uso crescente di valutazioni automatizzate e una nuova classificazione dei rischi. Tuttavia, ex dipendenti e critici sollevano preoccupazioni sulla priorità data alla sicurezza rispetto alla competitività.

Punti chiave:

• OpenAI potrebbe adeguare le misure di sicurezza se concorrenti rilasciano AI ad alto rischio senza protezioni equivalenti.
• Il Preparedness Framework ora utilizza maggiormente valutazioni automatizzate per accelerare lo sviluppo.
• Nuove categorie di rischio includono la capacità dell’AI di autoreplicarsi o eludere controlli.
• Ex dipendenti supportano la causa di Elon Musk, criticando la priorità data ai profitti rispetto alla sicurezza.

OpenAI ha recentemente rivisto il suo Preparedness Framework, il sistema interno utilizzato per valutare e mitigare i rischi associati allo sviluppo di modelli di AI avanzati. Tra le modifiche più significative, l’azienda ha dichiarato che potrebbe adeguare le proprie misure di sicurezza nel caso in cui un concorrente rilasciasse un sistema di AI ad alto rischio privo di protezioni equivalenti. Tuttavia, OpenAI ha sottolineato che tali modifiche verrebbero adottate solo dopo una rigorosa valutazione del panorama dei rischi, una comunicazione pubblica della decisione e l’assicurazione che il rischio complessivo di danni gravi non aumenti significativamente.

L’aggiornamento del framework introduce anche una maggiore enfasi sulle valutazioni automatizzate, che consentono di accelerare lo sviluppo dei prodotti. Sebbene i test condotti da esseri umani non siano stati completamente abbandonati, OpenAI ha sviluppato una suite crescente di valutazioni automatizzate per tenere il passo con una cadenza di rilascio più rapida.

Inoltre, il framework aggiornato classifica ora i modelli in base a nuove categorie di rischio, tra cui la capacità di autoreplicarsi, eludere le misure di sicurezza o impedire l’arresto. I modelli vengono valutati in base a due soglie di capacità: "elevata", per quelli che potrebbero amplificare i percorsi esistenti verso danni gravi, e "critica", per quelli che introducono nuovi percorsi senza precedenti verso tali danni. I sistemi che raggiungono una capacità elevata devono disporre di misure di sicurezza che minimizzino sufficientemente il rischio associato prima di essere implementati, mentre quelli con capacità critica richiedono tali misure durante lo sviluppo.

Tuttavia, queste modifiche hanno suscitato critiche. Secondo il Financial Times, OpenAI ha concesso ai tester meno di una settimana per i controlli di sicurezza di un modello importante di prossima uscita, una tempistica ridotta rispetto alle versioni precedenti. Inoltre, molti dei test di sicurezza vengono ora condotti su versioni precedenti dei modelli anziché su quelle rilasciate al pubblico.

Le preoccupazioni sono state ulteriormente alimentate da una memoria depositata da 12 ex dipendenti di OpenAI nella causa intentata da Elon Musk contro l’azienda. Essi sostengono che OpenAI sarebbe stata incoraggiata a tagliare ulteriormente i costi in materia di sicurezza qualora avesse completato la ristrutturazione aziendale pianificata, che mira a trasformare l’organizzazione in un’entità più orientata al profitto.

In risposta alle critiche, OpenAI afferma di mantenere le sue misure di sicurezza a un livello più protettivo e di non apportare modifiche alle policy con leggerezza. L’azienda sottolinea l’importanza di un approccio scientifico alla gestione del rischio e si impegna a coinvolgere terze parti indipendenti per verificare la tecnologia e fornire feedback, oltre a collaborare con parti esterne e team interni per monitorare l’uso improprio e i rischi di disallineamento dei suoi modelli nel mondo reale.

Il dibattito sulle priorità di OpenAI tra sicurezza e competitività continua, con osservatori e ex dipendenti che sollevano interrogativi sulla direzione intrapresa dall’azienda nello sviluppo dell’AI avanzata.