Il MIT Crea un Repository di Rischi AI: Una Nuova Strada per la Regolamentazione | Chatgpt cosa e successo | Rete neurale intelligenza artificiale | Chat gpt-4 | Turtles AI

Punti chiave:

• Il MIT ha creato un repository che raccoglie e classifica oltre 700 rischi associati all’AI.
• I rischi sono suddivisi per fattori causali, domini e sottodomini, includendo privacy, sicurezza e disinformazione.
• I framework esistenti coprono solo una parte dei rischi identificati dal repository del MIT, creando potenziali lacune nella regolamentazione.
• Il prossimo passo della ricerca sarà valutare come i vari rischi dell’AI vengono affrontati dalle organizzazioni.

La regolamentazione dell’AI richiede un’analisi accurata e approfondita dei rischi, che spesso sono sottovalutati o mal compresi. Un nuovo progetto del MIT mira a creare una base di conoscenza condivisa per affrontare queste sfide.

L’utilizzo di sistemi di AI comporta rischi diversificati e complessi che devono essere attentamente considerati da individui, aziende e governi. La creazione di normative, come il Regolamento AI dell’UE o la legge SB 1047 della California, riflette la difficoltà dei legislatori nel concordare quali rischi dovrebbero essere coperti da tali regolamenti. I pericoli associati ai sistemi di AI che gestiscono infrastrutture critiche sono evidenti, ma altri rischi, legati ad applicazioni come la valutazione di esami, la selezione di curricula o il controllo documentale all’immigrazione, sono altrettanto significativi, sebbene meno ovvi.

Per affrontare questa sfida, i ricercatori del MIT hanno sviluppato un "repository di rischi AI", una sorta di database che raccoglie, classifica e rende accessibili i vari rischi associati ai sistemi di AI. Questo strumento, frutto del lavoro del gruppo FutureTech del MIT in collaborazione con l’Università del Queensland, il Future of Life Institute e altri partner, è stato concepito per offrire una panoramica completa e aggiornabile dei rischi dell’AI, utile sia ai legislatori che ai ricercatori.

Il repository comprende oltre 700 rischi, organizzati in base a fattori causali, domini e sottodomini. Ad esempio, i rischi sono categorizzati in base a elementi come l’intenzionalità, la discriminazione o la diffusione di disinformazione. Questo lavoro di mappatura è nato dalla necessità di comprendere meglio le sovrapposizioni e le disconnessioni nella ricerca sulla sicurezza dell’AI. Sebbene esistano altri quadri di riferimento per i rischi, essi coprono solo una parte delle minacce identificate dal repository del MIT, creando potenziali lacune nella regolamentazione e nello sviluppo di AI.

Peter Slattery, uno dei principali ricercatori del progetto, ha evidenziato che molti framework esistenti menzionano solo una frazione dei rischi individuati nel repository. In media, i framework analizzati coprono solo il 34% dei 23 sottodomini di rischio identificati, con alcuni che ne menzionano meno del 20%. Nessun documento o panoramica ha trattato tutti i 23 sottodomini, e il più completo ne ha coperti solo il 70%. Questa frammentazione della letteratura può portare a una falsa percezione di consenso sui rischi dell’AI.

Il repository del MIT, basato su una vasta revisione della letteratura accademica e su migliaia di documenti relativi alla valutazione dei rischi AI, ha rilevato che alcuni rischi sono citati più frequentemente di altri nei quadri di riferimento esistenti. Ad esempio, oltre il 70% dei framework includeva implicazioni di privacy e sicurezza, mentre solo il 44% trattava la disinformazione. Inoltre, mentre più del 50% affrontava le forme di discriminazione e misrepresentation che l’AI potrebbe perpetuare, solo il 12% menzionava la "pollution of the information ecosystem", ovvero l’aumento di spam generato dall’AI.

Questo database, secondo Slattery, potrebbe diventare un punto di partenza fondamentale per i ricercatori e i legislatori, aiutandoli a risparmiare tempo e a migliorare la supervisione nella creazione di nuove regolamentazioni. Il prossimo passo del team del MIT sarà quello di utilizzare il repository per valutare come i vari rischi dell’AI vengono affrontati dalle diverse organizzazioni, cercando di identificare eventuali lacune nelle risposte istituzionali.

Neil Thompson, direttore del laboratorio FutureTech, ha spiegato che l’obiettivo è di utilizzare il repository per identificare carenze nelle risposte organizzative ai rischi dell’AI. Se, ad esempio, l’attenzione si concentra solo su un tipo di rischio, trascurandone altri di pari importanza, questo è un aspetto che deve essere individuato e affrontato.