La gestione dei rischi legati all’AI: nuove scoperte e sfide emergenti | Rischi IA | Rischi intelligenza artificiale | Intelligenza artificiale chat gpt | Turtles AI

Le sfide e le incertezze legate all’uso dell’AI richiedono una crescente attenzione da parte di regolatori e aziende. Nuove ricerche dimostrano come molti modelli di AI, pur essendo avanzati, presentino criticità legate alla conformità normativa e alla sicurezza.

Punti chiave

• AIR-Bench 2024 valuta la conformità di modelli di AI rispetto a normative e rischi specifici.
• Modelli come Claude 3 Opus e Gemini 1.5 Pro si distinguono per la loro capacità di evitare rischi particolari.
• Le normative governative risultano spesso meno dettagliate rispetto alle politiche interne delle aziende.
• L’evoluzione dell’AI richiede una crescente attenzione alla sicurezza e alla conformità normativa.

La rapida evoluzione dei modelli di AI ha portato a una situazione complessa in cui non solo le loro capacità tecniche, ma anche i loro potenziali rischi legali, etici e di conformità devono essere attentamente valutati. Un esempio emblematico di questa nuova attenzione è rappresentato dal lavoro di Bo Li, professore associato all’Università di Chicago, che si è distinto nel settore per le sue analisi dettagliate dei rischi associati ai modelli di AI. La sua esperienza è diventata preziosa per numerose aziende di consulenza che sempre più spesso si concentrano non tanto sull’intelligenza dei modelli, quanto sui problemi che potrebbero generare.

Li, insieme a colleghi di altre università e alle aziende Virtue AI e Lapis Labs, ha sviluppato una tassonomia dei rischi associati all’AI e un benchmark, denominato AIR-Bench 2024, che valuta quanto i modelli linguistici di grandi dimensioni (LLM) rispettino le regole e i principi di sicurezza. Lo studio ha coinvolto un’analisi delle normative governative e delle linee guida sull’AI di vari paesi, tra cui Stati Uniti, Cina ed Unione Europea, nonché un esame delle politiche d’uso di 16 importanti aziende del settore.

AIR-Bench 2024 utilizza migliaia di prompt per testare i modelli di AI rispetto a specifici rischi. I risultati rivelano che alcuni modelli si comportano meglio di altri in determinate aree. Ad esempio, il modello Claude 3 Opus di Anthropic è particolarmente abile nel rifiutare la generazione di minacce alla sicurezza informatica, mentre il modello Gemini 1.5 Pro di Google eccelle nell’evitare la creazione di contenuti sessualmente espliciti non consensuali. Al contrario, il modello DBRX Instruct, sviluppato da Databricks, ha mostrato performance inferiori rispetto agli altri modelli in termini di sicurezza complessiva, nonostante l’azienda abbia annunciato miglioramenti futuri.

L’analisi ha messo in luce alcune problematiche significative nello sviluppo e nella regolamentazione dell’AI. In particolare, le normative governative, sebbene avanzate, risultano spesso meno dettagliate rispetto alle politiche interne delle aziende, suggerendo la necessità di un rafforzamento delle regole. Inoltre, è emerso che molti modelli di AI non sono sempre conformi alle stesse politiche aziendali, rivelando così un margine di miglioramento significativo.

Nel contesto di queste ricerche, è emerso anche un altro progetto, condotto dal MIT, che ha portato alla creazione di un database che raccoglie e classifica i pericoli associati all’AI. Questo database, basato su 43 diversi framework di rischio, evidenzia come alcune problematiche siano più spesso menzionate di altre. Ad esempio, questioni di privacy e sicurezza sono citate da oltre il 70% dei framework, mentre solo il 40% si occupa del problema della disinformazione.

Queste ricerche evidenziano come la catalogazione e la misurazione dei rischi dell’AI dovranno necessariamente evolversi parallelamente allo sviluppo tecnologico. In particolare, Bo Li ha sottolineato l’importanza di considerare questioni emergenti come l’impatto emotivo che i modelli di AI possono avere sugli utenti. Un’analisi del modello Llama 3.1 di Meta, condotta dalla sua azienda, ha infatti mostrato che, nonostante la maggiore capacità del modello, la sicurezza non ha registrato miglioramenti significativi.

L’intera vicenda si inserisce in un contesto più ampio di riflessione sul ruolo dell’AI nella società moderna. Con l’aumentare della potenza e della diffusione di questi modelli, è fondamentale che regolatori e sviluppatori si concentrino non solo sulle capacità tecniche, ma anche sui potenziali rischi associati al loro utilizzo.