AILuminate: un nuovo standard per la sicurezza nell’AI | Come istruire chat gpt | Chatgpt app | Large language models italiano | Turtles AI

 MLCommons ha lanciato AILuminate, un benchmark per valutare la sicurezza dei modelli linguistici di grandi dimensioni. L’iniziativa punta a definire standard condivisi per mitigare rischi fisici, non fisici e contestuali legati all’uso dell’AI generativa, promuovendo un approccio collaborativo.

Punti chiave:

• Obiettivo: Definire parametri standard per la sicurezza dell’AI.
• Focus iniziale: Rischi connessi ai modelli linguistici basati su testo inglese.
• Collaborazione: Coinvolgimento di aziende tecnologiche, accademici e gruppi di difesa.
• Prospettive future: Estensione del benchmark a più lingue e contesti entro il 2025.

MLCommons, consorzio di riferimento nel settore dell’AI, ha introdotto AILuminate, un parametro di valutazione mirato a garantire la sicurezza dei modelli linguistici avanzati. Presentato ufficialmente al Computer History Museum di San Jose, il benchmark rappresenta un passo decisivo verso la standardizzazione della sicurezza nei sistemi di AI generativa. L’obiettivo principale è sviluppare uno strumento condiviso per analizzare e mitigare i rischi associati a queste tecnologie, tenendo conto delle implicazioni sia pratiche che etiche. Peter Mattson, fondatore e presidente di MLCommons, ha sottolineato come il progresso dell’AI possa essere paragonato all’evoluzione dell’aviazione, dalla visione pionieristica ai primi voli, fino ai moderni standard di sicurezza.

AILuminate si propone di esaminare una gamma diversificata di rischi, suddivisi in tre categorie principali. I rischi fisici, legati a potenziali danni diretti alle persone o alle cose; i rischi non fisici, che includono questioni di proprietà intellettuale, violazioni della privacy, diffamazione e incitamento all’odio; infine, i rischi contestuali, che emergono in base all’ambiente d’uso del modello. Quest’ultima categoria evidenzia, ad esempio, l’inopportunità di fornire consulenze mediche o legali tramite chatbot generici, laddove tali applicazioni potrebbero invece essere auspicabili in sistemi specializzati.

Sviluppato grazie alla collaborazione tra aziende come Meta, Microsoft, Google e Nvidia, accademici e organizzazioni di advocacy, AILuminate punta a essere un riferimento universale per la sicurezza dell’AI. Tuttavia, la versione attuale si limita a modelli basati su testo inglese e interazioni a prompt singolo, senza ancora includere modelli multimodali o applicazioni più complesse. L’espansione a lingue come francese, cinese e hindi è prevista per il 2025, insieme all’integrazione di funzionalità avanzate.

L’importanza di definire standard di sicurezza è stata ribadita da esponenti del settore. Navrina Singh, CEO di Credo AI, ha definito AILuminate un passo fondamentale per integrare l’AI in modo sicuro nelle aziende, sottolineando la necessità di trasparenza e affidabilità. Stuart Battersby, CTO di Chatterbox Labs, ha apprezzato l’iniziativa, sottolineando però che i test di sicurezza devono essere adattati alle implementazioni specifiche delle aziende, le quali spesso combinano modelli base con sistemi personalizzati di protezione. Aggiunge che un approccio continuo e iterativo sarà cruciale per garantire la sicurezza in applicazioni diversificate.

La comunità dell’AI sembra concorde nel riconoscere i rischi dell’AI generativa, pur mantenendo una prospettiva orientata alla sua implementazione pratica.

Nonostante la presenza di voci critiche preoccupate per l’impatto sul copyright e sulle industrie creative, gli standard di sicurezza emergenti potrebbero rappresentare una base solida per gestire i compromessi tra innovazione e responsabilità.