AI generativa sotto esame: un concorso invita cittadini e sviluppatori a testarne le vulnerabilità | Chatgpt 4 immagini | Chatgpt cosa e successo | Large language models book | Turtles AI

L’invito a partecipare a un concorso nazionale di red-teaming sull’AI generativa, organizzato da Humane Intelligence e il National Institute of Standards and Technology (NIST), mira a coinvolgere sviluppatori e il pubblico nella valutazione dei rischi e delle potenziali falle nei sistemi di AI utilizzati nel software di produttività per ufficio. L’obiettivo è espandere la consapevolezza e la capacità critica nei confronti delle tecnologie AI, coinvolgendo anche non esperti. 

Punti chiave:

- Valutazione AI aperta al pubblico: Il concorso di red-teaming è aperto a tutti i residenti negli Stati Uniti, con qualificazioni online accessibili anche ai non sviluppatori.

- Collaborazione per l’etica AI: L’iniziativa nasce dalla collaborazione tra Humane Intelligence e il NIST per promuovere test rigorosi sulla sicurezza e l’etica delle AI generative.

- Sfida ARIA del NIST: I partecipanti utilizzeranno il profilo AI 600-1 per valutare se i modelli di AI rispettano il comportamento previsto, nell’ambito delle sfide AI del NIST.

- Inclusione e rappresentanza: L’iniziativa mira a coinvolgere anche gruppi sotto-rappresentati, come parlanti di lingue minoritarie, nel processo di valutazione delle AI.

La crescente influenza dei sistemi di AI generativa ha portato il governo degli Stati Uniti e organizzazioni specializzate a lanciare iniziative volte a valutarne la sicurezza, l’affidabilità e l’impatto sociale. In questo contesto, Humane Intelligence, una no-profit impegnata nell’etica dell’AI, in collaborazione con il National Institute of Standards and Technology (NIST), ha lanciato un concorso nazionale aperto a tutti i cittadini statunitensi. L’iniziativa, che si inserisce all’interno delle sfide ARIA (Assessment of Risks and Impacts of AI) promosse dal NIST, mira a reclutare partecipanti non solo dal mondo della programmazione ma anche dalla società civile, per identificare e analizzare eventuali vulnerabilità nei sistemi di AI generativa utilizzati nei software di produttività per ufficio.

Il concorso prevede una fase di qualificazione online, accessibile a chiunque, e culminerà in un evento di red-teaming in Virginia, durante la Conference on Applied Machine Learning in Information Security (CAMLIS) a ottobre. Qui, i partecipanti saranno divisi in due squadre: una, il team rosso, si concentrerà sull’identificazione di potenziali falle nei sistemi AI; l’altra, il team blu, lavorerà alla loro difesa, utilizzando il profilo AI 600-1 del NIST come riferimento per valutare l’adeguatezza e la sicurezza dei modelli.

Questa iniziativa rappresenta un’evoluzione nel modo in cui si conducono test e valutazioni delle AI generative, portando avanti il concetto di "red-teaming" già sperimentato in eventi precedenti, come la conferenza Defcon del 2023. A differenza di questi eventi, il concorso lanciato da Humane Intelligence e NIST si caratterizza per un’apertura più ampia e inclusiva, rivolta anche a individui che non hanno una formazione tecnica specifica. L’obiettivo, secondo i promotori, è democratizzare la capacità di valutare criticamente i modelli di AI e assicurarsi che chiunque, indipendentemente dal proprio background, possa determinare autonomamente se una tecnologia è adatta alle proprie esigenze e in linea con principi etici.

Rumman Chowdhury, fondatore di Humane Intelligence e membro del team ARIA, ha sottolineato l’importanza di utilizzare background sociotecnici per sviluppare valutazioni rigorose delle AI generative, una prospettiva che riflette la necessità di combinare competenze tecniche e considerazioni etiche per affrontare le sfide poste da queste tecnologie emergenti. Questo approccio risponde a una crescente domanda di trasparenza e responsabilità nell’uso delle AI, in un contesto in cui i modelli algoritmici sono spesso percepiti come scatole nere, difficili da interpretare e valutare per gli utenti finali.

Con questa iniziativa, che verrà seguita da ulteriori collaborazioni con agenzie governative e organizzazioni internazionali, Humane Intelligence punta a rendere la valutazione dei modelli di AI un processo più trasparente e partecipativo, coinvolgendo una gamma più ampia di attori, inclusi giornalisti, decisori politici e rappresentanti di comunità sotto-rappresentate. Tale apertura è vista come essenziale per garantire che le tecnologie AI non solo siano sicure e affidabili, ma anche eque e inclusive, in grado di rispondere alle esigenze di una società sempre più diversificata.

L’iniziativa di Humane Intelligence e NIST segna un passo significativo verso una maggiore trasparenza e responsabilità nell’uso delle tecnologie AI, promuovendo la partecipazione attiva di una comunità ampia e diversificata nel processo di valutazione critica di queste potenti tecnologie.