L’evoluzione della sicurezza nell’AI in Cina: un nuovo impegno tra scienza e politica | Large language models | Aziende ai quotate in borsa | App intelligenza artificiale video | Turtles AI

 
Negli ultimi due anni, l’approccio della Cina alla sicurezza dell’AI ha subito un cambiamento significativo. Mentre in passato le preoccupazioni riguardanti i rischi catastrofici derivanti da AI potenti erano limitate, oggi le discussioni sulla sicurezza AI stanno acquisendo sempre maggiore rilevanza sia nella comunità scientifica che nelle politiche cinesi. Con l’emergere di nuove ricerche, dichiarazioni pubbliche e documenti governativi, la Cina sembra riconoscere la necessità di gestire i rischi connessi allo sviluppo di AI avanzata. 

Punti chiave:

•  La crescente preoccupazione per i rischi dell’AI in Cina.  
•  L’importanza della Cina nella governance globale dell’AI e nella sua sicurezza.  
•  L’influenza di scienziati cinesi e il loro impegno nella ricerca sulla sicurezza dell’AI.  
•  Le recenti dichiarazioni politiche e l’iniziativa per una supervisione dell’AI.  

Negli ultimi due anni, la Cina ha mostrato un cambiamento significativo nel suo approccio alla sicurezza dell’AI, un tema che in precedenza non sembrava occupare un posto centrale nei dibattiti pubblici e scientifici del paese. Fino a poco tempo fa, le preoccupazioni relative ai rischi catastrofici derivanti da sistemi di AI molto potenti, come l’AI generale (AGI), erano prevalentemente diffuse nei circoli scientifici occidentali. Gli scienziati e gli esperti di AI provenienti da Stati Uniti e Regno Unito avevano messo in guardia sulle potenziali minacce future che questi sistemi potrebbero comportare, ma la Cina sembrava ignorare o minimizzare tali preoccupazioni. Tuttavia, recenti sviluppi suggeriscono che la Cina sta iniziando a prendere sul serio questi rischi, sebbene non siano ancora chiari tutti gli aspetti della sua strategia per affrontarli. Un segno significativo di questa evoluzione è l’adozione, da parte della leadership cinese, di misure politiche volte a creare sistemi di supervisione per garantire la sicurezza dell’AI. In un documento rilasciato dal Partito Comunista Cinese (PCC) nel luglio 2024, viene espressamente chiamato in causa l’istituzione di un sistema di supervisione e regolamentazione per monitorare i rischi dell’AI. Questo segnale politico si aggiunge a un crescente corpo di ricerca scientifica che esplora come prevenire i pericoli derivanti dallo sviluppo di AI avanzata.  

L’emergere di queste preoccupazioni ha avuto inizio intorno al 2020, quando alcuni dei principali scienziati e ricercatori cinesi hanno cominciato a parlare pubblicamente dei rischi connessi allo sviluppo dell’AGI, come nel caso di Wen Gao, direttore di uno dei più prestigiosi centri di ricerca in AI e professore presso l’Università di Pechino. Nel 2021, Gao ha co-firmato un articolo che esplorava i pericoli legati all’autosufficienza dell’AGI e alla possibilità che tale tecnologia potesse scatenare un’esplosione intellettuale incontrollata. Un altro importante segnale di cambiamento è arrivato nel 2023, quando una serie di scienziati cinesi di spicco ha iniziato a partecipare attivamente a discussioni internazionali sul tema della sicurezza AI, come nel caso di Andrew Yao, premiato con il Turing Award. Yao ha pubblicamente sottolineato la necessità di affrontare i rischi estremi dell’AI, partecipando alla redazione di un importante documento congiunto con scienziati internazionali, che esprimeva preoccupazione per i potenziali effetti devastanti di una rapida evoluzione dell’AI.  

Nel contesto delle politiche governative, il documento di settembre 2021 “Norme etiche per la nuova generazione di AI”, emesso dal comitato esperto sulla governance dell’AI, includeva per la prima volta una raccomandazione specifica sulla necessità di garantire che l’AI rimanga sempre sotto controllo umano. Sebbene questa raccomandazione non avesse un carattere vincolante, rappresentava un chiaro segno di come le preoccupazioni legate alla sicurezza stessero trovando spazio nel dibattito pubblico e nelle decisioni politiche. Nonostante ciò, le prime normative sul tema, emanate dalla Cyberspace Administration of China (CAC) a partire dal 2022, si concentravano principalmente sulla regolamentazione di contenuti e algoritmi, senza entrare nel merito delle problematiche più gravi legate alla sicurezza futura dell’AI. Solo con l’arrivo di ChatGPT, nell’ultimo trimestre del 2022, il discorso si è intensificato. Nei primi mesi del 2023, la Cina ha partecipato attivamente al dibattito globale sulla sicurezza AI, come testimoniato dal forum tenutosi alla Beijing Academy of Artificial Intelligence e da una serie di dichiarazioni da parte di figure di spicco, inclusi scienziati di fama internazionale come Yao.  

Il 2023 ha visto anche la partecipazione di scienziati e funzionari cinesi al primo AI Safety Summit nel Regno Unito, dove la Cina ha firmato la Bletchley Declaration, un accordo internazionale che riconosce la necessità di collaborare per ridurre i rischi legati all’AI avanzata. Sebbene tale dichiarazione non abbia imposto impegni formali vincolanti, la sua firma da parte della Cina ha mostrato un impegno simbolico nella cooperazione internazionale sulla sicurezza dell’AI. A partire dal 2024, il tema della sicurezza dell’AI è emerso in modo ancora più prominente durante il World AI Conference di Shanghai, dove si sono approfonditi aspetti sia tecnici che regolatori, segnando un ulteriore passo verso la definizione di politiche di sicurezza chiare. Qui, la Shanghai AI Lab ha rilasciato un rapporto che proponeva di trattare i risultati della ricerca sulla sicurezza dell’AI come beni pubblici globali, sostenendo la necessità di un finanziamento e una diffusione internazionali.

Nel luglio 2024, il PCC ha adottato un nuovo linguaggio per affrontare i rischi derivanti dall’AI. La dichiarazione finale della Terza Plenaria ha incluso un riferimento esplicito alla necessità di istituire un sistema di supervisione per garantire la sicurezza dell’intelligenza artificiale, citando esplicitamente minacce alla sicurezza pubblica. Sebbene il documento sollevi molte domande sulla portata e sugli obiettivi di tali misure, è significativo il fatto che la Cina stia ora trattando la sicurezza dell’AI come una priorità. La supervisione proposta si inserisce nel contesto di rischi globali e di sicurezza pubblica, come disastri naturali o emergenze sanitarie, ma non è ancora chiaro se si tratti di un approccio mirato esclusivamente alla regolazione dell’AI generale o anche ai rischi legati a modelli AI avanzati. La Cina sembra intenzionata a dare forma a una governance della sicurezza dell’AI che possa evitare gli scenari catastrofici ipotizzati da scienziati e policy maker internazionali.  

L’implementazione di queste idee dipenderà dalle scelte future in merito alle istituzioni dedicate alla sicurezza dell’AI.