I Modelli Linguistici di AI Cinesi Censurano Argomenti Politici | Festina Lente - Notizie, recensioni e approfondimenti sull’intelligenza artificiale | Turtles AI

 La Cina Impone Nuove Norme sui Modelli Linguistici delle Aziende di AI

 Punti Chiave

- Revisione Governativa: I modelli linguistici delle aziende AI saranno esaminati per conformarsi ai valori socialisti.
- Controllo dei Contenuti: Le risposte dei modelli a domande politicamente sensibili saranno attentamente vagliate.
- Database di Parole Chiave: Le aziende devono creare un elenco di termini e domande che violano i principi socialisti.
- Modifiche nei Modelli AI: Le aziende devono adattare i modelli per fornire risposte politicamente corrette e sostituire le risposte sensibili in tempo reale.

La Cina ha recentemente adottato misure rigorose per controllare i modelli di AI sviluppati dalle sue aziende tecnologiche. La Cyberspace Administration of China (CAC) ha avviato un processo di revisione dei modelli linguistici delle principali aziende del settore, tra cui ByteDance, Alibaba, Moonshot e 01, per garantire che essi rispettino i "principali valori socialisti".

 Verifica dei Contenuti AI

Le nuove regolamentazioni prevedono che i funzionari governativi esaminino le risposte dei modelli linguistici a una vasta gamma di domande, con particolare attenzione a temi politicamente delicati e al presidente Xi Jinping. Questa iniziativa mira a impedire che i modelli AI generino contenuti che possano essere considerati destabilizzanti per l’unità nazionale o sovversivi rispetto al potere statale.

 Adeguamenti nei Dati di Formazione

Le aziende devono inoltre rivedere i dati utilizzati per l’addestramento dei loro modelli AI. Questo comporta l’eliminazione di informazioni ritenute problematiche e la costruzione di un database di parole chiave sensibili. Termini e domande che violano i valori socialisti fondamentali, come "incitare la sovversione del potere statale" o "minare l’unità nazionale", devono essere identificati e gestiti in modo adeguato.

 Sfide per le Aziende AI

L’adattamento ai nuovi requisiti normativi rappresenta una sfida significativa per le aziende cinesi. Huan Li, esperto di AI, ha spiegato al Financial Times che è complesso per gli sviluppatori controllare in tempo reale il testo generato dai modelli linguistici. Quando il contenuto prodotto rientra in una categoria sensibile, il sistema deve essere in grado di attivare una sostituzione automatica della risposta.

 Impatti sul Comportamento dei Chatbot

Questi cambiamenti hanno già avuto un impatto evidente sulle risposte fornite dai chatbot AI in Cina. Ad esempio, questi modelli evitano di rispondere a domande su eventi storici controversi come il massacro di Piazza Tienanmen del 4 giugno 1989 o sulla presunta somiglianza tra il presidente Xi Jinping e Winnie the Pooh. Allo stesso tempo, i modelli sono stati programmati per fornire risposte politicamente corrette a domande su temi delicati, come i diritti umani in Cina o l’operato del presidente Xi Jinping.

Un Futuro Regolamentato

Queste nuove norme, introdotte solo due decenni dopo il Great Firewall, consolidano la posizione della Cina come il paese con il regime normativo più rigido al mondo per il controllo dell’AI e dei contenuti che essa genera. Le aziende cinesi del settore devono ripensare il processo di progettazione dei loro modelli AI per conformarsi alle direttive governative, garantendo la sopravvivenza nel mercato nazionale.

In conclusione, le misure introdotte dalla Cyberspace Administration of China riflettono un crescente controllo sullo sviluppo e l’implementazione dell’AI, costringendo le aziende del settore a fare i conti con nuove e complesse sfide regolamentari.