La Silicon Valley critica il disegno di legge Californiano per prevenire i rischi dell’AI | | | | Turtles AI

In un contesto di crescente attenzione verso la regolamentazione dell’AI, il disegno di legge SB 1047 della California sta suscitando ampio dibattito. Con l’obiettivo di prevenire potenziali danni critici, il provvedimento mira a imporre rigorose misure di sicurezza sui modelli di AI più avanzati. Tuttavia, la proposta ha incontrato una forte resistenza, soprattutto da parte della Silicon Valley, che teme ripercussioni sull’innovazione e la competitività.

Punti chiave:
- Obiettivo del disegno di legge: La SB 1047 vuole prevenire l’uso improprio dei grandi modelli di AI, puntando a evitare danni critici come attacchi informatici o creazione di armi letali.
- Applicazione e soggetti interessati: Le regole si applicano solo ai modelli di AI di grandi dimensioni, quelli che richiedono almeno 100 milioni di dollari per l’addestramento e che utilizzano un’enorme quantità di risorse di calcolo.
- Responsabilità e supervisione: Il disegno di legge prevede la creazione di un’agenzia, la Frontier Model Division (FMD), che sovraintenderebbe alla certificazione e al monitoraggio dei modelli di AI, con l’autorità di imporre sanzioni severe.
- Critiche e opposizioni: Molti nella Silicon Valley, tra cui venture capitalist e accademici, ritengono che il disegno di legge potrebbe soffocare l’innovazione, danneggiare le startup e limitare la libertà di espressione.

Il disegno di legge SB 1047, noto come Safe and Secure Innovation for Frontier Artificial Intelligence Models Act, è una proposta della California che mira a prevenire futuri danni causati dall’AI, concentrandosi sui modelli di AI più avanzati e complessi. La proposta, sostenuta da alcune figure di spicco del settore, come i ricercatori Geoffrey Hinton e Yoshua Bengio, ha lo scopo di creare un quadro normativo che imponga agli sviluppatori di AI di adottare protocolli di sicurezza rigorosi per prevenire l’uso malevolo delle loro tecnologie. La SB 1047, se approvata, si applicherà solo a quei modelli di AI che richiedono risorse straordinarie per l’addestramento, con un costo minimo di 100 milioni di dollari e l’impiego di almeno 10^26 FLOPS, un parametro che indica la potenza di calcolo necessaria. Attualmente, solo un numero limitato di aziende, come OpenAI, Google e Microsoft, ha sviluppato modelli di AI che rientrano in questi criteri, ma si prevede che altri giganti tecnologici, come Meta, raggiungano presto tali soglie.

Il disegno di legge richiede agli sviluppatori di implementare misure di sicurezza, tra cui un sistema di "arresto di emergenza" per spegnere il modello di AI in caso di rischio. Inoltre, le aziende dovrebbero sottoporre i loro modelli a test annuali, eseguiti da revisori terzi, per garantire che le misure di sicurezza siano adeguate a prevenire "danni critici". La SB 1047 prevede anche la creazione di una nuova agenzia, la Frontier Model Division (FMD), incaricata di certificare i nuovi modelli di AI e di monitorare la conformità delle aziende alle normative. La FMD sarebbe governata da un consiglio composto da rappresentanti del settore AI, della comunità open source e del mondo accademico. In caso di violazione delle norme, il procuratore generale della California avrebbe il potere di intraprendere azioni legali contro le aziende, con sanzioni che potrebbero arrivare fino a 30 milioni di dollari per le infrazioni più gravi.

Tuttavia, la proposta di legge ha incontrato una forte resistenza. Numerosi attori della Silicon Valley, inclusi capitalisti di rischio, grandi gruppi tecnologici e ricercatori, hanno espresso preoccupazioni riguardo all’impatto che la SB 1047 potrebbe avere sull’ecosistema dell’innovazione. Tra i principali oppositori vi è la società di venture capital a16z, che sostiene che il disegno di legge potrebbe avere un effetto negativo sulle startup, gravandole con oneri regolamentari eccessivi e soffocando la competitività. Anche accademici di spicco come Fei-Fei Li e Andrew Ng hanno criticato il disegno di legge, affermando che potrebbe danneggiare l’ecosistema emergente dell’AI e ostacolare la ricerca open source. Inoltre, aziende tecnologiche come Meta e Google hanno espresso preoccupazioni riguardo al fatto che la SB 1047 possa limitare la libertà di espressione e spingere l’innovazione tecnologica fuori dalla California.

La SB 1047 è attualmente in fase di revisione e potrebbe essere emendata prima del voto finale previsto per la metà di agosto. Nonostante le opposizioni, si prevede che la proposta di legge venga approvata dal Senato della California, dato il suo ampio sostegno tra i legislatori. Se approvata, la legge non entrerà immediatamente in vigore; la FMD dovrebbe essere operativa entro il 2026, ma è probabile che la legge affronti sfide legali prima di allora.

 Il disegno di legge SB 1047 rappresenta un tentativo ambizioso della California di regolamentare i rischi associati all’AI avanzata, ma il suo percorso verso l’approvazione e l’implementazione potrebbe essere irto di ostacoli.