Il Nevada adotta l’AI per gestire gli appelli sui benefici di disoccupazione | Nevada | Dipartimento per l’Occupazione | la Formazione e la Riabilitazione | Turtles AI

Il Nevada adotta un sistema di AI per velocizzare le decisioni sugli appelli relativi ai benefici di disoccupazione. La tecnologia, sviluppata da Google e finanziata con oltre un milione di dollari, solleva questioni etiche e legali. Quali saranno le implicazioni di questo primo utilizzo governativo di AI nel campo delle decisioni amministrative?

Punti chiave:

• Il Nevada adotta un sistema AI per accelerare le decisioni sui benefici di disoccupazione.
• Il progetto prevede l’utilizzo di Google Vertex AI Studio per elaborare dati provenienti dagli appelli.
• Preoccupazioni etiche e di sicurezza riguardano la gestione dei dati sensibili e il rischio di errori.
• Possibili applicazioni future dell’AI per migliorare i servizi governativi.

Il Nevada si prepara a diventare il primo stato negli Stati Uniti a utilizzare l’AI per accelerare il processo decisionale negli appelli riguardanti i benefici di disoccupazione. Il Dipartimento per l’Occupazione, la Formazione e la Riabilitazione (DETR) dello stato ha stipulato un contratto da 1.383.838 dollari con Google per l’implementazione della tecnologia AI, come evidenziato da un documento del budget del 2024. Il lancio del sistema è previsto nei prossimi mesi e rappresenta un tentativo pionieristico di sfruttare l’AI per ottimizzare un processo burocratico critico.

Il sistema, basato su un servizio cloud di Google chiamato Vertex AI Studio, opererà con una configurazione specifica: sarà connesso esclusivamente al database del DETR per garantire che le sue decisioni siano strettamente pertinenti e basate sui dati esistenti. Il contratto prevede che il DETR trasferisca trascrizioni delle udienze degli appelli e i risultati delle decisioni al sistema AI di Google, che poi elaborerà questi dati, li caricherà sul cloud e li confronterà con casi precedenti.

L’obiettivo è chiaro: ridurre il tempo necessario per emettere una decisione, che attualmente può richiedere fino a tre ore, a soli cinque minuti. Questo risparmio di tempo è particolarmente prezioso per il Nevada, che affronta un arretrato di oltre 40.000 appelli derivanti dall’aumento delle richieste di disoccupazione legate alla pandemia e da carenze di personale impreviste.

Tuttavia, l’introduzione di questo sistema pone una serie di questioni delicate. Un impiegato statale sarà incaricato di revisionare ogni decisione presa dall’AI per rilevare eventuali errori, bias o "allucinazioni" — ovvero situazioni in cui l’AI potrebbe fabbricare fatti inesistenti. Google ha garantito che collaborerà con il Nevada per identificare e correggere eventuali bias e per rispettare i requisiti federali e statali in materia di trasparenza e equità nei processi decisionali.

Il sistema AI utilizzerà una vasta gamma di dati per formulare le sue decisioni, ma resta una preoccupazione significativa riguardo alla protezione della privacy. Durante le udienze di appello, vengono condivise informazioni sensibili, come dati fiscali, numeri di previdenza sociale e dettagli personali. Google ha dichiarato che non avrà accesso né potrà utilizzare questi dati per altri scopi.

Nonostante le promesse di sicurezza e conformità, gli esperti avvertono che ci sono rischi associati all’adozione di questa tecnologia. Alcuni temono che gli impiegati statali possano sentirsi sotto pressione per approvare rapidamente le decisioni generate dall’AI, a causa dell’enfasi del DETR sulla velocità. Inoltre, potrebbe emergere una questione giuridica complessa: se un impiegato avallasse una decisione errata dell’AI, una corte civile potrebbe non essere in grado di ribaltare tale decisione, poiché non può sostituire il giudizio dell’arbitro dell’appello.

La scelta del Nevada ha generato un dibattito ampio e articolato. Da un lato, c’è la promessa di una maggiore efficienza nei processi amministrativi; dall’altro, persistono dubbi significativi sulla precisione e sull’affidabilità dei modelli AI. Studi recenti hanno dimostrato che i modelli di Google possono fornire risposte errate o fuorvianti in una percentuale compresa tra il 17% e il 33% dei casi, e risposte incomplete tra il 18% e il 63% dei casi. Questi dati suggeriscono che il monitoraggio continuo e l’aggiornamento del sistema saranno essenziali per minimizzare gli errori.

Il direttore del DETR, Christopher Sewell, ha ammesso di avere avuto alcune notti insonni dopo la firma del contratto, a causa delle preoccupazioni iniziali sulla sicurezza e sulla privacy dei dati. Tuttavia, Sewell e altri funzionari statali si sono dichiarati fiduciosi, ritenendo che il sistema funzionerà come previsto. La loro speranza è che l’AI possa anche essere utilizzata in futuro per altri compiti, come rispondere a domande di base nei call center o aiutare le persone a trovare lavoro.

L’esperimento del Nevada rappresenta un caso di studio significativo per l’applicazione dell’AI nei processi decisionali governativi. Mentre l’AI continua a evolversi, la sua implementazione nelle amministrazioni pubbliche potrebbe portare a una ridefinizione dei rapporti tra tecnologia, etica e governance. Se l’AI sarà in grado di migliorare l’efficienza senza compromettere la trasparenza e l’equità, il suo uso potrebbe diventare sempre più diffuso. Al contrario, gli errori potrebbero far emergere nuovi limiti e preoccupazioni, che influenzeranno il modo in cui queste tecnologie verranno utilizzate in futuro.