Lakshmi Raman: L’AI alla CIA tra Innovazione e Responsabilità | Festina Lente - Notizie, recensioni e approfondimenti sull’intelligenza artificiale | Turtles AI

Punti chiave:

• Lakshmi Raman guida l’uso dell’AI alla CIA con un approccio bilanciato tra innovazione e responsabilità.
• La CIA utilizza AI per elaborare grandi quantità di dati e contrastare le minacce globali.
• Preoccupazioni etiche emergono riguardo all’uso dell’AI da parte della CIA su dati raccolti sui cittadini americani.
• Raman sottolinea l’importanza di trasparenza e conformità legale nell’uso dei sistemi AI.

Lakshmi Raman, direttrice dell’AI alla CIA, guida l’integrazione delle tecnologie emergenti nell’intelligence, bilanciando innovazione e responsabilità. Scopri come la CIA utilizza l’AI per affrontare le sfide globali e mantenere la sicurezza nazionale.

Lakshmi Raman, la direttrice dell’AI alla CIA, ha una lunga carriera nell’intelligence. Entrata nella CIA nel 2002 come sviluppatrice software dopo aver conseguito la laurea all’Università dell’Illinois Urbana-Champaign e il master in informatica all’Università di Chicago, ha poi ricoperto vari ruoli di gestione fino a guidare gli sforzi di data science dell’agenzia.

Raman sottolinea l’importanza di avere modelli femminili e predecessori nel suo percorso professionale, un vantaggio in un settore storicamente dominato dagli uomini. "Ho ancora persone a cui posso chiedere consigli e da cui posso imparare cosa significa essere leader," ha affermato. "Ogni donna deve affrontare sfide specifiche nel suo percorso di carriera."

Nel suo ruolo attuale, Raman orchestra e guida le attività di AI all’interno della CIA. "Pensiamo che l’AI sia qui per supportare la nostra missione," ha detto. "Sono gli esseri umani e le macchine insieme a essere in prima linea nel nostro utilizzo dell’AI."

L’AI non è una novità per la CIA, che esplora applicazioni di data science e AI sin dal 2000, in particolare nell’elaborazione del linguaggio naturale, visione artificiale e analisi video. L’agenzia cerca di rimanere aggiornata sulle nuove tendenze, come l’AI generativa, con una roadmap informata dall’industria e dal mondo accademico.

"Quando pensiamo alle enormi quantità di dati che dobbiamo gestire, il triage dei contenuti è un’area in cui l’AI generativa può fare la differenza," ha detto Raman. "Stiamo esplorando strumenti per la ricerca e la scoperta, l’ideazione e la generazione di controargomenti per contrastare eventuali bias analitici."

La comunità dell’intelligence degli Stati Uniti sente un’urgenza nel deployare strumenti che possano aiutare la CIA a combattere le crescenti tensioni geopolitiche, dai rischi di terrorismo alla disinformazione di attori stranieri. L’anno scorso, il Special Competitive Studies Project ha stabilito un termine di due anni per adottare l’AI generativa su larga scala.

Uno strumento sviluppato dalla CIA, chiamato Osiris, è simile a ChatGPT di OpenAI, ma personalizzato per usi intelligence. Osiris riassume dati, attualmente solo quelli non classificati e pubblicamente o commercialmente disponibili, e consente agli analisti di approfondire con domande successive in inglese semplice.

Osiris è utilizzato da migliaia di analisti non solo all’interno della CIA, ma anche nelle altre 18 agenzie di intelligence statunitensi. Raman non ha rivelato se sia stato sviluppato internamente o utilizzando tecnologie di terze parti, ma ha affermato che la CIA ha partnership con fornitori di alto profilo.

"Utilizziamo servizi commerciali," ha detto Raman, aggiungendo che la CIA impiega strumenti di AI per compiti come la traduzione e l’allerta degli analisti su sviluppi potenzialmente importanti durante le ore non lavorative. "Dobbiamo lavorare a stretto contatto con l’industria privata per fornire non solo i servizi e le soluzioni più conosciuti, ma anche servizi più di nicchia da fornitori non tradizionali."

C’è ragione di essere scettici riguardo all’uso dell’AI da parte della CIA. Nel febbraio 2022, i senatori Ron Wyden e Martin Heinrich hanno rivelato in una lettera pubblica che la CIA, nonostante sia generalmente vietata dall’indagare su cittadini e imprese americane, possiede un archivio segreto di dati che include informazioni raccolte sui cittadini statunitensi. Inoltre, un rapporto dell’Office of the Director of National Intelligence ha mostrato che le agenzie di intelligence degli Stati Uniti acquistano dati su americani da broker di dati come LexisNexis e Sayari Analytics con poca supervisione.

Se la CIA utilizzasse l’AI per analizzare questi dati, molti americani si opporrebbero sicuramente. Sarebbe una chiara violazione delle libertà civili e, a causa delle limitazioni dell’AI, potrebbe portare a risultati ingiusti. Diversi studi hanno mostrato che gli algoritmi predittivi del crimine tendono a segnalare sproporzionatamente le comunità nere, e che il riconoscimento facciale risulta in tassi di identificazione errata più alti per le persone di colore rispetto ai bianchi.

Oltre al bias, anche i migliori sistemi di AI odierni possono generare errori, come attribuire citazioni a persone inesistenti. Questo potrebbe diventare un problema significativo nel lavoro di intelligence, dove l’accuratezza è fondamentale.

Raman ha insistito che la CIA non solo rispetta tutte le leggi degli Stati Uniti, ma segue anche tutte le linee guida etiche e utilizza l’AI "in modo da mitigare i bias." "Direi che il nostro approccio è uno dove vogliamo che i nostri utenti comprendano il più possibile il sistema AI che stanno utilizzando. Costruire un’AI responsabile significa coinvolgere tutti gli stakeholder, compresi gli sviluppatori di AI e il nostro ufficio per la privacy e le libertà civili."

Recenti studi hanno evidenziato l’importanza di rendere chiari agli utenti i limiti dei sistemi AI. I ricercatori della North Carolina State University hanno scoperto che strumenti di AI, come il riconoscimento facciale e gli algoritmi di rilevamento dei colpi di arma da fuoco, vengono utilizzati dalla polizia senza una chiara comprensione delle tecnologie o dei loro limiti.

Un esempio particolarmente eclatante di abuso dell’AI da parte delle forze dell’ordine è stato riportato dalla NYPD, che ha utilizzato foto di celebrità e immagini distorte per generare corrispondenze di riconoscimento facciale su sospetti quando le immagini di sorveglianza non davano risultati.

"Qualsiasi output generato dall’AI dovrebbe essere chiaramente compreso dagli utenti, il che significa ovviamente etichettare i contenuti generati dall’AI e fornire spiegazioni chiare su come funzionano i sistemi AI," ha detto Raman. "Tutto ciò che facciamo nell’agenzia, rispettiamo i requisiti legali e assicuriamo che i nostri utenti, partner e stakeholder siano a conoscenza di tutte le leggi, regolamenti e linee guida pertinenti sull’uso dei nostri sistemi AI, e ci conformiamo a tutte queste regole."