Anthropic e Palantir: un’alleanza tra AI e difesa che solleva dubbi etici | Festina Lente - Notizie, recensioni e approfondimenti sull’intelligenza artificiale | Turtles AI

 Anthropic, società emergente nel campo dell’AI, ha siglato una partnership con Palantir e Amazon Web Services per portare il suo modello AI Claude all’interno delle agenzie di difesa e intelligence statunitensi. L’accordo ha sollevato preoccupazioni etiche, alimentando il dibattito sulle implicazioni di un’AI utilizzata in ambito militare e di sorveglianza.

Punti chiave:  

•  L’AI Claude di Anthropic sarà utilizzata da agenzie governative statunitensi per analizzare e gestire dati sensibili.
•  L’accordo prevede l’integrazione del modello AI nella piattaforma Palantir, già utilizzata per scopi militari.
•  La partnership solleva dubbi etici, dato il conflitto con i valori di "sicurezza" promossi da Anthropic.
•  Le critiche evidenziano il rischio di affidarsi a tecnologie che possono generare errori, con implicazioni potenzialmente gravi in ambito di sicurezza nazionale.

In una mossa che sta suscitando un acceso dibattito, Anthropic, una delle principali aziende focalizzate sull’AI, ha annunciato una partnership con Palantir e Amazon Web Services (AWS) per portare il suo modello AI Claude nel cuore delle operazioni di intelligence e difesa statunitensi. L’accordo consente di integrare Claude nella piattaforma di analisi dei dati di Palantir, che gestisce informazioni ad alta sicurezza per il governo americano. In particolare, il modello AI verrà utilizzato per analizzare grandi volumi di dati complessi, individuare pattern e tendenze nascoste e semplificare la gestione e la preparazione dei documenti riservati. Con la disponibilità nell’ambito della piattaforma accreditata Impact Level 6 (IL6), un sistema di gestione di dati classificati fino al livello "segreto", l’intelligenza artificiale diventa un elemento fondamentale per operazioni di difesa e sorveglianza, destando però non poche preoccupazioni. 

Questa alleanza si inserisce in un contesto più ampio di crescente interesse da parte delle aziende tecnologiche verso contratti con agenzie governative e militari. Già Meta e OpenAI, tra gli altri, hanno intrapreso iniziative simili, con l’intento di applicare le loro capacità di AI per supportare le missioni di difesa. Tuttavia, l’accordo tra Anthropic, Palantir e AWS solleva interrogativi più ampi, soprattutto per le implicazioni etiche e per il potenziale contrasto con i principi di sicurezza che la stessa Anthropic ha cercato di promuovere fin dal suo esordio. Fondata nel 2021 da esperti di AI tra cui Dario Amodei, la società ha sempre sottolineato il suo impegno verso un approccio etico e responsabile nello sviluppo dei suoi modelli, facendosi portavoce di una filosofia di "sicurezza" nell’AI, che include pratiche di sviluppo "costituzionale" e una stretta vigilanza sui rischi esistenziali.

La collaborazione con Palantir ha sollevato dubbi tra esperti e attivisti, tra cui Timnit Gebru, ex co-responsabile dell’etica dell’AI di Google, che ha espresso preoccupazioni riguardo al conflitto tra la missione di sicurezza di Anthropic e il suo coinvolgimento con il complesso militare-industriale degli Stati Uniti. La scelta di Palantir come partner è particolarmente controversa, considerando le polemiche che circondano la compagnia, in particolare per il suo ruolo nel programma Maven, un sistema di AI destinato a identificare obiettivi per scopi militari, già al centro di critiche etiche da parte della comunità tecnologica.

A livello pratico, l’utilizzo di Claude per scopi di difesa e intelligence prevede che, sebbene il modello sia capace di processare enormi quantità di dati, l’intervento umano rimarrà fondamentale per le decisioni finali. Tuttavia, i rischi associati all’uso di un’AI in contesti così delicati non possono essere sottovalutati, specialmente considerando che i modelli di linguaggio come Claude, pur mostrando capacità avanzate, non sono esenti da errori. I modelli AI sono noti per il fenomeno della "confabulazione", ossia la generazione di informazioni imprecise o errate, che potrebbero compromettere l’affidabilità e la sicurezza delle operazioni in ambito governativo. Un errore o una distorsione dei dati in contesti di intelligence, con implicazioni geopolitiche o di sicurezza, potrebbe avere conseguenze imprevedibili.

Sebbene i termini di servizio di Anthropic stabiliscano delle limitazioni sull’uso del modello per scopi come la sorveglianza interna, la disinformazione o la creazione di armi, il coinvolgimento con entità come Palantir e il legame con progetti di difesa sollevano interrogativi riguardo a quanto queste politiche possano essere effettivamente implementate in contesti operativi reali. Le aziende coinvolte, pur affermando che Claude non verrà mai utilizzato come parte di un sistema di armi, si trovano comunque al centro di una questione più ampia: fino a che punto è etico sviluppare tecnologie in grado di gestire e analizzare dati sensibili in ambiti dove il rischio di abusi è elevato?

L’accordo rappresenta quindi un passo significativo per Anthropic, che da una parte si afferma come un attore chiave nell’AI a livello globale, dall’altra si espone a un’esposizione pubblica e a una crescente responsabilità etica che potrebbe mettere alla prova la sua immagine di azienda “etica”.

Il futuro della collaborazione tra AI e difesa rimarrà un tema caldo, sollevando interrogativi legati alla sicurezza, alla privacy e all’uso delle tecnologie avanzate in scenari ad alto rischio.