Microsoft e OpenAI propongono “Personhood Credential” per distinguere persone reali dall | Microsoft | Openai | CAPTCHA | Turtles AI

Microsoft e OpenAI propongono "Personhood Credentials" per contrastare le truffe online abilitate dall’AI.

Punti chiave:

• Proposta dei Personhood Credentials (PHC): Identificatori crittografici per verificare l’identità online, mantenendo una certa privacy.
• Sfide e limiti: PHC non garantiscono privacy totale e potrebbero essere utilizzati impropriamente da governi o altri attori.
• Collaborazioni accademiche: Coinvolgimento di università prestigiose e aziende tech come Microsoft e OpenAI.
• Critiche e preoccupazioni: Problemi di governance, privacy e potenziali abusi nell’implementazione dei PHC.

Per affrontare il crescente problema delle frodi online rese possibili dai modelli di AI, Microsoft e OpenAI, insieme a diversi ricercatori accademici, hanno proposto l’introduzione dei "personhood credentials" (PHC). Questi strumenti crittograficamente autenticati potrebbero rappresentare un nuovo metodo per verificare l’identità digitale preservando, almeno in parte, la privacy degli utenti.

I recenti sviluppi tecnologici hanno reso più semplice creare contenuti difficilmente distinguibili da quelli prodotti da esseri umani. La crescente accessibilità e il costo ridotto di questi strumenti permettono ad attori malevoli di sfruttare l’anonimato per condurre attacchi sofisticati online. Microsoft e OpenAI, tra altri, propongono quindi l’introduzione dei PHC come soluzione per ridurre la diffusione di contenuti falsi e ingannevoli.

I "personhood credentials" sarebbero simili ai certificati digitali utilizzati per autenticare i proprietari di siti web, ma mantenendo un certo livello di anonimato. Diversi ricercatori e accademici, tra cui esponenti di prestigiose istituzioni come Harvard, Oxford e MIT, hanno collaborato alla stesura di un documento che descrive l’idea. Il concetto principale è che le credenziali PHC possano essere assegnate a individui ritenuti legittimi da una autorità competente, senza rivelare pubblicamente la loro identità.

Nonostante le promesse di anonimato, il documento riconosce che le PHC non garantirebbero una vera privacy online. I meccanismi di sorveglianza e monitoraggio presenti su Internet, combinati con la profilazione degli utenti, resterebbero comunque in grado di tracciare e potenzialmente de-anonimizzare le attività online degli individui.

Dal punto di vista tecnico, il documento presenta un quadro generale piuttosto che una specifica implementazione. Le PHC potrebbero essere emesse da varie organizzazioni, governative o meno, come una forma di “radice di fiducia” (root of trust), termine comunemente applicato alle autorità di certificazione. Per esempio, negli Stati Uniti, potrebbero essere rilasciate a chiunque possieda un numero di identificazione fiscale.

Tuttavia, l’idea solleva diverse preoccupazioni, come osserva Jacob Hoffman-Andrews della Electronic Frontier Foundation. Tra le principali, vi è la potenziale creazione di un sistema in cui i governi, notoriamente imperfetti nella gestione dei diritti delle persone, potrebbero decidere chi ha il diritto di parlare online.

Un altro rischio riguarda l’uso improprio delle PHC da parte di stati interessati a pratiche di disinformazione su larga scala. Le PHC potrebbero diventare strumenti di censura o repressione, aumentando le già esistenti frammentazioni su Internet.

Il concetto di "personhood credentials" offre spunti per riflettere sul futuro della governance online nell’era dell’AI. La tensione tra il bisogno di autenticità e la protezione della privacy e della libertà d’espressione resta un nodo centrale e irrisolto, specie quando si parla di soluzioni potenzialmente divisive come queste.