Google presenta SynthID Text: un innovazione nel watermarking per testi AI | Immagini buonanotte simpatiche | Scaricare immagini gratis per cellulare | Siti immagini gratis | Turtles AI

Google ha reso disponibile SynthID Text, una tecnologia open source per filigranare e rilevare testi generati da AI. Integrato nella piattaforma Hugging Face, lo strumento promette di aiutare sviluppatori e aziende a identificare contenuti AI, affrontando al contempo sfide tecniche e normative.

Punti chiave:

•  SynthID Text permette di aggiungere una filigrana ai testi generati da AI.
•  Disponibile su Hugging Face e nel Responsible GenAI Toolkit di Google.
•  La tecnologia non compromette qualità e velocità di generazione.
•  Si prevede un’adozione crescente di tecniche di watermarking a causa di normative emergenti.

Google ha annunciato la disponibilità pubblica di SynthID Text, una nuova tecnologia che consente a sviluppatori e aziende di inserire una filigrana e rilevare testi scritti da modelli di AI generativa. Questa innovazione può essere scaricata dalla piattaforma Hugging Face e dal Responsible GenAI Toolkit di Google, presentandosi come uno strumento open source. In un post condiviso su X, l’azienda ha sottolineato come SynthID Text sia progettato per aiutare a identificare i contenuti generati dall’AI, un aspetto sempre più rilevante in un contesto digitale in rapida evoluzione. 

Ma come funziona esattamente SynthID Text? Quando un modello di generazione di testo riceve un input, come ad esempio "Qual è il tuo colore preferito?", elabora i dati generando i token, che possono essere caratteri o parole. Questi token sono essenziali nel processo di creazione del testo, poiché il modello assegna a ciascuno di essi un punteggio che indica la probabilità di comparsa nel testo di output. SynthID Text agisce modificando la distribuzione di probabilità di questi token, integrando ulteriori informazioni. Google spiega che, attraverso una modulazione dei punteggi, il sistema riesce a generare un watermark che distingue il testo generato da AI da quello proveniente da fonti diverse. 

La tecnologia, integrata nei modelli Gemini di Google, è progettata per non influire negativamente sulla qualità, sull’accuratezza o sulla velocità di generazione del testo. Funziona anche su testi che sono stati parafrasati, ritagliati o altrimenti modificati. Tuttavia, Google riconosce anche alcuni limiti del proprio approccio. SynthID Text ha difficoltà a funzionare con testi brevi, riscritti o tradotti, oltre a rispondere a domande che richiedono informazioni fattuali. In questi casi, la mancanza di variazione nella distribuzione dei token può compromettere la precisione, rendendo difficile l’inserimento della filigrana senza alterare il contenuto informativo.

Non è solo Google a esplorare queste tecnologie; OpenAI ha investito anni nello studio delle tecniche di watermarking, ma ha ritardato il rilascio per motivi tecnici e commerciali. Se queste tecniche di watermarking venissero adottate su larga scala, potrebbero contrastare i sistemi di rilevazione AI, attualmente imprecisi, che tendono a segnalarne erroneamente contenuti generati in modo generico. Resta da vedere se ci sarà un’adozione uniforme o se il settore si dividerà tra diversi standard e tecnologie.

In un contesto normativo in evoluzione, alcuni governi stanno già prendendo misure per obbligare l’implementazione della filigrana sui contenuti generati dall’AI. La Cina ha già introdotto tali requisiti, mentre la California sta perseguendo iniziative simili. La questione è urgente: secondo un rapporto dell’Agenzia per l’applicazione della legge dell’Unione europea, si prevede che entro il 2026 il 90% dei contenuti online potrebbe essere generato in modo sintetico, portando a sfide significative per la gestione della disinformazione e della frode. Già ora, si stima che quasi il 60% delle frasi online provenga da AI, grazie all’uso diffuso di strumenti di traduzione automatica.

In un panorama digitale in costante evoluzione, SynthID Text rappresenta un passo importante verso una maggiore trasparenza nell’uso dei contenuti generati dall’AI.