Video Seal: la nuova arma di Meta contro i deepfake | Meta Facebook | WhatsApp AI | Meta AI WhatsApp number | Turtles AI

La diffusione incontrollata di contenuti falsi generati dall’AI, in particolare i deepfake, rappresenta una sfida crescente. Meta introduce Video Seal, uno strumento innovativo e open source per aggiungere filigrane impercettibili ai video, rendendoli identificabili e sicuri contro manipolazioni.

Punti chiave:

• Aumento esponenziale dei deepfake: Dal 2023 al 2024, i deepfake sono quadruplicati, rappresentando il 7% delle frodi globali.
• Meta Video Seal: Uno strumento avanzato che integra filigrane invisibili nei video generati dall’AI.
• Tecnologia robusta: Resiste a compressioni, sfocature, tagli e altre manipolazioni comuni.
• Collaborazione e trasparenza: Video Seal è open source e si accompagna a una classifica pubblica per il confronto delle tecnologie esistenti.

L’esplosione della generazione automatizzata di contenuti, complice la crescente accessibilità degli strumenti di AI, ha creato un terreno fertile per l’incremento dei deepfake, falsificazioni estremamente sofisticate che oggi costituiscono una minaccia non solo per la sicurezza digitale, ma anche per l’autenticità delle informazioni. Secondo i dati di Sumsub, piattaforma di verifica dell’identità, dal 2023 al 2024 i deepfake sono cresciuti di quattro volte, arrivando a rappresentare il 7% delle frodi globali, incluse acquisizioni di account e sofisticate truffe sociali.

Per contrastare questa deriva, Meta ha annunciato un importante passo avanti: Video Seal, uno strumento open source progettato per integrare filigrane invisibili nei video generati dall’AI. Il sistema è stato concepito con l’obiettivo di rendere i contenuti originali tracciabili e di offrire una barriera contro la manipolazione digitale. Rispetto ad altre soluzioni esistenti, come SynthID di DeepMind e le tecnologie di Microsoft, Video Seal punta a colmare lacune evidenti: la scarsa resistenza alla compressione, l’inadeguatezza per l’utilizzo su larga scala e la mancanza di trasparenza.

Pierre Fernandez, ricercatore AI di Meta, ha sottolineato l’efficacia di Video Seal nel proteggere i video dall’alterazione. Tra le sue caratteristiche principali, il sistema è in grado di includere non solo una filigrana resistente, ma anche un messaggio nascosto che permette di tracciare l’origine del contenuto. Inoltre, la tecnologia è progettata per essere robusta contro sfocature, ritagli e algoritmi di compressione largamente impiegati sulle piattaforme social. Tuttavia, Fernandez ha ammesso che rimangono delle sfide tecniche, come il compromesso tra visibilità della filigrana e resistenza alle manipolazioni più pesanti. Compressioni drastiche o modifiche significative possono infatti ridurre l’efficacia del sistema.

Per incentivare l’adozione di Video Seal nell’industria, Meta ha lanciato Meta Omni Seal Bench, una classifica pubblica che confronta le prestazioni delle diverse soluzioni di filigranatura disponibili, promuovendo una competizione virtuosa. Inoltre, l’azienda organizzerà un workshop sul watermarking all’ICLR, una delle conferenze più prestigiose nel campo dell’AI, con l’obiettivo di stimolare la collaborazione tra accademici e sviluppatori.

Con iniziative come questa, Meta mira non solo a consolidare l’affidabilità delle tecnologie contro i contenuti fraudolenti, ma anche a favorire una comunità più coesa e trasparente, per affrontare con maggiore efficacia le sfide di un’epoca dominata dai media generati dall’AI.