Svelare i deepfake: La verità nei riflessi oculari | Intelligenza Artificiale Online Chat | Chatgpt Immagini | App Intelligenza Artificiale Iphone | Turtles AI

Svelare i deepfake: La verità nei riflessi oculari
Editorial Team9 giugno 2024

 

 

RICONOSCERE I DEEPFAKE: L’AI E I RIFLESSI OCULARI

 

Gli studiosi dell’Università di Buffalo hanno sviluppato un innovativo strumento per identificare i " Deepfake" analizzando i riflessi di luce negli occhi.

Questa tecnologia ha dimostrato un’efficacia sorprendente, rivelando il 94% delle falsificazioni.

Anche se le tecniche per creare immagini, video e audio alterati si evolvono rapidamente, l’AI può anche essere impiegata per smascherarli.

Mentre per l’occhio umano le differenze sono quasi impercettibili, l’AI riesce ad individuare irregolarità nei movimenti facciali e nell’aspetto della pelle.

Shu Hu e colleghi propongono un metodo basato sull’analisi dei riflessi di luce nelle pupille dei volti generati da reti GAN, poichè l’ AI nonriesce ancora a creare riflessi oculari accurati e realistici.

Come spiegato da Siwei Lyu, la cornea, essendo molto riflettente e quasi perfettamente sferica, mostra riflessi di luce che dovrebbero essere simili per entrambi gli occhi, nei volti creati da GAN invece, spesso presentano riflessi incoerenti a causadelle molteplici immagini combinate.

L’algoritmo sviluppato da Lyu sfrutta questa incoerenza, mappando i volti e confrontando dettagliatamente le differenze nei riflessi di luce, dimostrando se una foto è reale o falsa.

Nonostante i risultati promettenti, questa tecnica presenta dei limiti, infatti funziona solo con una fonte di luce sufficiente a generare riflessi visibili, e un’ulteriore modifica dell’immagine potrebbe ingannare l’algoritmo.

Inoltre, entrambi gli occhi devono essere visibili nell’immagine, per cui foto con soggetti che sbattono le palpebre, fanno l’occhiolino, non guardano direttamente la fotocamera o indossano occhiali, non sono idonee.

Questa tecnologia è in fase di sviluppo, ma rappresenta un passo importante per contrastare la diffusione di contenuti falsi online.

Il web è sempre più caratterizzato da una dimensione " post- verità", dove la distinzione tra reale e fittizio è sempre meno chiara.

L’uso non etico dei Deepfake, dalla pornografia alla satira politica, alimenta preoccupazioni crescenti.

La disponibilità di strumenti open-source per creare deepfake aumenta il rischio di una " Infocalisse", dove tutto potrebbe essere percepito come ingannevole, portando a quella che Aviv Ovadya definisce " Apatia per la realtà".

Il lavoro di Lyu comprende anche la creazione del Deepfake-o-meter, una piattaforma open-source per rilevare video deepfake.

Sebbene il falso possa celarsi negli occhi, strumenti come questi diventeranno sempre cruciali per identificare i contenuti falsi.

La citazione di Michail Bulgakov rimane attuale: " La lingua può nascondere la verità, ma gli occhi mai".