Svelare i deepfake: La verità nei riflessi oculari | Intelligenza Artificiale Online Chat | Chatgpt Immagini | App Intelligenza Artificiale Iphone | Turtles AI
RICONOSCERE I DEEPFAKE: L’AI E I RIFLESSI OCULARI
Gli studiosi dell’Università di Buffalo hanno sviluppato un innovativo strumento per identificare i " Deepfake" analizzando i riflessi di luce negli occhi.
Questa tecnologia ha dimostrato un’efficacia sorprendente, rivelando il 94% delle falsificazioni.
Anche se le tecniche per creare immagini, video e audio alterati si evolvono rapidamente, l’AI può anche essere impiegata per smascherarli.
Mentre per l’occhio umano le differenze sono quasi impercettibili, l’AI riesce ad individuare irregolarità nei movimenti facciali e nell’aspetto della pelle.
Shu Hu e colleghi propongono un metodo basato sull’analisi dei riflessi di luce nelle pupille dei volti generati da reti GAN, poichè l’ AI nonriesce ancora a creare riflessi oculari accurati e realistici.
Come spiegato da Siwei Lyu, la cornea, essendo molto riflettente e quasi perfettamente sferica, mostra riflessi di luce che dovrebbero essere simili per entrambi gli occhi, nei volti creati da GAN invece, spesso presentano riflessi incoerenti a causadelle molteplici immagini combinate.
L’algoritmo sviluppato da Lyu sfrutta questa incoerenza, mappando i volti e confrontando dettagliatamente le differenze nei riflessi di luce, dimostrando se una foto è reale o falsa.
Nonostante i risultati promettenti, questa tecnica presenta dei limiti, infatti funziona solo con una fonte di luce sufficiente a generare riflessi visibili, e un’ulteriore modifica dell’immagine potrebbe ingannare l’algoritmo.
Inoltre, entrambi gli occhi devono essere visibili nell’immagine, per cui foto con soggetti che sbattono le palpebre, fanno l’occhiolino, non guardano direttamente la fotocamera o indossano occhiali, non sono idonee.
Questa tecnologia è in fase di sviluppo, ma rappresenta un passo importante per contrastare la diffusione di contenuti falsi online.
Il web è sempre più caratterizzato da una dimensione " post- verità", dove la distinzione tra reale e fittizio è sempre meno chiara.
L’uso non etico dei Deepfake, dalla pornografia alla satira politica, alimenta preoccupazioni crescenti.
La disponibilità di strumenti open-source per creare deepfake aumenta il rischio di una " Infocalisse", dove tutto potrebbe essere percepito come ingannevole, portando a quella che Aviv Ovadya definisce " Apatia per la realtà".
Il lavoro di Lyu comprende anche la creazione del Deepfake-o-meter, una piattaforma open-source per rilevare video deepfake.
Sebbene il falso possa celarsi negli occhi, strumenti come questi diventeranno sempre cruciali per identificare i contenuti falsi.
La citazione di Michail Bulgakov rimane attuale: " La lingua può nascondere la verità, ma gli occhi mai".
