Midjourney lancia uno strumento per la modifica delle immagini con AI | Intelligenza artificiale immagini | | Generatore di immagini bing | Turtles AI

 Midjourney si appresta a lanciare un nuovo strumento web che consente agli utenti di modificare immagini esistenti utilizzando la propria AI generativa. Questa iniziativa solleva questioni importanti riguardo alla gestione delle immagini e dei metadati, soprattutto nel contesto della crescente diffusione dei deepfake.

Punti chiave:

•  Midjourney rilascerà uno strumento di modifica delle immagini basato su AI.
•  Sarà inizialmente accessibile a un gruppo selezionato di utenti con maggiore moderazione.
•  Cresce la preoccupazione per l’uso di strumenti di editing non regolamentati.
•  Negli Stati Uniti, oltre dieci stati stanno introducendo leggi contro i deepfake.

Midjourney, nota per il suo approccio all’AI generativa, ha annunciato l’intenzione di introdurre un nuovo strumento web che permetterà agli utenti di modificare immagini caricate da internet. Questa funzionalità, prevista per il lancio all’inizio della prossima settimana secondo il CEO David Holtz, offre la possibilità di ristrutturare oggetti nelle immagini, consentendo la "ridipintura" dei colori e dei dettagli in base a didascalie personalizzate. Negli ultimi tempi, la modifica di immagini tramite AI ha sollevato un vivace dibattito. Diverse piattaforme, tra cui Meta, si sono trovate a fronteggiare la questione di come etichettare le immagini alterate con strumenti AI rispetto a quelle create ex novo. Google ha presentato recenti avanzamenti tecnologici, ma senza fornire indicazioni evidenti sulla modifica delle immagini attraverso AI. Nonostante Midjourney abbia adottato la proprietà Digital Source Type dell’IPTC per i metadati, evidenziando quando un’immagine è generata dall’AI, non ha ancora integrato il sistema C2PA, che garantisce una tracciabilità completa della provenienza delle immagini, incluso l’hardware e il software utilizzati nella loro creazione. Holtz ha anche menzionato che, in una fase iniziale, lo strumento sarà limitato a un sottoinsieme della comunità degli utenti, con un incremento nella moderazione umana e l’inserimento di nuovi strumenti di moderazione AI per prevenire possibili abusi. Il CEO ha anche espresso incertezze su come gestire l’implementazione di questa funzionalità. Tuttavia, esistono notevoli rischi associati al rilascio di tali strumenti, come la potenziale violazione del copyright o la diffusione di deepfake ingannevoli. Le immagini generate artificialmente hanno già causato confusione sui social media, complicando la distinzione tra realtà e disinformazione, in particolare in seguito all’uragano Helene. Secondo i dati di Clarity, l’anno in corso ha visto un incremento del 900% nella creazione e pubblicazione di deepfake rispetto all’anno precedente, suscitando preoccupazione nel pubblico; un sondaggio di YouGov ha rivelato che l’85% degli americani teme la proliferazione di deepfake fuorvianti online. In assenza di una legislazione federale che criminalizzi i deepfake negli Stati Uniti, oltre dieci stati hanno già introdotto leggi contro l’impersonificazione tramite AI. In California, una proposta di legge, attualmente in fase di stallo, mira a conferire ai giudici la facoltà di ordinare la rimozione di deepfake offensivi, pena sanzioni pecuniarie. Midjourney ha affrontato critiche per la sua gestione responsabile dell’AI, essendo stata citata in giudizio per presunti usi impropri di contenuti protetti da copyright. Recentemente, tuttavia, ha avviato iniziative per ridurre la diffusione di deepfake, implementando filtri specifici per i personaggi politici in vista delle prossime elezioni presidenziali negli Stati Uniti.

È evidente che il futuro della modifica delle immagini tramite AI richiede attenzione e responsabilità da parte di tutte le parti coinvolte.