La minaccia delle immagini false generate dall’AI nella ricerca | Bing Image Creator Italiano | Archivio Immagini Gratis | Scaricare Immagini Gratis per Cellulare | Turtles AI

  L’ascesa dell’AI generativa presenta nuove sfide per gli editori accademici che si occupano di frodi scientifiche, in quanto queste tecnologie hanno il potenziale di ingannare la peer review umana. Recentemente, i sistemi text-to-picture come DALL-E, Stable Diffusion e Midjourney sono stati rapidamente migliorati, diventando software commerciali in grado di generare immagini sempre più realistiche. Questi modelli possono creare immagini realistiche di volti umani, oggetti, scene e immagini scientifiche, rendendo più facile per gli scienziati fraudolenti falsificare i risultati e pubblicare ricerche fasulle. Gli editori sono già preoccupati per la manipolazione delle immagini, che rappresenta la forma più comune di cattiva condotta scientifica, in cui gli autori utilizzano trucchi come il capovolgimento o il ritaglio di parti della stessa immagine per falsificare i risultati. Sebbene gli editori si stiano rivolgendo a software di intelligenza artificiale per rilevare i segni di manipolazione delle immagini durante il processo di revisione, i ricercatori potrebbero essere tentati di utilizzare modelli generativi di intelligenza artificiale per creare nuovi dati falsi. Esistono già prove di immagini mediche false generate con l’AI in articoli scientifici pubblicati, rilevate dal programma Semantic Forensics (SemaFor) lanciato dalla DARPA nel 2019. Sebbene sia stato ottenuto un certo successo nell’individuare i modelli generativi, è difficile individuare le immagini false generate con i più recenti modelli di AI. Per questo motivo, in alcuni articoli scientifici sono state trovate immagini dall’aspetto falso, prevalentemente western blot (una tecnica di laboratorio utilizzata per rilevare proteine specifiche in un campione di tessuto o di fluido), e alcuni esperti suggeriscono che molte di queste siano state generate utilizzando le Generative Adversarial Network (GAN). Lo sfondo ripetuto in queste immagini può essere un segno di potenziale falsificazione, ma i western blot veri e propri sono unici, il che rende più difficile per i software di computer vision identificare la frode delle immagini. Con la facilità di generare immagini false utilizzando i più recenti modelli di AI generativa, diventerà sempre più difficile individuare la cattiva condotta scientifica.