L’esperto sotto accusa per aver inserito citazioni false con ChatGPT in un documento | Esempi di intelligenza artificiale nella vita quotidiana | Chat openai | Ai chat gpt | Turtles AI

Un esperto di disinformazione è finito al centro delle polemiche per aver utilizzato ChatGPT nella redazione di una dichiarazione legale, includendo inavvertitamente dettagli inesatti. L’episodio evidenzia i rischi associati all’uso dell’AI nei contesti giuridici e nella comunicazione.

Punti chiave:

• Un professore di Stanford ha utilizzato ChatGPT per semplificare le citazioni in un documento legale.
• L’AI ha generato riferimenti inesatti, compromettendo l’affidabilità del testo.
• L’errore è stato definito involontario, e il contenuto principale è stato difeso come accurato.
• Il caso sottolinea i pericoli dell’uso non consapevole di strumenti di AI in ambiti sensibili.

L’uso crescente dell’AI nella redazione e organizzazione di documenti ha sollevato un nuovo dibattito dopo che un esperto di disinformazione ha ammesso di aver utilizzato ChatGPT per una dichiarazione giurata legata a un caso giudiziario. La vicenda riguarda Jeff Hancock, professore presso la Stanford University, il quale ha supportato una legge del Minnesota volta a vietare l’utilizzo di tecnologie deep fake per influenzare le elezioni. Ironia della sorte, proprio nel tentativo di combattere i rischi dell’AI, Hancock si è trovato sotto il fuoco delle critiche per l’inserimento di dettagli falsi generati dall’AI nel suo documento legale.

Secondo quanto emerso, Hancock avrebbe utilizzato GPT-4o per semplificare il processo di organizzazione delle citazioni bibliografiche incluse nella sua dichiarazione. Tuttavia, l’AI ha aggiunto riferimenti inesistenti, creando un problema di accuratezza che ha minato l’affidabilità del documento. L’esperto ha specificato che l’utilizzo dello strumento si è limitato alla compilazione delle citazioni, escludendo altre parti della stesura. Hancock ha inoltre sottolineato che l’errore è stato involontario, attribuendolo alla sua scarsa conoscenza delle cosiddette “allucinazioni” dell’AI, un fenomeno noto per cui i modelli di linguaggio producono informazioni inventate o inesatte.

In una successiva dichiarazione, Hancock ha espresso rammarico per la confusione generata, affermando che la sua intenzione non era quella di fuorviare la Corte o gli avvocati coinvolti. Ha ribadito la validità di tutti i punti sostanziali contenuti nella dichiarazione giurata, supportati da ricerche accademiche nel campo della disinformazione e degli effetti della tecnologia AI sulla società. Inoltre, ha spiegato di aver utilizzato una combinazione di Google Scholar e GPT-4o per la creazione dell’elenco di riferimenti e di non aver verificato adeguatamente l’accuratezza delle citazioni.

Il caso, pur trattandosi di un errore dichiarato come non intenzionale, mette in evidenza i rischi insiti nell’utilizzo di strumenti di AI, soprattutto in ambiti dove l’accuratezza e la credibilità sono di fondamentale importanza. Episodi come questo mostrano come anche esperti di alto profilo possano incorrere in errori significativi se le capacità e i limiti della tecnologia non vengono compresi appieno. Sebbene Hancock abbia dichiarato che i punti centrali del documento restano validi, l’inclusione di citazioni errate ha sollevato interrogativi sull’affidabilità dei contenuti generati in parte dall’AI, specialmente quando questi influiscono su decisioni legali o politiche.

A margine, il caso rappresenta un esempio concreto di come l’AI stia rivoluzionando la comunicazione e il lavoro accademico, ma al contempo evidenzia la necessità di una maggiore vigilanza nell’uso di tali strumenti.