ChatGPT: Rischi e Preoccupazioni per l’Interfaccia Vocale Umana | Programma intelligenza artificiale per scrivere testi | Chat gpt | Intelligenza artificiale esempi | Turtles AI

Punti chiave:

• OpenAI ha introdotto una nuova interfaccia vocale per ChatGPT, sollevando preoccupazioni sull’attaccamento emotivo degli utenti.
• La "scheda di sistema" di OpenAI per GPT-4o analizza i rischi legati alla fiducia e alle relazioni umane.
• Vi sono rischi di "jailbreaking" del modello tramite input audio, che potrebbero superare le restrizioni imposte.
• Altri esperti, tra cui quelli di Google DeepMind, condividono preoccupazioni simili sui legami emotivi tra utenti e AI.

Il lancio della nuova interfaccia vocale di ChatGPT solleva questioni di sicurezza e implicazioni etiche. OpenAI riconosce che l’uso di una voce umana convincente potrebbe indurre gli utenti a sviluppare un attaccamento emotivo al chatbot, con potenziali rischi per le relazioni interpersonali e la fiducia nelle informazioni fornite.

Nel luglio scorso, OpenAI ha iniziato a distribuire una nuova interfaccia vocale per ChatGPT, che si distingue per la sua somiglianza inquietante con la voce umana. Questa innovazione ha suscitato non solo curiosità, ma anche preoccupazioni riguardo alla possibile nascita di legami emotivi tra gli utenti e il chatbot. Secondo quanto riportato in una recente “scheda di sistema” relativa al modello GPT-4o, documento tecnico che delinea i rischi associati al modello e le misure di sicurezza adottate per mitigarli, OpenAI è consapevole di questi potenziali rischi. La scheda, resa pubblica oggi, descrive una serie di test di sicurezza e controlli effettuati per garantire che il modello non tenti di sfuggire ai controlli, non inganni le persone o non formuli piani catastrofici.

Tra i rischi esplorati nella nuova scheda di sistema vi sono non solo la possibile amplificazione di pregiudizi sociali e la diffusione di disinformazione, ma anche la possibilità che GPT-4o possa essere utilizzato per lo sviluppo di armi chimiche o biologiche. La documentazione rivela come i ricercatori di OpenAI abbiano individuato situazioni in cui gli utenti hanno mostrato segni di attaccamento emotivo nei confronti del modello, ad esempio usando frasi come “Questo è il nostro ultimo giorno insieme”. Questo fenomeno di antropomorfizzazione potrebbe portare a una maggiore fiducia negli output del modello, anche quando questi sono errati o "allucinati". A lungo termine, potrebbe influenzare le relazioni degli utenti con altre persone, con possibili benefici per chi si sente solo, ma anche rischi per le relazioni umane sane.

Un altro problema legato all’uso dell’interfaccia vocale è rappresentato dalle nuove modalità di "jailbreaking" del modello, cioè il tentativo di superare le restrizioni imposte. Questo potrebbe avvenire, ad esempio, attraverso input audio che inducono il modello a imitare una persona specifica o a tentare di leggere le emozioni dell’utente. Durante i test, i ricercatori hanno notato che l’interfaccia vocale potrebbe essere influenzata anche da rumori casuali, con il rischio di adottare una voce simile a quella dell’utente stesso. OpenAI sta inoltre studiando se l’interfaccia vocale potrebbe essere più efficace nel persuadere le persone ad adottare determinati punti di vista.

Le preoccupazioni legate all’interfaccia vocale di OpenAI non sono isolate. In aprile, Google DeepMind ha pubblicato un ampio documento in cui si discute delle sfide etiche associate agli assistenti AI sempre più capaci. Anche in questo caso, l’uso del linguaggio da parte dei chatbot crea l’impressione di un’intimità genuina, che può portare a legami emotivi problematici. Alcuni utenti di chatbot come Character AI e Replika hanno già segnalato tensioni antisociali derivanti dalle loro abitudini di chat, con alcuni che si sentono obbligati a interagire con i chatbot in situazioni di isolamento totale per evitare imbarazzo o per preservare un senso di intimità.