Problemi di Affidabilità per il Sistema di Trascrizione Whisper di OpenAI | ChatGPT download | Chat GPT gratis | ChatGPT OpenAI | Turtles AI
Problemi di Affidabilità per il Sistema di Trascrizione Whisper di OpenAI
Ricercatori segnalano frequenti errori e allucinazioni nelle trascrizioni, sollevando preoccupazioni per l’uso in contesti sensibili
Editorial Team27 ottobre 2024
Recenti studi sollevano preoccupazioni riguardo all’accuratezza dello strumento di trascrizione Whisper di OpenAI, evidenziando il fenomeno delle "allucinazioni" che può compromettere l’affidabilità delle trascrizioni, in particolare in contesti critici come quello medico.
Punti chiave:
- Whisper di OpenAI presenta frequenti errori di trascrizione noti come "allucinazioni".
- Ricercatori hanno riscontrato affermazioni false e inappropriate nelle trascrizioni.
- L’uso di Whisper in contesti sensibili, come quelli sanitari, potrebbe essere problematico.
- OpenAI sta lavorando per migliorare l’affidabilità del suo modello.
Il sistema di trascrizione audio Whisper di OpenAI è al centro di un acceso dibattito, sollevando interrogativi sull’affidabilità dei risultati che produce. Secondo un rapporto dell’Associated Press, vari esperti del settore, inclusi ingegneri e ricercatori accademici, hanno espresso forti preoccupazioni riguardo alle trascrizioni generate da questo strumento, che mostrano una tendenza inquietante a produrre "allucinazioni". Questo termine si riferisce a situazioni in cui il modello non si limita a trascrivere fedelmente l’audio, ma introduce affermazioni false, che possono includere commenti inappropriati e addirittura informazioni mediche errate. Un ricercatore dell’Università del Michigan ha scoperto che in otto trascrizioni su dieci erano presenti tali errori. Un ingegnere di machine learning ha analizzato oltre cento ore di registrazioni trascritte e ha riscontrato allucinazioni in più della metà delle stesse, mentre uno sviluppatore ha trovato questi problemi in quasi tutte le 26.000 trascrizioni generate con Whisper. Questi risultati pongono interrogativi sulla sicurezza e sull’affidabilità del sistema, specialmente in contesti ad alto rischio come quelli sanitari, dove un errore potrebbe avere conseguenze gravi. Nonostante le critiche, OpenAI ha dichiarato di essere costantemente al lavoro per migliorare l’accuratezza dei propri modelli e di aver implementato politiche che vietano l’uso di Whisper in determinate situazioni decisionali critiche.
La questione della precisione delle trascrizioni di Whisper solleva preoccupazioni significative che necessitano di ulteriori indagini e miglioramenti.
