Microsoft presenta Correction, la nuova soluzione contro le allucinazioni dell’AI | Software intelligenza artificiale immagini | Migliori intelligenze artificiali gratis | Esempi di intelligenza artificiale nella vita quotidiana | Turtles AI

Microsoft ha lanciato Correction, un servizio che promette di risolvere gli errori fattuali nei testi generati dall’AI, intervenendo su uno dei problemi più complessi e controversi di queste tecnologie: le cosiddette "allucinazioni". Correction, parte dell’API Azure AI Content Safety, è attualmente disponibile in anteprima e mira a verificare automaticamente i contenuti generati dall’AI, rilevando e correggendo le inesattezze attraverso un confronto con fonti di verità, come trascrizioni o altri documenti affidabili. La funzionalità può essere integrata con vari modelli di AI, come Llama di Meta e GPT-4 di OpenAI. Tuttavia, nonostante le sue ambizioni, il sistema solleva interrogativi sulla sua reale efficacia e sulle possibili implicazioni etiche.

Punti chiave:

•  Correction tenta di correggere gli errori di fatto nei testi generati dall’AI, basandosi su documenti di riferimento.
•  Microsoft mira a ridurre i rischi di allucinazioni, ma alcuni esperti mettono in dubbio la capacità del sistema di eliminare completamente questo problema.
•  Correction potrebbe alimentare un falso senso di sicurezza, dando l’impressione che i modelli siano più precisi di quanto non lo siano in realtà.
•  Il servizio è gratuito solo fino a 5.000 record al mese, con costi aggiuntivi per un uso intensivo.

Microsoft ha introdotto Correction per affrontare un problema che affligge da tempo la generazione automatica di testo: la tendenza dei modelli a produrre informazioni imprecise o inventate, fenomeno noto come "allucinazioni". I sistemi di IA, come Llama e GPT-4, sono stati addestrati su enormi quantità di dati e fanno previsioni basate su pattern statistici. Tuttavia, ciò non significa che "comprendano" realmente il contenuto che generano; spesso creano risposte che sembrano veritiere ma sono in realtà frutto di congetture. Correction interviene qui: un modello di classificazione iniziale segnala il testo potenzialmente errato, coinvolgendo poi un secondo modello, incaricato di verificare e correggere l’informazione utilizzando documenti di riferimento affidabili.

Sebbene il sistema possa rappresentare un miglioramento nella riduzione degli errori, gli esperti sottolineano che non è una soluzione completa. Secondo alcuni studiosi, come il dottorando Os Keyes dell’Università di Washington, le allucinazioni sono una componente strutturale dei modelli di intelligenza artificiale: cercare di eliminarle completamente sarebbe come tentare di separare l’idrogeno dall’acqua. Anche se Correction riesce a ridurre alcuni problemi, altri potrebbero emergere, specialmente se il sistema stesso dovesse generare ulteriori allucinazioni. In altre parole, pur correggendo alcuni errori, Correction potrebbe anche dare agli utenti un’errata sensazione di sicurezza riguardo all’affidabilità complessiva dell’IA.

Non è solo Microsoft a muoversi in questa direzione. Anche Google ha sviluppato un sistema simile all’interno della sua piattaforma Vertex AI, che consente agli utenti di "fondare" i modelli con dati di riferimento esterni, tra cui i propri set di dati o quelli recuperati dalla Ricerca Google. Tuttavia, le critiche non si limitano all’efficacia dei sistemi. Mike Cook, ricercatore alla Queen Mary University, ha evidenziato che anche se Correction raggiungesse un alto livello di affidabilità, ciò non risolverebbe il problema fondamentale dell’uso eccessivo dell’IA in ambiti dove gli errori, per quanto rari, possono avere gravi conseguenze. Cook mette in luce che i modelli, anche quando accurati al 99%, possono comunque causare danni con quell’1% di errore non rilevato.

Dal punto di vista commerciale, Correction rappresenta per Microsoft un tentativo di dimostrare il valore delle sue soluzioni di intelligenza artificiale in un mercato sempre più competitivo. L’azienda ha investito ingenti somme nello sviluppo dell’IA, ma i ritorni economici non sono ancora all’altezza delle aspettative. Il servizio Correction è offerto gratuitamente fino a un certo punto, ma prevede costi per chi supera il limite mensile di utilizzo, rivelando una strategia volta a monetizzare il crescente interesse per le soluzioni di IA generativa.

Il dibattito rimane aperto su quanto Correction possa realmente cambiare il panorama dell’AI generativa. Da una parte, sembra offrire un’utile correzione ai problemi di affidabilità. Dall’altra, c’è chi teme che non affronti le cause profonde delle allucinazioni e possa addirittura peggiorare la situazione, inducendo un ingiustificato senso di fiducia negli utenti. In ogni caso, Microsoft ha intrapreso un percorso delicato, cercando di conciliare le aspettative del mercato con le complessità tecniche e etiche di una tecnologia ancora in evoluzione.