L’errore di Bard insegna a non fidarsi ciecamente delle AI | Llm Informatica | Chatgpt Plus | Intelligenza Artificiale Italia Bloccata | Turtles AI

Dopo la pubblicazione dell’articolo sulla strategia (per ora fallimentare) di Google nel lanciare Bard, abbiamo citato l’errore commesso da esso, senza però entrare nel merito. Molti lettori hanno chiesto un approfondimento ed eccolo qui! Potrei dire che quanto successo con Bard mette in guardia dall’affidarsi ciecamente alle AI e, in senso più lato, alla tecnologia. La conoscenza e le informazioni, si sa, si sedimentano nel tempo, si tramandano e – teoricamente – non dovrebbero mutare nel tempo. Tuttavia, non sempre le fonti riportano correttamente l’accaduto e dunque creano conoscenza "errata". È il problema delle fonti diffuse e collaborative, Wikipedia in testa e, in generale, tutto l’internet. Però, se non altro, la pluralità delle fonti permette di “mediare” e riparare ad errori commessi inconsapevolmente. Il pericolo con un sistema come un chatbot è quello di “affidarsi” totalmente ad esso per ottenere informazioni. Sappiamo ormai bene che i chatbot sono “allenati” su una mole notevole di documenti, ma talvolta un’informazione può essere mal interpretata. E’ questa la base dell’errore commesso da Bard, che come abbiamo già rilevato nel precedente approfondimento, è costato a Google 120 miliardi di capitalizzazione in poche ore. Nella dimostrazione di Bard, è stato chiesto al chatbot di descrivere, con parole adatte ad un bambino di 9 anni, quali nuove scoperte possano essere attribuite al telescopio James Webb. Dopo aver descritto alcune scoperte correttamente, il bot ha – con molta sicurezza – indicato un’informazione errata, in particolare sostenendo che il telescopio in oggetto "ha scattato le prime foto di un pianeta al di fuori del nostro sistema solare". Diversi astronomi hanno immediatamente fatto notare come tale risposta fosse ampiamente errata, essendo tali foto state scattate nel 2004, quando il James Webb ancora non era in funzione. Il vero problema, come dicevo ad inizio articolo, è costituito nell’assoluta verosimiglianza di una risposta potenzialmente errata, con una corretta, proveniente da una fonte univoca. Potremmo dire che Bard è stato un ottimo mentitore…ma ha comunque mentito. L’ha fatto “in buona fede”, sicuramente derivando la “falsa convinzione” da una errata comprensione logico verbale di documenti utilizzati per il training. La frase alla base dell’errore, in un documento NASA, è la seguente: “For the first time, astronomers have used NASA’s James Webb Space Telescope to take a direct image of a planet outside our solar system.” In altri termini, anziché comprendere (dal contesto) che il James Webb aveva, in quel momento, per la prima volta nella sua storia ripreso un’immagine diretta, il chatbot ha travisato e riportato quanto sopra. Questo rilancia l’importanza assoluta di un controllo rigoroso – umano e multiplo - di ogni risposta ad oggi fornita da un chatbot e, plausibilmente, questo varrà ancora per molto tempo. Nonché rilancia la fondamentale necessità di una pluralità di fonti. Il concetto è simile al leggere più testate giornalistiche, per ottenere una sintesi della stessa notizia il più possibile vicina al vero.