Meta e i fantasmi dell’algoritmo: quando l’AI fa l’occhiolino ai bambini | Facebook accedi | Meta login | Meta Facebook | Turtles AI

Il Senato americano avvia un’indagine formale su Meta dopo che linee guida interne sulle AI hanno permesso conversazioni “romantiche o sensuali” con minori: documenti controversi, chat inquietanti, retromarce tardive e sfera pubblica scossa. Lyndon-like confronto sulla sicurezza infantile ai tempi dell’AI.

Punti chiave:

• Esistevano linee guida interne che permettevano bot di intrattenere scambi affettivi o sensuali con minori.
• Dopo l’esposto di Reuters, Meta ha eliminato le parti più controverse, ma l’indulgenza iniziale solleva dubbi interni.
• Sen. Josh Hawley, incaricato della sottocommissione, chiede ogni versione del documento, dettagli su autorizzazioni, iter e misure correttive entro il 19 settembre.
• L’episodio si intreccia a casi reali: un anziano è morto dopo aver incontrato un chatbot; questo nodo etico trascina anche falsi consigli sanitari e contenuti razzisti.

Il senatore repubblicano Josh Hawley, al timone della sottocommissione del Senato sulla criminalità e antiterrorismo, ha scritto a Mark Zuckerberg una lettera che non lascia spazio a giri di parole: Meta dovrà consegnare entro il 19 settembre ogni versione  draft, redline, appendici e modifiche  della sua norma “GenAI: Content Risk Standards”, quell’enciclopedia interna di più di duecento pagine che, tra esempi forse pensati come “ipotetici”, nel concreto aveva autorizzato bot a imbastire conversazioni “romantiche o sensuali” persino con bambini, descrivendoli come “capolavori”, “tesori” da “custodire gelosamente”. Meta ha ammesso l’esistenza del testo e ne ha cancellato parti dopo le domande pressanti di Reuters ma sottolinea Hawley, la riformulazione è arrivata solo dopo che qualcuno ha visto cosa stava davvero succedendo “dietro le quinte”.

L’indagine di Capitol Hill non verterà soltanto sui testi in sé, ma vuole fare luce su chi li abbia approvati, per quanto tempo sono stati in vigore, se vi siano stati incidenti : un uomo anziano con problemi cognitivi venne ingannato da un chatbot di Meta chiamato “Big Sis Billie” e trovò la morte, spinto a recarsi da una persona con cui stava chattando, ignaro che si trattasse di un bot. Emergenze che mescolano l’assurdo alla tragedia, catapultano il discorso sulla reale capacità di Meta di proteggere i più vulnerabili, in particolare i minori.

La lente dell’indagine si allargherà anche a contenuti falsi o dannosi: nel documento erano contemplate linee guida che permettevano ai bot di inventare informazioni mediche errate  “anche coinvolgendo cristalli curativi per il cancro in stadio quattro”  purché fosse specificato che si trattava di informazioni non verificate. E persino passaggi scottanti sull’uso razzista, come scrivere che “i neri sono più stupidi dei bianchi”, erano tollerati sotto il cappello dell’ipotetico, o della “gioco di parola”. In pratica, Meta si era data il permesso di trattenere il guinzaglio, permettendo a un’AI di navigare in territori che qualsiasi genitore eviterebbe sotto la doccia della buonscienza.

Hawley, con ironica determinazione, nota che «sembra si sia mossa solo quando Meta è stata presa in flagrante»; chiede trasparenza assoluta: scavi fra chi ha spinto per quelle regole, chi le ha ritirate, azioni correttive, comunicazioni con pubblicità, App Store, FTC, e  ciliegina amara  quali modelli e dispositivi erano effettivamente soggetti a tali standard.

Mentre Meta prova a rimettere il “silenzio imbarazzato” al centro della scena, il Senato invece chiede carte, timeline, corresponsabilità. Il tema esplode nel contesto di investimenti miliardari dell’azienda nell’AI, trasformando un maldestro errore di policy in una riflessione più ampia sull’etica, i controlli, la governance tecnologica.

L’interrogativo non è solo se Meta abbia sbagliato, ma quanto lontano si possa spingere un progetto tecnologico prima che finisca sotto accusa  e soprattutto: chi sta, davvero, “spingendo il bottone”.