Meta stabilisce nuovi limiti per l’AI: blocco allo sviluppo se troppo rischiosa | Meta Facebook Italia contatti | Meta Instagram | Meta login | Turtles AI

Meta introduce il Frontier AI Framework, delineando criteri per valutare i rischi legati ai suoi sistemi di AI. Viene distinto tra modelli ad "alto rischio" e "rischio critico", entrambi potenzialmente pericolosi in ambiti sensibili come la sicurezza informatica e la bioingegneria. L’azienda afferma di adottare un approccio basato sull’analisi di esperti, senza affidarsi a metriche standardizzate, e di poter bloccare lo sviluppo di AI giudicate eccessivamente pericolose.

Punti chiave:

• Criteri di valutazione: Meta introduce una classificazione per i sistemi AI basata sul loro potenziale rischio.
• Sicurezza e mitigazione: Sistemi ritenuti pericolosi possono essere limitati, non rilasciati o bloccati nello sviluppo.
• Modello di decisione: La valutazione del rischio si basa su esperti interni ed esterni, non su metriche fisse.
• Strategia aziendale: Il framework potrebbe rispondere alle critiche sull’approccio aperto di Meta all’AI.

Meta ha recentemente presentato il Frontier AI Framework, un insieme di linee guida volte a regolamentare la diffusione e l’uso dei suoi sistemi di AI più avanzati. L’obiettivo è quello di evitare scenari in cui tali modelli possano rappresentare un rischio inaccettabile per la sicurezza globale, differenziando tra due livelli di pericolosità: i sistemi ad alto rischio e quelli a rischio critico. I primi sono descritti come capaci di facilitare attacchi in ambiti sensibili – come la sicurezza informatica o la bioingegneria – ma senza garantire una pericolosità assoluta. I secondi, invece, vengono definiti come strumenti che potrebbero rendere inevitabile un evento catastrofico, senza possibilità di mitigazione efficace in un contesto di distribuzione.

Il documento di Meta illustra esempi concreti di scenari che potrebbero derivare dall’uso incontrollato di modelli AI troppo potenti, citando la possibilità di violare in maniera completamente automatizzata sistemi informatici protetti o di agevolare la creazione di armi biologiche avanzate. Sebbene l’elenco fornito dall’azienda non sia esaustivo, viene sottolineato come questi siano i rischi considerati più urgenti e realistici nel contesto attuale.

Un aspetto peculiare del framework risiede nel metodo di classificazione del rischio: Meta non si affida a test empirici o metriche quantitative standardizzate, bensì al giudizio di esperti interni ed esterni, con la supervisione di decision maker di alto livello. L’azienda giustifica questa scelta sostenendo che l’attuale stato della ricerca sulla valutazione dei sistemi AI non è sufficientemente avanzato per fornire indicatori numerici affidabili.

Nel caso in cui un modello venga identificato come ad alto rischio, Meta prevede di limitare il suo accesso internamente e posticiparne il rilascio fino all’implementazione di misure di mitigazione adeguate. Qualora invece venga etichettato come a rischio critico, il colosso tecnologico afferma di essere pronto a interromperne lo sviluppo e a introdurre misure di sicurezza specifiche per impedirne l’uso non autorizzato o la diffusione incontrollata.

Il lancio di questa strategia sembra rispondere alle critiche rivolte a Meta per la sua politica di apertura nello sviluppo di modelli AI avanzati, una filosofia che contrasta con l’approccio adottato da altre aziende come OpenAI, che mantengono un controllo più rigido sull’accesso alle loro tecnologie. La famiglia di modelli Llama, ad esempio, ha riscosso enorme successo, con milioni di download, ma è anche finita al centro di polemiche dopo che un avversario degli Stati Uniti avrebbe utilizzato uno di questi sistemi per sviluppare un chatbot dedicato alla difesa.

Il Frontier AI Framework potrebbe inoltre rappresentare una mossa strategica per differenziare Meta da altri attori del settore, come la cinese DeepSeek, che adotta un modello di rilascio altrettanto aperto ma con minori misure di sicurezza, rendendo i propri modelli più vulnerabili alla generazione di contenuti dannosi.

Nel documento, Meta afferma di voler bilanciare i vantaggi derivanti dall’AI con la necessità di proteggere la società dai potenziali rischi, adottando un approccio responsabile allo sviluppo e alla distribuzione delle sue tecnologie più avanzate.