La necessità di un’AI etica in Sanità | Aziende ai Italia | Ai Chat Italiano | Large Language Models Paper | Turtles AI

  Uno studio del dottor Stefan Harrer, pubblicato su The Lancet, evidenzia la necessità di un quadro etico completo intorno all’uso, alla progettazione e alla governance delle applicazioni di AI generativa in sanità e medicina. Lo studio mette in luce il potenziale dei Large Language Models (LLM) per trasformare i flussi di lavoro, l’educazione e la comunicazione sanitaria, ma anche i pericoli di questa tecnologia. Lo studio propone un quadro normativo con 10 principi per mitigare i rischi dell’AI generativa in salute, tra cui progettare l’AI come uno strumento di supporto per potenziare il processo decisionale umano e verificare l’AI rispetto agli standard di privacy, sicurezza e performance dei dati. Lo studio sottolinea anche che gli attori malintenzionati stanno giocando con il benessere degli utenti e l’integrità dell’AI e delle basi di conoscenza su larga scala mettendo sul mercato e rilasciando strumenti di AI generativa basati su LLM in un mercato commerciale in rapida crescita. Il dottor Harrer prevede che le prime offerte commerciali nella gestione dei dati sanitari digitali emergeranno entro due anni, ma solo se la comunità di ricerca e sviluppo punta a livelli uguali di integrità etica e tecnica. Ecco un riassunto per la lista delle linee guida etiche proposte dal dottor Harrer:

• Progettare e utilizzare l’AI per migliorare le capacità dei decisori umani, non per rimpiazzarli;
• Progettare e utilizzare l’AI per produrre metriche di performance, uso e impatto che indichino quando e come l’AI aiuta la presa di decisioni e controllare la presenza di possibili distorsioni;
• Studiare i sistemi di valori dei gruppi di utenti target e progettare e utilizzare l’AI in modo conforme a essi;
• Specificare la finalità di progettare e utilizzare l’AI all’inizio di qualsiasi lavoro concettuale o di sviluppo;
• Divulgare tutte le fonti dei dati di addestramento e le proprietà dei dati;
• Progettare e utilizzare l’AI per etichettare in modo chiaro e trasparente qualsiasi contenuto generato dall’AI come tale;
• Sottoporre l’AI a verifiche regolari rispetto agli standard di privacy, sicurezza e performance dei dati;
• Mantenere database per documentare e condividere i risultati delle verifiche dell’AI, formare gli utenti sulle capacità, i limiti e i rischi dei modelli e ottimizzare le prestazioni e l’affidabilità dei sistemi AI riaddestrando e riposizionando gli algoritmi aggiornati;
• Rispettare standard di lavoro equo e sicuro quando si impiegano sviluppatori umani;
• Definire precedenti legali per stabilire in quali circostanze i dati possano essere usati per addestrare l’AI, e definire quadri giuridici di diritto d’autore, responsabilità e accountability per regolare le dipendenze legali dei dati di addestramento, del contenuto generato dall’AI e dell’impatto delle decisioni che gli umani prendono usando tali dati.