Ho partecipato come "moderatore" al Bhave Summit 2024 sull'uso di AI e questi sono i miei appunti per voi

Alla sua quarta edizione, l'evento ha visto emergere più ombre che luci, soprattutto per quanto riguarda la reale efficacia e le possibilità di applicazione pratica dell’AI nella sanità. Nonostante il crescente interesse per le tecnologie AI-based e data-driven, persistono divergenze significative sulle loro potenzialità effettive e sull'affidabilità in contesti clinici, un aspetto che è stato al centro del confronto tra operatori sanitari, istituzioni e aziende farmaceutiche.

L'AI nella sanità: tra potenzialità e incertezze

Durante la sessione da me “moderata” (sono più un provocatore che moderatore), dedicata alla Formazione per medici e operatori sanitari, sono stati toccati argomenti di grande attualità, come l'uso di tecnologie emergenti per migliorare le pratiche cliniche. Tuttavia, molti relatori hanno sottolineato una questione cruciale: l'intelligenza artificiale non è ancora pronta per un uso clinico diffuso. Le nuove tecnologie, sebbene promettenti, sono ancora lontane dall'avere validazioni cliniche sufficienti per garantire la loro sicurezza ed efficacia. L'assenza di studi clinici rigorosi rappresenta un freno all'integrazione dell’AI nella sanità, e, come richiesto dalla normativa vigente, questi strumenti necessitano di essere sottoposti a test di validazione prima di poter essere utilizzati in contesti che coinvolgono la salute dei pazienti.

Inoltre, il termine "intelligenza artificiale" è stato criticato per la sua vaghezza. Cosa intendiamo realmente per AI? In molti settori, questo termine è utilizzato in modo generico per descrivere una serie di tecnologie diverse, spesso portando a confusione su cosa l’AI possa o non possa fare. La mancanza di chiarezza terminologica alimenta ulteriori incertezze, soprattutto quando si parla di applicazioni mediche, dove è fondamentale essere precisi.

Innovazioni in corso e il percorso BRIA

Un esempio pionieristico di come la formazione possa adattarsi all’uso delle nuove tecnologie è stato illustrato da Massimiliano Nicolini con il progetto Percorso BRIA. Questo programma formativo sperimentale, che spazia dalla bioinformatica alla realtà immersiva e all’AI, coinvolge gli studenti del Convitto Nazionale Mario Pagano di Campobasso fin dalle scuole elementari, rendendoli protagonisti dell'innovazione tecnologica. Questo modello formativo punta a far crescere una generazione non solo abile nell'uso delle nuove tecnologie, ma in grado di svilupparle e di costruire il futuro.

Tuttavia, la domanda che sorge spontanea è: questo tipo di formazione avanzata è davvero applicabile su larga scala nel settore sanitario? Se da un lato progetti come il Percorso BRIA rappresentano uno sguardo al futuro, dall’altro rimane il problema di come tradurre queste competenze innovative in benefici pratici per il sistema sanitario attuale. Non basta introdurre tecnologie all’avanguardia; serve anche una struttura robusta che sappia integrarle in modo efficace e sicuro, e validarle scientificamente.

L'AI e il comparto sanitario: un equilibrio delicato

Anche l'industria farmaceutica sta investendo massicciamente in tecnologie innovative per migliorare la formazione dei medici. Strumenti come la realtà virtuale e la telemedicina stanno trasformando la relazione medico-paziente, rendendo le cure più accessibili e monitorabili a distanza. Tuttavia, queste innovazioni sollevano anche dubbi sull'effettiva capacità di garantire un equilibrio tra innovazione e sicurezza. Un esempio è l'uso dell’AI per supportare le decisioni cliniche: se non validato adeguatamente, può rappresentare un rischio per i pazienti. In altre parole, la mancanza di trasparenza nel processo decisionale degli algoritmi può rendere pericoloso affidarsi ciecamente alle loro raccomandazioni.

Durante la tavola rotonda, Antonio Gaddi, Presidente della Società Italiana di Telemedicina, ha messo in luce queste criticità, affermando che, nonostante ci sia molta letteratura sull’AI, sono ancora pochi gli studi che dimostrano sistematicamente i benefici clinici. La mancanza di validazione scientifica rappresenta una barriera significativa all'adozione dell’AI nel settore sanitario.

La sfida delle risorse e il futuro dell’AI nella sanità

Non si può parlare di AI senza considerare il contesto delle risorse. Implementare nuove tecnologie richiede investimenti significativi, non solo in termini di infrastrutture, ma anche di formazione degli operatori. Nel sistema sanitario italiano, già sotto pressione da anni di tagli e inefficienze, è legittimo chiedersi se esista davvero la capacità di adottare su vasta scala queste tecnologie innovative. Se da un lato il Piano Nazionale di Ripresa e Resilienza (PNRR) offre una finestra di opportunità, dall’altro restano molti ostacoli da superare, non ultimo la complessità della integrazione tecnologica nel quotidiano lavoro clinico.

I rischi di un uso indiscriminato o non qualificato dell’AI sono concreti. Utilizzare strumenti non validati o affidarsi a modelli di Large Language Model senza una comprensione chiara del loro funzionamento (non indagabile nelle motivazioni delle risposte) può portare a decisioni cliniche pericolose. La sfida per il futuro sarà trovare un equilibrio tra innovazione e sicurezza, solo garantendo che la tecnologia sia un supporto reale per i medici e non un rischio aggiuntivo per i pazienti. Le allucinazioni a cui queste piattaforme vanno soggette sono pericolose e potenzialmente possono portare danni alla salute. Una cosa è chiedere il percorso da fare a Parigi per un viaggio di tre giorni e trovare un locale ormai chiuso da anni, un’altra è avere risposte sbagliate in una diagnosi di un esame radiologico.

Il tema ha molto appassionato il pubblico, infatti è stato simpatico il siparietto del sondaggio tenutosi prima e dopo la tavola rotonda che ha interrogato tutti gli intervenuti sull’uso attuale e futuro dell’AI. Anche qui sono emerse luci ed ombre, ma alla fine l’ottimismo è sembrato prevalere.

Guarda le videopillole dell'evento

Presidente SIT Antonio Vittorino Gaddi:

• Gli studi clinici necessari per l'entrata in commercio del farmaco; Clicca qui per visualizzare il video
• Elementi di maggiore criticità nell'adozione dell'Intelligenza Artificiale; Clicca qui per visualizzare il video

 Massimiliano Nicolini:

• L'applicazione del percorso BRIA e l'utilizzo dell'AI; Clicca qui per visualizzare il video
• Il teorema di Assisi dà un peso ai BIT; Clicca qui per visualizzare il video

Enrico Bovi:

• L'impiego delle nuove tecnologie per migliorare la relazione col medico secondo Pfizer; Clicca qui per visualizzare il video

Davide Bottalico:

• Trasformazione PNRR: quali cambiamenti dovranno affrontare i medici con le nuove tecnologie? Clicca qui per visualizzare il video
• La visione di Pfizer sull'impatto delle AI sui nuovi farmaci e processi di utilizzo; Clicca qui per visualizzare il video

 Salvatore Ruggiero

CEO Merqurio