Un errore diagnostico generato da un sistema di intelligenza artificiale può non produrre effetti immediati, ma entrare nei dati clinici e propagarsi nel tempo all’interno delle reti sanitarie digitali.
È questo uno dei principali rischi evidenziati da un nuovo studio italiano pubblicato sulla rivista scientifica internazionale IEEE Access, che introduce il Propagation Risk Index (PRI), un indice matematico ideato per individuare i punti più vulnerabili dei sistemi informativi complessi.
Il modello è stato validato non solo in ambito sanitario, ma anche nel settore dei trasporti aerei, analizzando sei reti aeronautiche europee colpite da interferenze GPS nel biennio 2024-2025, a dimostrazione della sua applicabilità anche in altri ambiti di infrastrutture critiche.
La ricerca, firmata da Marco Giacalone, docente dell’Università LUMSA di Palermo, propone un cambio di paradigma nella sicurezza dei sistemi sanitari digitali. Invece di rafforzare indistintamente tutte le componenti della rete ospedaliera, il PRI consente di identificare i nodi in cui un errore ha maggiori probabilità di diventare sistemico.
“Circa il 10% dei punti di un sistema concentra fino al 90% del rischio complessivo – spiega Giacalone –. Non si tratta necessariamente dei server tecnologicamente più avanzati, ma di quelli che rappresentano snodi centrali nel flusso delle informazioni cliniche. Intervenire in modo mirato su questi ‘punti critici’ permette di ridurre il rischio globale fino al 65%, garantendo un uso più efficiente delle risorse sanitarie”.
“L’analisi si è concentrata su una rete sanitaria digitale complessa, evidenziando come un errore dell’intelligenza artificiale possa viaggiare tra reparti, strutture e database interconnessi senza essere immediatamente rilevato – sottolinea -. Il modello matematico sviluppato non è limitato alla sola IA, ma descrive un meccanismo generale di propagazione del rischio valido per qualunque sistema informativo distribuito in ambito medico”.
“Quando un sistema di Intelligenza Artificiale sbaglia, l’errore non fa rumore immediato, ma entra nei dati e circola. Con il Propagation Risk Index abbiamo dimostrato che il rischio non cresce in modo proporzionale, ma si annida dove nessuno guarda. Individuare in anticipo dove un errore può diventare sistemico cambia il paradigma della sicurezza nelle infrastrutture sanitarie, proteggendo il percorso del paziente in modo più efficace”, conclude.
