Le tecnologie di Intelligenza Artificiale (AI) apportano innumerevoli benefici alla vita quotidiana e sono sempre più spesso incorporate nei dispositivi e nei sistemi utilizzati in molti settori industriali.

In ambito di assistenza sanitaria, i dispositivi e i sistemi medicali possono aiutare a salvare vite e a migliorare la qualità della vita di persone che convivono con diverse patologie e malattie. L’apprendimento automatico, l’elaborazione del linguaggio naturale e il riconoscimento dell’immagine facilitano il monitoraggio, l’analisi, la diagnosi e il trattamento dei pazienti.

Si affacciano però nuove preoccupazioni per la gestione, la privacy e la sicurezza dei dati personali. I costruttori di dispositivi medicali devono affrontare queste questioni per garantire sicurezza e un’ampia adozione dei loro prodotti e servizi che utilizzano tecnologie AI.

Intervista con l’esperto tecnico IEC

Georg Heidenreich, tecnico esperto coinvolto anche nel Comitato IEC TC 62 “Electrical equipment in medical practice” che si occupa norme internazionali per le apparecchiature elettriche per uso medico, guida un Gruppo che lavora sulla sicurezza e l’efficacia dei software e dei Sistemi IT per la salute.

Il principale scopo dell’attività di normazione è fornire sicurezza ai costruttori, agli auditor, agli utenti e, infine, ai governi e ai cittadini. La società in generale ha bisogno di ricevere queste rassicurazioni se ha intenzione di adottare tecnologie innovative.

Secondo Heidenreich “Governi, autorità e produttori hanno la necessità di sviluppare norme relative al trattamento dei dati in sistemi che usano l’Intelligenza Artificiale, così da rassicurare la comunità dell’assistenza sanitaria. Non si devono lasciare lacune in questo ambito. La IEC ha un ruolo davvero importante da ricoprire quando si tratta di dispositivi per uso medico. Ci si aspetta che questi dispositivi raggiungano sicurezza e prestazioni attraverso i regolamenti e le norme che la IEC può sviluppare, così da fornire i presupposti per affacciarsi sul mercato in sicurezza”.

Lavorare con algoritmi

Alcune tecnologie AI sono presenti in ambito sanitario già da decenni e si sono ben radicate, come ad esempio i sistemi di somministrazione di farmaci automatizzati. Questo consente a dottori, chirurghi e infermieri di gestire i farmaci in maniera più efficace e sicura in ospedale e nei centri sanitari.

Nonostante questo, la struttura del sistema deve essere ancora controllata da persone. I dottori dovranno valutare la proposta del farmaco, indicata dalla macchina, e quindi decidere se seguire o meno i consigli.

Sempre per Heidenreich “Da un punto di vista tecnico, il cosiddetto sistema simbolico AIusa una serie di regole per decidere quale e quanta dose di farmaco somministrare al paziente. Le regole possono essere inserite in altri sistemi, possono essere riesaminate, rese leggibili dalla macchina oppure essere estese ad altre regole. Dal punto di vista della regolamentazione e delle norme, gli aspetti della sicurezza e di prestazione sono ben consolidati anche se vi sono nuove tecnologie che si affacciano sul mercato”.

La novità

In contrasto con i sistemi simbolici, altri sistemi numerici imparano, tenendo conto delle probabilità. Questi sono utilizzati per aiutare i medici a trovare i trattamenti migliori per i loro pazienti. Se un paziente presenta determinati sintomi, il sistema estrapola numerosi casi precedenti, proprio come nei test clinici. Inoltre, cerca casi simili e le loro diagnosi conclusive, che il medico può prendere in considerazione, decidendo il trattamento da effettuare.

Su più ampia scala, questo tipo di sistema viene utilizzato per elaborare grandi quantità di immagini a raggi X, RMN o altre immagini diagnostiche per trovare, ad esempio, tumori dei tessuti. Sebbene più complesso, il principio generale si basa su una serie di immagini storiche, annotate con una diagnosi nota che ha una valutazione o una certezza umana alle spalle. Queste vengono poi esaminate per confronto con le immagini attuali del paziente, consentendo al medico di decidere la terapia. Lo scopo è quello di aumentare l’intelligenza umana piuttosto che sostituirla.

All’interno di questi sistemi numerici, ci sono due classi di algoritmi: una che impara solo sul sito del costruttore e rimane “fissa”, e l’altra che continua ad imparare sul campo, per esempio in un ospedale.

I sistemi software di triage (sistema per le priorità di Pronto Soccorso) sono utilizzati per gestire le situazioni in cui le ambulanze portano in ospedale i pazienti in seguito a incidenti o in situazioni di emergenza. Questi sistemi sono istruiti per calcolare rapidamente quali pazienti necessitino le cure più urgenti. Il triage è inoltre utilizzato per assegnare le risorse necessarie, inclusi dottori, sale e attrezzature mediche disponibili, ai casi più urgenti.

“Generalmente i costruttori non si assumono responsabilità per i sistemi di “apprendimento”. Gli ospedali, invece, adattano un sistema di obiettivi generali alle loro necessità. Il sistema funziona come farebbe un dottore, utilizzando le risposte ad una serie di domande, per decidere come e quando trattare il paziente, e suggerire l’esito al dottore. Ciò è possibile prendendo in considerazione i fattori contestuali, per es. come è avvenuto l’incidente, come si sono procurate le ferite e quali sono i sintomi”, spiega Heidenreich.

Prossimi progetti

Heidenreich osserva che non esistono norme adeguate, da estendere al costruttore, che precisino cosa debba essere preso in considerazione per la sicurezza di questi sistemi numerici. Sistemi simili dipendono enormemente dai dati “storici”, completi ed accurati, tratti da test clinici.

Si ha bisogno di una norma che definisca come trattare questi dati in termini di integrità e validità, e che soddisfi gli obiettivi di sicurezza e prestazione che costituiscono la base di un accesso regolamentare sul mercato per i dispositivi ad uso medico. Nei sistemi attuali, lo stesso software – algoritmo e tecnologia di programmazione – è cruciale per la sicurezza e le prestazioni, mentre per i sistemi numerici più recenti, l’elemento critico sono i dati.

Ciò significa che la cyber-security è diventata estremamente importante da considerare, poiché l’insieme di dati costituisce una risorsa vitale per garantire sicurezza, prestazioni ed integrità.

In conclusione Heidenreich sostiene che “Attualmente, ci sono due proposte in cantiere, che progrediranno nel prossimo anno. La prima è valutare l’applicabilità delle Norme esistenti, come la ISO 14971 “Gestione del rischio e la IEC 62304: Ciclo di vita del software e altro, per prodotti che utilizzano la tecnologia AI”. L’altra proposta suggerisce di sviluppare una Norma sulla manipolazione dei dati destinati al processo decisionale, per esempio i dati sensibili tratti dai sistemi IT della sperimentazione clinica e da altre fonti di dati della pratica clinica. Un sistema appropriato per la manipolazione dei dati dovrebbe combinare l’ingegneria dell’informazione con la manipolazione sicura e affidabile già nota per i biomateriali”.

Norme IEC e test per tecnologie innovative

Il Comitato Tecnico Congiunto IEC e ISO JTC 1 lavora per produrre norme internazionali per 22 diverse tecnologie dell’informazione, compresa l’intelligenza artificiale, l’Internet of Things e la realtà virtuale e aumentata, che sempre più vengono utilizzate nelle applicazioni per l’assistenza sanitaria. Il JTC 1 considera inoltre la cyber-security per la protezione di dati e utenti di prodotti e servizi intelligenti, quali i dispositivi e i sistemi medicali connessi, che aiutano i medici a decidere i trattamenti migliori per i pazienti.

Un altro modo per assicurare che i dispositivi intelligenti per uso medico siano sicuri e i dati restino protetti e privati, è attraverso prove e certificazioni. L’IECEE, il Sistema IEC di Schemi di Valutazione della Conformità per Apparecchiature e Componenti Elettrotecnici, garantisce che i dispositivi e le apparecchiature elettriche ed elettroniche soddisfino le aspettative in termini di prestazione, sicurezza, affidabilità e altri criteri, sottoponendoli a prove e certificazioni in base alle norme internazionali elaborate dalla IEC.

Il sistema considera i rischi sia per i pazienti, sia per coloro che gestiscono l’apparecchiatura – medici, infermieri, personale tecnico e addetti alla manutenzione. Più recentemente, l’IECEE ha iniziato a includere attività legate alla cyber-security per l’industria del settore medico, così da garantire agli utenti sicurezza contro potenziali minacce informatiche e la privacy dei dati.