Uno degli aspetti più interessanti ed importanti della Intelligenza Artificiale è quello dato dalla sua capacità di “imparare”
Questa caratteristica apre, per i fabbricanti di Dispositivi Medici che si basano su applicazioni software, una vasta gamma di opportunità per sviluppare prodotti che possono migliorare nel tempo : ovvero le prestazioni di tali dispositivi possono aumentare in modo tale che, per esempio, le capacità di diagnosi possono diventare sempre più accurate.
Per tale motivo si prevede in futuro, nel campo medicale, un costante ampliamento dell’utilizzo di dispositivi software basati sulla Intelligenza Artificiale.
I prodotti software di IA, che sono basati su algoritmi di autoapprendimento, si possono dividere in due grosse categorie :
- Algoritmi adattivi a Miglioramento Discreto : allorquando i Dispositivi Software vengono riqualificati dal produttore attraverso sessioni di apprendimento, (con il classico machine learning o algoritmi di deep learning più avanzati) sulla base di un nuovo set di dati. Una volta terminata tale fase, i prodotti vengono quindi rilasciati al mercato in una nuova versione.
- Algoritmi adattivi ad Apprendimento Continuo : più sofisticati in quanto essi effettuano la fase di auto-apprendimento in modo sistematico in base ai nuovi input che ricevono durante l’utilizzo dei dispositivi.
Come gestire le modifiche
I quadri normativi in ambito medicale, sia negli Stati Uniti sia nella UE, sono attualmente definiti per regolamentare la gestione di dispositivi software di Intelligenza Artificiale che sono basati sulla modalità a Miglioramento Discreto.
Infatti in entrambe le realtà regolatorie viene richiesto che un qualunque Dispositivo Medico può essere immesso sul mercato solo in un ben definito status di prodotto “congelato”, dove cioé ogni modifica può portare a ridefinirne l’iter di approvazione.
Questa impostazione, che al momento sembra escludere quei prodotti che effettuano l’apprendimento continuo durante il loro utilizzo, è una scelta che è determinata da due principali motivi:
- Il prodotto potrebbe evolversi in modo tale da non avere più le stesse caratteristiche prestazionali e di sicurezza per il quale è stato approvato e quindi autorizzato alla commercializzazione
- Due prodotti uguali (stessa release) forniti a due utilizzatori diversi possono, nel tempo, avere comportamenti diversi perché hanno effettuato apprendimenti differenti in relazione agli input che hanno ricevuto durante il loro utilizzo sul campo
Questa “rigidità regolatoria”, se da una parte ha un certo fondamento logico, da un’altra parte penalizza quei Dispositivi Software più sofisticati che potrebbero dare, proprio attraverso il loro utilizzo, risultati sempre più accurati in termini di diagnosi e terapia.
La FDA ha riconosciuto questo problema e sta proponendo un nuovo quadro normativo per il software adattivo basato sull’intelligenza artificiale come dispositivo medico
Anche in ambito europeo qualcosa si sta muovendo. COCIR, che é una organizzazione no-profit con sede a Bruxelles e che rappresenta un insieme di aziende nei settori dell’imaging medico, della radioterapia, delle ITC sanitarie e dell’elettromedicale, ha emesso recentemente il documento “COCIR_Analysis on AI in Medical Device Legislation-_May_2021” che si occupa della relazione che intercorre fra le modifiche al software e la conformità regolatoria nel mondo della Intelligenza Artificiale.
In entrambi i casi le due organizzazioni propongono l’adozione di un cosiddetto Algorithm Change Protocol (ACP) per affrontare il cambiamento, sia nelle prestazioni sia nell’uso previsto, senza uscire dall’ambito della conformità regolatoria che potrebbe comportare quindi la necessità di riavviare costosi iter di riapprovazione.
In particolare la FDA descrive gli ACP come “Protocolli che contengano metodi specifici che un produttore deve mettere in atto per raggiungere e controllare adeguatamente i rischi dei dati e delle procedure da seguire“, affinché la modifica raggiunga i suoi obiettivi ed il dispositivo rimanga però sicuro ed efficace.
Tali protocolli, al fine di permettere un cambiamento degli algoritmi sotto controllo dovrebbero definire le modalità di:
- apprendimento e modifica
- gestione dei dati
- riqualifica del prodotto
- valutazione delle prestazioni
- impostazione delle procedure di aggiornamento
In pratica la proposta di tale organismo statunitense è quella di definire l’ACP come un accordo fra il produttore e l’FDA, che riguarda il campo di variazione accettabile di un algoritmo di IA in modo tale che, se tale variazione rientra nei limiti concordati, non è necessaria alcuna revisione pre-market da parte della FDA stessa.
Il produttore dovrebbe inoltre fornire a supporto dell’ACP un documento di pre-specifiche (SPS) del Dispositivo medico software, all’interno del quale sono riportate le tipologie di modifiche che il fabbricante intende ottenere dal prodotto quando esso è in uso.
In tale SPS si riporta una “regione di potenziali modifiche“, attorno alle specifiche iniziali e all’etichettatura del dispositivo originale, che serve a descrivere “cosa” il produttore intende che l’algoritmo diventi man mano che si evolve attraverso l’auto-apprendimento.
Con la combinazione di questi due documenti, l’SPS e l’ACP, la FDA spera che i produttori possano governare i potenziali cambiamenti degli algoritmi di Intelligenza Artificiale adattativa in modo tale che il software rimanga sicuro durante le modifiche che subirà automaticamente durante la sua vita.
Il documento COCIR, a differenza delle raccomandazioni FDA, non approfondisce il contenuto dell’ACP, ma raccomanda solo che sia aggiornata quanto prima la IEC 62304 richiedendo che il produttore definisca un protocollo di modifica dell’algoritmo (ACP) per i dispositivi basati sull’intelligenza artificiale che cambiano attraverso l’apprendimento durante il loro utilizzo .
Purtroppo però la struttura attuale della IEC 62304, che rimarrà tale anche nella prossima edizione e che è formata dai seguenti processi :
- Sviluppo del software
- Manutenzione del software
- Gestione del rischio software
- Gestione della configurazione del software
- Risoluzione dei problemi software
non sembra essere particolarmente adatta per definire l’integrazione con un sistema ACP perché l’adattamento di un algoritmo AI attraverso l’apprendimento non è correlato a nessuno di questi processi
Conclusione
Attualmente è possibile immettere sul mercato dispositivi medici basati su tecnologie di Intelligenza Artificiale che però devono necessariamente basarsi su algoritmi che non possono evolversi runtime
Molti fabbricanti di Dispositivi medici software basati sulla Intelligenza Artificiale non sono però spesso molto sicuri di seguire le modalità corrette per garantire la conformità dei loro prodotti.
Pertanto sarebbe auspicabile che al più presto sia definito un quadro normativo su ciò che è consentito e cosa non lo é quando si opera con l’intelligenza artificiale e il machine learning o, per lo meno, siano definite delle linee guida come quelle che regolarmente emette il gruppo di coordinamento dei dispositivi medici (MDCG).
Commenti recenti