Gestione del dato, Mdr e Gdpr indicano la via per l’Ai in Europa

Il nuovo regolamento sui dispositivi medici e la normativa sulla privacy sono le basi su cui si reggerà l’impalcatura legislativa dell’Intelligenza artificiale. In particolare sarà il risk approach del dato a beneficiare della commistione delle due leggi. Dal numero 190 del magazine. *IN COLLABORAZIONE CON STEFANELLI&STEFANELLI

Senza dubbio creare sicurezza e affidabilità nell’utilizzo dell’intelligenza artificiale è oggi un obiettivo a livello mondiale: ne è un chiaro esempio è il recentissimo documento dell’Oms “Ethics and governance of artificial intelligence for health” (28 giugno 2021) nel quale si illustrano i principi etici che devono essere rispettati nella progettazione e utilizzazione dei sistemi di AI. Su questo tema l’Europa è certamente un passo avanti: la Commissione Europea infatti il 21 aprile 2021 ha presentato, per prima a livello mondiale, una proposta di regolamento sull’Intelligenza Artificiale (AI proposal) con il quale ha disegnato una ipotesi di regolamentazione dei sistemi di AI. La forza di tale Proposta (che si precisa deve oggi ancora passare l’iter legislativo di approvazione del Consiglio e del Parlamento) sta non solo nella sua innovatività, ma anche nel fatto che la futura disciplina si “appoggia” saldamente su due pilastri pienamente vigenti nel quadro comunitario: il Regolamento sulla protezione dei dati (Gdpr) ed il Nuovo Regolamento sui Dispositivi medici (Mdr).

Il Gdpr

Vissuto spesso come un inutile aggravio di carta o come uno strumento di blocco delle iniziative, è al contrario una regolamentazione che se da una parte mira a protegge la sfera giuridica del cittadino/paziente, dall’altra (con altrettanta forza) fornisce gli strumenti per consentire ai dati di circolazione liberamente per estrarre dai dati altre informazioni (art. 1 Gdpr). E la proposta di AI è un chiaro esempio di questa apertura sui dati. L’articolo 10 della Proposta, titolato appunto “Data governance”, oltre a stabilire come i dati devono essere raccolti e processati per essere esatti e corretti (evitando quindi dati “sporchi” o bias), apre legislativamente la possibilità ai fornitori di AI di utilizzare dati relativi alla salute (articolo 9 Gdpr), previa implementazione di misure di protezione quali pseudonimizzazione e cifratura. Poiché spesso i fornitori non sono i titolari dei dati (titolarità è infatti quasi sempre in capo all’ospedale), tale nuovo quadro legislativo apre le porte ad una nuova stagione di data sharing agreement (sui quale ICO ha infatti appena emanato una apposita Linea Guida).

Il Mdr

Dovranno applicare la disciplina sulla AI tutti i software qualificati come dispostivi medici di classe IIa, IIb, II che utilizzano Machine learning approaches; Logic-and knowledge-based approaches; Statistical approaches, Bayesian estimation, search and optimization method.

La AI proposal ha poi adottato una architettura giuridica del tutto analoga a quella del Mdr, che prevede dei requisiti specifici che devono essere rispettati e l’apposizione di una marcatura CE: tenuto conto poi che il provider del sistema di AI, sarà tipicamente anche il fabbricante del dispositivo medico, lo stesso sarà chiamato a rispettare nel SAMD di oltre ai requisiti del Mdr anche quelli specifici della AI. Tali requisiti già oggi si possono essere messi tra loro in relazione: da un lato il regolamento dispositivi medici richiede che i dispositivi siano sicuri, efficaci, immessi i commercio con un livello di qualità costante; dall’altro la Proposal AI indica i temi della sicurezza, della performance coerente nel tempo e con le aspettative, assimilabile all’efficacia richiesta in Mdr e della gestione del cambiamento, assimilabile alla richiesta di qualità costante prevista in Mdr. Nel Mdr è cardine l’attività di minimizzazione dei rischi, con concetti di riproducibilità, affidabilità e prestazione in linea con la destinazione d’uso: questo è comparabile alla richiesta presente nella Proposal AI di dare prova di accuratezza, robustezza e cybersicurezza. Per quanto riguarda la sicurezza del dato, si dovrebbero ritenere applicabili a entrambi i regolamenti le parole chiave identificate dalla norma ISO/TR 24971: Confidenzialità, Integrità, Disponibilità. Ulteriore analogia tra i regolamenti è fornita dal concetto di usabilità: i dispositivi medici devono essere progettati in maniera tale da minimizzare l’insorgenza di errori umani; la Proposal AI richiede la possibilità di supervisione dell’essere umano. Mdr e Proposal AI condividono infine poi l’approccio basato sul rischio sia per la immissione in commercio che per la sorveglianza post-commercializzazione. Fabbricanti-provider dovranno dunque dotarsi di un sistema integrato in grado di gestire la progettazione, la marcatura e la vita sul mercato.

L’analisi del rischio a cavallo tra i regolamenti

Lato regolamento dispositivi medici viene richiesta espressamente la riduzione dei rischi, che è analoga alla richiesta di presentare accuratezza, robustezza e sicurezza in termini di cybersicurezza appropriate al dispositivo e costanti nel tempo. Questa richiesta inoltre è coerente con la richiesta di Mdr che i dispositivi siano progettati in modo tale da garantire la riproducibilità, affidabilità e prestazioni in linea con la destinazione d’uso.

In questo contesto per quanto riguarda la sicurezza tecnica, che passa anche dalla protezione del dato e dall’analisi dei rischi derivanti da problemi legati al dato, si devono includere, che sono applicabili a entrambi i regolamenti, le parole chiave identificate dalla norma tecnica per l’analisi di rischio:

  •  Confidenzialità
  •  Integrità
  •  Disponibilità

Questa analisi non si deve fermare solamente al dato direttamente immesso nel sistema né unicamente al dato di output, ma anche a tutti i dati accessori che possono essere ottenuti dall’utilizzo dei dispositivi, come ad esempio il numero di accesso e le interazioni. La valutazione della qualità del dato, aspetto fondamentale per garantire un elevato livello di sicurezza dei sistemi basati su AI, oltre all’integrità, quindi all’assenza di errore, deve tenere conto di altri aspetti, specialmente quando questi dati fanno parte del training set, ovvero del set di dati che definisce cosa il dispositivo apprenderà. Questi aspetti possono essere riassunti come segue:

  • Rappresentativo, ovvero in grado di rappresentare tutta la popolazione di pazienti target
  • Rilevante, ovvero il dato deve essere significativo per lo scopo del dispositivo
  • Completo, quindi non solo in senso di capace di portare tutte le informazioni richieste ma anche in termini di variabilità intrinseca del database
  • Privo di errori, e quindi privo di rumore ma soprattutto privo di bias e di errori di interpretazione, il che nel medicale si traduce nella taggatura e supervisione da parte di esperti clinici.