L’OMS delinea alcuni criteri direttivi e considerazioni per la regolamentazione dell’intelligenza artificiale applicata alla salute

World Health Organization - Regulatory considerations on artificial intelligence for health (2023)

OMS – WHO – regolamentazione – intelligenza artificiale - sanità.

L’Organizzazione Mondiale della Sanità (OMS), in data 19 ottobre 2023, ha pubblicato un documento (https://iris.who.int/handle/10665/373421) che propone alcune rilevanti considerazioni in ottica di regolamentazione dell’intelligenza artificiale (IA) applicata alla salute.

Il documento appare di grande attualità se si considera la parallela prosecuzione dell’iter di approvazione del c.d. Regolamento europeo sull’intelligenza artificiale , rispetto al quale il Consiglio e il Parlamento hanno raggiunto in data 9 dicembre 2023 un accordo preliminare sulla proposta. Considerato che la bozza di regolamento pone tra gli scopi quello di “promuovere la diffusione di un'intelligenza artificiale antropocentrica e affidabile e garantire un livello elevato di protezione della salute”, sarà interessante osservare se la versione finale del regolamento risulterà conforme alle considerazioni dell’OMS.

Il documento sottolinea l’importanza di stabilire la sicurezza e l’efficacia dei sistemi di IA, di rendere rapidamente disponibili i sistemi appropriati a chi ne ha bisogno e di promuovere il dialogo tra le parti interessate, compresi sviluppatori, istituzioni, autorità, legislatori, produttori, operatori sanitari e pazienti.

L’obiettivo del documento risulta quello di sensibilizzare e di stimolare i governi alla regolamentazione della materia, fornendo considerazioni che aiutino le istituzioni e le comunità scientifiche a tracciare nuove linee guida e discipline o a modificare quelle già esistenti sull’IA, a livello regionale o nazionale.

Con la crescente disponibilità di dati sanitari e il rapido progresso delle tecniche analitiche - che si tratti di apprendimento automatico, logico o statistico - gli strumenti di IA potrebbero, come noto, trasformare il settore sanitario. L’OMS riconosce il potenziale dell’IA nel migliorare i risultati sanitari, rafforzando gli studi clinici, migliorando la diagnosi medica, il trattamento, l’autoterapia e l’assistenza incentrata sulla persona, e integrando le conoscenze, le abilità e le competenze degli operatori sanitari.

Tuttavia, il documento avverte che le tecnologie di IA - compresi i modelli linguistici di grandi dimensioni - vengono utilizzate rapidamente, a volte senza una piena comprensione delle loro prestazioni, che potrebbero essere vantaggiose o dannose per gli utenti finali, compresi gli operatori sanitari e i pazienti. Quando utilizzano i dati sanitari, i sistemi di IA potrebbero avere accesso a informazioni personali sensibili, rendendo necessari solidi quadri giuridici e normativi per salvaguardare la privacy, la sicurezza e l’integrità.

In risposta alle crescenti esigenze dei Paesi di gestire in modo responsabile la rapida ascesa delle tecnologie AI per la salute, l’OMS individua sei temi che richiedono particolare attenzione nella regolamentazione dell’AI applicata alla salute:

- per promuovere la fiducia nella tecnologia, il documento sottolinea l’importanza della trasparenza e della documentazione in relazione al prodotto, ad esempio documentandone l’intero ciclo di vita e tracciandone i processi di sviluppo;

- per la gestione del rischio, devono essere elaborati in modo esaustivo concetti come “uso previsto”, “apprendimento continuo”, intervento umano, modelli di formazione e minacce alla sicurezza informatica, definendo modelli il più semplici possibile;

- prevedere una convalida esterna dei dati e raggiungere una chiarezza sul concetto di uso previsto dell’IA contribuirebbe a garantire la sicurezza e a facilitare la regolamentazione;

un impegno per la qualità dei dati, ad esempio attraverso una rigorosa valutazione dei sistemi prima del rilascio, è fondamentale per garantire che i sistemi non amplifichino pregiudizi ed errori;

le sfide poste da normative importanti e complesse, come il Regolamento generale sulla protezione dei dati (GDPR) in Europa e l’Health Insurance Portability and Accountability Act (HIPAA) negli Stati Uniti d’America, devono essere affrontate ponendo l’accento sulla comprensione dello scopo della giurisdizione e dei requisiti del consenso, al servizio della privacy e della protezione dei dati;

promuovere la collaborazione tra gli enti normativi, i pazienti, gli operatori sanitari, i rappresentanti del settore e i partner governativi può contribuire a garantire che i prodotti e i servizi rimangano conformi alle normative per tutto il loro ciclo di vita.

Inoltre, l’OMS avverte che sistemi di IA sono complessi e dipendono non solo dal codice con cui vengono costruiti, ma anche dai dati con cui vengono addestrati, che provengono ad esempio da contesti clinici e interazioni con gli utenti. Una migliore regolamentazione può aiutare a gestire il rischio che l’IA amplifichi le distorsioni eventualmente presenti nei dati di addestramento (ad esempio, imponendo la registrazione di caratteristiche che consentano di rappresentare la diversità delle popolazioni).

Il documento dell’OMS, così fornendo puri rilevanti criteri direttivi per quanto di propria competenza, mira a delineare i principi chiave che i governi e le autorità di regolamentazione potranno seguire per regolamentare una materia in continua evoluzione e individuare soluzioni normativa idonee a prevenire o mitigare eventuali danni conseguenti all’impiego della tecnologia, nell’ambito di una efficace gestione del rischio.

F.L.