Parere del CNB e del CNBBSV sugli aspetti etici dell’Intelligenza Artificiale applicata alla medicina

Il 26 settembre 2019, il Presidente del Consiglio ha avanzato una specifica richiesta di un pronunciamento del Comitato Nazionale per la Bioetica sull’utilizzo dell’IA nel campo della salute.

Al fine di elaborare una risposta al quesito, il CNB ha costituito un gruppo misto con il Comitato Nazionale per la Biosicurezza, le Biotecnologie e le Scienze della Vita (CNBBBSV).

È stato così elaborato un documento, curato dalla Prof.ssa L. Palazzani (datato 29 maggio 2020), che, a partire da una definizione di IA, ne analizza origine e sviluppi più recenti. Più nel dettaglio, il parere sottolinea le opportunità, i rischi e le principali applicazioni dell’IA in medicina, dedicando particolare attenzione agli aspetti etici.

Pur apprezzando i progressi e le opportunità dischiuse dalla IA (al punto da ritenere che debba essere promossa la ricerca su IA sia in ambito privato, sia -soprattutto- in ambito pubblico), il Comitato, senza esaltare od ostacolare lo sviluppo della tecnologia, intende dichiaratamente “identificare le condizioni etiche per uno sviluppo della IA che non rinuncia ad alcuni aspetti della nostra umanità”.

Il Comitato parte da un presupposto fondamentale: l’IA è uno strumento potente, ma accessorio alla decisione umana. Il problema oggi, quindi, non è tanto quello della “autonomia” della IA, (per quanto teoricamente possibile, si legge nel parere, siamo ancora lontani da questo scenario); ma, semmai, il fatto che un sistema esperto, che diventa ottimale nel suggerire “decisioni” all’uomo, rischia, tra le altre cose, di ridurre le abilità umane. In quest’ottica, diventa importante una riflessione sulla sinergia tra l’uomo e la macchina, la quale deve per forza di cose restare assoggettata a un “controllo umano significativo” in termini di supervisione e attenzione.

Nella medicina esistono già oggi molte applicazioni dell’IA finalizzate a migliorare (e a rivoluzionare) la pratica sanitaria.

Anche l’Italia inizia a fare uso di questi sistemi.

In costanza della eemergenza COVID-19, ad esempio, la IA è stata utilizzata per la lotta contro il virus Sars-Co V-2, ovvero per assicurare, nel post pandemia, adeguati standard di assistenza sanitaria favorevole all’utenza.

In generale, il Comitato ritiene che un corretto uso della IA potrebbe migliorare e rendere più efficienti e scorrevoli i flussi all’interno delle strutture sanitarie: l’IA può senz’altro ridurre i tempi impiegati dai professionisti nelle attività burocratiche, di mera routine, e consentire al sanitario di ricavare più tempo per la relazione di cura (e di fiducia: cfr. l. 219/2917) con il paziente; tuttavia, poiché ogni soggetto è malato “a suo modo”, il contatto personale costituisce l’elemento essenziale di ogni diagnosi e di ogni terapia. In questo senso, la macchina non potrà sostituire l’umano in una relazione medico-paziente che si costruisce sull’incontro di ambiti complementari di autonomia, competenza e responsabilità. L’IA va considerata esclusivamente come un aiuto nelle decisioni del medico, che rimangono controllate e supervisionate dall’uomo. Resta compito del sanitario, in ogni caso, prendere la decisione finale, in quanto la macchina fornisce solo ed esclusivamente un supporto di raccolta e analisi dei dati, di natura consultiva.

Con la tecnologia, si deve quindi auspicare una medicina “con” le macchine, non una medicina “delle” macchine.

Il documento sottolinea inoltre l’importanza di introdurre strumenti che garantiscano l’affidabilità della IA; occorre ridurre, nei limiti del possibile, le opacità, gli errori e le possibili discriminazioni dovute a cause tecnologiche e/o umane.

Dato l’enorme uso di dati, è inoltre indispensabile, si legge, una adeguata tutela della privacy (che tende a “evaporare”, posto che a tecnologie opache corrispondono utenti sempre più trasparenti); e ciò, considerando la possibilità della condivisione dei dati come bene sociale per l’avanzamento delle conoscenze scientifiche.

Nella parte finale del documento, il Comitato si concentra, poi, sul tema del consenso.

Il parere afferma che esso deve essere centrale anche nel caso in cui il medico si avvalga nel trattamento di cura di dati ricavati dall’IA e dello sviluppo della robotica. Al medico spetta in particolare il compito di mediare la comunicazione col paziente, resa difficile dall’utilizzo di terminologie complesse e dalla opacità degli algoritmi.

Il sanitario è dunque obbligato, eticamente e giuridicamente, a informare il paziente con delle modalità consone e comprensibili.

In conclusione, il Comitato affronta poi il tema della responsabilità: l’automazione in medicina non è priva di rischi e la questione della responsabilità è uno dei problemi più delicati e complessi che sorgono con l’utilizzo e lo sviluppo di nuovi sistemi di IA.

Secondo il Comitato, occorre chiarire se la responsabilità per alcune decisioni prese attraverso un sistema intelligente debbano essere attribuite al progettista, al venditore del software, al proprietario, all’utilizzatore (il medico) o a terze parti. In particolare, esso ritiene correttamente che l'analisi delle nuove responsabilità e le ipotesi di nuove norme, oltre che le nuove interpretazioni evolutive di quelle esistenti, richiedano una riflessione continua interdisciplinare fra le scienze giuridiche e le scienze mediche.

Ancora, il parere dedica una certa attenzione al tema della formazione dei medici e degli operatori sanitari, ritenendo in particolare che questi debbano essere necessariamente istruiti ad utilizzare in modo responsabile i risultati della ricerca di IA.

In quest’ottica, il Comitato afferma che occorre ripensare la formazione dei professionisti della salute e che debbano essere revisionati i programmi di studio da parte di commissioni interdisciplinari.

Il parere precisa opportunamente che la formazione dovrà essere rinnovata anche nell’ambito della tecnologia: dovranno in particolare essere introdotti corsi di formazione all’etica e alla bioetica per gli ingegneri, informatici, computer scientist, con particolare riferimento all’etica nel disegno delle tecnologie (ethics by design/in design/for designers) e nella progettazione, metodologia e applicazione delle tecnologie; solo così, infatti, si riuscirà a garantire una consapevolezza etica di coloro i quali costruiranno le tecnologie.

Secondo il Comitato, si deve infine promuovere una coscienza pubblica della società su opportunità e rischi delle nuove tecnologie: è importante, infatti, che i cittadini partecipino in modo critico al dibattito sull’IA con consapevolezza.