La trasparenza sul banco di prova dei modelli algoritmici

Abstract [It]: La trasparenza costituisce una pietra miliare nella delineazione delle regole cui deve conformarsi l’applicazione di sistemi algoritmici, anche di intelligenza artificiale, nell’attività amministrativa. Tale principio emerge sia dal quadro normativo dell’Unione Europea in materia di intelligenza artificiale, in cui si persegue l’obiettivo di favorire lo sviluppo di una intelligenza artificiale antropocentrica, sia dalla giurisprudenza amministrativa che si è occupata delle decisioni fondate su algoritmi. Per entrambe le prospettive emerge un concetto di trasparenza intesa come “spiegabilità”. Partendo dall’esame di questo scenario e dalla considerazione che i sistemi algoritmici presentano diversi livelli di opacità, questo articola affronta le seguenti questioni: a. il contenuto del diritto alla spiegazione, b. la spiegabilità come standard della progettazione, c. la spiegabilità come barriera all’ingresso dei sistemi di intelligenza artificiale caratterizzati dalla black box.

Abstract [En]: Transparency is a key milestone when outlining the scope of the application of algorithmic systems, including artificial intelligence, in administrative activity/environment. This principle underpines both the European Union's regulatory framework in the field of artificial intelligence, which pursues the objective of promoting the development of an anthropocentric artificial intelligence, and the administrative jurisprudence that has dealt with decisions based on algorithms. For both perspectives, a concept of transparency meant as "explainability" emerges. Starting from this regulatory scenario and algorithmic systems having different levels of opacity, this article highlights the followings: a. the content of the right to explanation, b. how explainability can become a standard of design, c. how the dilemma between explainability and artificial intelligence systems characterized by the black box must be solved.

Parole chiave: trasparenza, sistemi algoritmici, intelligenza artificiale, Amministrazione 4.0, spiegabilità

Keywords: transparency, algorithmic systems, artificial intelligence, Administration 4.0, explainability

Sommario: 1. La trasparenza nella prospettiva europea dell’Amministrazione 4.0. 2. Gli ostacoli alla effettiva attuazione del principio di trasparenza: l’opacità “variabile” dei sistemi algoritmici. 3. La declinazione del principio di trasparenza nella giurisprudenza sulle “decisioni algoritmiche”: il diritto alla spiegazione. 4. L’oggetto del diritto di spiegazione e la sua concreta operatività. Il modello della “privacy by design” esteso alla trasparenza delle decisioni algoritmiche. 5. Il principio di trasparenza quale barriera all’ingresso dei sistemi algoritmici a “scatola nera”.