La trasparenza necessaria per infondere fiducia in una amministrazione algoritmica e antropocentrica

Abstract [It]: Dal secolo scorso i sistemi di intelligenza artificiale soprattutto in chiave “antropocentrica” stanno diventando la nuova sfida da raccogliere per stare al passo con i tempi e per migliorare la vita delle persone adoperandoli già con successo in ambito sanitario, climatico, finanziario, tutela dell’ordine pubblico, nella realizzazione della c.d. smart city. Per infondere fiducia nell’intelligenza artificiale questa dovrà, quindi, essere affidabile, rispettosa dei diritti fondamentali, dei principi etici e deve essere al servizio del benessere dell’uomo. Dato l'impatto significativo che l'intelligenza artificiale può avere sulla nostra società e la necessità di creare maggiore fiducia intorno al tema, è essenziale che l'IA sia, quindi, fondata sui nostri valori e diritti fondamentali quali in particolare la dignità umana e la tutela della privacy. Tra i diritti fondamentali va considerata anche la trasparenza in quanto la conoscibilità (non solo a livello tecnologico) degli strumenti utilizzati, certamente può far accrescere la fiducia del cittadino nell’utilizzo dei sistemi di IA, anche perché così ne comprenderebbero di più le opportunità di efficienza per il Paese. L’obiettivo di questo lavoro è, quindi,  quello di verificare, in ragione dell’applicazione delle nuove tecnologie  nella pubblica amministrazione e in attesa di un quadro normativo europeo e nazionale,  se è possibile utilizzare gli strumenti di trasparenza amministrativa, e in particolare gli obblighi di pubblicazione e l’accesso,  al fine di  assicurare una maggiore conoscibilità e comprensibilità delle stesse e accrescere la fiducia dei cittadini nell’utilizzo delle tecnologie informatiche e in particolare nei sistemi di IA. 

Title: The transparency needed to instil trust in an algorithmic and anthropocentric administration

Abstract [En]: Since the last century artificial intelligence systems, especially in an "anthropocentric" key are becoming the new challenge to be taken up to keep up with the times and to improve people's lives by using them already successfully in the health sector , climatic, financial, protection of public order, in the implementation of the so-called smart city. To instill trust in artificial intelligence, it must therefore be reliable, respectful of fundamental rights, ethical principles and must be at the service of human well-being. Given the significant impact that artificial intelligence can have on our society and the need to build more trust around the issue, it is essential that AI is therefore grounded in our fundamental values and rights such as in particular human dignity and privacy protection. Transparency must also be considered among the fundamental rights since the knowability (not only at a technological level) of the tools used can certainly increase the citizen's confidence in the use of AI systems, also because in this way they would better understand the opportunities for efficiency for the country. The objective of this work is, therefore, to verify, due to the application of new technologies in the public administration and pending a European and national regulatory framework, if it is possible to use administrative transparency tools, and in particular the publication and access obligations, in order to ensure greater knowledge and understanding of the same and to increase citizens' trust in the use of information technologies and in particular in AI systems.

Parole chiave: sistemi di intelligenza artificiale, attività amministrativa, diritti fondamentali, trasparenza, accesso

Keywords: artificial intelligence systems, administrative activity, fundamental rights, transparency, access

Sommario: 1. Introduzione. 2. La digitalizzazione dell’attività amministrativa come step imprescindibile per l’impiego dei sistemi di AI. 2.1 L’intelligenza artificiale e il PNRR. 2.2 La Strategia Nazionale per l’Intelligenza Artificiale. 3. La “spinta” normativa che giunge dalla proposta di Codice dei contratti pubblici. 4. L’applicazione delle procedure automatizzate e dei sistemi di IA nella pubblica amministrazione. 4.1 La compatibilità della decisione “algoritmica” con i principi dell’azione amministrativa. 4.2 L’attività amministrativa alle prese con le nuove tecnologie: opportunità e rischi. 5. La trasparenza e i suoi strumenti alle prese con gli algoritmi. 5.1 La trasparenza degli algoritmi imposta dal giudice amministrativo. 6. Obblighi di informazione in tema di “trasparenza algoritmica”. 6.1 La “trasparenza algoritmica” in UK: un modello da copiare. 7. L’accesso documentale come strumento conoscitivo della decisione algoritmica. 8. Conclusioni.