La prospettiva del controllo nell’era dell’Intelligenza Artificiale: alcune osservazioni sul modello Human In The Loop

Abstract [It]: Lo scritto analizza alcuni aspetti etici e giuridici dell'Intelligenza Artificiale, evidenziando l'esigenza prioritaria di garantire un controllo umano effettivo sugli algoritmi (Human In The Loop). A questo riguardo, la recente Proposta di Regolamento europeo sull'IA declina la prospettiva del controllo in un approccio normativo basato sul rischio. Tale strategia regolatoria solleva tuttavia alcune perplessità e sembra privilegiare una visione incentrata sul mercato piuttosto che sull'utente.

Title: Control perspective in the age of Artificial Intelligence: few reflections upon the model Human In The Loop

Abstract [En]: The paper aims to analyze some ethical and legal aspects of the Artificial Intelligence systems, stressing the importance to ensure an effective human control over the algorithms (Human In The Loop). In the recent Proposal for a European AI Regulation, this kind of human control is premised on a risk-based approach. Despite its advantages, this regulatory strategy raises some concerns and seems to privilege a market-centered view rather than a user-centered one.

Parole chiave: Intelligenza Artificiale; governance; controllo umano; diritti; rischio; regolazione

Keywords: Artificial Intelligence; governance; human control; rights; risk; regulation

Sommario: 1. Intelligenza artificiale: governance without government? 2. Le dimensioni del controllo tra etica e diritto: human in the loop of AI? 3. La conoscibilità tra legge ed algoritmo: Code is Law? 4. La Proposta di Regolamento dell’Unione europea: il controllo del rischio. 4.1. Uno sguardo d’insieme: quale spazio per lo human in the loop nell’AI Act? 5. Alcune riflessioni conclusive: aspettando Godot?