Diritti fondamentali, rischio, autoreferenzialità, obblighi datoriali (incerti) nell’AI Act

Abstract [It]: Il saggio esplora la tecnica normativa dell’approccio basato sul rischio nell’AI Act, evidenziando come il legislatore europeo non abbia effettuato un chiaro bilanciamento tra i confliggenti interessi. Dopo aver analizzato le diverse declinazioni del concetto di rischio presenti nel regolamento AI (a partire dalla generale definizione di rischio come «rischio di danno»), l’a. sostiene che, facendo leva sull’obbligo di monitoraggio sul funzionamento del sistema del deployer/datore di lavoro a tutela dei diritti fondamentali della persona, l’approccio regolamentare possa essere interpretato in chiave fundamental right-based. Ne consegue che alla valutazione di conformità del sistema di IA non corrisponde un’indistinta accettazione delle conseguenze pregiudizievoli per i diritti fondamentali dei lavoratori.

Title: Fundamental Rights, Risk, Self-Reference, (Uncertain) Employer Obligations in the AI Act

Abstract [En]: The essay explores the regulatory technique of the risk-based approach in the AI Act, highlighting how the European legislator has not established a clear balance between conflicting interests. After analysing the various iterations of the concept of risk in the AI regulation (starting from the general definition of risk as «risk of harm»), the author argues that, by leveraging the monitoring obligation of the deployer/employer to protect fundamental rights of the individual, the regulatory approach can be interpreted through a fundamental right-based perspective. It follows that the conformity assessment of an AI system does not correspond to an indiscriminate acceptance of detrimental consequences for workers’ fundamental rights.

Parole chiave: Approccio basato sul rischio; AI Act; diritti fondamentali; bilanciamento; obblighi datore di lavoro.

Keywords: Risk-based approach; AI Act; fundamental rights; balancing; employer’s obligations.

Sommario: 1. Profili definitori del rischio. 2. Oltre il tradizionale principio di precauzione. 3. L’approccio basato sul rischio nel GDPR. 4. L’approccio basato sul rischio nell’AI Act. 4.1. Sistemi di IA ad alto rischio e autoreferenzialità classificatoria. 4.2. (Segue) Conformità statica e autoreferenzialità certificatoria. 4.3. (Segue) Conformità dinamica: l’obbligo datoriale di monitorare il sistema. 4.4. (Segue) Il c.d. FRIA. 4.5. Le pratiche vietate. 5. Tipologia del rischio. 6. Rischio, danno e autoreferenzialità nel bilanciamento degli interessi.