Constitutional Opportunities and Risks of AI in the law-making process

Abstract [En]: This paper explores the constitutional opportunities and risks linked to the use of AI in the legislative process, adopting an interdisciplinary approach. The analysis distinguishes between AI assisting, enhancing, and decision-making for legislators, highlighting their different constitutional implications. Opportunities and risks for each use are discussed with examples, emphasizing the need for constitutional safeguards. The Authors argue that assistive AI, with proper safeguards, poses fewer issues than commonly believed, while AI augmenting MPs abilities or making decisions may compromise fundamental principles of constitutional law and due legislative process.

Titolo: Opportunità e rischi costituzionali dell’IA nel procedimento legislativo

Abstract [It]: Il saggio discute in prospettiva interdisciplinare le opportunità e i rischi costituzionali dell’impiego dell’IA nel procedimento legislativo. L’analisi distingue tre possibili utilizzi dell’IA da parte del legislatore (assistivo, di potenziamento umano e decisorio) per evidenziarne le differenti implicazioni costituzionali. Opportunità e rischi sono quindi discussi con riferimento a specifici casi d’uso e individuando possibili misure di salvaguardia per i principi costituzionali interessati. La tesi sostenuta dagli Autori è che l’impiego di IA assistiva è meno problematico di quanto si pensi comunemente, purché si adottino le necessarie misure di mitigazione dei rischi. Gli altri utilizzi tendono invece a risultare effettivamente incompatibili con i principi costituzionali fondamentali del procedimento legislativo.

Keywords: AI, law-making process, parliamentary autonomy, technological sovereignty, free mandate, non-delegation doctrine

Parole chiave: IA, procedimento legislativo, autonomia parlamentare, sovranità tecnologica, libero mandato, delegazione legislativa

Summary: 1. Introduction. 2. AI-based Technologies: Legislative Use Cases and Constitutional Implications. 3. Constitutional Opportunities and Risks of Assistive AI. 3.1. Assistive AI Applications: Examples and Constitutional Foundations. 3.2. A parallel between Artificial- and Human-Intelligent Assistance and its Limits. 3.3. Constitutional Risks and possible Countermeasures. 3.3.1. Parliamentary Autonomy and Technological Sovereignty. 3.3.2. Continuity of Power and Technological Malfunctioning. 3.3.3. AI technologies and Free Mandate: Ensuring par condicio and full accessibility. 4. Constitutional Constraints on Decision-Making AI. 4.1. Delegating Legislative Power to AI. 4.2. Delegating other Decisions to AI within the Law-Making Process. 5. Conclusions and Future Research.