La legge sull’Intelligenza Artificiale è nella sua forma definitiva. Si è concluso l’iter legislativo europeo per regolamentare le applicazioni della AI
L’AI Act, ovvero la legge sull’Intelligenza Artificiale, è nella sua forma definitiva. Lo scorso dicembre la Commissione ha accolto favorevolmente l’accordo politico raggiunto tra il Parlamento europeo e il Consiglio sulla legge sull’AI. La proposta era stata avanzata dalla Commissione nell’aprile 2021. Il 13 marzo la plenaria del Parlamento europeo ha approvato a Strasburgo il regolamento sull’IA con 523 voti a favore, 46 contrari e 49 astenutiIl prossimo passaggio è il voto finale di Consiglio e Parlamento sul testo integrale e la sua approvazione prevista il 24 aprile.
Il percorso che ha portato oggi all’Ai Act è iniziato all’incirca nel 2018 con la pubblicazione della strategia europea sull’intelligenza artificiale e il primo piano coordinato sull’AI. Nel 2020 è stato pubblicato il Libro bianco della Commissione sull’AI.
Obiettivi e nuovi obblighi
Si tratta del “primo quadro giuridico completo sull’Intelligenza Artificiale a livello mondiale”, come ha affermato la presidente della Commissione europea, Ursula Von der Leyen. Focalizzando la regolamentazione sui rischi identificabili, l’accordo favorirà l’innovazione responsabile in Europa. Capisaldi del nuovo orientamento sono la sicurezza e i diritti fondamentali delle persone e delle imprese.
L’AI Act introduce norme per modelli di AI di carattere generale con l’obiettivo di garantire la trasparenza lungo la catena del valore. Per i modelli molto potenti che potrebbero comportare rischi sistemici saranno introdotti ulteriori obblighi vincolanti relativi alla gestione dei rischi e al monitoraggio di incidenti gravi, test di valutazione del modello e contraddittori. Questi nuovi obblighi saranno resi operativi attraverso codici di buone pratiche sviluppati dall’industria, dalla comunità scientifica, dalla società civile e da altre parti interessate insieme alla Commissione.
L’approccio secondo i livelli di rischio
Le nuove norme saranno applicate direttamente allo stesso modo in tutti gli Stati membri secondo un approccio basato su diversi livelli di rischio.
Quello minimo riguarda la stragrande maggioranza dei sistemi di AI che non comportano rischi particolari per le persone. Un esempio sono i filtri anti-spam. In questi casi, le aziende possono impegnarsi ad adottare codici di condotta ma non sussistono obblighi.
I sistemi di AI identificati come ad alto rischio, invece, dovranno rispettare requisiti rigorosi: da meccanismi di mitigazione del rischio all’alta qualità dei set di dati, dalla registrazione delle attività a informazioni chiare sugli utenti. Supervisione umana, accuratezza e sicurezza informatica sono altre condizioni di conformità.
Qualche esempio
Entrano nella categoria di rischio inaccettabile i sistemi di AI che possono minacciare i diritti fondamentali delle persone. Il riferimento è a sistemi o applicazioni di intelligenza artificiale che manipolano il comportamento umano per eludere il libero arbitrio degli utenti, come giochi dotati di assistenti vocali che incoraggiano comportamenti pericolosi di minori, oppure sistemi che consentono classificazioni dell’affidabilità delle persone fisiche (il cosiddetto “social storing”) da parte di governi o aziende e alcune applicazioni di polizia predittiva. Inoltre, saranno vietati alcuni usi dei sistemi biometrici: ad esempio i sistemi di riconoscimento delle emozioni utilizzati sul posto di lavoro e alcuni sistemi per la categorizzazione delle persone o l’identificazione biometrica remota in tempo reale per scopi di contrasto in spazi accessibili al pubblico (con limitate eccezioni).
In merito al rischio specifico per la trasparenza, quando si utilizzano sistemi di intelligenza artificiale come i chatbot, gli utenti dovrebbero essere consapevoli che stanno interagendo con una macchina. I deep fake e altri contenuti generati dall’intelligenza artificiale dovranno essere etichettati come tali e gli utenti dovranno essere informati quando vengono utilizzati sistemi di categorizzazione biometrica o di riconoscimento delle emozioni. Inoltre, i fornitori dovranno progettare sistemi in modo tale che il contenuto sintetico di audio, video, testo e immagini sia contrassegnato in un formato leggibile dalla macchina e rilevabile come generato o manipolato artificialmente.
Le sanzioni
Il mancato rispetto delle regole sarà punito con sanzioni che potrebbero variare da 35 milioni di euro o il 7% del fatturato annuo globale (a seconda di quale sia il più alto) per violazioni di applicazioni di IA vietate, 15 milioni di euro o 3% per violazioni di altri obblighi e 7,5 milioni di euro o 1,5% per aver fornito informazioni errate. Per le sanzioni amministrative per le PMI e le start-up, in caso di violazione della legge sull’AI, sono previsti massimali più proporzionati.
Ruoli e organizzazione
In termini di governance, le autorità nazionali competenti in materia di vigilanza del mercato supervisioneranno l’attuazione delle nuove norme a livello nazionale, mentre la creazione di un nuovo Ufficio europeo per l’IA all’interno della Commissione europea garantirà il coordinamento a livello europeo. Il nuovo Ufficio AI supervisionerà inoltre l’attuazione e l’applicazione delle nuove norme sui modelli di IA per scopi generali, diventando un punto di riferimento internazionale. Per i modelli di uso generale, un gruppo scientifico di esperti indipendenti svolgerà un ruolo centrale emettendo alert sui rischi sistemici e contribuendo a classificare e testare i modelli.
