La norma prevede il divieto totale di utilizzo dell’Intelligenza Artificiale (AI) per la sorveglianza biometrica, il riconoscimento delle emozioni, il punteggio sociale e le indagini predittive di polizia. Inoltre, tutti i sistemi di intelligenza artificiale generativa come ChatGPT devono segnalare che il contenuto è stato generato dall’AI.
Dopo mesi di accese discussioni tra legislatori per trovare un compromesso tra differenti punti di vista, il Parlamento europeo ha adottato oggi la bozza di legge sull’intelligenza artificiale (AI) con 499 voti a favore, 28 contrari e 93 astensioni, in vista dei colloqui con gli Stati membri sulla forma finale della legge. La norma mira a garantire che l’Intelligenza Artificiale sviluppata e utilizzata in Europa sia pienamente in linea con i diritti e i valori dell’UE, tra cui il controllo dei cittadini, la sicurezza, la privacy, la trasparenza, la non discriminazione e il benessere sociale e ambientale. Qui la bozza di legge approvata.
Pratiche di intelligenza artificiale vietate
Le regole seguono un approccio basato sul rischio e stabiliscono obblighi per i fornitori e coloro che implementano sistemi di AI a seconda del livello di rischio che l’Intelligenza Artificiale può generare. Saranno quindi vietati i sistemi di intelligenza artificiale con un livello di rischio inaccettabile per la sicurezza delle persone, come quelli utilizzati per il punteggio sociale (classificazione delle persone in base al loro comportamento sociale o alle caratteristiche personali). I deputati hanno ampliato l’elenco per includere divieti sugli usi intrusivi e discriminatori dell’intelligenza artificiale, come ad esempio:
- Sistemi di identificazione biometrica remota “in tempo reale” in spazi accessibili al pubblico;
- Sistemi di identificazione biometrica remota “postale”, con la sola eccezione delle forze dell’ordine per il perseguimento di reati gravi e solo previa autorizzazione giudiziaria;
- sistemi di categorizzazione biometrica che utilizzano caratteristiche sensibili (es. genere, razza, etnia, stato di cittadinanza, religione, orientamento politico);
- sistemi di polizia predittiva (basati su profilazione, posizione o comportamento criminale passato);
- sistemi di riconoscimento delle emozioni nelle forze dell’ordine, nella gestione delle frontiere, sul posto di lavoro e nelle istituzioni educative;
- scraping non mirato di immagini facciali da Internet o filmati CCTV per creare database di riconoscimento facciale (violando i diritti umani e il diritto alla privacy).
Intelligenza Artificiale ad alto rischio
I deputati hanno assicurato che la classificazione delle applicazioni ad alto rischio includerà ora i sistemi di intelligenza artificiale che arrecano danni significativi alla salute, alla sicurezza, ai diritti fondamentali o all’ambiente delle persone. I sistemi di intelligenza artificiale utilizzati per influenzare gli elettori e l’esito delle elezioni e nei cosiddetti sistemi di raccomandazione utilizzati dalle piattaforme di social media (con oltre 45 milioni di utenti) sono stati aggiunti all’elenco delle applicazioni ad alto rischio.
Obblighi per l’Intelligenza Artificiale di uso generale
I fornitori di modelli di base – uno sviluppo nuovo e in rapida evoluzione nel campo dell’AI – dovrebbero valutare e mitigare i possibili rischi (per la salute, la sicurezza, i diritti fondamentali, l’ambiente, la democrazia e lo stato di diritto) e registrare i propri modelli nel Banca dati dell’UE prima della loro immissione sul mercato dell’Unione. I sistemi di intelligenza artificiale generativa basati su tali modelli, come ChatGPT, dovrebbero rispettare i requisiti di trasparenza (rivelare che il contenuto è stato generato dall’intelligenza artificiale, aiutando anche a distinguere le cosiddette immagini deep-fake da quelle reali) e garantire salvaguardie contro la generazione di contenuti illegali. Dovrebbero essere rese pubbliche anche sintesi dettagliate dei dati protetti da copyright utilizzati per il loro addestramento.
Sostenere l’innovazione e tutelare i diritti dei cittadini
Per promuovere l’innovazione dell’AI e sostenere le PMI, i deputati hanno aggiunto esenzioni per le attività di ricerca e i componenti dell’AI forniti con licenze open source. La nuova legge promuove i cosiddetti sandbox normativi, o ambienti di vita reale, istituiti dalle autorità pubbliche per testare l’intelligenza artificiale prima che venga implementata.
Infine, i deputati vogliono rafforzare il diritto dei cittadini di presentare reclami sui sistemi di AI e ricevere spiegazioni delle decisioni basate su sistemi di IA ad alto rischio che incidono in modo significativo sui loro diritti fondamentali. I deputati hanno anche riformato il ruolo dell’Ufficio AI dell’UE, che avrebbe il compito di monitorare l’attuazione del regolamento sull’AI.
Dopo il voto, il correlatore Brando Benifei (S&D, Italia) ha dichiarato: “Oggi tutti gli occhi sono puntati su di noi. Mentre le aziende Big Tech lanciano l’allarme per le proprie creazioni, l’Europa è andata avanti e ha proposto una risposta concreta ai rischi che l’AI sta iniziando a porre. Vogliamo che il potenziale positivo dell’AI per la creatività e la produttività sia sfruttato, ma lotteremo anche per proteggere la nostra posizione e contrastare i pericoli per le nostre democrazie e libertà durante i negoziati con il Consiglio”.
Il correlatore Dragos Tudorache (Renew, Romania) ha dichiarato: “La legge sull’AI darà il tono a livello mondiale allo sviluppo e alla governance dell’intelligenza artificiale, garantendo che questa tecnologia, destinata a trasformare radicalmente le nostre società grazie agli enormi vantaggi che può offrire, si evolva e sia utilizzata in conformità con i valori europei della democrazia, dei diritti fondamentali e dello Stato di diritto”.
Il prossimo passo dell’iter legislativo saranno i negoziati con il Consiglio sulla forma finale della legge.
