Il Parlamento Europeo ha adottato una legge storica sull’intelligenza artificiale, volta a garantire sicurezza e rispetto dei diritti fondamentali, mentre promuove l’innovazione. La normativa, frutto di negoziati con gli Stati membri nel dicembre 2023, è stata approvata dai membri del Parlamento con 523 voti a favore, 46 contrari e 49 astenuti.
L’obiettivo principale della legge è quello di proteggere i diritti fondamentali, la democrazia, lo stato di diritto e la sostenibilità ambientale dall’IA ad alto rischio, contemporaneamente a promuovere l’innovazione e a stabilire l’Europa come leader nel settore. La regolamentazione stabilisce obblighi per l’IA in base ai suoi rischi potenziali e al livello di impatto.
Applicazioni vietate
Le nuove norme vietano alcune applicazioni dell’IA che minacciano i diritti dei cittadini, tra cui i sistemi di categorizzazione biometrica basati su caratteristiche sensibili e lo scraping non mirato di immagini facciali da internet o da video di telecamere di sorveglianza per creare database di riconoscimento facciale. Saranno altresì vietati il riconoscimento delle emozioni sul luogo di lavoro e nelle scuole, il social scoring, il poliziesco predittivo (quando si basa esclusivamente sul profilo di una persona o sulla valutazione delle sue caratteristiche), e l’IA che manipola il comportamento umano o sfrutta le vulnerabilità delle persone.
Esenzioni per le forze dell’ordine
L’uso dei sistemi di identificazione biometrica da parte delle forze dell’ordine è in principio vietato, tranne che in situazioni espressamente elencate e definiti in modo stretto. I sistemi biometrici “in tempo reale” possono essere impiegati solo se sono rispettati rigorosi meccanismi di salvaguardia, ad esempio il loro utilizzo è limitato nel tempo e nello spazio geografico e soggetto a specifica autorizzazione giudiziaria o amministrativa preventiva. Tali utilizzi possono includere, ad esempio, la ricerca mirata di una persona scomparsa o la prevenzione di un attacco terroristico. L’utilizzo di tali sistemi “post-facto” (“post-remote RBI”) è considerato un caso di uso ad alto rischio, che richiede l’autorizzazione giudiziaria e deve essere collegato a un reato penale.
Obblighi per sistemi ad alto rischio
Sono previsti obblighi chiari anche per altri sistemi di IA ad alto rischio (a causa del loro potenziale danno significativo per la salute, la sicurezza, i diritti fondamentali, l’ambiente, la democrazia e lo stato di diritto). Esempi di utilizzi ad alto rischio dell’IA includono infrastrutture critiche, istruzione e formazione professionale, occupazione, servizi privati e pubblici essenziali (ad esempio, sanità, servizi bancari), determinati sistemi delle forze dell’ordine, migrazione e gestione delle frontiere, giustizia e processi democratici (ad esempio, influenzare le elezioni). Tali sistemi devono valutare e ridurre i rischi, mantenere registri d’uso, essere trasparenti e precisi e garantire la supervisione umana. I cittadini avranno il diritto di presentare reclami riguardanti i sistemi di IA e ricevere spiegazioni sulle decisioni basate su sistemi di IA ad alto rischio che influenzano i loro diritti.
Requisiti di trasparenza
I sistemi di intelligenza artificiale a uso generale (GPAI) e i modelli di GPAI su cui si basano devono soddisfare determinati requisiti di trasparenza, tra cui il rispetto della legge sul diritto d’autore dell’UE e la pubblicazione di riassunti dettagliati dei contenuti utilizzati per la formazione. I modelli di GPAI più potenti che potrebbero rappresentare rischi sistemici saranno soggetti a requisiti aggiuntivi, tra cui la valutazione del modello, la valutazione e la mitigazione dei rischi sistemici e la segnalazione degli incidenti.
Misure a sostegno dell’innovazione e delle PMI
Saranno istituiti sandbox regolamentari e test nel mondo reale a livello nazionale, resi accessibili alle PMI e alle start-up, per sviluppare e formare un’IA innovativa prima della sua messa sul mercato.
Prossimi passi
La regolamentazione è ancora soggetta a un controllo finale da parte dei giuristi-linguisti e ci si aspetta che sia definitivamente adottata prima della fine della legislatura (attraverso la procedura del cosiddetto corrigendum). La legge deve anche essere formalmente approvata dal Consiglio.
Entrerà in vigore venti giorni dopo la sua pubblicazione nella Gazzetta ufficiale e sarà pienamente applicabile 24 mesi dopo la sua entrata in vigore, ad eccezione di: divieti di pratiche proibite, che si applicheranno sei mesi dopo la data di entrata in vigore; codici di pratica (nove mesi dopo l’entrata in vigore); regole sull’IA a uso generale, compresa la governance (12 mesi dopo l’entrata in vigore); e obblighi per i sistemi ad alto rischio (36 mesi).
Sfondo
La Legge sull’Intelligenza Artificiale risponde direttamente alle proposte dei cittadini della Conferenza sul Futuro dell’Europa (COFE), più concretamente alla proposta 12(10) sull’aumento della competitività dell’UE nei settori strategici, alla proposta 33(5) su una società sicura e affidabile, compresa la lotta alla disinformazione e l’assicurazione che gli esseri umani siano ultimamente sotto controllo, alla proposta 35 sulla promozione dell’innovazione digitale, (3) garantendo tuttavia la supervisione umana e (8) un uso affidabile e responsabile dell’IA, stabilendo salvaguardie e garantendo trasparenza, e alla proposta 37 (3) sull’uso dell’IA e degli strumenti digitali per migliorare l’accesso delle persone alle informazioni, comprese le persone con disabilità.
