Il Consiglio d’Europa ha adottato il primo trattato internazionale legalmente vincolante mirato a garantire il rispetto dei diritti umani, dello stato di diritto e degli standard democratici nell’uso dei sistemi di intelligenza artificiale (IA). Il trattato, aperto anche ai paesi non europei, stabilisce un quadro giuridico che copre l’intero ciclo di vita dei sistemi di intelligenza artificiale e affronta i rischi che possono comportare, promuovendo nel contempo un’innovazione responsabile. La convenzione adotta un approccio basato sul rischio alla progettazione, allo sviluppo, all’uso e alla dismissione dei sistemi di intelligenza artificiale, che richiede di considerare attentamente le eventuali conseguenze negative dell’uso di tali sistemi.
La Convenzione quadro del Consiglio d’Europa sull’intelligenza artificiale e i diritti umani, la democrazia e lo stato di diritto è stata adottata a Strasburgo durante la riunione annuale dei ministri del Comitato dei Ministri del Consiglio d’Europa, che riunisce i Ministri degli Affari Esteri dei 46 Stati membri del Consiglio d’Europa.
La Segretaria Generale del Consiglio d’Europa, Marija Pejčinović, ha dichiarato: “La Convenzione quadro sull’Intelligenza Artificiale è un trattato globale unico nel suo genere che garantirà che l’Intelligenza Artificiale rispetti i diritti delle persone. È una risposta alla necessità di uno standard legale internazionale supportato dagli Stati di diversi continenti che condividono gli stessi valori per sfruttare i benefici dell’Intelligenza Artificiale, mitigando nel contempo i rischi. Con questo nuovo trattato, miriamo a garantire un uso responsabile dell’IA che rispetti i diritti umani, lo stato di diritto e la democrazia”.
La convenzione è il risultato di due anni di lavoro di un organo intergovernativo, il Comitato sull’Intelligenza Artificiale (CAI), che ha riunito per redigere il trattato i 46 Stati membri del Consiglio d’Europa, l’Unione Europea e 11 Stati non membri (Argentina, Australia, Canada, Costa Rica, Santa Sede, Israele, Giappone, Messico, Perù, Stati Uniti d’America e Uruguay), oltre a rappresentanti del settore privato, della società civile e del mondo accademico, che hanno partecipato come osservatori.
Il trattato copre l’uso dei sistemi di intelligenza artificiale nel settore pubblico – comprese le aziende che agiscono per suo conto – e nel settore privato. La convenzione offre alle parti due modi per conformarsi ai suoi principi e obblighi nella regolamentazione del settore privato: le parti possono scegliere di essere direttamente obbligate dalle disposizioni pertinenti della convenzione o, in alternativa, adottare altre misure per conformarsi alle disposizioni del trattato nel rispetto totale dei loro obblighi internazionali in materia di diritti umani, democrazia e stato di diritto. Questo approccio è necessario a causa delle differenze nei sistemi legali in tutto il mondo.
La convenzione stabilisce requisiti di trasparenza e controllo adattati a contesti e rischi specifici, compresa l’identificazione dei contenuti generati dai sistemi di intelligenza artificiale. Le parti dovranno adottare misure per identificare, valutare, prevenire e mitigare i possibili rischi e valutare la necessità di un moratorium, un divieto o altre misure appropriate riguardanti l’uso dei sistemi di intelligenza artificiale quando i loro rischi possono essere incompatibili con gli standard dei diritti umani.
Dovranno inoltre garantire la responsabilità e la responsabilità per gli impatti negativi e che i sistemi di intelligenza artificiale rispettino l’uguaglianza, compresa l’uguaglianza di genere, il divieto di discriminazione e i diritti alla privacy. Inoltre, le parti del trattato dovranno garantire la disponibilità di rimedi legali per le vittime di violazioni dei diritti umani legate all’uso dei sistemi di intelligenza artificiale e garanzie procedurali, compresa la notifica a tutte le persone che interagiscono con i sistemi di intelligenza artificiale che stanno interagendo con tali sistemi.
Per quanto riguarda i rischi per la democrazia, il trattato richiede alle parti di adottare misure per garantire che i sistemi di intelligenza artificiale non siano utilizzati per minare le istituzioni e i processi democratici, compreso il principio della separazione dei poteri, il rispetto dell’indipendenza giudiziaria e l’accesso alla giustizia.
Le parti della convenzione non saranno tenute ad applicare le disposizioni del trattato alle attività relative alla protezione degli interessi della sicurezza nazionale, ma saranno obbligate a garantire che tali attività rispettino il diritto internazionale e le istituzioni e i processi democratici. Il trattato non si applicherà alle questioni della difesa nazionale né alle attività di ricerca e sviluppo, tranne quando i test dei sistemi di intelligenza artificiale potrebbero interferire con i diritti umani, la democrazia o lo stato di diritto.
Per garantirne l’efficace attuazione, la convenzione istituisce un meccanismo di follow-up sotto forma ogni parte istituisca un meccanismo di supervisione indipendente per vigilare sul rispetto della convenzione e sensibilizzare, stimolare un dibattito pubblico informato e condurre consultazioni multilaterali su come dovrebbe essere utilizzata la tecnologia dell’IA. La convenzione quadro sarà aperta per la firma a Vilnius (Lituania) il 5 settembre in occasione di una conferenza dei Ministri della Giustizia.
___
Council of Europe adopts first international treaty on artificial intelligence
