Le foto personali di bambini brasiliani sono utilizzate per creare potenti strumenti di intelligenza artificiale (IA) senza il loro consenso, come ha denunciato Human Rights Watch. Queste immagini vengono prelevate dal web e inserite in un grande dataset usato dalle aziende per addestrare i loro strumenti di IA, che a loro volta sono impiegati per creare deepfake malevoli, mettendo ulteriormente a rischio i bambini.
“Non è accettabile che i bambini debbano vivere nella paura che le loro foto possano essere rubate e usate contro di loro”, ha dichiarato Hye Jung Han, ricercatrice sui diritti dei bambini e la tecnologia presso Human Rights Watch. “Il governo deve adottare urgentemente politiche per proteggere i dati dei bambini dall’abuso alimentato dall’IA.”
Human Rights Watch ha rilevato che il dataset LAION-5B, usato per addestrare strumenti di IA popolari, contiene link a foto identificabili di bambini brasiliani. In molti casi, le identità dei bambini sono facilmente tracciabili, con informazioni su quando e dove la foto è stata scattata.
Una delle foto presenta una bambina di 2 anni che tocca le dita della sua sorella neonata, con didascalie che rivelano i nomi delle bambine e la posizione dell’ospedale in cui è nata la neonata. Human Rights Watch ha individuato 170 foto di bambini provenienti da almeno 10 stati brasiliani, un dato probabilmente sottostimato.
Le foto coprono l’intera infanzia, catturando momenti intimi che una volta godevano di una certa privacy. Queste immagini sono state postate su blog personali e siti di condivisione di foto e video anni fa, prima che LAION-5B fosse creato.
L’uso non autorizzato delle foto aumenta il rischio di violazione della privacy dei bambini, poiché i modelli di IA possono riprodurre informazioni private, inclusi dati medici e foto di persone reali. Questo espone i bambini a ulteriori minacce, permettendo la creazione di cloni convincenti o immagini esplicite.
LAION, la non-profit tedesca che gestisce il dataset, ha confermato la presenza delle foto e si è impegnata a rimuoverle, ma ha anche sottolineato che la responsabilità principale di proteggere le foto dei bambini ricade su di loro e sui loro tutori.
Le autorità brasiliane dovrebbero rafforzare la legge sulla protezione dei dati, includendo salvaguardie specifiche per i bambini. Proteggere la privacy dei dati dei bambini ora contribuirà a modellare uno sviluppo tecnologico che promuova i loro diritti invece di violarli.
_____
Brazil: Children’s Personal Photos Misused to Power AI Tools
