Rapporto sulle Fabbriche di Immagini False: Come le Piattaforme AI Mettono a Rischio la Democrazia

Un recente rapporto del Centro per la Contrapposizione dell’Odio Digitale (CCDH) ha rivelato come le fabbriche di immagini false generate dall’intelligenza artificiale costituiscano una minaccia significativa per le elezioni e la democrazia. Questo rapporto, pubblicato il 6 marzo 2024, ha analizzato l’utilizzo di popolari strumenti di generazione di immagini AI, tra cui Midjourney, ChatGPT Plus, DreamStudio e Image Creator di Microsoft, scoprendo che essi creano disinformazione elettorale nel 41% dei casi.

I ricercatori del CCDH hanno elaborato una lista di 40 prompt di testo sul tema delle elezioni presidenziali degli Stati Uniti del 2024, i quali sono stati testati su quattro popolari generatori di immagini AI, per un totale di 160 esecuzioni di test. È emerso che questi strumenti hanno generato immagini costituenti disinformazione elettorale nel 41% di questi test.

Midjourney è risultato essere il peggiore in assoluto, con un tasso di fallimento del 65% dei test eseguiti, tuttavia, si è scoperto che tutti gli strumenti non riescono a far rispettare adeguatamente le politiche esistenti contro la creazione di contenuti fuorvianti.

Il rapporto ha sottolineato la necessità che le piattaforme AI adottino misure più efficaci per prevenire la disinformazione elettorale. È stato proposto di fornire salvaguardie responsabili per impedire agli utenti di generare immagini, audio o video ingannevoli riguardanti eventi geopolitici, candidati alle elezioni o figure pubbliche.

______
FAKE IMAGE FACTORIES