La Digital Crimes Unit (DCU) di Microsoft ha recentemente intrapreso un’importante azione legale per proteggere il pubblico dall’abuso dell’intelligenza artificiale generativa. La denuncia, presentata presso l’Eastern District of Virginia, mira a contrastare un gruppo di cybercriminali che sfruttano le vulnerabilità tecnologiche per creare e distribuire contenuti dannosi e offensivi.
Secondo quanto dichiarato, questi attori hanno sviluppato strumenti sofisticati per aggirare le barriere di sicurezza dei servizi di IA, incluso l’accesso illegale a credenziali di clienti. Successivamente, hanno modificato i sistemi per generare contenuti illeciti e rivendere tali accessi a terzi. Una volta individuata l’attività, Microsoft ha revocato gli accessi compromessi e implementato misure di sicurezza aggiuntive.
Oltre alle azioni legali, l’azienda ha ribadito il suo impegno a collaborare con le autorità e il settore tecnologico per rafforzare la sicurezza globale. In particolare, Microsoft ha pubblicato un rapporto che fornisce raccomandazioni su come proteggere il pubblico, con particolare attenzione a donne e bambini, dall’abuso dell’IA.
La DCU, attiva da quasi vent’anni, si basa su un approccio consolidato nella lotta al cybercrimine. Questa recente azione legale sottolinea la determinazione dell’azienda nel prevenire l’uso improprio dell’IA, segnalando i rischi emergenti e proponendo soluzioni innovative per garantire un ambiente digitale sicuro.
