Google presenta il Secure AI Framework (SAIF), un framework concettuale per garantire la sicurezza dei sistemi di intelligenza artificiale (IA). SAIF si basa sulle migliori pratiche di sicurezza e tiene conto delle sfide specifiche legate all’IA. Il framework comprende sei elementi chiave:
- Ampliare le basi di sicurezza per l’ecosistema dell’IA: utilizzando infrastrutture sicure per proteggere i sistemi di IA e sviluppando competenze organizzative per adattarsi alle minacce emergenti.
- Estendere la rilevazione e la risposta alle minacce dell’IA: monitorando gli input e gli output dei sistemi di IA per individuare anomalie e utilizzando l’intelligence sulle minacce per prevenire gli attacchi.
- Automatizzare le difese per affrontare le minacce: utilizzando l’IA per migliorare la scala e la velocità delle risposte ai cyber incidenti.
- Armonizzare i controlli a livello di piattaforma per garantire una sicurezza coerente: applicando controlli uniformi per proteggere le applicazioni di IA su diverse piattaforme.
- Adattare i controlli per un’implementazione di IA più sicura: testare costantemente le implementazioni e adattare le capacità di rilevamento e protezione in base all’evoluzione delle minacce.
- Contestualizzare i rischi del sistema di IA nei processi aziendali circostanti: valutare i rischi legati all’implementazione di IA, come la gestione dei dati e la validazione dell’operatività, per prendere decisioni informate.
Google sostiene la creazione di una comunità di IA sicura e sta collaborando con partner chiave per sviluppare standard di gestione del rischio per l’IA. Inoltre, Google lavora direttamente con organizzazioni, clienti e governi per fornire consulenza sulla sicurezza dell’IA e condividere informazioni sulle minacce. Il supporto alla ricerca sulla sicurezza dell’IA viene incentivato tramite programmi di bug bounty. Google si impegna anche a offrire soluzioni di IA sicure in collaborazione con partner e contribuendo al codice open source.
L’obiettivo di Google è promuovere un utilizzo sicuro dell’IA, lavorando in collaborazione con governi, industria e accademici per condividere conoscenze e raggiungere obiettivi comuni.
