Al Forum di Sicurezza di Aspen è stata annunciata la nascita della Coalition for Secure AI (CoSAI), una nuova iniziativa open-source ospitata dal consorzio OASIS. CoSAI si propone di fornire agli sviluppatori e ai professionisti del settore gli strumenti e le linee guida necessari per progettare sistemi di intelligenza artificiale sicuri per design. Il progetto mira a creare un ecosistema collaborativo per condividere metodologie open-source, quadri normativi standardizzati e strumenti avanzati.
CoSAI riunisce una vasta gamma di stakeholder, tra cui leader del settore, accademici ed esperti, per affrontare il panorama frammentato della sicurezza dell’AI. Tra gli sponsor principali figurano giganti della tecnologia come Google, IBM, Intel, Microsoft, NVIDIA e PayPal, con il supporto aggiuntivo di Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI e Wiz.
Il progetto CoSAI si concentra sulla costruzione, integrazione, implementazione e operatività sicura dei sistemi di intelligenza artificiale, puntando a mitigare rischi come il furto di modelli, il poisoning dei dati, l’iniezione di prompt, l’abuso su larga scala e gli attacchi di inferenza. L’obiettivo è sviluppare misure di sicurezza complete che affrontino i rischi tradizionali e unici dell’AI.
Attualmente, la sicurezza dell’AI è un compito frammentato, con gli sviluppatori che devono districarsi tra linee guida e standard spesso incoerenti. CoSAI, sostenuta da esperti e leader del settore, si propone di stabilire pratiche standardizzate che migliorino la sicurezza dell’AI e rafforzino la fiducia globale. David LaBianca di Google e Omar Santos di Cisco, co-chair del CoSAI Governing Board, hanno sottolineato l’importanza di questa iniziativa per democratizzare la conoscenza e accelerare lo sviluppo di standard di sicurezza robusti.
