Il giorno prima del suo 25° anniversario, Mozilla, l’organizzazione no-profit che si occupa del browser Firefox, ha lanciato una startup focalizzata sull’Intelligenza Artificiale.
Chiamata Mozilla.ai, la missione della neonata azienda non è quella di costruire qualsiasi tipo di IA, ma di sviluppare IA open source e “di fiducia”, come ha spiegato Mark Surman, presidente esecutivo di Mozilla e responsabile di Mozilla.ai.
“Dopo aver lavorato all’Intelligenza Artificiale di fiducia per quasi cinque anni, ho costantemente avuto una miscela di entusiasmo e ansia”, ha detto in un’intervista via email con TechCrunch. “L’ultimo mese o due di grandi annunci di tecnologie AI da parte dei big del settore non è stato diverso. Stanno emergendo tecnologie entusiasmanti – nuovi strumenti che hanno immediatamente stimolato artisti, fondatori… ogni genere di persone a fare cose nuove. L’ansia arriva quando ti rendi conto che quasi nessuno sta guardando alle guardie”.
Surman si riferiva alla serie di modelli di IA degli ultimi mesi che, sebbene impressionanti nelle loro capacità, hanno conseguenze preoccupanti nella vita reale. Ad esempio, alla pubblicazione di ChatGPT di OpenAI, un generatore di testo, è stato possibile scrivere malware, identificare falle nel codice open source e creare siti web di phishing che assomigliavano a siti molto frequentati. Allo stesso modo, l’IA testo-immagine come Stable Diffusion è stata utilizzata per creare deepfake pornografici.
Gli autori di questi modelli sostengono di adottare misure per prevenire l’abuso, ma Mozilla ha ritenuto che non fosse sufficiente.
Finanziata da un investimento seed di 30 milioni di dollari dalla Mozilla Foundation, l’azienda madre di Mozilla, Mozilla.ai è una sussidiaria interamente di proprietà della Mozilla Foundation – come la Mozilla Corporation e Mozilla Ventures. Il suo direttore generale è Moez Draief, che in precedenza era il chief scientist presso il laboratorio AI Noah’s Ark di Huawei e il chief scientist globale presso la società di consulenza Capgemini.
Harvard’s Karim Lakhani, Credo’s Navrina Singh e Surman saranno i primi membri del consiglio di Mozilla.ai. Lakhani è il presidente e co-fondatore del Digital, Data and Design Institute di Harvard, mentre Singh è un membro del National AI Advisory Committee del Dipartimento del Commercio degli Stati Uniti, che consiglia il presidente su una serie di questioni etiche relative all’AI.
Inizialmente, la priorità di Mozilla.ai sarà quella di creare una squadra di circa 25 ingegneri, scienziati e product manager per lavorare su sistemi di raccomandazione “affidabili” e modelli di grandi lingue come il GPT-4 di OpenAI. Ma l’ambizione più ampia dell’azienda è quella di stabilire una rete di aziende e gruppi di ricerca alleati, inclusi startup sostenute da Mozilla Ventures e istituzioni accademiche, che condividono la sua visione.
Sebbene Mozilla.ai sia legata a determinati principi etici (in particolare il Manifesto di Mozilla), non è un’organizzazione no-profit. Al contrario, è aperta a prodotti e aziende derivanti dalle sue esplorazioni più di successo, oltre a progetti open source.
La startup di Mozilla è parte di un’onda di sviluppo di tecnologie di AI affidabili, in contrasto con le preoccupazioni crescenti riguardo l’impatto negativo dell’AI sulla società. L’AI affidabile può garantire ai suoi utenti la trasparenza.
____________
“Mozilla launches a new startup focused on ‘trustworthy’ AI“
