Nuova sezione #newsETHOS AIopenmind che in greco significa “carattere” o “abitudini”. Ethos può essere utilizzato per descrivere l’etica dell’AI, ovvero il modo in cui l’intelligenza artificiale viene creata, utilizzata e governata, e come questo influisce sul carattere o sull’identità dell’AI. Inoltre, può anche essere utilizzato per descrivere l’etica degli sviluppatori e degli utilizzatori dell’AI, ovvero il loro modo di pensare e agire in relazione all’utilizzo dell’AI.
_________
Fonte: Can We Build a Trustworthy ‘AI’ While Models-As-A-Service (Maas) Is Projected To Take Over?
_________
La costruzione dei modelli è ora più semplice che mai grazie all’automazione e all’intelligenza artificiale raggiunta nella costruzione dei modelli. Con un eccesso di strumenti MLOps, gli utenti di tutte le dimensioni e background si stanno ora concentrando sulla produzione dei modelli. Ma la domanda rimane: tutti i modelli sono utilizzabili?
Con l’aumento dell’utilizzo dell’intelligenza artificiale e del machine learning, c’è stata una crescita esponenziale nella disponibilità di strumenti per la costruzione dei modelli. Questi strumenti automatizzano molte delle attività manuali richieste per costruire un modello, rendendo più facile per gli utenti di tutte le dimensioni e background creare modelli di intelligenza artificiale.
Tuttavia, la semplicità nella costruzione dei modelli non garantisce che tutti i modelli creati siano utilizzabili. Molti modelli possono essere costruiti senza tenere conto dei requisiti di affidabilità, spiegabilità e responsabilità, rendendoli inutilizzabili per molti scopi importanti. Inoltre, molti modelli possono essere costruiti utilizzando dati che sono stati raccolti in modo non etico o non rappresentativo, il che può portare a decisioni sbagliate.
Per garantire che i modelli siano utilizzabili, è importante che gli sviluppatori e gli utilizzatori seguano buone pratiche per la costruzione dei modelli, tra cui la valutazione della qualità dei dati, la verifica della spiegabilità del modello e la definizione di responsabilità per le decisioni prese dal modello. Inoltre, è importante che gli sviluppatori e gli utilizzatori lavorino insieme per creare una cultura di trasparenza e responsabilità nell’utilizzo dei modelli.
Alcuni punti da considerare:
- Spiegabilità dell’IA: comprendere e capire il comportamento del modello, dall’input all’output, per risolvere il problema della “scatola nera” rendendo i modelli trasparenti.
- Responsabilità dell’IA: definire i ruoli e le responsabilità per l’utilizzo della soluzione IA e individuare la causa dei fallimenti.
- Promessa di coerenza: assicurare che i modelli IA in produzione siano coerenti con quelli utilizzati per il training e il test e che non subiscano drift nei dati o nei obiettivi.
- Prevenzione delle bias*: evitare che i modelli IA replichino le associazioni presenti nei dati di training e quindi i bias presenti in essi.
- Necessità di adattamento continuo: aggiornare costantemente la conoscenza e le informazioni utilizzate dai modelli IA per tenere conto dei cambiamenti nella ricerca e nella comprensione delle condizioni.
- Controlli con la partecipazione umana: utilizzare il controllo umano per governare e determinare il comportamento dell’IA in base alle preferenze organizzative, sociali e aziendali.
In sintesi, la semplificazione della costruzione dei modelli attraverso l’automazione e l’intelligenza artificiale è un passo importante nell’adozione dell’IA e del ML, ma è importante che gli sviluppatori e gli utilizzatori seguano buone pratiche per garantire che i modelli siano utilizzabili e affidabili.
_________
* Il bias in ambito di intelligenza artificiale e machine learning si riferisce alla tendenza dei modelli a produrre risultati non equi o non rappresentativi a causa dei dati di addestramento utilizzati per addestrarli. Ciò può verificarsi a causa di una rappresentazione non equilibrata dei dati, ad esempio se i dati di addestramento sono stati raccolti solo da un sottoinsieme specifico della popolazione, o a causa di una mancata considerazione dei fattori importanti nei dati.
Esistono diversi tipi di bias, tra cui:
- Bias di rappresentatività: si verifica quando i dati di addestramento non rappresentano adeguatamente la popolazione di interesse.
- Bias di inclusione: si verifica quando alcuni gruppi di persone sono esclusi dai dati di addestramento.
- Bias di confondimento: si verifica quando i dati di addestramento contengono informazioni che non sono pertinenti per il problema di previsione.
- Bias di attribuzione: si verifica quando i modelli assegnano un peso eccessivo a una caratteristica specifica dei dati di addestramento.
I bias possono avere conseguenze negative sulla qualità delle previsioni dei modelli e sull’equità delle decisioni prese sulla base di queste previsioni. Pertanto, è importante che gli sviluppatori di modelli prendano in considerazione i bias durante la costruzione dei modelli e utilizzino tecniche per mitigare i bias.
________
Foto di Gerd Altmann da Pixabay
