Sfide dell’AI responsabile

Gestione responsabile dei dati per l'AI

Maria Prokofieva

Lead ML Engineer

Pratiche reali di gestione responsabile dei dati

Complesso

Implica compromessi

Richiede giudizio professionale

AI responsabile: cerchio blu con una mano che regge l’illustrazione di un chip AI

Compromessi comuni

Compromessi

Dimensioni dell’AI responsabile

Fattori di business

Profitto sopra equità e privacy
Ricavi sopra test e sicurezza

Modelli pre-addestrati

Riduce i costi
Risparmia tempo e risorse
Niente raccolta dati e training
Possibile bias nei dati di training
Scarsa trasparenza

modelli pre-addestrati

Uso di modelli pre-addestrati

Due diligence sulla fonte del modello
Buona reputazione
Credibilità
Rivedi la documentazione del modello
Test aggiuntivi su equità e bias

Compromesso tra metriche

Accuratezza sopra equità
Anche con dataset bilanciati

Compromessi sull’accuratezza

Accuratezza più bassa per gruppi specifici
Non considera qualità/quantità dati per gruppi sottorappresentati
La privacy riduce l’accuratezza

Riconoscimento facciale

Compromessi sulla robustezza

Compromesso tra metriche

Robustezza vs bias
Robustezza vs equità

Condotta professionale e doveri di cura

Codici etici e di condotta
Linee guida diverse per paese e organizzazione
Responsabilità, non nuocere, equità
Privacy e riservatezza dell’utente
Impatto positivo sulla società
Mantieni standard elevati
Sviluppa sistemi robusti e sicuri
Inclusivi e non discriminatori

ACM

¹ https://www.acm.org/code-of-ethics

Aly practichiamo!

Gestione responsabile dei dati per l'AI

Preparing Video For Download...