Mitigazione del bias

Gestione responsabile dei dati per l'AI

Maria Prokofieva

Lead ML engineer

Cosa vedremo

• Strategie lungo tutto il ciclo di vita del progetto
• Riacampionamento e ripesatura
• Rietichettatura e rimozione di attributi sensibili
• Addestramento avversario e ricalibrazione del modello
• Comportamento degli utenti
• Vincoli di fairness e scelta dell'algoritmo
• Esistono altre strategie

Il bias, rivediamolo

• Errori sistematici o pregiudizi
• Esiti ingiusti per gruppi o individui

¹ Immagine di Streamline HQ

Bias lungo il progetto

• Nei dati grezzi
• Nel pre-processing
• Nel modeling
• Nel post-deployment

Bias nel pre-processing

• Riacampionamento
• Ripesatura
• Rietichettatura
• Rimozione attributi sensibili

Strategie nel pre-processing

• Riacampionamento:
  • Regola la distribuzione per bilanciare le classi
• Ripesatura:
  • Correggi i bias con pesi di classe, dimensione dataset invariata
• Rietichettatura:
  • Aggiorna le etichette per rappresentare meglio il target
• Rimozione attributi sensibili:
  • Elimina attributi protetti

Bias nel modeling

• Bias dovuto all'algoritmo
• Addestramento avversario
• Vincoli di fairness
• Scelta dell'algoritmo: modelli più semplici, robusti o generalizzabili

Consulente finanziario

• Bias legato a disparità economiche regionali
• Addestramento avversario per correggere il bias
• Alberi decisionali e modelli lineari regolarizzati

¹ Immagine di Streamline HQ

Bias post-deployment e nell'uso

• Monitora il bias per prevenire il model drift
• Ricalibrazione del modello
• Uso scorretto dell'applicazione

¹ Immagine di Streamline HQ

Consulente finanziario

Model drift:

• Economia dei freelance sotto-rappresentata

Uso errato:

• Aggiornare le informazioni finanziarie

¹ Immagine di Streamline HQ

Ayo berlatih!

Gestione responsabile dei dati per l'AI