Bias verminderen

Verantwoord AI-gegevensbeheer

Maria Prokofieva

Lead ML engineer

We behandelen

• Strategieën in de hele projectlevenscyclus
• Resampling en re-weighting
• Relabeling en verwijderen gevoelige attributen
• Adversarial training en modelrecalibratie
• Gebruikersgedrag
• Fairness-constraints en algoritmekeuze
• Er zijn meer strategieën

Bias herzien

• Systematische fouten of vooroordelen
• Oneerlijke uitkomsten voor groepen of individuen

¹ Afbeelding door Streamline HQ

Bias in het project

• In ruwe data
• In pre-processing
• In modelleren
• Na uitrol

Bias in pre-processing

• Resampling
• Re-weighting
• Relabeling
• Verwijderen gevoelige attributen

Strategieën in pre-processing

• Resampling:
  • Verdeling aanpassen voor gebalanceerde klassen
• Re-weighting:
  • Bias corrigeren met klassegewichten, datasetgrootte gelijk
• Relabeling:
  • Labels bijwerken voor juiste targetrepresentatie
• Verwijderen gevoelige attributen:
  • Beschermde attributen weglaten

Bias in modelleren

• Bias door het algoritme
• Adversarial training
• Fairness-constraints
• Algoritmekeuze: eenvoudiger, robuuster, generaliseerbaar

Financieel adviseur

• Bias door regionale economische verschillen
• Adversarial training om bias te corrigeren
• Beslisbomen en geregulariseerde lineaire modellen

¹ Afbeelding door Streamline HQ

Bias na uitrol en in gebruik

• Monitor bias om modeldrift te voorkomen
• Modelrecalibratie
• Onjuist gebruik van de applicatie

¹ Afbeelding door Streamline HQ

Financieel adviseur

Modeldrift:

• Ondervertegenwoordigde freelance-economie

Onjuist gebruik:

• Financiële informatie bijwerken

¹ Afbeelding door Streamline HQ

Laten we oefenen!

Verantwoord AI-gegevensbeheer