Bias in algoritmes

Data-bias overwinnen

Konstantinos Kattidis

Data Analytics Lead

AI en databias

AI heeft veel use-cases:

  • Persoonlijke aanbevelingen
  • Route-navigatie

 

Wat als algoritmes biased raken tegen bepaalde groepen, zoals gender of ras?

AI-use-cases

Data-bias overwinnen

Algoritmische bias

Algoritmische bias

Algoritmische bias ontstaat wanneer algoritmes systematische, herhaalbare fouten maken die oneerlijke uitkomsten geven en één groep bevoordelen

  • Het omvat diverse soorten bias die kunnen ontstaan tijdens ontwikkeling en gebruik van algoritmes
Data-bias overwinnen

Bias tijdens training van algoritmes

  • Algoritmische bias begint vaak bij bias in dataverzameling
  • Is de trainingsdata niet representatief of bevooroordeeld, dan leert het algoritme die bias en zet die voort
  • Bijvoorbeeld: onvoldoende vertegenwoordiging van diverse groepen in gezichtsherkenning

Selectiebias

Data-bias overwinnen

Bias in featureselectie

Bias in featureselectie

  • Bias in featureselectie ontstaat wanneer features worden gekozen op basis van criteria die tot oneerlijke of discriminerende uitkomsten kunnen leiden
  • Denk aan ras, gender of andere beschermde kenmerken
  • Bijvoorbeeld: een model voor leningtoekenning gaat ervan uit dat inkomen de enige relevante factor is
Data-bias overwinnen

Evaluatiebias

  • Een niet-representatieve dataset in de testfase kan tot evaluatiebias leiden
  • Bijvoorbeeld:
    • Een filmaanbevelingsalgoritme
    • Testen op slechts één genre
    • Mist dat het slechter kan werken voor andere genres, zoals romantiek of komedie

Evaluatiebias, alleen één genregroep testen

Data-bias overwinnen

Automatiseringsbias

Automatisering van MRI-diagnose

De neiging van mensen om te veel te vertrouwen op geautomatiseerde systemen

  • Bijvoorbeeld:
    • Een medisch diagnosesysteem analyseert medische beelden zoals MRI’s
    • Automatiseringsbias ontstaat als je de uitkomsten vertrouwt zonder te controleren of te bevestigen
    • Dit kan tot onjuiste diagnoses leiden
Data-bias overwinnen

Laten we oefenen!

Data-bias overwinnen

Preparing Video For Download...