Impact van databias op besluitvorming

Data-bias overwinnen

Konstantinos Kattidis

Data Analytics Lead

Bias en data-ethiek

• Beslissingen zijn zo betrouwbaar als de data erachter
• Als data niet past bij het doel, wordt het een kwestie van data-ethiek
• Dit gaat over de ethische en morele plichten bij het verzamelen, analyseren en gebruiken van data
• Het behandelt discriminatie, privacy, transparantie en verantwoording

Oneerlijke behandeling en discriminatie

• Databias kan zorgen voor oneerlijke behandeling van personen of groepen
• Bevooroordeelde data kan discriminerende uitkomsten geven
• Bijvoorbeeld:
  • Bevooroordeelde steekproeven van aankoopdata benadelen onbedoeld bepaalde doelgroepen
  • Met als gevolg bevooroordeelde marketingstrategieën

Bevestiging van stereotypen

• Modellen getraind op bevooroordeelde data kunnen bestaande maatschappelijke biases leren en versterken
• Stel dat de trainingsdata van een aanbevelingsalgoritme vooral content bevat uit één specifieke politieke ideologie
• Dan zal het algoritme content aanraden die past bij die dominante ideologie

Verlies van vertrouwen en juridische kwesties

• Als bevooroordeelde besluiten bekend worden, daalt het vertrouwen in de data
• In het ergste geval leidt het tot juridische en ethische problemen
• Het kan rechtszaken en reputatieschade voor de organisatie veroorzaken

Prestaties en innovatie belemmerd

• Bias kan leiden tot suboptimale beslissingen en prestaties en innovatie belemmeren
• Bijvoorbeeld:
  • Lagere benutting van een bepaald team door bias
  • Dit geeft verkeerde prestatiebeoordelingen
  • Met impact op resourceverdeling, procesefficiëntie en innovatie

De feedbacklus van bias

• Bias kan een feedbacklus creëren waarin historische vooroordelen worden versterkt en voortgezet
• Bevooroordeelde beslissingen leveren nieuwe bevooroordeelde data op, die weer toekomstige beslissingen beïnvloeden

Laten we oefenen!

Data-bias overwinnen