Wat doen we met databias?

Introductie tot data-ethiek

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

Wat is bias?

Illustratie van een bevooroordeelde beoordeling.

  • Eerste gedachte in data-ethiek
  • Vooroordeel, voor of tegen een persoon, groep of idee — oneerlijk
  • Data-ethiek — databias
  • Onder-, over- of verkeerde representatie
  • Schadelijke effecten als bevooroordeelde data beslissingen sturen
1 Icon gemaakt door noomtah van www.flaticon.com
Introductie tot data-ethiek

Altijd en overal

  • In alle fasen van data- en levenscycli
  • Dataverzameling
  • Opschonen, voorbereiding, ontwikkeling
  • Labelen

Illustratie van databias in verschillende fasen van de datalevenscyclus die leiden tot bevooroordeelde algoritmen

Introductie tot data-ethiek

Dataspecifieke biases

  • Technische of statistische procesbias

    • Steekproefbias — representatie
    • Meetbias
    • Zelfrapportagebias
    • Labelbias

  • Menselijke en systematische bias

    • Geslacht
    • Etniciteit/minderheden
    • Cultuur

Illustratie van een scheef object versus het echte beeld.

1 Icon gemaakt door Flowicon van www.flaticon.com
Introductie tot data-ethiek

Representatie is cruciaal

Screenshot van de Ted Talk van Joy met een foto waarop ze een wit masker draagt

  • Gebrek aan representatieve data
  • Gezichtsherkenning — betere resultaten met een wit masker
  • Van zeepdispensers tot zorguitkomsten
  • Tip: Coded Bias
1 https://www.ted.com/talks/joy_buolamwini_how_i_m_fighting_bias_in_algorithms
Introductie tot data-ethiek

Een spiegel voor onze stereotypen

Illustratie van verschillende symptomen van een hartaanval: man met borstbeklemming en vrouw met rugpijn.

  • Medische studies en data historisch vooral op witte mannen
  • Bijv. hartaanvalsymptomen verschillen per man en vrouw
  • Wat als een diagnose-app deze data gebruikt?
1 https://womeningh.org/
Introductie tot data-ethiek

Ernstige impact

Screenshot van een diagnose in een zorgapp voor hartaanvalsymptomen voor mannen en vrouwen.

  • Hartaanvalsymptomen — spoed bij een man, paniekaanval bij een vrouw
Introductie tot data-ethiek

Veel te veel, en het worden er meer!

Illustratie van diverse cognitieve biases.

1 CC BY, John Manoogian III (JM3)
Introductie tot data-ethiek

Topje van de ijsberg

Illustratie van de top van een ijsberg met statistische biases en daaronder de menselijke en systematische biases

  • Statistische biases: topje van de ijsberg
  • Menselijke en systematische bias — houding en maatschappelijke verandering
  • Test op bias, voorkom en verminder, sta open voor feedback
1 Schwartz, R., Vassilev, A., Greene, K., Perine, L., Burt, A. en Hall, P. (2022), Towards a Standard for Identifying and Managing Bias in Artificial Intelligence, National Institute of Standards and Technology
Introductie tot data-ethiek

Laten we oefenen!

Introductie tot data-ethiek

Preparing Video For Download...