Co dělat s datovými předsudky?

Úvod do etiky dat

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

Co je předsudek?

Ilustrace zkreslené úsudku.

  • První téma v datové etice
  • Předsudek pro nebo proti osobě, skupině či myšlence – nespravedlivý
  • Datová etika – datový předsudek
  • Nedostatečná, nadměrná nebo nepřesná reprezentace
  • Škodlivé důsledky při rozhodování na základě zkreslených dat
1 Icon made by noomtah from www.flaticon.com
Úvod do etiky dat

Kdykoli a kdekoli

  • Ve všech fázích datového a životního cyklu
  • Sběr dat
  • Čištění, příprava a vývoj dat
  • Označování dat

Ilustrace datových předsudků v různých fázích datového životního cyklu vedoucích k zaujatým algoritmům

Úvod do etiky dat

Datově specifické předsudky

  • Technické nebo statistické předsudky

    • Předsudek výběru – reprezentace
    • Měřicí předsudek
    • Předsudek vlastního hodnocení
    • Předsudek označování

  • Lidské a systémové předsudky

    • Pohlaví
    • Etnicita/menšiny
    • Kultura

Ilustrace zkresleného objektu oproti jeho skutečnému obrazu.

1 Icon made by Flowicon from www.flaticon.com
Úvod do etiky dat

Reprezentace je klíčová

Snímek obrazovky z TED přednášky Joy s fotografií v bílé masce

  • Nedostatek reprezentativních dat
  • Rozpoznávání obličeje – lepší výsledky s bílou maskou
  • Od dávkovačů mýdla po zdravotní výsledky
  • Doporučeno: Coded Bias
1 https://www.ted.com/talks/joy_buolamwini_how_i_m_fighting_bias_in_algorithms
Úvod do etiky dat

Zrcadlo našich stereotypů

Ilustrace různých příznaků srdečního infarktu u muže (tlak na hrudi) a ženy (bolest zad).

  • Lékařské studie a data historicky prováděné na bílých mužích
  • Např. příznaky srdečního infarktu se liší u mužů a žen
  • Co se stane, pokud použijeme diagnostickou aplikaci s těmito daty?
1 https://womeningh.org/
Úvod do etiky dat

Závažné důsledky

Snímek obrazovky diagnózy zdravotní aplikace pro příznaky srdečního infarktu u mužů a žen.

  • Příznaky infarktu – pohotovost u muže, záchvat paniky u ženy
Úvod do etiky dat

Příliš mnoho a stále přibývá!

Ilustrace různých kognitivních předsudků.

1 CC BY, John Manoogian III (JM3)
Úvod do etiky dat

Špička ledovce

Ilustrace špičky ledovce se statistickými předsudky a lidskými a systémovými předsudky pod hladinou

  • Statistické předsudky jsou jen špičkou ledovce
  • Lidské a systémové předsudky – postoje a společenské změny
  • Testování, prevence a zmírňování předsudků, otevřenost zpětné vazbě
1 Schwartz, R. , Vassilev, A. , Greene, K. , Perine, L. , Burt, A. and Hall, P. (2022), Towards a Standard for Identifying and Managing Bias in Artificial Intelligence, National Institute of Standards and Technology
Úvod do etiky dat

Pojďme si procvičit!

Úvod do etiky dat

Preparing Video For Download...