Ce facem cu prejudecățile din date?

Introducere în etica datelor

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

Ce este prejudecata?

Ilustrație a unei judecăți părtinitoare.

  • Primul concept în etica datelor
  • Prejudecată față sau împotriva unei persoane, grup sau idei- nedreaptă
  • Etica datelor- prejudecată în date
  • Sub-, supra- sau denaturarea reprezentării
  • Efecte negative dacă datele părtinite sunt folosite în decizii
1 Icon made by noomtah from www.flaticon.com
Introducere în etica datelor

Oricând, oriunde

  • În toate etapele ciclului de viață al datelor
  • Colectarea datelor
  • Curățarea, pregătirea și dezvoltarea datelor
  • Etichetarea datelor

Ilustrație a prejudecăților la diferite etape ale ciclului de viață al datelor, ducând la algoritmi părtinitori

Introducere în etica datelor

Tipuri de prejudecăți în date

  • Prejudecăți tehnice sau statistice

    • Bias de eșantionare- reprezentare
    • Bias de măsurare
    • Bias de auto-raportare
    • Bias de etichetare

  • Prejudecăți umane și sistemice

    • Gen
    • Etnie/minorități
    • Cultură

Ilustrație a unui obiect distorsionat față de imaginea sa reală.

1 Icon made by Flowicon from www.flaticon.com
Introducere în etica datelor

Reprezentarea este esențială

Captură de ecran din prezentarea TED a lui Joy, purtând o mască albă

  • Lipsa datelor reprezentative
  • Recunoaștere facială- rezultate mai bune cu mască albă
  • De la dozatoare de săpun la rezultate medicale
  • Recomandat: Coded Bias
1 https://www.ted.com/talks/joy_buolamwini_how_i_m_fighting_bias_in_algorithms
Introducere în etica datelor

O oglindă a stereotipurilor noastre

Ilustrație cu simptomele diferite ale unui infarct: constricție toracică la bărbat și durere de spate la femeie.

  • Studiile și datele medicale au fost realizate istoric pe bărbați albi
  • Ex. Simptomele infarctului diferă între bărbați și femei
  • Ce se întâmplă dacă folosim o aplicație de diagnostic bazată pe aceste date?
1 https://womeningh.org/
Introducere în etica datelor

Impact semnificativ

Captură de ecran cu diagnosticul unei aplicații medicale pentru simptome de infarct la bărbați și femei.

  • Simptome de infarct- urgență pentru bărbat, atac de panică pentru femeie
Introducere în etica datelor

Extrem de multe și în creștere!

Ilustrație a diverselor prejudecăți cognitive.

1 CC BY, John Manoogian III (JM3)
Introducere în etica datelor

Vârful aisbergului

Ilustrație a vârfului unui aisberg cu prejudecăți statistice, iar cele umane și sistemice dedesubt

  • Prejudecățile statistice- vârful aisbergului
  • Prejudecăți umane și sistemice- schimbări de atitudine și societale
  • Testare, prevenire și atenuare, deschidere la feedback
1 Schwartz, R. , Vassilev, A. , Greene, K. , Perine, L. , Burt, A. and Hall, P. (2022), Towards a Standard for Identifying and Managing Bias in Artificial Intelligence, National Institute of Standards and Technology
Introducere în etica datelor

Să exersăm!

Introducere în etica datelor

Preparing Video For Download...