Co robimy ze stronniczością danych?

Wprowadzenie do etyki danych

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

Czym jest stronniczość?

Ilustracja przedstawiająca stronnicze osądzanie.

  • Pierwsza kwestia w etyce danych
  • Uprzedzenie wobec osoby, grupy lub idei – niesprawiedliwe
  • Etyka danych – stronniczość danych
  • Niedoreprezentowanie, nadreprezentowanie lub błędna reprezentacja
  • Szkodliwe skutki wykorzystania stronniczych danych w podejmowaniu decyzji
1 Icon made by noomtah from www.flaticon.com
Wprowadzenie do etyki danych

Zawsze i wszędzie

  • Na każdym etapie cyklu życia danych
  • Zbieranie danych
  • Czyszczenie, przygotowanie i przetwarzanie danych
  • Etykietowanie danych

Ilustracja stronniczości danych na różnych etapach cyklu życia danych prowadzącej do stronniczych algorytmów

Wprowadzenie do etyki danych

Stronniczości specyficzne dla danych

  • Stronniczość techniczna lub statystyczna

    • Stronniczość próby – reprezentacja
    • Stronniczość pomiarowa
    • Stronniczość samoopisu
    • Stronniczość etykietowania

  • Stronniczość ludzka i systemowa

    • Płeć
    • Pochodzenie etniczne/mniejszości
    • Kultura

Ilustracja zniekształconego obiektu i jego rzeczywistego obrazu.

1 Icon made by Flowicon from www.flaticon.com
Wprowadzenie do etyki danych

Reprezentacja ma kluczowe znaczenie

Zrzut ekranu z prelekcji TED Joy, na którym nosi białą maskę

  • Brak reprezentatywnych danych
  • Rozpoznawanie twarzy – lepsze wyniki z białą maską
  • Od dozowników mydła po wyniki opieki zdrowotnej
  • Polecane: Coded Bias
1 https://www.ted.com/talks/joy_buolamwini_how_i_m_fighting_bias_in_algorithms
Wprowadzenie do etyki danych

Lustro naszych stereotypów

Ilustracja przedstawiająca różne objawy zawału serca u mężczyzny (ucisk w klatce piersiowej) i kobiety (ból pleców).

  • Badania medyczne i dane historycznie zbierane na białych mężczyznach
  • Np. objawy zawału serca różnią się u mężczyzn i kobiet
  • Co się stanie, gdy użyjemy aplikacji diagnostycznej opartej na tych danych?
1 https://womeningh.org/
Wprowadzenie do etyki danych

Poważne konsekwencje

Zrzut ekranu z diagnozy aplikacji zdrowotnej dla objawów zawału serca u mężczyzn i kobiet.

  • Objawy zawału – nagły przypadek u mężczyzny, atak paniki u kobiety
Wprowadzenie do etyki danych

Za dużo, żeby zliczyć!

Ilustracja przedstawiająca różne błędy poznawcze.

1 CC BY, John Manoogian III (JM3)
Wprowadzenie do etyki danych

Wierzchołek góry lodowej

Ilustracja wierzchołka góry lodowej ze stronniczościami statystycznymi, z ludzkimi i systemowymi poniżej

  • Stronniczości statystyczne to wierzchołek góry lodowej
  • Stronniczości ludzkie i systemowe – zmiany postaw i społeczeństwa
  • Testowanie, zapobieganie i łagodzenie stronniczości, otwartość na informacje zwrotne
1 Schwartz, R. , Vassilev, A. , Greene, K. , Perine, L. , Burt, A. and Hall, P. (2022), Towards a Standard for Identifying and Managing Bias in Artificial Intelligence, National Institute of Standards and Technology
Wprowadzenie do etyki danych

Czas na ćwiczenia!

Wprowadzenie do etyki danych

Preparing Video For Download...