Rodzaje stronniczości danych

Opanuj stronniczość danych

Konstantinos Kattidis

Data Analytics Lead

Dynamika podejmowania decyzji

Osoba rozważająca kolację i ścieżkę kariery

Dorośli podejmują średnio 35 000 świadomych decyzji dziennie

„Jaką ścieżkę kariery wybrać?"

„Co zjeść na kolację?"

Heurystyki pomagają mózgowi upraszczać przetwarzanie informacji i szybciej podejmować decyzje
ALE heurystyki mogą prowadzić do... błędów poznawczych

¹ https://hbr.org/2023/12/a-simple-way-to-make-better-decisions

Systematyczne wzorce odchyleń od normy lub racjonalności w procesach oceniania i podejmowania decyzji

Stronniczość danych może być wynikiem błędów poznawczych
Przykład: analityk nieświadomie faworyzuje pozytywne dane podczas analizy kampanii marketingowej

Analityk skupiający się na pozytywnych danych

Błędy poznawcze dotyczą indywidualnych procesów decyzyjnych, natomiast stronniczości systemowe wskazują na szersze problemy w działaniach związanych z danymi
Są to uprzedzenia tkwiące w procesach, strukturach lub systemach służących do zbierania, analizowania i interpretowania danych
Wynikają z różnych przyczyn, takich jak stronnicze metody zbierania danych czy projektowanie algorytmów

Kobieta zastanawiająca się nad stronniczościami systemowymi

Diagram z cyklem życia danych i rodzajami stronniczości

Stronniczość systemowa i poznawcza stanowią źródła stronniczości danych
Zrozumienie różnych typów stronniczości to pierwszy krok ku skutecznej obronie przed ich skutkami

Stronniczość selekcji
- Proces zbierania danych faworyzuje określone grupy lub cechy
Stronniczość historyczna
- Dane historyczne odzwierciedlają dawne nierówności lub problemy systemowe
Stronniczość pomiarowa
- Narzędzia lub metodologie systematycznie zniekształcają pewne atrybuty

Diagram stronniczości w cyklu życia danych – zbieranie danych

Stronniczość poznawcza
- Jednym z jej typów jest stronniczość potwierdzenia
- Polega na skłonności do szukania informacji potwierdzających istniejące przekonania
Stronniczość raportowania
- Pojawia się, gdy pewne wyniki są eksponowane lub pomijane, kształtując narrację wokół danych

Diagram stronniczości w cyklu życia danych – analiza danych

Stronniczość algorytmiczna
- Pojawia się, gdy modele uczenia maszynowego odzwierciedlają stronniczość danych treningowych
Stronniczość automatyzacji
- Podkreśla znaczenie nadzoru ludzkiego, gdyż procesy automatyczne mogą nieświadomie utrwalać lub wzmacniać istniejące uprzedzenia

Diagram stronniczości w cyklu życia danych – algorytmy

Opanuj stronniczość danych