Wpływ błędów w danych na podejmowanie decyzji

Opanuj stronniczość danych

Konstantinos Kattidis

Data Analytics Lead

Błędy a etyka danych

• Decyzje są tak wiarygodne, jak dane, na których się opierają
• Gdy dane nie odpowiadają zamierzonym celom, pojawia się kwestia etyki danych
• Obejmuje ona etyczne i moralne obowiązki związane z gromadzeniem, analizą i wykorzystaniem danych
• Dotyczy takich kwestii jak dyskryminacja, prywatność, przejrzystość i odpowiedzialność

Niesprawiedliwe traktowanie i dyskryminacja

• Błędy w danych mogą prowadzić do niesprawiedliwego traktowania osób lub grup
• Stronnicze dane mogą skutkować dyskryminującymi wynikami
• Przykład:
  • Stronnicze próbkowanie danych o zakupach klientów może niekorzystnie wpłynąć na niektóre grupy demograficzne
  • Prowadząc do stronniczych strategii marketingowych

Utrwalanie stereotypów

• Modele trenowane na stronniczych danych mogą uczyć się i wzmacniać istniejące uprzedzenia społeczne
• Jeśli dane treningowe algorytmu rekomendacji zawierają głównie treści z określonej opcji politycznej
• Algorytm może rekomendować treści zgodne z dominującą opcją polityczną

Utrata zaufania i problemy prawne

• Gdy stronnicze decyzje wychodzą na jaw, podważają zaufanie do danych
• W najgorszym przypadku prowadzą do problemów prawnych i etycznych
• Mogą skutkować postępowaniem prawnym i utratą reputacji organizacji

Hamowanie wydajności i innowacyjności

• Błędy mogą prowadzić do nieoptymalnych decyzji i hamować wydajność oraz innowacyjność
• Przykład:
  • Niższe wskaźniki wykorzystania danego zespołu wynikają z błędów
  • Prowadzi to do błędnych ocen wyników
  • Co wpływa na alokację zasobów, efektywność procesów i innowacje

Pętla sprzężenia zwrotnego błędów

• Błędy mogą tworzyć pętlę sprzężenia zwrotnego, w której historyczne uprzedzenia są wzmacniane i utrwalane
• Stronnicze decyzje generują nowe stronnicze dane, które dalej wpływają na przyszłe decyzje

Czas na ćwiczenia!

Opanuj stronniczość danych