Etyczne aspekty podejmowania decyzji

Odczarowanie nauki o decyzjach

Akshay Swaminathan

PD Soros Fellow at Stanford University School of Medicine

Odpowiedzialność Data Science

  • Data Science wspiera podejmowanie decyzji w wielu branżach

  • Etyczne wykorzystanie danych jest kluczowe dla zaufania i sprawiedliwości

  ethical.png

Odczarowanie nauki o decyzjach

Studium przypadku: Optum

  • Algorytm Optum nieumyślnie faworyzował zdrowszych pacjentów

    • Zaprojektowany do przewidywania potrzeb zdrowotnych, priorytetyzował osoby z wyższymi wydatkami na opiekę

  • Stronniczość wynikała z błędnych założeń dotyczących danych

    • Użycie wydatków jako wskaźnika potrzeb doprowadziło do nierówności rasowych i dyskryminowało osoby z ograniczonym dostępem do opieki

  optum.png

Odczarowanie nauki o decyzjach

Sprawiedliwość

fairness.png

Prywatność i bezpieczeństwo

privacy.png

Przejrzystość i odtwarzalność

transp.png

Społeczny wpływ danych

socialimpact.png

Odczarowanie nauki o decyzjach

Stronniczość w modelach uczenia maszynowego

  bias data.png

Błędne dane = błędny model

  • Modele uczenia maszynowego odzwierciedlają błędy i luki w danych treningowych

 

Sprawiedliwość można mierzyć

  • Należy oceniać wydajność modelu w różnych grupach, aby ocenić jego bezstronność
Odczarowanie nauki o decyzjach

Ochrona danych

Specjaliści ds. data science i organizacje muszą zapewnić bezpieczne i odpowiedzialne zarządzanie danymi

Obejmuje:

  • Bezpieczną infrastrukturę z aktualnymi zabezpieczeniami
  • Ograniczony dostęp: tylko niezbędne dane na danym stanowisku
  • Zbieranie danych osobowych za zgodą użytkownika

Dlaczego to ważne:

  • Naruszenia obniżają zaufanie
  • Mogą prowadzić do procesów sądowych
  • Szkodzą reputacji i rentowności

dataprotection.png

Odczarowanie nauki o decyzjach

Przejrzystość

 

Zapewnia jasność i odpowiedzialność

  • Należy dokumentować źródła danych, etapy czyszczenia, metody analizy, zebrane metryki i poziomy niepewności

Odtwarzalność

 

Odtwarzalność buduje zaufanie i wiarygodność

  • Inni powinni być w stanie powtórzyć analizę na tych samych danych i metodach i uzyskać te same wyniki
Odczarowanie nauki o decyzjach

Etyka w centrum nauki o danych

Kwestie etyczne są integralną częścią odpowiedzialnej nauki o danych

  • Etyka nie jest opcjonalna – jest niezbędna
  • Należy stawiać na sprawiedliwość i korzyść społeczną
  • Zasady etyczne powinny obowiązywać przez cały cykl życia danych

ethicssummary.png

Odczarowanie nauki o decyzjach

Czas na ćwiczenia!

Odczarowanie nauki o decyzjach

Preparing Video For Download...