Stronniczość algorytmów

Opanuj stronniczość danych

Konstantinos Kattidis

Data Analytics Lead

AI a stronniczość danych

Sztuczna inteligencja ma wiele zastosowań:

Spersonalizowane rekomendacje
Nawigacja tras

Co się dzieje, gdy algorytmy stają się stronnicze wobec określonych grup, np. ze względu na płeć lub rasę?

Zastosowania AI

Stronniczość algorytmiczna

Stronniczość algorytmiczna pojawia się, gdy algorytmy generują systematyczne i powtarzalne błędy prowadzące do niesprawiedliwych wyników, faworyzujących jedną grupę kosztem innej

Obejmuje różne rodzaje stronniczości, które mogą wystąpić podczas tworzenia i wdrażania algorytmów

Stronniczość podczas trenowania algorytmu

Stronniczość algorytmiczna często wynika ze stronniczości w zbieraniu danych
Jeśli dane treningowe są niereprezentatywne lub stronnicze, algorytm może utrwalać te błędy
Na przykład: niewystarczająca reprezentacja różnorodnych grup w algorytmie rozpoznawania twarzy

Błąd selekcji

Stronniczość w doborze cech

Stronniczość w doborze cech pojawia się, gdy cechy są wybierane według kryteriów mogących prowadzić do niesprawiedliwych lub dyskryminujących wyników
Takimi cechami są np. rasa, płeć lub inne chronione charakterystyki
Na przykład algorytm oceny wniosków kredytowych może zakładać, że dochód jest jedynym istotnym czynnikiem

Błąd ewaluacji

Użycie niereprezentacyjnego zbioru danych w fazie testowania algorytmu może prowadzić do błędu ewaluacji
Na przykład:
- Algorytm rekomendacji filmów
- Ocena wydajności oparta wyłącznie na jednym gatunku
- Pominięcie faktu, że może nie działać dobrze dla innych gatunków, np. romansu czy komedii

Błąd ewaluacji – testowanie tylko jednego gatunku

Błąd automatyzacji

Automatyzacja diagnozy MRI

Tendencja do nadmiernego polegania na zautomatyzowanych systemach

Na przykład:
- System diagnostyki medycznej służy do analizy obrazów medycznych, takich jak MRI
- Błąd automatyzacji pojawia się, gdy wyniki systemu są akceptowane bez weryfikacji ani potwierdzenia wyników
- Może to prowadzić do błędnych diagnoz

Czas na ćwiczenia!

Opanuj stronniczość danych