Łagodzenie stronniczości

Odpowiedzialne zarządzanie danymi w AI

Maria Prokofieva

Lead ML engineer

Omówimy

• Strategie w całym cyklu życia projektu
• Ponowne próbkowanie i ważenie
• Ponowne etykietowanie i usuwanie atrybutów wrażliwych
• Trening adversarialny i rekalibracja modelu
• Zachowanie użytkowników
• Ograniczenia sprawiedliwości i wybór algorytmu
• Istnieją również inne strategie

Stronniczość — przypomnienie

• Systematyczne błędy lub uprzedzenia
• Niesprawiedliwe wyniki dla grup lub jednostek

¹ Image by Streamline HQ

Stronniczość w projekcie

• W danych surowych
• W pre-processingu
• W modelowaniu
• Po wdrożeniu

Stronniczość w pre-processingu

• Ponowne próbkowanie
• Ponowne ważenie
• Ponowne etykietowanie
• Usunięcie atrybutów wrażliwych

Strategie w pre-processingu

• Ponowne próbkowanie:
  • Dostosowanie rozkładu dla zrównoważonej reprezentacji klas
• Ponowne ważenie:
  • Korekcja stronniczości za pomocą wag klas przy stałym rozmiarze zbioru
• Ponowne etykietowanie:
  • Aktualizacja etykiet dla dokładnej reprezentacji celu
• Usunięcie atrybutów wrażliwych:
  • Eliminacja atrybutów chronionych

Stronniczość w modelowaniu

• Stronniczość wynikająca z algorytmu
• Trening adversarialny
• Ograniczenia sprawiedliwości
• Wybór algorytmu: prostsze, odporne lub uogólnialne modele

Doradca finansowy

• Stronniczość związana z regionalnymi dysproporcjami ekonomicznymi
• Trening adversarialny w celu korekcji stronniczości
• Drzewa decyzyjne i regularyzowane modele liniowe

¹ Image by Streamline HQ

Stronniczość po wdrożeniu i w użyciu

• Monitorowanie stronniczości w celu zapobiegania dryfowi modelu
• Rekalibracja modelu
• Niewłaściwe zastosowanie

¹ Image by Streamline HQ

Doradca finansowy

Dryf modelu:

• Niedoreprezentowana gospodarka freelancerów

Nieprawidłowe użycie:

• Aktualizacja informacji finansowych

¹ Image by Streamline HQ

Czas na ćwiczenia!

Odpowiedzialne zarządzanie danymi w AI