Zmírňování zaujatosti

Zodpovědná správa dat v AI

Maria Prokofieva

Lead ML engineer

Co probereme

• Strategie napříč životním cyklem projektu
• Převzorkování a převáhování
• Přeznačení a odstranění citlivých atributů
• Adversariální trénování a rekalibrace modelu
• Chování uživatelů
• Omezení spravedlnosti a výběr algoritmu
• Existují i další strategie

Zaujatost znovu

• Systematické chyby nebo předsudky
• Nespravedlivé výsledky pro skupiny nebo jednotlivce

¹ Image by Streamline HQ

Zaujatost v průběhu projektu

• V surových datech
• Při předzpracování
• Při modelování
• Po nasazení

Zaujatost při předzpracování

• Převzorkování
• Převáhování
• Přeznačení
• Odstranění citlivých atributů

Strategie předzpracování

• Převzorkování:
  • Úprava distribuce pro vyvážené zastoupení tříd
• Převáhování:
  • Korekce zaujatosti váhami tříd, zachování velikosti datasetu
• Přeznačení:
  • Aktualizace štítků pro přesné zastoupení cílů
• Odstranění citlivých atributů:
  • Vyloučení chráněných atributů

Zaujatost při modelování

• Zaujatost algoritmu
• Adversariální trénování
• Omezení spravedlnosti
• Výběr algoritmu – jednodušší, robustní nebo obecné modely

Finanční poradce

• Zaujatost způsobená regionálními ekonomickými rozdíly
• Adversariální trénování pro korekci zaujatosti
• Rozhodovací stromy a regularizované lineární modely

¹ Image by Streamline HQ

Zaujatost po nasazení a při používání

• Sledování zaujatosti pro prevenci driftu modelu
• Rekalibrace modelu
• Nesprávné použití aplikace

¹ Image by Streamline HQ

Finanční poradce

Drift modelu:

• Nedostatečné zastoupení ekonomiky volné nohy

Nesprávné použití:

• Aktualizace finančních informací

¹ Image by Streamline HQ

Pojďme si procvičit!

Zodpovědná správa dat v AI