Zmírňování předsudků v analýze dat

Jak zvládnout datové zkreslení

Konstantinos Kattidis

Data Analytics Lead

Překonávání kognitivních předsudků

• Aktivně zpochybňujte předpoklady
• Buďte otevřeni alternativním interpretacím dat
• Přezkoumejte svá přesvědčení a hledejte, v čem se mýlíte
• Tento přístup se nazývá negativní testování hypotéz

 

Řešení předsudků v reportování

• Organizace by měly podporovat kulturu transparentnosti, odpovědnosti a etického jednání

• Zavedení standardizovaných protokolů pro reportování
• To může pomoci zajistit nestranné a komplexní reportování dat

Rozhodovací procesy

• Zavádění strukturovaných rozhodovacích procesů podporujících kritické myšlení a různorodé perspektivy
  • Provádění recenzí kolegů
  • Získávání zpětné vazby k metodologiím analýzy

Boj proti předsudkům v algoritmech

• Organizace by měly upřednostňovat spravedlnost, transparentnost a odpovědnost při vývoji a nasazení algoritmů
• Důkladné posuzování trénovacích dat z hlediska reprezentativnosti a diverzity
• Vyhodnocování výkonnosti algoritmů napříč různými demografickými skupinami
• Podpora etického povědomí mezi datovými vědci

Návrh algoritmů s ohledem na předsudky

• Promyšlené vytváření příznaků
  • Výběr a tvorba příznaků s ohledem na různé perspektivy a atributy
• Omezení spravedlnosti
  • Přímé zahrnutí hledisek spravedlnosti do procesu trénování modelu
  • Např. algoritmus zajišťující podobné rozložení podle pohlaví nebo příjmové kategorie

Odhalování algoritmických předsudků

• Adversariální trénování
  • Trénování modelů na příkladech navržených k odhalení a zmírnění předsudků

• Audity předsudků
  • Systematické vyhodnocování modelů na předsudky pomocí specializovaných technik a metrik (např. demografická parita)

Využití vysvětlitelné AI

• Vysvětlitelná AI hraje důležitou roli při zmírňování předsudků
• Poskytuje přehled o tom, jak algoritmy dospívají ke svým rozhodnutím
• Uživatelé dat mohou efektivněji identifikovat a řešit potenciální předsudky

Integrace strategií zmírňování

• Organizace by měly přijmout holistický přístup integrující strategie pro řešení těchto předsudků
• Tak mohou posílit integritu, spolehlivost a spravedlnost svých datových analýz

Pojďme si procvičit!

Jak zvládnout datové zkreslení