Dopad datové předpojatosti na rozhodování

Jak zvládnout datové zkreslení

Konstantinos Kattidis

Data Analytics Lead

Předpojatost a datová etika

• Rozhodnutí jsou jen tak spolehlivá, jak spolehlivá jsou data, na nichž stojí
• Pokud data neodpovídají zamýšleným cílům, může jít o otázku datové etiky
• Ta zahrnuje etické a morální povinnosti při sběru, analýze a využívání dat
• Řeší problémy jako diskriminace, soukromí, transparentnost a odpovědnost

Nespravedlivé zacházení a diskriminace

• Datová předpojatost může vést k nespravedlivému zacházení s určitými osobami nebo skupinami
• Zaujatá data mohou mít za následek diskriminační výsledky
• Například:
  • Zaujatý vzorek dat o nákupech zákazníků může neúmyslně znevýhodňovat určité demografické skupiny
  • Což vede k zaujatým marketingovým strategiím

Posilování stereotypů

• Modely trénované na zaujatých datech mohou přejímat a posilovat stávající společenské předsudky
• Pokud trénovací data doporučovacího algoritmu převážně obsahují obsah z konkrétní politické ideologie
• Algoritmus pak může doporučovat obsah odpovídající dominantní politické ideologii

Ztráta důvěry a právní problémy

• Pokud se předpojaté rozhodování odhalí, podkopává důvěru v data
• V nejhorším případě vede k právním a etickým problémům
• Může dojít k právním krokům a poškození pověsti organizace

Brzda výkonu a inovací

• Předpojatost může vést k neoptimálním rozhodnutím a bránit výkonu a inovacím
• Například:
  • Nižší míra využití určitého týmu v důsledku předpojatosti
  • To vede k chybným hodnocením výkonu
  • Což ovlivňuje přidělování zdrojů, procesní efektivitu a inovace

Zpětnovazební smyčka předpojatosti

• Předpojatosti mohou vytvářet zpětnovazební smyčku, v níž jsou historické předpojatosti posilovány a přetrvávají
• Předpojaté rozhodnutí přispívá k novým zaujatým datům, která dále ovlivňují budoucí rozhodnutí

Pojďme si to procvičit!

Jak zvládnout datové zkreslení