Zaujatost v algoritmech

Jak zvládnout datové zkreslení

Konstantinos Kattidis

Data Analytics Lead

AI a datová zaujatost

AI má různá využití:

Personalizovaná doporučení
Navigace tras

Co se stane, když se algoritmy stanou zaujatými vůči určitým skupinám, například podle pohlaví nebo rasy?

Případy využití AI

Algoritmická zaujatost

Algoritmická zaujatost vzniká, když algoritmy produkují systematické a opakující se chyby vedoucí k nespravedlivým výsledkům zvýhodňujícím určité skupiny

Zahrnuje různé typy zaujatostí, které mohou vzniknout při vývoji a nasazení algoritmů

Zaujatost při trénování algoritmu

Algoritmická zaujatost často vzniká prostřednictvím zaujatosti při sběru dat
Pokud trénovací data nejsou reprezentativní nebo jsou zaujatá, algoritmus tyto zaujatosti přebírá a reprodukuje
Příklad: nedostatečné zastoupení různých skupin v algoritmu rozpoznávání tváří

Selekční zaujatost

Zaujatost při výběru příznaků

Zaujatost při výběru příznaků nastává, když jsou určité příznaky zvoleny na základě kritérií vedoucích k nespravedlivým nebo diskriminačním výsledkům
Takovými příznaky jsou například rasa, pohlaví nebo jiné chráněné charakteristiky
Příklad: algoritmus pro schvalování úvěrů může předpokládat, že příjem je jediným relevantním faktorem

Evaluační zaujatost

Použití nereprezentativního datasetu ve fázi testování algoritmu může vést k evaluační zaujatosti
Příklad:
- Algoritmus pro doporučování filmů
- Testování výkonu pouze na jednom žánru
- Přehlédnutí problémů u jiných žánrů, jako je romantika nebo komedie

Evaluační zaujatost, testování pouze jednoho žánru

Automatizační zaujatost

Automatizace diagnostiky MRI

Tendence lidí příliš spoléhat na automatizované systémy

Příklad:
- Systém pro lékařskou diagnostiku analyzuje snímky, například MRI
- Automatizační zaujatost nastane, pokud jsou výsledky přijímány bez přezkoumání nebo ověření
- To může vést k chybným diagnózám

Pojďme si procvičit!

Jak zvládnout datové zkreslení