Automatizované rozhodování a profilování
Pochopte GDPR
Shalini Kurapati, CIPP/E
Co-founder and CEO, Clearbox AI
Článek 22
- Povinnosti spravedlnosti a zákazu diskriminace
- Článek 22 – automatizované individuální rozhodování včetně profilování
- Právo na lidský zásah a vysvětlení
1 Zdroj obrázku: flaticon.com
Profilování
- Analýza a předpovídání chování, rozsáhlé zpracování dat, využití AI/strojového učení
- Identifikace a propojování chování a vlastností
- Vytváření profilů a predikce chování na jejich základě
- Příklady:
- Úspěšnost léčby
- Riziko recidivy
1 Information Commissioner's Office
Etické otázky spojené s profilováním
- Šíření nebo posilování zaujatosti
- Návrh, data, jejich složitost/efekt černé skříňky
- Diskriminace na základě pohlaví a rasy
1 Zdroj obrázku: bbc.com, propublica.com a techcrunch.com
Slavný příklad profilování
- 320 000 uživatelů absolvovalo online osobnostní test pro „akademický výzkum"
- Sbírala osobní data přátel uživatelů – až 50 mil. profilů bez souhlasu
- Osobnostní/politické profilování, cílená reklama na uživatele náchylné ke změně názoru
- Využito v mnoha volbách v USA, Velké Británii i jinde ve světě
1 Zdroj obrázku: The Guardian
Automatizované rozhodování
- Rozhodnutí přijímána automaticky bez lidského zásahu
- Může, ale nemusí zahrnovat profilování
- Libovolný typ dat – dotazníky, poloha, profilování
- Příklad: Automatizované hodnocení životopisů
1 ARTICLE 29 WORKING PARTY Guidelines on Automated individual decision-making and Profiling for the purposes of Regulation 2016/679
Příklad z bankovnictví
- Automatizované rozhodování o hypotéce
- AI obvykle dává odpověď ano/ne – je nutné vysvětlení a lidský zásah
- Mechanismy pro prevenci zaujatosti a opravu a zlepšení rozhodnutí AI
