Rizika a příležitosti

Pochopte GDPR

Shalini Kurapati, CIPP/E

Co-founder and CEO, Clearbox AI

Obrovské příležitosti AI a velkých dat

Snímek obrazovky s názvem blogu Světového ekonomického fóra o předpovídaném přínosu AI k celosvětové ekonomice do roku 2030.

Převratná technologie 21. století
Inovace postavená na dostupnosti dat a výpočetních zdrojích
Konkurenční výhoda

AI pro dobro

Ilustrace cílů udržitelného rozvoje OSN, jejichž naplňování může urychlit AI – portál AI for Good Gateway.

Nejen ekonomické přínosy – AI for Good pro cíle udržitelného rozvoje
Změna klimatu, zdravotní péče, přístup ke vzdělání
Znalost rizik a přínosů pro rozhodnutí v souladu s GDPR

¹ https://aiforgood.itu.int/

Pokuty GDPR: diskriminační AI

Italský dozorový úřad pokutoval doručovací aplikaci za algoritmickou diskriminaci Ilustrace loga italského dozorového úřadu.

Doručovací společnost: profilování kurýrů, diskriminace při přidělování zakázek
Pokuta 2,6 milionu eur za porušení GDPR
Minimalizace dat, transparentnost, kvalita dat, zaujatost a diskriminace při automatizovaném rozhodování a profilování

¹ https://www.gpdp.it/web/guest/home/docweb/-/docweb-display/docweb/9677377 https://edpb.europa.eu/news/national-news/2021/riders-italian-sa-says-no-algorithms-causing-discrimination-platform-glovo_en

Ochrana dat a co dál

Riziko prozrazení údajů

Zveřejnění osobních údajů
I v případě agregovaných dat
DPIA – reziduální rizika
Žádné použitelné vysvětlení

Příklad

AI v medicínském zobrazování
Predikce rasové příslušnosti (vysoce citlivý údaj)
Problém ochrany soukromí a zaujatosti

¹ Gichoya, Judy Wawira, et al. AI recognition of patient race in medical imaging: a modelling study, The Lancet Digital Health, Volume 4, Issue 6, 2022,

Balancování zájmů

Systémy AI by měly dodržovat zásady GDPR
Zvláštní záruky
Zvláštní kategorie osobních údajů
Omezení automatizovaného rozhodování a profilování

Výjimky:
- Plnění smlouvy
- Veřejný zájem
- Výslovný souhlas
GDPR je kompatibilní s AI, nepokrývá však všechny aspekty
Připravovaný zákon o AI

Pojďme cvičit!

Pochopte GDPR