Risico’s en kansen

Inzicht in de GDPR

Shalini Kurapati, CIPP/E

Co-founder and CEO, Clearbox AI

Grote kansen met AI en big data

Screenshot van de titel van een WEF-blog over AI’s bijdrage aan de wereldeconomie in 2030.

Disruptieve technologie van de 21e eeuw
Innovatie door data en rekenkracht
Concurrentievoordeel

AI for Good

Illustratie van de SDG’s van de VN die versneld kunnen worden door AI, getiteld AI for Good Gateway.

Niet alleen economisch: AI for Good voor SDG’s
Klimaat, gezondheidszorg, toegang tot onderwijs
Bewust van risico’s en baten voor GDPR‑conforme keuzes

¹ https://aiforgood.itu.int/

GDPR‑boetes: discriminerende AI

Italiaanse AP beboet bezorgapp voor algoritmische discriminatie Illustratie van het logo van de Italiaanse toezichthouder.

Bezorgbedrijf: profilering van riders, discriminatie bij toewijzing orders
Boete van €2,6 miljoen wegens GDPR‑tekortkomingen
Dataminimalisatie, transparantie, datakwaliteit, bias en discriminatie bij geautomatiseerde besluitvorming en profilering

¹ https://www.gpdp.it/web/guest/home/docweb/-/docweb-display/docweb/9677377 https://edpb.europa.eu/news/national-news/2021/riders-italian-sa-says-no-algorithms-causing-discrimination-platform-glovo_en

Databescherming en meer

Risico op onthulling

Onthulling van persoonsgegevens
Ook met geaggregeerde data
DPIA: resterende risico’s
Geen houdbare verklaring

Voorbeeld

AI voor medische beeldvorming
Voorspelde ras (zeer gevoelig)
Privacy‑ en biasprobleem

¹ Gichoya, Judy Wawira, et al. AI recognition of patient race in medical imaging: a modelling study, The Lancet Digital Health, Volume 4, Issue 6, 2022,

De balans vinden

AI-systemen volgen GDPR‑principes
Speciale waarborgen
Bijzondere categorieën gegevens
Beperking op geautomatiseerde besluitvorming en profilering

Uitzonderingen:
- Uitvoering van een contract
- Algemeen belang
- Uitdrukkelijke toestemming
GDPR past bij AI, dekt niet alles
Komende AI Act

Laten we oefenen!

Inzicht in de GDPR