Risico's en kansen

De AVG begrijpen

Shalini Kurapati, CIPP/E

Co-founder and CEO, Clearbox AI

Grote kansen met AI en big data

Schermafbeelding van de titel van een blog van het World Economic Forum over de voorspelling van de bijdrage van AI aan de wereldeconomie in 2030.

  • Disruptieve technologie van de 21e eeuw
  • Innovatie door databeschikbaarheid en rekenkracht
  • Concurrentievoordeel
De AVG begrijpen

AI for good

Illustratie van de duurzame ontwikkelingsdoelen van de VN die versneld kunnen worden door AI, getiteld AI for Good Gateway.

  • Niet alleen economisch: AI for Good voor SDG's
  • Klimaatverandering, gezondheidszorg, toegang tot onderwijs
  • Bewust van risico's en baten voor AVG-conforme keuzes
1 https://aiforgood.itu.int/
De AVG begrijpen

AVG-boetes: discriminerende AI

Italiaanse AP beboet bezorgapp wegens algoritmische discriminatie Illustratie van het logo van de Italiaanse toezichthouder.

  • Bezorgbedrijf: profilering van riders, discriminatie bij toewijzing van orders
  • Boete van 2,6 miljoen euro wegens AVG-tekortkomingen
  • Dataminimalisatie, transparantie, datakwaliteit, bias en discriminatie bij geautomatiseerde besluitvorming en profilering
1 https://www.gpdp.it/web/guest/home/docweb/-/docweb-display/docweb/9677377 https://edpb.europa.eu/news/national-news/2021/riders-italian-sa-says-no-algorithms-causing-discrimination-platform-glovo_en
De AVG begrijpen

Databescherming en meer

Risico op onthulling

  • Onthulling van persoonsgegevens
  • Ook met geaggregeerde data
  • DPIA: resterende risico's
  • Geen bruikbare uitleg

Voorbeeld

  • AI voor medische beeldvorming
  • Voorspelde ras (zeer gevoelig)
  • Privacy- en biasprobleem
1 Gichoya, Judy Wawira, et al. AI recognition of patient race in medical imaging: a modelling study, The Lancet Digital Health, Volume 4, Issue 6, 2022,
De AVG begrijpen

De balans vinden

  • AI-systemen moeten AVG-beginselen volgen
  • Speciale waarborgen
  • Bijzondere categorieën persoonsgegevens
  • Beperking van geautomatiseerde besluitvorming en profilering
  • Uitzonderingen:
    • Uitvoering van een overeenkomst
    • Algemeen belang
    • Uitdrukkelijke toestemming
  • AVG verenigbaar met AI, dekt niet alles
  • Aankomende AI Act
De AVG begrijpen

Laten we oefenen!

De AVG begrijpen

Preparing Video For Download...