Geautomatiseerde besluitvorming en profilering

De AVG begrijpen

Shalini Kurapati, CIPP/E

Co-founder and CEO, Clearbox AI

AI: Rechtmatigheid, eerlijkheid en transparantie

Illustratie van een geautomatiseerd proces

¹ Beeldbron: flaticon.com

Gedrag analyseren en voorspellen, grootschalige verwerking, met AI/machine learning
Gedrag en eigenschappen herkennen en koppelen
Profielen maken en gedrag voorspellen op basis van profielen
Voorbeelden:
- Kans op behandelresultaat
- Risico op recidive

¹ Information Commissioner's Office

Schermafbeeldingen van nieuwssites die bias in AI-algoritmen tonen op basis van gender, ras en prestatiescores.

¹ Beeldbron: bbc.com, propublica.com en techcrunch.com

320.000 gebruikers deden een online persoonlijkheidstest voor 'academisch onderzoek'
Verzamelde persoonsgegevens van vrienden van de gebruiker, tot 50 mln gebruikers zonder toestemming
Persoonlijkheids/politieke profilering, gerichte advertenties aan wie van mening kan veranderen
Gebruikt bij veel verkiezingen in de VS, VK en wereldwijd

¹ Beeldbron: The Guardian

Illustratie van een geautomatiseerd besluit waarbij de computer de uitkomst bepaalt.

¹ ARTICLE 29 WORKING PARTY Guidelines on Automated individual decision-making and Profiling for the purposes of Regulation 2016/679

Illustratie van een bankmedewerker die aan sommige personen niet kan uitleggen waarom een lening is goedgekeurd of afgewezen.

Geautomatiseerde hypotheekbeslissing
AI geeft meestal ja/nee-antwoorden; behoefte aan uitleg en menselijke tussenkomst
Mechanismen om bias te voorkomen en AI-beslissingen te corrigeren en te verbeteren

De AVG begrijpen