Automatiserat beslutsfattande och profilering
Förstå GDPR
Shalini Kurapati, CIPP/E
Co-founder and CEO, Clearbox AI
Artikel 22
- Skyldigheter kring rättvisa och icke-diskriminering
- Artikel 22 – automatiserat individuellt beslutsfattande, inklusive profilering
- Rätt till mänsklig intervention och förklaring
1 Bildkälla: flaticon.com
Profilering
- Analysera och förutsäga beteenden, storskalig behandling med AI/maskininlärning
- Identifiera och koppla samman beteenden och egenskaper
- Skapa profiler och förutsäga beteenden utifrån dessa
- Exempel:
- Behandlingsframgång
- Risk för återfall i brott
1 Information Commissioner's Office
Etiska risker med profilering
- Sprider eller förstärker bias
- Design, data och inneboende komplexitet/svart låda
- Köns- och rasdiskriminering
1 Bildkälla: bbc.com, propublica.com och techcrunch.com
Det kända profilieringsexemplet
- 320 000 användare genomförde ett personlighetstest online för "akademisk forskning"
- Samlade in personuppgifter om användarnas vänner – upp till 50 miljoner användares data utan samtycke
- Personlighets- och politisk profilering, riktade annonser mot personer som troligen var påverkbara
- Användes i många val i USA, Storbritannien och världen över
1 Bildkälla: The Guardian
Automatiserat beslutsfattande
- Beslut fattas automatiskt utan mänsklig inblandning
- Kan involvera profilering eller inte
- Alla typer av data – enkäter, plats, profilering
- Exempel: Automatiserad CV-granskning
1 ARTICLE 29 WORKING PARTY Riktlinjer om automatiserat individuellt beslutsfattande och profilering enligt förordning 2016/679
Bankexempel
- Automatiserat bolånebeslut
- AI ger vanligtvis ja- eller nej-svar – förklaring och mänsklig intervention krävs
- Mekanismer för att förebygga bias samt korrigera och förbättra AI-beslut
