Luarea automată a deciziilor și profilarea

Înțelegerea GDPR

Shalini Kurapati, CIPP/E

Co-founder and CEO, Clearbox AI

IA: Legalitate, corectitudine și transparență

Ilustrație a unui proces automatizat

¹ Sursa imaginii: flaticon.com

Analiza și predicția comportamentului, prelucrare la scară largă, utilizând IA/machine learning
Identificarea și corelarea comportamentelor și atributelor
Crearea de profiluri și predicția comportamentului pe baza acestora
Exemple:
- Succesul tratamentului
- Riscul de recidivă

¹ Information Commissioner's Office

Capturi de ecran de pe site-uri de știri ilustrând prejudecăți ale algoritmilor IA bazate pe gen, rasă și scoruri de performanță.

¹ Sursa imaginii: bbc.com, propublica.com și techcrunch.com

320.000 de utilizatori au completat un test de personalitate online pentru „cercetare academică"
A colectat datele personale ale prietenilor utilizatorilor, până la 50 mil. de profiluri fără consimțământ
Profilare de personalitate/politică, reclame direcționate către persoane susceptibile de a-și schimba opinia
Utilizat în numeroase alegeri din SUA, Marea Britanie și din întreaga lume

¹ Sursa imaginii: The Guardian

Ilustrație a unei decizii automate în care calculatorul determină rezultatul.

¹ ARTICLE 29 WORKING PARTY Guidelines on Automated individual decision-making and Profiling for the purposes of Regulation 2016/679

Ilustrație a unui director de bancă care nu poate explica motivul aprobării sau respingerii unui credit.

Decizie automată privind creditul ipotecar
De obicei, IA oferă răspunsuri de tip da/nu; este necesară o explicație și intervenție umană
Mecanisme pentru prevenirea prejudecăților și corectarea deciziilor IA

Înțelegerea GDPR