Zautomatyzowane podejmowanie decyzji i profilowanie
Zrozumieć GDPR
Shalini Kurapati, CIPP/E
Co-founder and CEO, Clearbox AI
Artykuł 22
- Obowiązki w zakresie uczciwości i niedyskryminacji
- Artykuł 22 – zautomatyzowane podejmowanie decyzji, w tym profilowanie
- Prawo do interwencji człowieka i uzyskania wyjaśnienia
1 Źródło obrazu: flaticon.com
Profilowanie
- Analiza i prognozowanie zachowań, przetwarzanie na dużą skalę z użyciem AI/uczenia maszynowego
- Identyfikowanie i łączenie zachowań oraz cech
- Tworzenie profili i prognozowanie zachowań na ich podstawie
- Przykłady:
- Skuteczność leczenia
- Ryzyko recydywy
1 Information Commissioner's Office
Kwestie etyczne związane z profilowaniem
- Utrwalanie lub wzmacnianie stronniczości
- Projekt, dane, złożoność/efekt czarnej skrzynki
- Dyskryminacja ze względu na płeć i rasę
1 Źródło obrazu: bbc.com, propublica.com, techcrunch.com
Znany przykład profilowania
- 320 000 użytkowników wzięło udział w teście osobowości online pod pozorem „badań naukowych"
- Zebrano dane osobowe znajomych użytkowników – nawet 50 mln rekordów bez zgody
- Profilowanie osobowościowe/polityczne, kierowanie reklam do osób podatnych na zmianę decyzji
- Wykorzystano w wielu wyborach w USA, Wielkiej Brytanii i na świecie
1 Źródło obrazu: The Guardian
Zautomatyzowane podejmowanie decyzji
- Decyzje podejmowane automatycznie, bez udziału człowieka
- Może, lecz nie musi obejmować profilowania
- Dowolny typ danych – ankiety, lokalizacja, profile
- Przykład: Automatyczne selekcjonowanie CV
1 ARTICLE 29 WORKING PARTY Guidelines on Automated individual decision-making and Profiling for the purposes of Regulation 2016/679
Przykład bankowy
- Zautomatyzowana decyzja hipoteczna
- AI zazwyczaj udziela odpowiedzi tak/nie – konieczne wyjaśnienie i interwencja człowieka
- Mechanizmy zapobiegające stronniczości oraz umożliwiające korektę i doskonalenie decyzji AI
