Pengambilan keputusan otomatis dan pemprofilan
Memahami GDPR
Shalini Kurapati, CIPP/E
Co-founder and CEO, Clearbox AI
Pasal 22
- Kewajiban keadilan dan anti-diskriminasi
- Pasal 22 — pengambilan keputusan individual otomatis, termasuk pemprofilan
- Hak atas intervensi manusia dan penjelasan
1 Sumber gambar: flaticon.com
Pemprofilan
- Menganalisis dan memprediksi perilaku, pemrosesan skala besar, menggunakan AI/pembelajaran mesin
- Mengidentifikasi dan mengaitkan perilaku dan atribut
- Membuat profil, dan memprediksi perilaku berdasarkan profil
- Contoh:
- Keberhasilan perawatan
- Risiko residivisme
1 Information Commissioner's Office
Isu etika terkait pemprofilan
- Menyebarkan atau memperkuat bias
- Desain, data, kompleksitas bawaan/kotak hitam
- Diskriminasi gender dan ras
1 Sumber gambar: bbc.com, propublica.com, dan techcrunch.com
Contoh pemprofilan yang terkenal
- 320.000 pengguna ikut tes kepribadian online untuk 'riset akademik'
- Mengumpulkan data teman pengguna, hingga 50 juta data tanpa persetujuan
- Pemprofilan kepribadian/politik, iklan tertarget pada yang mudah berubah pikiran
- Dipakai di banyak pemilu di AS, Inggris, dan dunia
1 Sumber gambar: The Guardian
Pengambilan keputusan otomatis
- Keputusan otomatis tanpa keterlibatan manusia
- Dapat melibatkan pemprofilan atau tidak
- Semua jenis data: survei, lokasi, profil
- Contoh: Penyaringan CV otomatis
1 ARTICLE 29 WORKING PARTY Guidelines on Automated individual decision-making and Profiling for the purposes of Regulation 2016/679
Contoh perbankan
- Keputusan hipotek otomatis
- Biasanya AI memberi jawaban ya/tidak; perlu penjelasan dan intervensi manusia
- Mekanisme mencegah bias serta mengoreksi dan meningkatkan keputusan AI
