Risiko dan peluang

Memahami GDPR

Shalini Kurapati, CIPP/E

Co-founder and CEO, Clearbox AI

Peluang besar AI dan big data

Tangkapan layar judul blog World Economic Forum tentang prediksi kontribusi AI pada ekonomi global tahun 2030.

Teknologi disruptif abad ke-21
Inovasi berbasis ketersediaan data dan sumber daya komputasi
Keunggulan kompetitif

AI untuk kebaikan

Ilustrasi tujuan pembangunan berkelanjutan PBB yang dapat dipercepat oleh adopsi AI, berjudul AI for Good Gateway.

Bukan hanya manfaat ekonomi, AI for Good untuk SDGs
Perubahan iklim, layanan kesehatan, akses pendidikan
Sadar risiko dan manfaat untuk pilihan sesuai GDPR

¹ https://aiforgood.itu.int/

Denda GDPR: AI diskriminatif

Otoritas Italia mendenda perusahaan aplikasi antar karena diskriminasi algoritmik Ilustrasi logo Otoritas Pengawas Italia.

Perusahaan kurir: memprofilkan pengemudi, diskriminasi dalam penugasan pesanan
Denda 2,6 juta euro akibat kekurangan kepatuhan GDPR
Minimasi data, transparansi, kualitas data, bias dan diskriminasi dalam keputusan otomatis dan pemrofilan

¹ https://www.gpdp.it/web/guest/home/docweb/-/docweb-display/docweb/9677377 https://edpb.europa.eu/news/national-news/2021/riders-italian-sa-says-no-algorithms-causing-discrimination-platform-glovo_en

Perlindungan data dan seterusnya

Risiko pengungkapan

Pengungkapan data pribadi
Bahkan dengan data agregat
DPIA - Risiko residual
Tidak ada penjelasan yang layak

Contoh

Citra medis AI
Memprediksi ras (sangat sensitif)
Isu privasi dan bias

¹ Gichoya, Judy Wawira, et al. AI recognition of patient race in medical imaging: a modelling study, The Lancet Digital Health, Volume 4, Issue 6, 2022,

Menjaga keseimbangan

Sistem AI harus mengikuti prinsip GDPR
Perlindungan khusus
Kategori data khusus
Pembatasan keputusan otomatis dan pemrofilan

Pengecualian:
- Pelaksanaan kontrak
- Kepentingan publik
- Persetujuan eksplisit
GDPR kompatibel dengan AI, tidak mencakup semua aspek
RUU AI yang akan datang

Ayo berlatih!

Memahami GDPR