Apa yang kita lakukan dengan bias data?

Pengantar Etika Data

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

Apa itu bias?

Ilustrasi penilaian yang bias.

  • Pikiran pertama dalam etika data
  • Prasangka terhadap/menyukai orang, kelompok, atau ide—tidak adil
  • Etika data—bias data
  • Representasi kurang, berlebih, atau keliru
  • Dampak berbahaya jika data bias dipakai untuk keputusan
1 Icon made by noomtah from www.flaticon.com
Pengantar Etika Data

Kapan saja, di mana saja

  • Di semua tahap siklus data & hidup
  • Pengumpulan data
  • Pembersihan, persiapan, pengembangan
  • Pelabelan data

Ilustrasi bias data di berbagai tahap siklus data yang memasok algoritme bias

Pengantar Etika Data

Bias spesifik data

  • Bias proses teknis/statistik

    • Bias sampling—representasi
    • Bias pengukuran
    • Bias swapelaporan
    • Bias pelabelan

  • Bias manusia & sistemik

    • Gender
    • Etnis/minoritas
    • Budaya

Ilustrasi objek yang menyimpang dibanding bayangan aslinya.

1 Icon made by Flowicon from www.flaticon.com
Pengantar Etika Data

Representasi itu krusial

Tangkapan layar Ted Talk Joy dengan foto ia mengenakan masker putih

  • Kurangnya data representatif
  • Pengenalan wajah—hasil lebih baik dengan masker putih
  • Dari dispenser sabun ke luaran kesehatan
  • Rekomendasi: Coded Bias
1 https://www.ted.com/talks/joy_buolamwini_how_i_m_fighting_bias_in_algorithms
Pengantar Etika Data

Cermin stereotip kita

Ilustrasi perbedaan gejala serangan jantung: pria sesak dada, wanita nyeri punggung.

  • Studi dan data medis historisnya pada pria kulit putih
  • Contoh: gejala serangan jantung berbeda pada pria vs wanita
  • Apa dampaknya jika aplikasi diagnosis memakai data ini?
1 https://womeningh.org/
Pengantar Etika Data

Dampak serius

Tangkapan layar diagnosis aplikasi kesehatan untuk gejala serangan jantung pada pria dan wanita.

  • Gejala serangan jantung—darurat untuk pria, panik untuk wanita
Pengantar Etika Data

Terlalu banyak dan terus bertambah!

Ilustrasi berbagai bias kognitif.

1 CC BY, John Manoogian III (JM3)
Pengantar Etika Data

Puncak gunung es

Ilustrasi puncak gunung es dengan bias statistik di atas, bias manusia dan sistemik di bawahnya

  • Bias statistik hanyalah puncaknya
  • Bias manusia & sistemik—butuh perubahan sikap dan sosial
  • Uji bias, cegah dan mitigasi, terbuka pada umpan balik
1 Schwartz, R. , Vassilev, A. , Greene, K. , Perine, L. , Burt, A. and Hall, P. (2022), Towards a Standard for Identifying and Managing Bias in Artificial Intelligence, National Institute of Standards and Technology
Pengantar Etika Data

Ayo berlatih!

Pengantar Etika Data

Preparing Video For Download...