Mitigasi bias

Manajemen Data AI yang Bertanggung Jawab

Maria Prokofieva

Lead ML engineer

Yang akan dibahas

• Strategi di seluruh siklus proyek
• Pengambilan sampel ulang dan pembobotan ulang
• Pelabelan ulang dan penghapusan atribut sensitif
• Pelatihan adversarial dan kalibrasi ulang model
• Perilaku pengguna
• Kendala keadilan dan pemilihan algoritme
• Ada strategi lain

Bias: ulasan kembali

• Kesalahan sistematis atau prasangka
• Hasil tidak adil bagi kelompok atau individu

¹ Gambar oleh Streamline HQ

Bias di seluruh proyek

• Dalam data mentah
• Dalam pra-pemrosesan
• Dalam pemodelan
• Setelah deployment

Bias di pra-pemrosesan

• Pengambilan sampel ulang
• Pembobotan ulang
• Pelabelan ulang
• Penghapusan atribut sensitif

Strategi di pra-pemrosesan

• Pengambilan sampel ulang:
  • Sesuaikan distribusi agar kelas seimbang
• Pembobotan ulang:
  • Koreksi bias dengan bobot kelas, ukuran data tetap
• Pelabelan ulang:
  • Perbarui label agar target akurat
• Penghapusan atribut sensitif:
  • Hilangkan atribut terlindungi

Bias dalam pemodelan

• Bias dari algoritme
• Pelatihan adversarial
• Kendala keadilan
• Pemilihan algoritme: model lebih sederhana, tangguh, atau dapat digeneralisasi

Penasihat keuangan

• Bias terkait kesenjangan ekonomi regional
• Pelatihan adversarial untuk mengoreksi bias
• Pohon keputusan dan model linear teratur

¹ Gambar oleh Streamline HQ

Bias pasca-deploy dan penggunaan

• Pantau bias untuk mencegah drift model
• Kalibrasi ulang model
• Penggunaan aplikasi yang tidak tepat

¹ Gambar oleh Streamline HQ

Penasihat keuangan

Drift model:

• Ekonomi pekerja lepas kurang terwakili

Penggunaan yang keliru:

• Memperbarui informasi keuangan

¹ Gambar oleh Streamline HQ

Ayo berlatih!

Manajemen Data AI yang Bertanggung Jawab