Tantangan AI yang bertanggung jawab

Manajemen Data AI yang Bertanggung Jawab

Maria Prokofieva

Lead ML Engineer

Praktik manajemen data yang bertanggung jawab di dunia nyata

 

  • Kompleks

 

  • Melibatkan pertukaran

 

  • Butuh penilaian profesional

AI yang bertanggung jawab: lingkaran biru dengan tangan memegang ilustrasi chip AI

Manajemen Data AI yang Bertanggung Jawab

Pertukaran umum

 

Pertukaran

Dimensi AI yang bertanggung jawab

Manajemen Data AI yang Bertanggung Jawab

 

Faktor bisnis

 

  • Laba di atas keadilan dan privasi

  • Pendapatan di atas pengujian dan keamanan

Manajemen Data AI yang Bertanggung Jawab

Model pralatih

  • Mengurangi biaya

  • Menghemat waktu dan sumber daya

  • Tidak perlu pengumpulan data dan pelatihan

  • Data pelatihan mungkin bias

  • Kurang transparan

model pralatih

Manajemen Data AI yang Bertanggung Jawab

Menggunakan model pralatih

  • Uji tuntas sumber model
  • Reputasi baik
  • Kredibilitas
  • Tinjau dokumentasi model
  • Pengujian tambahan untuk keadilan dan bias
Manajemen Data AI yang Bertanggung Jawab

 

Pertukaran metrik

 

  • Akurasi di atas keadilan
  • Bahkan pada dataset seimbang
Manajemen Data AI yang Bertanggung Jawab

Pertukaran akurasi

  • Akurasi lebih rendah pada kelompok tertentu
  • Tidak mempertimbangkan kualitas/kuantitas data untuk kelompok kurang terwakili
  • Privasi menurunkan akurasi

Pengenalan wajah

Manajemen Data AI yang Bertanggung Jawab

Pertukaran robustness

Pertukaran metrik

 

  • Robustness versus bias

  • Robustness versus fairness

Manajemen Data AI yang Bertanggung Jawab

Perilaku profesional dan tanggung jawab kehati-hatian

  • Kode etik dan perilaku

  • Panduan berbeda per negara dan organisasi

  • Tanggung jawab, tidak merugikan, keadilan

  • Privasi dan kerahasiaan pengguna
  • Dampak positif bagi masyarakat
  • Menjaga standar tinggi
  • Mengembangkan sistem yang andal dan aman
  • Inklusif dan non-diskriminatif

 

ACM

1 https://www.acm.org/code-of-ethics
Manajemen Data AI yang Bertanggung Jawab

Ayo berlatih!

Manajemen Data AI yang Bertanggung Jawab

Preparing Video For Download...