Penilaian risiko AI

Strategi Artificial Intelligence (AI)

Vidhi Chugh

AI strategist and ethicist

Pagar etis

 

• UNESCO
  • Perlunya pagar pembatas
  • Cegah risiko seperti bias dan diskriminasi
  • Hak asasi manusia fundamental

 

¹ https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

Risiko AI

 

• National Institute of Standards and Technology (NIST)

  

 

• Probabilitas kejadian
• Tingkat konsekuensi

¹ https://www.nist.gov/artificial-intelligence

Risiko data

• Privasi data
  • Informasi sensitif

• Bias data
  • Melanggengkan bias sosial  

AI bermasalah

 

• Bias gender

 

• Diskriminasi ras

Pelanggaran privasi data

• Denda berat karena tidak patuh GDPR
• Pemrosesan data yang melanggar hukum
• Gambar diserok untuk pengenalan wajah

 

Dampak bisnis

Hukum

Dampak bisnis

Hukum, reputasi

Dampak bisnis

Dampak hukum, reputasi, dan finansial.

Kerangka etis

Kerangka etis

Kerangka etis

Pilar utama penilaian risiko

                Privasi

                Keadilan

             Transparansi

             Akuntabilitas

Regulasi dan kepatuhan

• Siklus hidup proyek AI

• Regulasi dan kepatuhan
  • Akuntabilitas butuh tata kelola
  • Definisikan peran dan tanggung jawab
  • Patuhi regulasi privasi data
  • Minta persetujuan pengguna dan anonimisasi data

Pengumpulan dan persiapan data

Nilai

• Tersedia internal atau beli eksternal?
• Info sensitif seperti Personal Identifiable Information (PII)?
• Populasi terwakili dengan baik?

Mitigasi

• Proses integritas data
• Enkripsi pengenal, pembuatan data sintetis
• Buat data seimbang

Pengembangan dan evaluasi model

• Jelaskan keluaran model
  • Penjelasan dan identifikasi bias
  • Perlakuan adil lintas kategori

Penerapan dan pemantauan model

 

• Tingkat dampak

• Tetapkan strategi mitigasi

 

 

• Biaya tinggi di kesehatan dan keuangan

• Selaraskan ulang perilaku model

 

Ayo berlatih!

Strategi Artificial Intelligence (AI)