Etika data dan etika AI

Pengantar Etika Data

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

Apa itu AI?

Ilustrasi AI dengan input data dan keputusan model.

  • AI menggabungkan algoritme dan dataset andal untuk memecahkan masalah
  • AI kuat memakai dataset besar
  • Potensi besar, pedang bermata dua, perlu etika
Pengantar Etika Data

Data adalah bahan bakar AI

Ilustrasi pentingnya data bagi AI dengan analogi memasak.

  • Model AI butuh data sangat besar; sebagian besar upaya AI pada data
  • Data buruk menghasilkan keluaran AI buruk
  • Etika AI lebih luas dari etika data; penting mengetahui persamaan dan perbedaannya
1 Sumber foto: Webinar Andrew Ng, MLOps: From Model-centric to Data-centric AI
Pengantar Etika Data

Yang baik dan yang menakjubkan

Kolase speaker asisten suara, tangkapan layar chatgpt, dan beranda Netflix.

  • Asisten suara, AI percakapan
  • Rekomendasi film

Gambar rontgen payudara dengan dua tumor pada tahap pertumbuhan berbeda

  • AI untuk kebaikan
  • Diagnosis kanker dini
  • Pertanian presisi: lebih hemat air & pestisida
Pengantar Etika Data

Yang buruk dan yang mengkhawatirkan

Kolase tangkapan berita tentang diskriminasi oleh algoritme AI

  • Diskriminasi dalam perekrutan, akses kesehatan, dan peradilan yang adil
  • Banyak sebab: dataset bias, model AI kompleks/blackbox, kurangnya penjelasan
  • Etika AI melampaui etika data
Pengantar Etika Data

Dilema etika AI

Etika AI melampaui etika data

  • Konsekuensi dari keputusan AI:
    • Akses kredit/pinjaman
    • Perekrutan
  • Diskriminasi oleh AI
  • AI/robot mengambil alih pekerjaan
  • Akankah robot/drone mengurangi korban jiwa manusia saat perang?
  • Apa arti menjadi manusia?
  • Bisakah moralitas dikodekan ke AI?

Gambar rambu jalan menunjuk arah berlawanan dengan latar pegunungan.

1 Sumber foto: unsplash.com
Pengantar Etika Data

Apa yang seharusnya dilakukan AI?

  • Mobil swa-kemudi dengan rem tiba-tiba gagal
  • Terus lurus atau membanting setir
  • Terus lurus akan menewaskan seorang perempuan, laki-laki, dan lansia perempuan
  • Membanting setir akan menewaskan perempuan muda dan dua anak
  • Siapa yang bertanggung jawab?

Ilustrasi dilema etika pada mobil swa-kemudi

1 https://moralmachine.mit.edu/
Pengantar Etika Data

Ringkasan pedoman etika AI

Banyak organisasi/lembaga menyusun pedoman etika AI

  • Agensi dan pengawasan manusia
  • Ketangguhan teknis dan keselamatan
  • Privasi dan tata kelola data
  • Transparansi
  • Keberagaman, non-diskriminasi, dan keadilan
  • Kesejahteraan lingkungan dan sosial
  • Akuntabilitas

Gambar inventaris pedoman etika AI AlgorithmWatch.

1 https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment 2 https://inventory.algorithmwatch.org/
Pengantar Etika Data

Irisan pada data

  • Privasi, keamanan, perlindungan data
  • Bias dan keadilan
  • Transparansi
  • Akuntabilitas

Ilustrasi irisan etika data dan etika AI

Pengantar Etika Data

Ayo berlatih!

Pengantar Etika Data

Preparing Video For Download...