Pertimbangan etis dalam pengambilan keputusan

Mendemistifikasi Decision Science

Akshay Swaminathan

PD Soros Fellow at Stanford University School of Medicine

Tanggung jawab Data Science

  • Data Science memberdayakan keputusan lintas industri

  • Penggunaan etis penting untuk kepercayaan dan keadilan

  etika.png

Mendemistifikasi Decision Science

Studi kasus: Optum

  • Algoritma Optum tanpa sengaja mengutamakan pasien yang lebih sehat

    • Dirancang memprediksi kebutuhan perawatan, namun memprioritaskan mereka dengan pengeluaran kesehatan lebih tinggi

  • Bias muncul dari asumsi data yang keliru

    • Menggunakan pengeluaran sebagai proksi kebutuhan menimbulkan ketimpangan ras, merugikan yang akses perawatannya lebih rendah

  optum.png

Mendemistifikasi Decision Science

Keadilan

keadilan.png

Privasi dan keamanan

privasi.png

Transparansi dan reprodusibilitas

transparansi.png

Dampak sosial data

dampak sosial.png

Mendemistifikasi Decision Science

Bias pada model pembelajaran mesin

  data bias.png

Bias in = Bias out

  • Model pembelajaran mesin mencerminkan bias dan celah pada data latihnya

 

Keadilan dapat diukur

  • Nilai kinerja model antar kelompok untuk menilai keadilan
Mendemistifikasi Decision Science

Melindungi data

Ilmuwan keputusan dan organisasi harus memastikan penanganan data yang aman dan bertanggung jawab

Meliputi:

  • Infrastruktur aman dengan perlindungan terbaru
  • Akses terbatas: hanya data minimum sesuai peran
  • Pengumpulan data pribadi berbasis persetujuan

Mengapa penting:

  • Kebocoran menurunkan kepercayaan
  • Dapat memicu gugatan
  • Merusak reputasi dan profitabilitas

perlindungan data.png

Mendemistifikasi Decision Science

Transparansi

 

Menjamin kejelasan dan akuntabilitas

  • Laporkan sumber data, langkah pembersihan, metode analisis, metrik yang dikumpulkan, dan tingkat ketidakpastian

Reprodusibilitas

 

Reprodusibilitas membangun kepercayaan dan kredibilitas

  • Pihak lain harus dapat mengulang analisis dengan data dan metode yang sama dan memperoleh hasil yang sama
Mendemistifikasi Decision Science

Etika di inti decision science

Pertimbangan etis adalah inti dari decision science yang bertanggung jawab

  • Etika bukan pilihan—ini esensial
  • Utamakan keadilan, kejujuran, dan manfaat
  • Terapkan prinsip etis di seluruh siklus data

ringkasan etika.png

Mendemistifikasi Decision Science

Ayo berlatih!

Mendemistifikasi Decision Science

Preparing Video For Download...