Bias dalam algoritme

Menaklukkan Bias Data

Konstantinos Kattidis

Data Analytics Lead

AI dan bias data

AI memiliki berbagai use case:

Rekomendasi personal
Navigasi rute

Apa yang terjadi jika algoritme menjadi bias terhadap kelompok tertentu, seperti gender atau ras?

Use case AI

Bias algoritmik

Bias algoritmik muncul ketika algoritme menghasilkan kesalahan yang sistematis dan berulang sehingga menimbulkan hasil tidak adil, menguntungkan satu kelompok dibanding yang lain

Ini mencakup berbagai jenis bias yang dapat muncul selama pengembangan dan penerapan algoritme

Bias saat pelatihan algoritme

Bias algoritmik sering bermula dari bias dalam pengumpulan data
Jika data latih tidak representatif atau bias, algoritme bisa mempelajari dan melanggengkan bias tersebut
Contoh: kurang representasi kelompok beragam pada algoritme pengenalan wajah

Bias seleksi

Bias dalam pemilihan fitur

Bias pemilihan fitur

Bias pemilihan fitur terjadi saat fitur tertentu dipilih berdasar kriteria yang bisa menimbulkan hasil tidak adil atau diskriminatif
Misalnya ras, gender, atau karakteristik terlindungi lainnya
Contoh, algoritme prediksi persetujuan pinjaman menganggap pendapatan satu-satunya faktor relevan

Bias evaluasi

Menggunakan dataset yang tidak representatif saat fase pengujian dapat menimbulkan evaluation bias
Contoh:
- Algoritme rekomendasi film
- Menguji kinerja hanya pada satu genre
- Mengabaikan bahwa algoritme bisa buruk untuk genre lain seperti roman atau komedi

Bias evaluasi, menguji hanya satu kelompok genre

Bias otomatisasi

Otomatisasi diagnosis MRI

Kecenderungan orang terlalu mengandalkan sistem otomatis

Contoh:
- Sistem diagnosis medis digunakan untuk menganalisis citra medis, seperti MRI
- Bias otomatisasi terjadi jika hasil sistem dipercaya tanpa meninjau atau mengonfirmasi temuan
- Ini dapat menyebabkan diagnosis yang salah

Ayo berlatih!

Menaklukkan Bias Data