Menilai dan mengurangi bias sosial

Konsep Generative AI

Daniel Tedesco

Data Lead, Google

Apa yang dimaksud dengan bias sosial?

$$ $$

Ketidakadilan sistematis dalam AI generatif

Konsekuensi sosial yang serius
Keadilan bisa subjektif
Fokus pada nilai yang luas disepakati

$$ $$

Sebuah wawancara kerja.

Di mana bias muncul

Data pelatihan
Model itu sendiri
Cara penggunaan model

Timbangan yang tidak seimbang

Bias dalam data

Informasi pelatihan yang miring atau tidak representatif

Dua corong pelatihan. Satu menunjukkan kotak ungu masuk ke pelatihan dan hanya kotak ungu yang dihasilkan. Yang lain menunjukkan berbagai bentuk berwarna masuk ke pelatihan dan berbagai bentuk dihasilkan

Bias dalam model

Mengejar tujuan yang menghasilkan keluaran bias

Politikus robot fotorealistik memberi pidato di PBB

Bias dalam penggunaan

Penerapan AI yang salah atau berbahaya

Laptop menampilkan video dengan label "PALSU" besar.

Mengidentifikasi bias dalam data dan model

Analisis representasi membandingkan cara model menyebut berbagai kelompok
Metrik keadilan menilai kesetaraan perlakuan, peluang, dan akurasi antar kelompok
Audit manusia meminta orang meninjau keluaran model untuk menemukan bias

Mengurangi bias dalam data dan model

Diversifikasi pengumpulan data
Sesuaikan model untuk memprioritaskan data berbeda
Pelatihan adversarial
Peningkatan berkelanjutan

Kumpulan bentuk berwarna dengan sampel representatif yang dipilih

Ayo berlatih!

Konsep Generative AI