Veri yanlılığı karşısında ne yapmalıyız?

Veri Etiğine Giriş

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

Yanlılık nedir?

Yanlı bir karar örneği

Veri etiğinde ilk düşünce
Bir kişi, grup veya fikir lehine veya aleyhine önyargı - haksız
Veri etiği - veri yanlılığı
Eksik, fazla veya yanlış temsil
Karar verme sürecinde yanlı verilerin kullanılması halinde zararlı etkiler

¹ Simge www.flaticon.com sitesinden noomtah tarafından hazırlandı

Her zaman, her yerde

Veri ve yaşam döngülerinin tüm aşamalarında
Veri toplama
Veri temizleme, hazırlama, geliştirme
Veri etiketleme

Veri yaşam döngüsünün farklı aşamalarındaki veri yanlılıklarının yanlı algoritmalara dönüşümünün gösterimi

Veriye özgü yanlılıklar

Teknik veya istatistiksel süreç yanlılığı
- Örnekleme yanlılığı - temsil
- Ölçüm yanlılığı
- Kendi kendine raporlama yanlılığı
- Etiketleme yanlılığı
İnsan ve Sistematik yanlılık
- Cinsiyet
- Etnik köken/azınlıklar
- Kültür

Eğri bir nesnenin gerçek görüntüsüne göre gösterimi

¹ Simge www.flaticon.com sitesinden Flowicon tarafından hazırlandı

Temsil çok önemlidir

Joy'un Ted konuşmasının ekran görüntüsü ve beyaz maske takarken çekilmiş bir fotoğrafı

Temsili veri eksikliği
Yüz tanıma: beyaz maske ile daha iyi sonuçlar
El sabunu makinelerinin sağlık hizmeti sonuçlarına etkisi
Önerilir: Kodlanmış önyargı

¹ https://www.ted.com/talks/joy_buolamwini_how_i_m_fighting_bias_in_algorithms

Klişelerimize bir ayna

Göğsü sıkışan bir erkek ve sırt ağrısı olan bir kadın için kalp krizinin farklı semptomlarının gösterimi

Tarihsel olarak beyaz erkekler üzerinde yapılan tıbbi çalışmalar ve veriler
Örneğin Kalp krizi belirtileri erkekler ve kadınlar için farklıdır
Bu verilerden yararlanan bir tanı uygulaması kullanırsak ne olur?

¹ https://womeningh.org/

Ciddi etki

Erkekler ve kadınlar için kalp krizi semptomlarına yönelik bir sağlık uygulamasının tanı ekran görüntüsü

Kalp krizi belirtileri: bir erkek için acil durum, bir kadın için panik atak

Çok fazla ve artıyor!

Çeşitli bilişsel önyargıların gösterimi

¹ CC BY, John Manoogian III (JM3)

Buz dağının görünen kısmı

Altında insani ve sistematik önyargılar ile istatistiksel önyargılar olan bir buz dağının ucunun gösterimi

Buz dağının istatistik yanlılığı ucu
İnsani ve sistematik yanlılık - tutum ve toplumsal değişimler
Yanlılık testi, önleme ve azaltma, geri bildirime açık

¹ Schwartz, R. , Vassilev, A. , Greene, K. , Perine, L. , Burt, A. ve Hall, P. (2022), Towards a Standard for Identifying and Managing Bias in Artificial Intelligence, National Institute of Standards and Technology

Şimdi alıştırma yapalım!

Veri Etiğine Giriş