Algoritmalarda önyargı

Veri Önyargısını Alt Etmek

Konstantinos Kattidis

Data Analytics Lead

YZ ve veri önyargısı

Yapay zekânın çeşitli kullanım alanları vardır:

Algoritmalar belirli gruplara, örneğin cinsiyet veya ırka karşı önyargılı olursa ne olur?

YZ kullanım alanları

Algoritmik önyargı, algoritmaların bir grubu diğerine tercih eden, sistematik ve tekrarlanabilir hatalar üretmesiyle ortaya çıkar

Algoritmaların geliştirilmesi ve devreye alınması sırasında ortaya çıkabilecek çeşitli önyargı türlerini kapsar

Algoritmik önyargı çoğunlukla veri toplamadaki önyargıyla başlar
Eğitim verisi temsil edici değilse veya taraflıysa, algoritma bu önyargıları öğrenip sürdürebilir
Örneğin: yüz tanıma algoritmasında çeşitli grupların yeterince temsil edilmemesi

Seçim önyargısı

Özellik seçimi önyargısı

Özellik seçimi önyargısı, belirli özelliklerin seçiminin adil olmayan veya ayrımcı sonuçlara yol açabilecek ölçütlere göre yapılmasıyla oluşur
Bu tür özellikler ırk, cinsiyet veya diğer korunan niteliklerdir
Örneğin, kredi onayı tahmini için tasarlanan bir algoritma geliri tek ilgili faktör varsayabilir

Bir algoritmanın test aşamasında temsil gücü düşük veri kümesi kullanmak değerlendirme önyargısına yol açabilir
Örneğin:
- Bir film öneri algoritması
- Yalnızca tek bir türe göre performansı test etmek
- Romantik ya da komedi gibi türlerde iyi çalışmayabileceğini gözden kaçırmak

Değerlendirme önyargısı, yalnızca tek tür grubunda test

MRI tanısının otomasyonu

Bireylerin otomatik sistemlere aşırı güvenme eğilimi

Örneğin:
- MRI gibi tıbbi görüntüleri analiz eden bir tanı sistemi kullanılıyor
- Sistem sonuçlarına, bulgular gözden geçirilmeden ya da doğrulanmadan güvenilirse otomasyon önyargısı ortaya çıkar
- Bu durum yanlış tanılara yol açabilir

Veri Önyargısını Alt Etmek