Önyargı azaltma
Sorumlu AI Veri Yönetimi
Maria Prokofieva
Lead ML engineer
Bu bölümde ele alınacaklar
- Proje yaşam döngüsü boyunca stratejiler
- Yeniden örnekleme ve yeniden ağırlıklandırma
- Yeniden etiketleme ve hassas özniteliklerin kaldırılması
- Çekişmeli eğitim ve model yeniden kalibrasyonu
- Kullanıcı davranışı
- Adalet kısıtları ve algoritma seçimi
- Başka stratejiler de vardır
Önyargıya yeniden bakış
- Sistematik hatalar veya önyargılar
- Gruplar ya da bireyler için adil olmayan sonuçlar
1 Görsel: Streamline HQ
Projede önyargı aşamaları
- Ham veride
- Ön işlemde
- Modellemede
- Yaygınlaştırma sonrasında
Ön işlemde önyargı
- Yeniden örnekleme
- Yeniden ağırlıklandırma
- Yeniden etiketleme
- Hassas özniteliklerin kaldırılması
Ön işleme stratejileri
- Yeniden örnekleme:
- Dengeli sınıf temsili için dağılımı ayarlayın
- Yeniden ağırlıklandırma:
- Veri seti boyutunu sabit tutarak sınıf ağırlıklarıyla önyargıları düzeltin
- Yeniden etiketleme:
- Hedefi doğru yansıtmak için etiketleri güncelleyin
- Hassas özniteliklerin kaldırılması:
- Korumalı öznitelikleri kaldırın
Modellemede önyargı
- Algoritmadan kaynaklı önyargı
- Çekişmeli (adversarial) eğitim
- Adalet kısıtları
- Daha basit, sağlam veya genellenebilir modellerle algoritma seçimi
Finansal danışman
- Bölgesel ekonomik eşitsizliklere bağlı önyargı
- Önyargıyı düzeltmek için çekişmeli eğitim
- Karar ağaçları ve düzenlileştirilmiş lineer modeller
1 Görsel: Streamline HQ
Yaygınlaştırma sonrası ve kullanımda önyargı
- Model kaymasını önlemek için önyargıyı izleyin
- Model yeniden kalibrasyonu
- Uygulamanın hatalı kullanımı
1 Görsel: Streamline HQ
Finansal danışman
Model kayması:
- Yetersiz temsil edilen serbest (freelance) ekonomi
Hatalı kullanım:
- Finansal bilgilerin güncellenmesi
1 Görsel: Streamline HQ
Haydi pratik yapalım!
Sorumlu AI Veri Yönetimi
Preparing Video For Download...
