Toplumsal önyargıyı değerlendirme ve azaltma

Üretken Yapay Zeka Kavramları

Daniel Tedesco

Data Lead, Google

Toplumsal önyargıdan neyi kastediyoruz?

$$ $$

Üretken yapay zekâda sistematik adaletsizlik

  • Ciddi toplumsal sonuçlar
  • Adalet öznel olabilir
  • Geniş ölçüde paylaşılan değerlere odaklanın

$$ $$

Bir iş görüşmesi.

Üretken Yapay Zeka Kavramları

Önyargı nerede ortaya çıkar

  • Eğitim verisi
  • Modelin kendisi
  • Modelin kullanımı

Dengesiz terazi

Üretken Yapay Zeka Kavramları

Veride önyargı

Eğitim veri kümesinde eğik veya temsili olmayan bilgi

İki eğitim hunisi. Biri eğitime mor kareler alıp yalnızca mor kareler üretiyor. Diğeri çeşitli renkli şekiller alıp çeşitli şekiller üretiyor

Üretken Yapay Zeka Kavramları

Modellerde önyargı

Önyargılı sonuçlara yol açan hedeflerin peşinden gitmek

BM'de konuşma yapan fotogerçekçi robot siyasetçi

Üretken Yapay Zeka Kavramları

Kullanımda önyargı

Yapay zekânın yanlış veya kötüye kullanım alanları

Üzerinde kocaman "SAHTE" etiketi olan bir videoyu gösteren dizüstü bilgisayar.

Üretken Yapay Zeka Kavramları

Veri ve modellerde önyargıyı belirleme

  • Temsil analizi, modelin farklı gruplara nasıl atıfta bulunduğunu karşılaştırır
  • Adalet ölçütleri, gruplar arasında eşit muamele, fırsat ve doğruluk açısından modelleri değerlendirir
  • İnsan denetimleri, önyargıyı belirlemek için çıktıları gerçek kişilere inceletir
Üretken Yapay Zeka Kavramları

Veri ve modellerde önyargıyı azaltma

 

  • Veri toplamayı çeşitlendirin
  • Farklı verileri önceliklendirecek şekilde modeli ayarlayın
  • Karşıt (adversarial) eğitim
  • Sürekli iyileştirme

Farklı renklerde şekiller koleksiyonu ve onlardan seçilmiş temsilî bir örneklem

Üretken Yapay Zeka Kavramları

Hadi pratik yapalım!

Üretken Yapay Zeka Kavramları

Preparing Video For Download...