Sorumlu yapay zekâ ölçütleri

Sorumlu AI Veri Yönetimi

Maria Prokofieva

Lead ML Engineer

Yapay zekâ proje yaşam döngüsü

yaşam döngüsü

Sorumlu AI Veri Yönetimi

Sorumlu yapay zekâ projesi

  • Hukuka uygun
  • Adil ve çeşitli
  • Uygulamalar şeffaf, hesap verebilir ve güvenli

 

Model adaleti:

  • Herkes için adil, tarafsız ve eşit sonuçlar üretir

 

yaşam döngüsü

Sorumlu AI Veri Yönetimi

Korunan özellikler

  • Haksız muamele ve ayrımcılığa uğrama olasılığı yüksek gruplar
  • Korunan özelliklerle tanımlanır:
    • Irk
    • Etnik köken
    • Cinsiyet
    • Sosyoekonomik arka plan

Bir grup insan

Sorumlu AI Veri Yönetimi

Veri edinme

  • Eşit çıktılar
  • Demografik fark
  • Yasa ve yönetmelikler

Belgeleri inceleyen kişiler

Sorumlu AI Veri Yönetimi

Yüz tanımada yapay zekâ

  • Yüksek doğruluk

ANCAK

  • Belirli etnik kökenleri veya cinsiyetleri yakalayamaz

NEDEN...

Eksik:

  • Veri bulunabilirliği
  • Çeşitlilik
  • Temsil

 

yüzler

Sorumlu AI Veri Yönetimi

Eşit çıktılar ve demografik fark

Eşit çıktılar: faydalar gruplar arasında eşit

Koşullu demografik fark: gruplar arası farklılıklar

  • Veri çeşitliliğini değerlendirmek için betimsel istatistikler ve dağılımlar kullanın
  • Düzeltici önlemler: ağırlıklandırma ve dengeleme
  • Modellemeden sonra yeniden gözden geçirin
  • Testleri kaydedin

Eşitlik

Sorumlu AI Veri Yönetimi

Modelleme

  • Eşit performans

Örn. tıbbî teşhisler:

  • Bazıları korunan gruplarda daha yaygın

 

  • Yanlış negatif, yanlış pozitif ve doğruluğu değerlendirin
  • Açıklanabilirlik:
    • Local Interpretable Model-agnostic Explanation (LIME)
    • Shapley Additive Explanation (SHAP)

 

Hedefte ıskalanmış atışlarla nişangâh

Sorumlu AI Veri Yönetimi

Dağıtım ve izleme

  • Model sapması:
    • Zamanla model performanslarındaki değişimler

 

  • Dağılımları izleyin
  • Teknik performans ölçütleri
  • Modeli ayarlayın
  • Kaydını tutun!
Sorumlu AI Veri Yönetimi

Ölçütleri uygulama

  • Korunan özellikleri anlayın
  • Daha birçok ölçüt vardır!
  • Her zaman ilgili hukuk ve alan uzmanlarına danışın
  • Gizlilik ve güvenlik kontrolleri yapın

Sorumlu veri boyutları

Sorumlu AI Veri Yönetimi

Hadi pratik yapalım!

Sorumlu AI Veri Yönetimi

Preparing Video For Download...