Yapay zeka risk değerlendirmesi

Artificial Intelligence (AI) Strategy

Vidhi Chugh

AI strategist and ethicist

Etik kılavuzlar

 

• UNESCO
  • Kılavuzlara ihtiyaç
  • Önyargı ve ayrımcılık gibi riskleri önleyin
  • Temel insan hakları

 

¹ https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

YZ riskleri

 

• Ulusal Standartlar ve Teknoloji Enstitüsü (NIST)

  

 

• Meydana gelme olasılığı
• Sonuçların derecesi

¹ https://www.nist.gov/artificial-intelligence

Veri riskleri

• Veri gizliliği
  • Hassas bilgiler

• Veri önyargısı
  • Toplumsal önyargıları sürdürür  

Hatalı yapay zeka örnekleri

 

• Cinsiyet yanlılığı

 

• Irksal ayrımcılık

Veri gizliliği ihlali

• GDPR’a uyumsuzluk için ağır ceza
• Hukuka aykırı veri işleme
• Yüz tanıma için kazınmış görseller

 

İş etkileri

Hukuki

İş etkileri

Hukuki, itibari

İş etkileri

Hukuki, itibar ve finansal zararlar.

Etik çerçeveler

Etik çerçeveler

Etik çerçeveler

Risk değerlendirmesinin temel sütunları

                Gizlilik

                Adillik

             Şeffaflık

             Hesap verebilirlik

Mevzuat ve uyum

• YZ proje yaşam döngüsü

• Mevzuat ve uyum
  • Hesap verebilirlik yönetişim gerektirir
  • Roller ve sorumlulukları belirleyin
  • Veri gizliliği düzenlemelerine uyun
  • Kullanıcı rızası alın ve veriyi anonimleştirin

Veri toplama ve hazırlama

Değerlendirin

• İçeride mevcut mu, dışarıdan tedarik mi?
• Kişisel Tanımlanabilir Bilgiler (PII) gibi hassas veri var mı?
• Nüfus iyi temsil ediliyor mu?

Azaltın

• Veri bütünlüğü süreçleri
• Tanımlayıcı şifreleme, sentetik veri üretimi
• Dengeli veri oluşturun

Model geliştirme ve değerlendirme

• Model çıktılarını açıklayın
  • Açıklanabilirlik ve önyargı tespiti
  • Kategoriler arasında adil muamele

Modeli yayına alma ve izleme

 

• Etki düzeyi

• Azaltma stratejileri belirleyin

 

 

• Sağlık ve finansta maliyet yüksektir

• Model davranışını yeniden hizalayın

 

Hadi pratik yapalım!

Artificial Intelligence (AI) Strategy