Açıklanabilirlik ve yorumlanabilirlik

Yapay Zekayı Anlamak

Iason Prassides

Content Developer, DataCamp

Açıklanabilirlik ve yorumlanabilirlik

Açıklanabilirlik: insanların, tahminler ve kararlar gibi yapay zekâ çıktılarının erişilebilir ve anlaşılabilir olması

Bir ML penguen sınıflandırıcıda açıklanabilirlik

Yorumlanabilirlik: algoritma, model, veri akışı gibi iç süreçlerin anlaşılması

Karar ağacı tabanlı bir ML modelinde yorumlanabilirlik

Yapay Zekayı Anlamak

Beyaz kutu vs. kara kutu yapay zekâ sistemleri

Beyaz kutu: şeffaf ve kolay yorumlanabilen modeller/sistemler

Beyaz kutu model olarak doğrusal regresyon

Yapay Zekayı Anlamak

Beyaz kutu vs. kara kutu yapay zekâ sistemleri

Beyaz kutu: şeffaf ve kolay yorumlanabilen modeller/sistemler

Doğrusal regresyon ve karar ağacı

Yapay Zekayı Anlamak

Beyaz kutu vs. kara kutu yapay zekâ sistemleri

Beyaz kutu: şeffaf ve kolay yorumlanabilen modeller/sistemler

Doğrusal regresyon ve karar ağacı

Yapay Zekayı Anlamak

Beyaz kutu vs. kara kutu yapay zekâ sistemleri

Kara kutu: daha yüksek karmaşıklık, düşük ya da hiç anlaşılırlık

Kara kutu model olarak derin sinir ağı

Yapay Zekayı Anlamak

Beyaz kutu vs. kara kutu yapay zekâ sistemleri

Kara kutu: daha yüksek karmaşıklık, düşük ya da hiç anlaşılırlık

Kara kutu model olarak derin sinir ağı

Yapay Zekayı Anlamak

Temel Açıklanabilir Yapay Zekâ (XAI) araçları

XAI: yapay zekâ sistemleri ve modellerinin şeffaflığını ve açıklanabilirliğini artıran yöntem ve araçlar XAI araçları

  • Model içgörüsü: kararları anlamak için iç parametreleri inceleme
Yapay Zekayı Anlamak

Temel Açıklanabilir Yapay Zekâ (XAI) araçları

XAI: yapay zekâ sistemleri ve modellerinin şeffaflığını ve açıklanabilirliğini artıran yöntem ve araçlar XAI araçları

  • Model içgörüsü: kararları anlamak için iç parametreleri inceleme
  • Model dokümantasyonu: paylaşılabilir mimari ve tasarım kararları
Yapay Zekayı Anlamak

Temel Açıklanabilir Yapay Zekâ (XAI) araçları

XAI: yapay zekâ sistemleri ve modellerinin şeffaflığını ve açıklanabilirliğini artıran yöntem ve araçlar XAI araçları

  • Model içgörüsü: kararları anlamak için iç parametreleri inceleme
  • Model dokümantasyonu: paylaşılabilir mimari ve tasarım kararları
  • Model görselleştirme: özellikler ve çıktıların insan-dostu sunumu
Yapay Zekayı Anlamak

XAI araçları: özellik önemi

Özellik önemi: özelliklerin (tahminleyicilerin) model çıktısına etkisi/katkısı

  • Veri odaklı modellerin (ML/DL) nasıl karar verdiğini anlama
  • Önyargı gibi sorunları tespit edip azaltma
  • Bir özellik kaldırılırsa performansa etkisi

 

SHAP (SHapley Additive exPlanations)

  • Özellik önemi görselleştirme araç seti

Açıklanabilirlik için SHAP görselleştirmeleri

Yapay Zekayı Anlamak

XAI araçları: özellik önemi

SHAP (SHapley Additive exPlanations)

Üniversite kabul tahmin modeli için SHAP özellik önemi grafiği

Yapay Zekayı Anlamak

XAI araçları: özellik önemi

SHAP (SHapley Additive exPlanations)

 

 

Açıklanabilirlik için SHAP görselleştirmeleri.

Yapay Zekayı Anlamak

XAI araçları: özellik önemi

SHAP (SHapley Additive exPlanations)

Açıklanabilirlik için SHAP görselleştirmeleri

Yapay Zekayı Anlamak

XAI’nin pratik etkileri

  • Algoritmik şeffaflık:
    • Algoritmaların veriyi nasıl işlediği ve karar verdiği

 

  • Yerel ve genel yorumlanabilirlik:
    • Belirli bir tahmin için davranışı anlama, vs
    • Bir veri kümesi veya problemde genel davranışı anlama
  • Etik hususlar:
    • Önyargı, ayrımcılık, uyum vb. etik endişeleri XAI ile ele alma

 

  • İnsan-YZ işbirliği:
    • Güven ve geri bildirime dayalı güvenilir işbirliği
Yapay Zekayı Anlamak

Haydi pratik yapalım!

Yapay Zekayı Anlamak

Preparing Video For Download...