Modelden bağımsız açıklamalar

Açıklanabilir Yapay Zekâ (XAI) Kavramları

Folkert Stijnman

ML Engineer

Kara kutu modeller

• Ne girdiğini biliyoruz
• Ne çıktığını biliyoruz
• Arada çok sayıda iç parametre var

Küresel ve yerel açıklamalar

 

• SHAP (SHapley Additive exPlanations)
• LIME (Local Interpretable Model-agnostic Explanations)

 

SHAP (SHapley Additive exPlanations)

 

• Bir dedektif gibi davranır
• Her özelliğe bakar
• Her malzemenin nihai sonuca göreli etkisini anlamaya yardım eder

Shapley değerleri

• İş birliğine dayalı oyun teorisi kavramı
• Özelliklerin etkisini değerlendirin
• Modelin tahmininde hangi özellikler önemli

SHAP ile görüntü tanıma

LIME (Local Interpretable Model-agnostic Explanations)

• Bir bilim insanı gibi davranır
• Girdiyi değiştirip çıktıyı gözlemler
• Bu görüntüde bazı pikselleri değiştirirsek ne olur?

Otonom bir araç geliştirmek

SHAP

• Küresel (genel) anlayış
• Araç özelliklerinin genel performansa etkisi

LIME

• Yerel anlayış
• Araç özelliklerinin belirli bir karara etkisi

Haydi pratik yapalım!

Açıklanabilir Yapay Zekâ (XAI) Kavramları