Penjelasan agnostik model

Konsep Explainable Artificial Intelligence (XAI)

Folkert Stijnman

ML Engineer

Model black box

• Kita tahu apa yang masuk
• Kita tahu apa yang keluar
• Di tengah ada banyak parameter internal

Penjelasan global dan lokal

 

• SHAP (SHapley Additive exPlanations)
• LIME (Local Interpretable Model-agnostic Explanations)

 

SHAP (SHapley Additive exPlanations)

 

• Bertindak seperti detektif
• Lihat tiap fitur
• Membantu menilai dampak relatif tiap bahan pada hasil akhir

Nilai Shapley

• Konsep dari teori permainan kooperatif
• Menilai dampak fitur
• Fitur mana yang penting bagi prediksi model

Pengenalan gambar dengan SHAP

LIME (Local Interpretable Model-agnostic Explanations)

• Bertindak seperti ilmuwan
• Ubah input untuk melihat keluaran
• Bagaimana jika kita ubah beberapa piksel pada gambar ini?

Membangun mobil swakemudi

SHAP

• Pemahaman global
• Dampak fitur mobil pada kinerja keseluruhan

LIME

• Pemahaman lokal
• Dampak fitur mobil pada keputusan spesifik

Ayo berlatih!

Konsep Explainable Artificial Intelligence (XAI)