การอธิบายแบบ Model-agnostic

แนวคิด Explainable Artificial Intelligence (XAI)

Folkert Stijnman

ML Engineer

โมเดลแบบ Black box

• รู้ว่าอะไรเข้าไป
• รู้ว่าอะไรออกมา
• ในระหว่างนั้นมีพารามิเตอร์ภายในจำนวนมาก

การอธิบายแบบ Global และ Local

 

• SHAP (SHapley Additive exPlanations)
• LIME (Local Interpretable Model-agnostic Explanations)

 

SHAP (SHapley Additive exPlanations)

 

• ทำงานเหมือนนักสืบ
• พิจารณาแต่ละฟีเจอร์
• ช่วยระบุผลกระทบสัมพัทธ์ของแต่ละส่วนประกอบต่อผลลัพธ์สุดท้าย

Shapley values

• แนวคิดจากทฤษฎีเกมแบบความร่วมมือ
• ประเมินผลกระทบของฟีเจอร์
• ระบุว่าฟีเจอร์ใดมีความสำคัญต่อการทำนายของโมเดล

การรู้จำภาพด้วย SHAP

LIME (Local Interpretable Model-agnostic Explanations)

• ทำงานเหมือนนักวิทยาศาสตร์
• เปลี่ยนอินพุตเพื่อดูผลลัพธ์
• จะเกิดอะไรขึ้นถ้าเปลี่ยนบางพิกเซลในภาพนี้?

การสร้างรถยนต์ขับเคลื่อนอัตโนมัติ

SHAP

• ความเข้าใจในระดับ Global
• ผลกระทบของฟีเจอร์รถยนต์ต่อประสิทธิภาพโดยรวม

LIME

• ความเข้าใจในระดับ Local
• ผลกระทบของฟีเจอร์รถยนต์ต่อการตัดสินใจเฉพาะกรณี

มาฝึกกันเถอะ!

แนวคิด Explainable Artificial Intelligence (XAI)