เทคนิคเชิงลึกของ XAI

แนวคิด Explainable Artificial Intelligence (XAI)

Folkert Stijnman

ML Engineer

ความสามารถในการอธิบาย

• ผู้คนจากพื้นหลังที่แตกต่างกันจะตีความผลลัพธ์แตกต่างกัน

ความสามารถในการอธิบาย

• ผู้คนจากพื้นหลังที่แตกต่างกันจะตีความผลลัพธ์แตกต่างกัน

ข้อจำกัดของ XAI

 

• โมเดลที่ซับซ้อนขึ้นมักเข้าใจยาก: black box models
• Black box models: โมเดลที่กระบวนการตัดสินใจไม่โปร่งใสสำหรับมนุษย์
• มีการแลกเปลี่ยนระหว่างประสิทธิภาพและความสามารถในการอธิบาย

สมดุลระหว่างความซับซ้อนและความสามารถในการตีความ

• โมเดลที่ทรงพลังไม่จำเป็นต้องสูญเสียความสามารถในการตีความเสมอไป
• บางเทคนิคมีความแม่นยำลดลงเล็กน้อย แต่ตีความได้ง่ายกว่า

เทคนิคใน XAI

• โมเดลที่ตีความได้โดยออกแบบ: decision trees, linear regression
• เทคนิคการอธิบาย: ให้การประมาณว่าเกิดอะไรขึ้นในกระบวนการตัดสินใจ

มาฝึกกันเถอะ!

แนวคิด Explainable Artificial Intelligence (XAI)