Giải thích độc lập mô hình

Khái niệm Explainable Artificial Intelligence (XAI)

Folkert Stijnman

ML Engineer

Mô hình hộp đen

• Ta biết đầu vào
• Ta biết đầu ra
• Ở giữa là nhiều tham số nội bộ

Giải thích toàn cục và cục bộ

 

• SHAP (SHapley Additive exPlanations)
• LIME (Local Interpretable Model-agnostic Explanations)

 

SHAP (SHapley Additive exPlanations)

 

• Hành xử như thám tử
• Xem từng đặc trưng
• Giúp xác định tác động tương đối của từng thành phần lên kết quả cuối cùng

Giá trị Shapley

• Khái niệm từ lý thuyết trò chơi hợp tác
• Đánh giá tác động của đặc trưng
• Đặc trưng nào ảnh hưởng đến dự đoán của mô hình

SHAP trong nhận dạng ảnh

LIME (Local Interpretable Model-agnostic Explanations)

• Hành xử như nhà khoa học
• Thay đổi đầu vào để xem kết quả
• Nếu thay đổi vài pixel trong ảnh này thì sao?

Xây dựng xe tự lái

SHAP

• Hiểu toàn cục
• Tác động của đặc trưng xe đến hiệu suất tổng thể

LIME

• Hiểu cục bộ
• Tác động của đặc trưng xe đến một quyết định cụ thể

Hãy luyện tập!

Khái niệm Explainable Artificial Intelligence (XAI)