Khả năng giải thích trong mô hình dựa trên cây

Explainable AI trong Python

Fouad Trad

Machine Learning Engineer

Cây quyết định

  • Khối nền tảng của mô hình dựa trên cây
  • Dùng cho hồi quy và phân loại
  • Cấu trúc dạng cây để dự đoán
    • Nhiều quyết định
    • Mỗi quyết định dựa trên một đặc trưng
  • Tự thân có thể giải thích

Minh họa cây quyết định cho thấy dự đoán dựa trên nhiều điều kiện

Explainable AI trong Python

Rừng ngẫu nhiên

  • Gồm nhiều cây quyết định
  • Dùng cho hồi quy và phân loại
  • Làm khó việc diễn giải trực tiếp
  • Tầm quan trọng của đặc trưng
    • Đo mức giảm bất định trong dự đoán
    • Khác với hệ số trong mô hình tuyến tính

Hình ảnh rừng ngẫu nhiên là tập các cây nhận một quan sát, gộp dự đoán để ra dự đoán cuối.

Explainable AI trong Python

Bộ dữ liệu tuyển sinh

Điểm GRE Điểm TOEFL Xếp hạng trường SOP LOR CGPA Trúng tuyển
337 118 4 4.5 4.5 9.65 1
324 107 4 4 4.5 8.87 1
316 104 3 3 3.5 8.00 1
322 110 3 3.5 2.5 8.67 1
314 103 2 2 3 8.21 0 
X_train = data.drop(['Accept'], axis=1)
y_train = data['Accept']
Explainable AI trong Python

Huấn luyện mô hình

from sklearn.tree import DecisionTreeClassifier


tree_model = DecisionTreeClassifier()
tree_model.fit(X_train, y_train)


print(tree_model.feature_importances_)

[0.17936982 0.08878744 0.04388924 
 0.0532897  0.07130751 0.56335628]

from sklearn.ensemble import RandomForestClassifier


forest_model = RandomForestClassifier()
forest_model.fit(X_train, y_train)


print(forest_model.feature_importances_)

[0.25347149 0.17518662 0.06551317 
 0.06758647 0.07866478 0.35957747]
Explainable AI trong Python

Tầm quan trọng của đặc trưng

import matplotlib.pyplot as plt

plt.barh(X_train.columns, 
         tree_model.feature_importances_)
plt.title('Feature Importance - Decision Tree')
plt.show()

Biểu đồ thanh ngang cho thấy CGPA và điểm GRE là đặc trưng quan trọng nhất.

import matplotlib.pyplot as plt

plt.barh(X_train.columns, 
         forest_model.feature_importances_)
plt.title('Feature Importance - Random Forest')
plt.show()

Biểu đồ thanh ngang cho thấy CGPA và điểm GRE là đặc trưng quan trọng nhất.

Explainable AI trong Python

Ayo berlatih!

Explainable AI trong Python

Preparing Video For Download...