Xử lý ngoại lệ

Phân tích dự đoán nâng cao với Python

Nele Verbiest

Senior Data Scientist @PythonPredictions

Ảnh hưởng của ngoại lệ lên mô hình dự báo

Phân tích dự đoán nâng cao với Python

Nguyên nhân của ngoại lệ

  • Lỗi do con người
  • Lỗi đo lường
  • Giá trị thật sự cực đoan
  • ...
Phân tích dự đoán nâng cao với Python

Khái niệm Winsorization

Phân tích dự đoán nâng cao với Python

Winsorization trong Python

from scipy.stats.mstats import winsorize
basetable["variable_winsorized"] = 
     winsorize(
       basetable["variable"], 
       limits = [0.05,0.01])
Phân tích dự đoán nâng cao với Python

Khái niệm phương pháp độ lệch chuẩn

Phân tích dự đoán nâng cao với Python

Phương pháp độ lệch chuẩn trong Python

mean_age = basetable["age"].mean()
sd_age = basetable["age"].std()
lower_limit = mean_age - 3*sd_age
upper_limit = mean_age + 3*sd_age
basetable["age_no_outliers"] = pd.Series(
                                    [min(max(a,lower_limit), upper_limit) 
                                     for a in basetable["age"]]
                                )
Phân tích dự đoán nâng cao với Python

Cùng luyện tập nào!

Phân tích dự đoán nâng cao với Python

Preparing Video For Download...