Chọn mô hình: hồi quy

Luyện tập câu hỏi phỏng vấn Machine Learning bằng Python

Lisa Stuart

Data Scientist

Đa cộng tuyến

• Tương quan cao giữa biến độc lập
• Hệ số hồi quy ước lượng
  • Mức thay đổi DV do IV giải thích
  • Giữ các biến khác không đổi

¹ https://eigenblogger.com/2010/03/26/post1426/

Tác động của đa cộng tuyến

• Giảm độ lớn hệ số
• Giảm p-value
• Phương sai không ổn định
• Quá khớp
• Ý nghĩa thống kê giảm do sai số chuẩn tăng
• Quan hệ thật với biến đích không rõ ràng

Kỹ thuật xử lý đa cộng tuyến

• Ma trận tương quan
• Bản đồ nhiệt tương quan
• Tính hệ số phóng đại phương sai (VIF)
• Thêm phạt (Ridge, Lasso)
• PCA

Ma trận tương quan vs bản đồ nhiệt

Hệ số phóng đại phương sai (VIF)

Giá trị VIF	Đa cộng tuyến
<= 1	không
> 1	có, nhưng có thể bỏ qua
> 5	có, cần xử lý

Hàm

Hàm/phương thức	trả về
sklearn.linear_model.LinearRegression	Hồi quy tuyến tính
data.corr()	ma trận tương quan
sns.heatmap(corr)	bản đồ nhiệt tương quan
mod.coef_	hệ số ước lượng của mô hình
mean_squared_error(y_test, y_pred)	MSE
r2_score(y_test, y_pred)	điểm R-squared
df.columns	tên cột

Ayo berlatih!

Luyện tập câu hỏi phỏng vấn Machine Learning bằng Python