Giới thiệu về tinh chỉnh siêu tham số
Xác thực Mô hình trong Python
Kasey Jones
Data Scientist
Tham số mô hình
Tham số là:
- Được học/ước lượng từ dữ liệu
- Là kết quả của việc fit mô hình
- Dùng cho dự đoán về sau
- Không đặt thủ công
Tham số hồi quy tuyến tính
Tham số được tạo khi fit mô hình:
from sklearn.linear_model import LinearRegression
lr = LinearRegression()
lr.fit(X, y)
print(lr.coef_, lr.intercept_)
[[0.798, 0.452]] [1.786]
Tham số hồi quy tuyến tính
Tham số không tồn tại trước khi fit mô hình:
lr = LinearRegression()
print(lr.coef_, lr.intercept_)
AttributeError: 'LinearRegression' object has no attribute 'coef_'
Siêu tham số mô hình
Siêu tham số:
- Đặt thủ công trước khi huấn luyện
- Quy định cách thức huấn luyện
Siêu tham số random forest
| Siêu tham số | Mô tả | Giá trị khả dĩ (mặc định) |
|---|---|---|
| n_estimators | Số cây quyết định trong rừng | 2+ (10) |
| max_depth | Độ sâu tối đa của cây | 2+ (None) |
| max_features | Số đặc trưng xét khi tách | Xem tài liệu |
| min_samples_split | Số mẫu tối thiểu để tách | 2+ (2) |
Siêu tham số là gì?
Tinh chỉnh siêu tham số:
- Chọn siêu tham số
- Chạy một loại mô hình với nhiều bộ giá trị
- Tạo dải giá trị có thể chọn
- Chỉ định một chỉ số độ chính xác
Chỉ định phạm vi
depth = [4, 6, 8, 10, 12] samples = [2, 4, 6, 8] features = [2, 4, 6, 8, 10]# Specify hyperparameters rfc = RandomForestRegressor( n_estimators=100, max_depth=depth[0], min_samples_split=samples[3], max_features=features[1])rfr.get_params()
{'bootstrap': True,
'criterion': 'mse'
...
}
Quá nhiều siêu tham số!
rfr.get_params()
{'bootstrap': True,
'criterion': 'mse',
'max_depth': 4,
'max_features': 4,
'max_leaf_nodes': None,
'min_impurity_decrease': 0.0,
'min_impurity_split': None,
'min_samples_leaf': 1,
'min_samples_split': 8,
...
}
Hướng dẫn chung
- Bắt đầu từ những điều cơ bản
- Đọc tài liệu hướng dẫn
- Thử các phạm vi thực tế
Ayo berlatih!
Xác thực Mô hình trong Python
