选择最终模型
Python 中的模型验证
Kasey Jones
Data Scientist
# 最佳分数
rs.best_score_
5.45
# 最佳参数
rs.best_params_
{'max_depth': 4, 'max_features': 8, 'min_samples_split': 4}
# 最佳估计器
rs.best_estimator_
其他属性
rs.cv_results_rs.cv_results_['mean_test_score']
array([5.45, 6.23, 5.87, 5,91, 5,67])
# 选择的参数：
rs.cv_results_['params']
[{'max_depth': 10, 'min_samples_split': 8, 'n_estimators': 25},
{'max_depth': 4, 'min_samples_split': 8, 'n_estimators': 50},
...]
使用 .cv_results_
按最大深度分组：
max_depth = [item['max_depth'] for item in rs.cv_results_['params']]
scores = list(rs.cv_results_['mean_test_score'])
d = pd.DataFrame([max_depth, scores]).T
d.columns = ['Max Depth', 'Score']
d.groupby(['Max Depth']).mean()
Max Depth Score
2.0 0.677928
4.0 0.753021
6.0 0.817219
8.0 0.879136
10.0 0.896821
更多属性
输出的用途：
- 可视化各参数的影响
- 推断哪些参数对结果影响更大
Max Depth Score
2.0 0.677928
4.0 0.753021
6.0 0.817219
8.0 0.879136
10.0 0.896821
选择最佳模型
rs.best_estimator_ 包含最佳模型的信息
rs.best_estimator_
RandomForestRegressor(bootstrap=True, criterion='mse', max_depth=8,
max_features=8, max_leaf_nodes=None, min_impurity_decrease=0.0,
min_impurity_split=None, min_samples_leaf=1,
min_samples_split=12, min_weight_fraction_leaf=0.0,
n_estimators=20, n_jobs=1, oob_score=False, random_state=1111,
verbose=0, warm_start=False)
比较模型类型
随机森林：
rfr.score(X_test, y_test)
6.39
梯度提升：
gb.score(X_test, y_test)
6.23
使用 .best_estimator_
预测新数据：
rs.best_estimator_.predict(<new_data>)
查看参数：
random_search.best_estimator_.get_params()
保存模型以便后用：
from sklearn.externals import joblib
joblib.dump(rfr, 'rfr_best_<date>.pkl')
Vamos praticar!
Python 中的模型验证
