回归模型

Python 中的模型验证

Kasey Jones

Data Scientist

scikit-learn 中的随机森林

from sklearn.ensemble import RandomForestRegressor
from sklearn.ensemble import RandomForestClassifier

rfr = RandomForestRegressor(random_state=1111)
rfc = RandomForestClassifier(random_state=1111)

决策树从所有样本开始，自顶向下按不同划分分裂。根据数据特征，每个样本沿树的不同路径前进。

随机森林训练完成后，会对每个样本汇总各棵树的结果（取平均）以得到最终预测。

n_estimators：森林中的树数

max_depth：树的最大深度

random_state：随机种子

from sklearn.ensemble import RandomForestRegressor
rfr = RandomForestRegressor(n_estimators=50, max_depth=10)

rfr = RandomForestRegressor(random_state=1111)
rfr.n_estimators = 50
rfr.max_depth = 10

打印各列对模型的重要性

for i, item in enumerate(rfr.feature_importances_):
    print("{0:s}: {1:.2f}".format(X.columns[i], item))

weight: 0.50
height: 0.39
left_handed: 0.72
union_preference: 0.05
eye_color: 0.03

Python 中的模型验证