Регрессионные модели

Валидация моделей на Python

Kasey Jones

Data Scientist

Случайные леса в scikit-learn

from sklearn.ensemble import RandomForestRegressor
from sklearn.ensemble import RandomForestClassifier

rfr = RandomForestRegressor(random_state=1111)
rfc = RandomForestClassifier(random_state=1111)

Деревья решений начинаются со всех точек и разветвляются сверху вниз на основе различных разбиений. Каждая точка данных проходит по ветвям дерева в зависимости от характеристик данных.

После построения случайного леса результаты отдельных деревьев решений усредняются для каждой точки данных, чтобы получить итоговый прогноз.

Параметры случайного леса

n_estimators: количество деревьев в лесу

max_depth: максимальная глубина деревьев

random_state: случайное зерно

from sklearn.ensemble import RandomForestRegressor
rfr = RandomForestRegressor(n_estimators=50, max_depth=10)

rfr = RandomForestRegressor(random_state=1111)
rfr.n_estimators = 50
rfr.max_depth = 10

Важность признаков

Вывод важности каждого столбца для модели

for i, item in enumerate(rfr.feature_importances_):
    print("{0:s}: {1:.2f}".format(X.columns[i], item))

weight: 0.50
height: 0.39
left_handed: 0.72
union_preference: 0.05
eye_color: 0.03

Давайте начнём

Валидация моделей на Python