Деревья решений

Машинное обучение для финансов на Python

Nathan George

Data Science Professor

Деревья решений

базовое дерево решений

Машинное обучение для финансов на Python

Деревья решений

дерево решений с целевыми значениями

Машинное обучение для финансов на Python

Разбиения дерева решений

разбиение дерева решений по категориальному признаку

Машинное обучение для финансов на Python

Разбиения дерева решений

разбиение дерева решений по числовому признаку

Машинное обучение для финансов на Python

Плохое дерево

неудачное разбиение при регрессии

Машинное обучение для финансов на Python

Хорошее дерево

удачное разбиение при регрессии

Машинное обучение для финансов на Python

Регрессия с деревом решений

предсказания дерева решений

Машинное обучение для финансов на Python

Регрессионные деревья

from sklearn.tree import DecisionTreeRegressor

decision_tree = DecisionTreeRegressor(max_depth=5)

decision_tree.fit(train_features, train_targets)
Машинное обучение для финансов на Python

Гиперпараметры дерева решений

максимальная глубина деревьев

Машинное обучение для финансов на Python

Максимальная глубина 3

дерево решений с максимальной глубиной 3

Машинное обучение для финансов на Python

Оценка модели

print(decision_tree.score(train_features, train_targets))
print(decision_tree.score(test_features, test_targets))

0.6662215501032416
-0.08917300191734268

train_predictions = decision_tree.predict(train_features)
test_predictions = decision_tree.predict(test_features)
plt.scatter(train_predictions, train_targets, label='train')
plt.scatter(test_predictions, test_targets, label='test')
plt.legend()
plt.show()
Машинное обучение для финансов на Python

предсказания vs фактические значения

Машинное обучение для финансов на Python

Давайте потренируемся!

Машинное обучение для финансов на Python

Preparing Video For Download...