Random forests

Machine Learning สำหรับการเงินด้วย Python

Nathan George

Data Science Professor

การฟิตแบบพหุนาม

การฟิตแบบเส้นตรง

Random forests

random forest graphviz

Bootstrap aggregating (bagging)

bootstrapping

Feature sampling

Random Forests

กลุ่ม (ensemble) ของ decision trees
Bootstrap aggregating (bagging)
สุ่มเลือก feature ที่แต่ละจุดแบ่ง

การใช้งานใน sklearn

from sklearn.ensemble import RandomForestRegressor

random_forest = RandomForestRegressor()
random_forest.fit(train_features, train_targets)
print(random_forest.score(train_features, train_targets))

Hyperparameters

random_forest = RandomForestRegressor(n_estimators=200,
                                      max_depth=5,
                                      max_features=4,
                                      random_state=42)

ParameterGrid

from sklearn.model_selection import ParameterGrid

grid = {'n_estimators': [200], 
        'max_depth':[3, 5], 
        'max_features': [4, 8]}


from pprint import pprint
pprint(list(ParameterGrid(grid)))

[{'max_depth': 3, 'max_features': 4, 'n_estimators': 200},
 {'max_depth': 3, 'max_features': 8, 'n_estimators': 200},
 {'max_depth': 5, 'max_features': 4, 'n_estimators': 200},
 {'max_depth': 5, 'max_features': 8, 'n_estimators': 200}]

ParameterGrid

test_scores = []
# วนลูปผ่าน parameter grid, กำหนด hyperparameters และบันทึกคะแนน
for g in ParameterGrid(grid):
    rfr.set_params(**g)  # ** คือการ "unpack" dictionary
    rfr.fit(train_features, train_targets)
    test_scores.append(rfr.score(test_features, test_targets))

# หา hyperparameters ที่ดีที่สุดจากคะแนนทดสอบและแสดงผล
best_idx = np.argmax(test_scores)
print(test_scores[best_idx])
print(ParameterGrid(grid)[best_idx])

0.05594252725411142
{'max_depth': 5, 'max_features': 8, 'n_estimators': 200}

มาสร้าง random forests กันเถอะ!

Machine Learning สำหรับการเงินด้วย Python