최종 모델 선택

Python에서의 모델 검증

Kasey Jones

Data Scientist

# Best Score
rs.best_score_

5.45

# Best Parameters
rs.best_params_

{'max_depth': 4, 'max_features': 8, 'min_samples_split': 4}

# Best Estimator
rs.best_estimator_

기타 속성

rs.cv_results_

rs.cv_results_['mean_test_score']

array([5.45, 6.23, 5.87, 5,91, 5,67])

# 선택된 매개변수:
rs.cv_results_['params']

[{'max_depth': 10, 'min_samples_split': 8, 'n_estimators': 25},
 {'max_depth': 4, 'min_samples_split': 8, 'n_estimators': 50},
 ...]

.cv_results_ 사용

최대 깊이별 그룹화:

max_depth = [item['max_depth'] for item in rs.cv_results_['params']]
scores = list(rs.cv_results_['mean_test_score'])
d = pd.DataFrame([max_depth, scores]).T
d.columns = ['Max Depth', 'Score']
d.groupby(['Max Depth']).mean()

Max Depth  Score        
2.0        0.677928
4.0        0.753021
6.0        0.817219
8.0        0.879136
10.0       0.896821

기타 속성 계속

출력 활용:

매개변수별 효과 시각화
결과에 큰 영향을 주는 매개변수 파악

Max Depth  Score        
2.0        0.677928
4.0        0.753021
6.0        0.817219
8.0        0.879136
10.0       0.896821

최적 모델 선택

rs.best_estimator_에는 최적 모델 정보가 있습니다

rs.best_estimator_

RandomForestRegressor(bootstrap=True, criterion='mse', max_depth=8,
           max_features=8, max_leaf_nodes=None, min_impurity_decrease=0.0,
           min_impurity_split=None, min_samples_leaf=1,
           min_samples_split=12, min_weight_fraction_leaf=0.0,
           n_estimators=20, n_jobs=1, oob_score=False, random_state=1111,
           verbose=0, warm_start=False)

모델 유형 비교

랜덤 포레스트:

rfr.score(X_test, y_test)

6.39

그레이디언트 부스팅:

gb.score(X_test, y_test)

6.23

.best_estimator_ 사용

새 데이터 예측:

rs.best_estimator_.predict(<new_data>)

매개변수 확인:

random_search.best_estimator_.get_params()

모델 저장(나중에 사용):

from sklearn.externals import joblib

joblib.dump(rfr, 'rfr_best_<date>.pkl')

연습해 봅시다!

Python에서의 모델 검증