모델 튜닝

Python으로 Machine Learning을 활용한 CTR 예측

Kevin Huo

Instructor

정규화

정규화 예시: 파란색과 초록색 선

정규화: 모델의 매개변수 계수 크기를 조정하여 과적합을 완화
정규화는 성능 지표를 높여 광고 집행 ROI를 개선할 수 있음

정규화 예시

로지스틱 회귀: C는 정규화 강도의 역수입니다.
복잡도 낮음 → 높음: C=0.05 < C=0.5 < C=1
결정 트리: max_depth가 트리의 최대 깊이를 제어합니다.
복잡도 낮음 → 높음: max_depth=3 < max_depth=5 < max_depth=10

교차 검증

K-겹 교차 검증

k개의 폴드 중 해당 폴드는 검증(테스트)으로, 나머지 k-1은 학습으로 사용합니다.
따라서 모델 성능에 대한 평가가 k번 생깁니다.
최종 평가는 별도의 테스트 세트로 수행합니다.

교차 검증 예시

k_fold = KFold(n_splits = 4, random_state = 0, shuffle = True)

for i in [3, 5, 10]:
  clf = DecisionTreeClassifier(max_depth = i)
  cv_precision = cross_val_score(
    clf, X_train, y_train, cv = k_fold, 
    scoring = 'precision_weighted')

스코어링 문자열: precision_weighted, recall_weighted, roc_auc

연습해 봅시다!

Python으로 Machine Learning을 활용한 CTR 예측