模型調參

用 Python 透過機器學習預測 CTR

Kevin Huo

Instructor

正規化

正規化範例：藍色與綠色折線

  • 正規化：透過調整模型參數係數的大小來處理過度擬合。
  • 正規化可提升效能指標，進而提高廣告花費的 ROI。
用 Python 透過機器學習預測 CTR

正規化範例

  • 邏輯斯回歸：參數 C 為正規化強度的倒數。
  • 複雜度由低到高：C=0.05 < C=0.5 < C=1
  • 決策樹：參數 max_depth 控制樹可延伸的層數。
  • 複雜度由低到高：max_depth=3 < max_depth=5 < max_depth=10
用 Python 透過機器學習預測 CTR

交叉驗證

K 折交叉驗證

  • 在 k 個折疊中，每次以其中 1 折作為測試（驗證）集，其餘 k-1 折作為訓練集。
  • 因此，你會有 k 次模型效能評估。
  • 另外仍保留獨立的最終測試集。
用 Python 透過機器學習預測 CTR

交叉驗證範例

k_fold = KFold(n_splits = 4, random_state = 0, shuffle = True)

for i in [3, 5, 10]:
  clf = DecisionTreeClassifier(max_depth = i)
  cv_precision = cross_val_score(
    clf, X_train, y_train, cv = k_fold, 
    scoring = 'precision_weighted')
  • 評分字串：precision_weighted, recall_weighted, roc_auc
用 Python 透過機器學習預測 CTR

一起來練習吧！

用 Python 透過機器學習預測 CTR

Preparing Video For Download...