模型调优

用 Python 预测 CTR 的机器学习实战

Kevin Huo

Instructor

正则化

正则化示例，蓝色和绿色曲线

  • 正则化：通过约束模型参数系数大小来缓解过拟合
  • 正则化可提升性能指标，从而提高广告花费的 ROI
用 Python 预测 CTR 的机器学习实战

正则化示例

  • 逻辑回归：C 参数是正则化强度的倒数。
  • 从低到高复杂度：C=0.05 < C=0.5 < C=1
  • 决策树：max_depth 控制树的最大深度。
  • 从低到高复杂度：max_depth=3 < max_depth=5 < max_depth=10
用 Python 预测 CTR 的机器学习实战

交叉验证

K 折交叉验证

  • 对每个 k 折：该折作验证集，其余 k-1 折作训练集。
  • 因此得到 k 次模型性能评估。
  • 仍需单独的最终测试集。
用 Python 预测 CTR 的机器学习实战

交叉验证示例

k_fold = KFold(n_splits = 4, random_state = 0, shuffle = True)

for i in [3, 5, 10]:
  clf = DecisionTreeClassifier(max_depth = i)
  cv_precision = cross_val_score(
    clf, X_train, y_train, cv = k_fold, 
    scoring = 'precision_weighted')
  • 评分字符串：precision_weighted, recall_weighted, roc_auc
用 Python 预测 CTR 的机器学习实战

让我们来练习！

用 Python 预测 CTR 的机器学习实战

Preparing Video For Download...