回帰のレビュー

XGBoost で学ぶ極限の勾配ブースティング

Sergey Fogelson

Head of Data Science, TelevisaUnivision

回帰の基本

  • 目的変数は実数値

XGBoost で学ぶ極限の勾配ブースティング

主な回帰指標

  • 二乗平均平方根誤差 (RMSE)
  • 平均絶対誤差 (MAE)
XGBoost で学ぶ極限の勾配ブースティング

RMSEの計算

実測値 予測値
10 20
3 8
6 1
XGBoost で学ぶ極限の勾配ブースティング

RMSEの計算

実測値 予測値 誤差
10 20 -10
3 8 -5
6 1 5
XGBoost で学ぶ極限の勾配ブースティング

RMSEの計算

実測値 予測値 誤差 二乗誤差
10 20 -10 100
3 8 -5 25
6 1 5 25
  • 二乗誤差の合計: 150
  • 平均二乗誤差: 50
  • 二乗平均平方根誤差: 7.07
XGBoost で学ぶ極限の勾配ブースティング

MAEの計算

実測値 予測値 誤差
10 20 -10
3 8 -5
6 1 5
  • 絶対誤差の合計: 20
  • 平均絶対誤差: 6.67
XGBoost で学ぶ極限の勾配ブースティング

主な回帰アルゴリズム

  • 線形回帰
  • 決定木
XGBoost で学ぶ極限の勾配ブースティング

回帰と分類の両方に使えるアルゴリズム

1 https://www.ibm.com/support/knowledgecenter/en/SS3RA7_15.0.0/ com.ibm.spss.modeler.help/nodes_treebuilding.htm
XGBoost で学ぶ極限の勾配ブースティング

練習しましょう！

XGBoost で学ぶ極限の勾配ブースティング

Preparing Video For Download...