コースへようこそ！

XGBoost で学ぶ極限の勾配ブースティング

Sergey Fogelson

Head of Data Science, TelevisaUnivision

XGBoostの前に...

• 以下の基礎を理解する必要があります
  • 教師あり分類
  • 決定木
  • ブースティング

教師あり学習

• ラベル付きデータを使用する
• 過去の行動をある程度把握している

教師あり学習の例

• 画像に人の顔が含まれているか？
• 訓練データ：ピクセル値のベクトル
• ラベル：1または0

教師あり学習：分類

• 結果は二値または多クラス

二値分類の例

• 見積もりに基づき、保険パッケージを購入するか？

多クラス分類の例

• 鳥の種を分類する

AUC：二値分類モデルの評価指標

• ROC曲線下面積（AUC）
• AUCが大きいほど優れたモデル

正解率と混同行列

• 混同行列

• 正解率 $$\frac{tp+tn}{tp+tn+fp+fn}$$

復習

• scikit-learnによる教師あり学習

教師あり学習のその他の考慮事項

• 特徴量は数値型またはカテゴリ型
• 数値特徴量はスケーリング（Z変換）
• カテゴリ特徴量はエンコード（ワンホット）

ランキング

• 選択肢の順序を予測する

推薦

• ユーザーにアイテムを推薦する
• 利用履歴とプロフィールに基づく
• 例：Netflix

練習しましょう！

XGBoost で学ぶ極限の勾配ブースティング