模型優先順序

解密 Decision Science

Howard Friedman

Adjunct Professor at Columbia University

從線性迴歸開始,先求簡單

  • 假設成立時,對連續型輸出表現佳
  • 200+ 年在實務分析中的驗證

簡單也有力量

  • 線性迴歸找出資料的最佳擬合直線
  • 經適當轉換,也能刻畫複雜的非線性關係

可解釋性很重要

  • 係數有助於對齊目標
  • 計算快、好說明
     

linear.png

解密 Decision Science

羅吉斯迴歸

許多實務問題需要二元或類別型預測:

  • 詐欺偵測、流失預測、醫療風險模型

coinflip.png

羅吉斯迴歸(logistic regression) 非常靈活

  • 適用二元、多類別,甚至有序結果

機率輸出有助決策

容易解釋與實作

  • 係數顯示各特徵對結果的影響
  • 很適合作為較複雜分類器的基準
解密 Decision Science

特徵轉換

先建立強而有力的基準模型

  • 先做出可用版本,再評估進階模型的價值

特徵轉換能提升效能

  • 如對數或平方等轉換可提高解釋變異
  • 也能改善模型對資料的擬合度

讓模型假設符合資料

  • 有些模型(如線性迴歸)在殘差近常態時表現最佳

  toolbox.png

解密 Decision Science

常見轉換

 

  • 對數與平方根 轉換可壓縮範圍、降低離群值影響
  • 標準化與正規化 使特徵落在相近範圍,單位不一致時特別有用
  • 多項式項(平方、立方等)能以小成本表示複雜非線性關係

 

在轉向複雜模型前,先用轉換強化早期模型

 

transform.png

解密 Decision Science

一起來練習吧!

解密 Decision Science

Preparing Video For Download...