モデル式

Pythonで学ぶ一般化線形モデル

Ita Cirovic Donev

Data Science Consultant

式とモデル行列

データソース X と Y から始まる図

Pythonで学ぶ一般化線形モデル

式とモデル行列

式の図

Pythonで学ぶ一般化線形モデル

式とモデル行列

モデル行列の図

Pythonで学ぶ一般化線形モデル

式とモデル行列

glm クラスへの入力の図

Pythonで学ぶ一般化線形モデル

モデル行列

  • モデル行列: y ∼ 𝐗

  • モデル式

    'y ~ x1 + x2'
    
  • モデル行列の構造を確認
    from patsy import dmatrix
    dmatrix('x1 + x2')
    
  Intercept  x1  x2
          1   1   4
          1   2   5
          1   3   6
Pythonで学ぶ一般化線形モデル

変数変換

import numpy as np
'y ~ x1 + np.log(x2)'
dmatrix('x1 + np.log(x2)')
DesignMatrix の形状 (3, 3)
  Intercept  x1  np.log(x2)
          1   1     1.38629
          1   2     1.60944
          1   3     1.79176
Pythonで学ぶ一般化線形モデル

中心化と標準化

  • 状態保持型の変換
'y ~ center(x1) + standardize(x2)'
dmatrix('center(x1) + standardize(x2)')
DesignMatrix の形状 (3, 3)
  Intercept  center(x1)  standardize(x2)
          1          -1         -1.22474
          1           0          0.00000
          1           1          1.22474
Pythonで学ぶ一般化線形モデル

独自の変換を作る

def my_transformation(x):
  return 4 * x
dmatrix('x1 + x2 + my_transformation(x2)')
DesignMatrix の形状 (3, 4)
  Intercept  x1  x2  my_transformation(x2)
          1   1   4                     16
          1   2   5                     20
          1   3   6                     24
Pythonで学ぶ一般化線形モデル

算術演算

x1 = np.array([1, 2, 3])
x2 = np.array([4,5,6])

dmatrix('I(x1 + x2'))
DesignMatrix の形状 (3, 2)
  Intercept  I(x1 + x2)
          1           5
          1           7
          1           9
x1 = [1, 2, 3]
x2 = [4,5,6]

dmatrix('I(x1 + x2)')
DesignMatrix の形状 (6, 2)
  Intercept  I(x1 + x2)
          1           1
          1           2
          1           3
          1           4
          1           5
          1           6
Pythonで学ぶ一般化線形モデル

カテゴリデータのコーディング

色タイプ: red、green、blue

Pythonで学ぶ一般化線形モデル

カテゴリデータのコーディング

色タイプ: red、green、blue とデータ内の観測の図

Pythonで学ぶ一般化線形モデル

カテゴリデータのコーディング

red、green、blue を用いたワンホットエンコーディングの図

Pythonで学ぶ一般化線形モデル

Patsy のコーディング

  • 文字列とブールは自動コーディング
  • 数値 → カテゴリ
    • C() 関数
  • 参照群
    • 既定: 最初の群
    • Treatment
    • levels
Pythonで学ぶ一般化線形モデル

C() 関数

  • 数値変数
    dmatrix('color', data = crab)
    
DesignMatrix の形状 (173, 2)
  Intercept  color
          1      2
          1      3
          1      1
  [... 行を省略]
  • レベル数を確認
    crab['color'].value_counts()
    
2    95
3    44
4    22
1    12
Pythonで学ぶ一般化線形モデル

C() 関数

  • カテゴリ変数
    dmatrix('C(color)', data = crab)
    
DesignMatrix の形状 (173, 4)
  Intercept  C(color)[T.2]  C(color)[T.3]  C(color)[T.4]
          1              1              0              0
          1              0              1              0
          1              0              0              0
  [... 行を省略]
Pythonで学ぶ一般化線形モデル

参照群の変更

dmatrix('C(color, Treatment(4))', data = crab)
DesignMatrix の形状 (173, 4)
  Intercept  C(color)[T.1]  C(color)[T.2]  C(color)[T.3]  
          1              0              1              0 
          1              0              0              1 
          1              1              0              0 
  [... 行を省略]
Pythonで学ぶ一般化線形モデル

参照群の変更

l = [1, 2, 3,4]
dmatrix('C(color, levels = l)', data = crab)
DesignMatrix の形状 (173, 4)
  Intercept  C(color)[T.2]  C(color)[T.3]   C(color)[T.4] 
          1               1            0               0     
          1               0            1               0
          1               0            0               0 
  [... 行を省略]
Pythonで学ぶ一般化線形モデル

複数の切片

'y ~ C(color)-1'
dmatrix('C(color)-1', data = crab)
DesignMatrix の形状 (173, 4)
  C(color)[1]  C(color)[2]  C(color)[3]  C(color)[4]
            0            1            0            0
            0            0            1            0
            1            0            0            0
  [... 行を省略]
Pythonで学ぶ一般化線形モデル

練習しましょう!

Pythonで学ぶ一般化線形モデル

Preparing Video For Download...