一般化線形モデル入門の門の前まで

一般化線形モデルに関して情報の整理を試みます。理解が怪しいので後日追記予定。

一般化線形モデル

【結論】
モデル内のどこかに線形予測子をもつ統計モデルのことです。

係数β_j と変数X を乗じた各特徴量の総和を求める上記のZを「線形予測子」と呼び、一般化線形モデルにおいてはモデル内のどこかに必ず含まれます。

一般線形モデルの特徴

・目的変数yが正規分布に従う、すなわち誤差(実測値-推計値)が正規分布であることを仮定
・μ = z の形でモデルが表現される

一般化線形モデルの特徴

・一般化線形モデルは目的変数μに様々な関数を適用できるという特徴がある。例えば上記は、μにlog link関数を適用した log(μ) = z という式の両辺にexp() した形だが問題なく推計することができる。
・パラメータは最尤推定法によって計算される

一般化線形モデル(GLM)を作るのに必要なパーツ

コードをイメージしてからだと理解が簡単だと思う。

model = glm(target ~ . ,
            family = Gamma(link= "log"),
            data = df)

summary(model)

① family
確率分布や誤差構造と呼ばれる。実測値yはどのような確率分布に従うと考えられるのか。実測値yの分布を見て判断するのが一般的。実測値と予測値の誤差を偏らせることで曲線を表現できる。

データ解析第四回「線形回帰分析の拡張：一般化線形モデル」
http://ibis.t.u-tokyo.ac.jp/suzuki/lecture/2015/dataanalysis/L4.pdf

② link関数
trainデータYとpredictデータYが同一の分布ではない場合を考える。
例えばロジスティック回帰の場合
・学習データYは二値変数
・predictデータYはp(Y=1) すなわち Y=1である確率　を求めたいことが多い

このような場合、trainデータyとpredictデータyをリンクさせるロジット変換などの計算ロジックが必要であり、リンク関数とよぶ。

③ 線形予測子
前述の説明におけるZ であり、指定の仕方は通常の回帰分析と変わらない