一般化関数線形モデル

一般化関数線形モデル（GFLM ）は、一般化線形モデル（GLM）の拡張であり、様々なタイプ（連続または離散）の単変量応答を、主に二乗可積分確率過程によって生成されるランダム軌跡である関数予測子に回帰させることができます。GLMと同様に、リンク関数は応答変数の期待値を線形予測子に関連付けます。GFLMの場合、これはランダム予測子関数のスカラー積を形成することによって得られます。${\displaystyle X}$滑らかなパラメータ関数${\displaystyle \beta }$関数線形回帰、関数ポアソン回帰、関数二項回帰、そして重要な関数ロジスティック回帰は、GFLM の特殊なケースです。GFLM の応用には、確率過程と関数データの分類と識別が含まれます。^{[ 1 ]}

GFLMの重要な側面は、滑らかなパラメータ関数の推定と推論である。${\displaystyle \beta }$これは通常、無限次元関数予測子の次元削減によって得られる。一般的な方法は、予測関数を展開することである。${\displaystyle X}$L ²空間の正規直交基底において、二乗可積分関数のヒルベルト空間において、パラメータ関数を同じ基底で同時に展開します。この表現は、パラメータ関数の寄与を減らすための切り捨てステップと組み合わされます。${\displaystyle \beta }$線形予測子を有限個の回帰係数に縮小します。カルーネン・レーヴェ展開を用いる関数主成分分析（FPCA）は、この目的を達成するための一般的かつ簡潔な手法です。フーリエ展開やBスプライン展開などの他の直交展開も、次元削減ステップに利用できます。含まれる成分の数を選択するには、赤池情報量規準（AIC）を使用できます。分類アプリケーションでよく使用される別の基準として、交差検証予測誤差の最小化があります。予測プロセスの次元が削減されると、簡略化された線形予測子を使用して、GLMおよび準尤度推定手法により、有限次元の回帰係数の推定値を取得できます。これにより、パラメータ関数の推定値が得られます。${\displaystyle \beta }$GFLMにおいて。

必要な次元削減を実行するために、中心化された予測プロセス${\displaystyle X^{c}(t)}$ そしてパラメータ関数${\displaystyle \beta (t)}$は次のように展開されます。

${\displaystyle X^{c}(t)=\sum _{j=1}^{\infty }\xi _{j}\rho _{j}(t){\text{ および }}\beta (t)=\sum _{j=1}^{\infty }\beta _{j}\rho _{j}(t),}$

どこ${\displaystyle \rho _{j},j=1,2,\ldots }$は関数空間の正規直交基底である。${\displaystyle L^{2}(dw),}$そのため${\displaystyle \int _{T}\rho _{j}(t)\rho _{k}(t)\,dw(t)=\delta _{jk}}$どこ${\displaystyle \delta _{jk}=1}$もし${\displaystyle j=k}$そして${\displaystyle 0}$さもないと。

ランダム変数$\displaystyle \xi _{j}}$は${\displaystyle \xi _{j}=\int X^{c}(t)\rho _{j}(t)\,dw(t)}$そして係数$\displaystyle \beta _{j}}$として${\displaystyle \beta _{j}=\int \beta (t)\rho _{j}(t)\,dw(t)}$のために${\displaystyle j=1,2,\ldots }$。

${\displaystyle {\text{E}}(\xi _{j})=0}$そして${\displaystyle \sum _{j=1}^{\infty }\beta _{j}^{2}<\infty }$そして、${\displaystyle \sigma _{j}^{2}={\text{Var}}(\xi _{j})={\text{E}}(\xi _{j}^{2})}$、 それで${\displaystyle \sum _{j=1}^{\infty }\sigma _{j}^{2}=\int {\text{E}}(X^{c}(t))^{2}\,dw(t)<\infty }$。

基底関数の正規直交性から${\displaystyle \rho _{j}}$そこから直ちに次のことが導かれる。${\displaystyle \int X^{c}(t)\beta (t)\,dw(t)=\sum _{j=1}^{\infty }\beta _{j}\xi _{j}}$。

重要なステップは、近似することです。${\displaystyle \eta =\alpha +\int X^{c}(t)\beta (t)\,dw(t)=\alpha +\sum _{j=1}^{\infty }\beta _{j}\xi _{j}}$による${\displaystyle \eta \approx \alpha +\sum _{j=1}^{p}\beta _{j}\xi _{j}}$適切に選択された切り捨て点の場合${\displaystyle p}$。

FPCAは、与えられた基底関数の数に対して、線形予測子の最も簡潔な近似値を提供する。これは、固有関数基底が他のどの基底関数セットよりも多くの変動を説明するためである。

有界な一次導関数を持つ微分可能なリンク関数の場合、${\displaystyle p}$-切り捨てモデル、つまり最初の項の合計に切り捨てられた線形予測子${\displaystyle p}$構成要素は、定数倍です${\displaystyle {\text{Var}}(\sum _{j=p+1}^{\infty }\beta _{j}\xi _{j})={\text{E}}\left(\left(\sum _{j=p+1}^{\infty }\beta _{j}\xi _{j}\right)^{2}\right)=\sum _{j=p+1}^{\infty }\beta _{j}\sigma _{j}^{2}}$。

切り捨て戦略のヒューリスティックな動機は、次の事実から生じる。${\displaystyle {\text{E}}\left(\left(\sum _{j=p+1}^{\infty }\beta _{j}\xi _{j}\right)^{2}\right)=\sum _{j=p+1}^{\infty }\beta _{j}\sigma _{j}^{2}\leq \sum _{j=p+1}^{\infty }\beta _{j}^{2}\ \sum _{j=p+1}^{\infty }\sigma _{j}^{2}}$これはコーシー・シュワルツの不等式の結果であり、最後の不等式の右辺が 0 に収束することに注目すると、${\displaystyle p\rightarrow \infty }$両方とも${\displaystyle \sum _{j=1}^{\infty }\beta _{j}^{2}}$そして${\displaystyle \sum _{j=1}^{\infty }\sigma _{j}^{2}}$有限である。

固有関数基底の特殊な場合、数列${\displaystyle \sigma _{j}^{2},j=1,2,\ldots }$共分散カーネルの固有値のシーケンスに対応する${\displaystyle G(s,t)={\text{Cov}}(X(s),X(t)),\ s,t\in T}$。

データの場合${\displaystyle n}$独立同分布観測、設定${\displaystyle \xi _{j}^{0}=1}$、${\displaystyle \beta _{0}=\alpha }$そして${\displaystyle \xi _{j}^{i}=\int X_{i}(t)\rho _{j}(t)\,dw(t)}$近似線形予測子は次のように表すことができます。${\displaystyle \eta _{i}=\sum _{j=0}^{p}\beta _{j}\xi _{j}^{i},i=1,2,\ldots ,n}$手段に関連する${\displaystyle \mu _{i}=g(\eta _{i})}$。

主な目的は、パラメータ関数を推定することです。${\displaystyle \beta }$。

一度${\displaystyle p}$修正済みなので、標準的な GLM および準尤度法を使用できます。${\displaystyle p}$- 推定するための切り捨てモデル${\displaystyle {\boldsymbol {\beta }}^{T}=(\beta _{0},\beta _{1},\ldots ,\beta _{p})}$推定方程式またはスコア方程式を解くことによって${\displaystyle U(\beta )=0.}$

ベクトル値スコア関数は次のようになる。${\displaystyle U(\beta )=\sum _{i=1}^{n}(Y_{i}-\mu _{i})g'(\eta _{i})\xi _{i}/\sigma ^{2}(\mu _{i})}$これは${\displaystyle {\boldsymbol {\beta }}}$を通して${\displaystyle \mu }$そして${\displaystyle \eta }$。

GLMと同様に、方程式は${\displaystyle U(\beta )=0}$回帰係数の推定値を得るために、ニュートン・ラフソン法（NR）、フィッシャースコアリング法（FS）、反復重み付き最小二乗法（IWLS）などの反復法を用いて解く。${\displaystyle {\boldsymbol {\hat {\beta }}}}$パラメータ関数の推定値が得られる${\displaystyle {\hat {\beta }}(t)={\hat {\beta }}_{o}+\sum _{j=1}^{p}{\hat {\beta }}_{j}\rho _{j}(t)}$正規リンク関数を使用する場合、これらの方法は同等です。

結果は文献で入手可能です${\displaystyle p}$-切り捨てモデルとして${\displaystyle p\rightarrow \infty }$これらは、推定されたパラメトリック関数と真のパラメトリック関数との偏差に対する漸近推論、および回帰効果に対する漸近検定と漸近信頼領域を提供する。

応答変数${\displaystyle Y_{i}}$与えられた${\displaystyle X_{i}\in L^{2}(T)}$が1パラメータ指数型分布族に従う場合、その確率密度関数または確率質量関数（場合による）は次のようになる。

${\displaystyle f(y_{i}\mid X_{i})=\exp \left({\frac {y_{i}\theta _{i}-b(\theta _{i})}{\phi }}+c(y_{i},\phi )\right)}$

一部の機能については${\displaystyle b}$そして${\displaystyle c}$、 どこ${\displaystyle \theta _{i}}$は正準パラメータであり、${\displaystyle \phi }$は分散パラメータであり、通常は正の値であると仮定される。

標準的な設定では、${\displaystyle \eta _{i}=\alpha +\int X_{i}^{c}(t)\beta (t)\,dw(t)=\theta _{i}}$指数型分布族の性質から、

${\displaystyle \mu _{i}=b'(\theta _{i}),{\text{ and so }}\mu _{i}=b'(\eta _{i}).}$

したがって${\displaystyle b'}$リンク関数として機能し、正準リンク関数と呼ばれます。

${\displaystyle {\text{Var}}(y_{i})=\phi b''(\theta _{i})=\phi b''(\eta _{i})=\phi g'(\eta _{i})=\phi g'(g^{-1}(\mu _{i})))}$は対応する分散関数であり、${\displaystyle \phi }$分散パラメータ。

GFLM の拡張は、予測関数が複数ある場合について提案されています。^{[ 2 ]}もう 1 つの一般化は、セミ パラメトリック準尤度回帰 (SPQR) ^{[ 1 ]}と呼ばれ 、リンク関数と分散関数が未知であり、データからノン パラメトリックに推定される状況を考慮しています。この状況は、例えばスライス逆回帰 (SIR) を使用した単一または複数のインデックス モデルでも処理できます。

この分野のもう1つの拡張は、関数一般化加法モデル（FGAM）^{[ 3 ]}であり、これは一般化加法モデル（GAM）の一般化である。

${\displaystyle g^{-1}(\operatorname {E} (Y\mid X))=\alpha +\sum _{j=1}^{p}f_{j}(\xi _{j}),}$

どこ${\displaystyle \xi _{j}}$はランダム予測関数の展開係数である。${\displaystyle X}$そしてそれぞれ${\displaystyle f_{j}}$は推定する必要のある未知の滑らかな関数であり、${\displaystyle {\text{E}}(f_{j}(\xi _{j}))=0.}$。

一般的に、FGAM での推定には IWLS とバックフィッティングを組み合わせる必要があります。ただし、展開係数が関数主成分として得られる場合、場合によっては (例えばガウス予測関数)${\displaystyle X}$) それらは独立しており、その場合はバックフィッティングは不要であり、未知のパラメータ関数を推定するために一般的な平滑化手法を用いることができる。${\displaystyle f_{j}}$。

関数データ解析の分野で数多くの分析に用いられてきた一般的なデータセットは、地中海ミバエ（略してメドフライ）1000匹が死ぬまで毎日産む卵の数である。ここに示すグラフは、約600匹の雌ミバエ（生涯で少なくとも20個の卵を残す個体）の生後25日間の産卵軌跡を示しています。赤色の曲線は、25歳以降に産卵数が中央値より少ないハエを表し、青色の曲線は、25歳以降に産卵数が中央値より多いハエを表します。初期の産卵軌跡を予測因子とし、その後のハエの寿命を応答として、ミバエを長寿または短命に分類するという関連問題がGFLM ^{[ 1 ]で研究されています。}