統計的検定
統計学 において 、 G 検定は 尤度比検定 または 最大尤度 統計的有意性 検定であり、以前は カイ二乗検定 が推奨されていた状況でますます使用されるようになっています 。 [1]
G の一般式 は
グ
=
2
∑
私
お
私
⋅
行
(
お
私
え
私
)
、
{\displaystyle G=2\sum _{i}{O_{i}\cdot \ln \left({\frac {O_{i}}{E_{i}}}\right)},}
ここで、 はセル内の観測カウント、は 帰無仮説 の下での期待カウント 、は 自然対数 を表し 、合計は空でないすべてのセルに対して行われます。結果は カイ二乗分布 に なります 。
お
私
≥
0
{\textstyle O_{i}\geq 0}
え
私
>
0
{\textstyle E_{i}>0}
行
{\textstyle \ln }
グ
{\textstyle G}
さらに、観測された総数は期待される総数と等しくなければなりません。 ここで、 は観測の総数です。
∑
私
お
私
=
∑
私
え
私
=
いいえ
{\displaystyle \sum _{i}O_{i}=\sum _{i}E_{i}=N}
いいえ
{\textstyle N}
導出
基礎モデルが多項式モデルである場合、
対数尤度比検定 から G 検定の値を導き出すことができます。
それぞれの が、 タイプのオブジェクトが観測された回数である サンプルがあるとします 。さらに、 が 観測されたオブジェクトの合計数であるとします。基礎モデルが多項式であると仮定すると、検定統計量は によって定義されます。ここで、 は 帰無仮説、 はデータが与えられたパラメータの 最大尤度推定値 (MLE)です 。多項式モデルの場合、あるデータが与えられた場合の の MLE は によって定義されることを思い出してください 。さらに、各帰無仮説パラメータを として表すことができます。したがって、 と の表現を 対数尤度比に代入すると、式は に簡略化されます。 変数を および で再ラベル付けします 。 最後 に 、 の係数 (G 検定式をピアソンのカイ 2 乗検定式と漸近的に等しくするために使用) を で乗算して、次の形式を実現します。
x
=
(
x
1
、
…
、
x
メートル
)
{\textstyle x=(x_{1},\ldots ,x_{m})}
x
私
{\textstyle x_{i}}
私
{\textstyle i}
ん
=
∑
私
=
1
メートル
x
私
{\textstyle n=\sum _{i=1}^{m}x_{i}}
行
(
ら
(
θ
〜
|
x
)
ら
(
θ
^
|
x
)
)
=
行
(
∏
私
=
1
メートル
θ
〜
私
x
私
∏
私
=
1
メートル
θ
^
私
x
私
)
{\displaystyle \ln \left({\frac {L({\tilde {\theta }}|x)}{L({\hat {\theta }}|x)}}\right)=\ln \left({\frac {\prod _{i=1}^{m}{\tilde {\theta }}_{i}^{x_{i}}}{\prod _{i=1}^{m}{\hat {\theta }}_{i}^{x_{i}}}}\right)}
θ
〜
{\textstyle {\チルダ {\theta }}}
θ
^
{\displaystyle {\hat {\theta }}}
θ
^
私
{\textstyle {\hat {\theta }}_{i}}
θ
^
私
=
x
私
ん
{\displaystyle {\hat {\theta }}_{i}={\frac {x_{i}}{n}}}
θ
〜
私
{\displaystyle {\tilde {\theta }}_{i}}
θ
〜
私
=
e
私
ん
{\displaystyle {\tilde {\theta }}_{i}={\frac {e_{i}}{n}}}
θ
〜
{\textstyle {\チルダ {\theta }}}
θ
^
{\textstyle {\hat {\theta }}}
行
(
ら
(
θ
〜
|
x
)
ら
(
θ
^
|
x
)
)
=
行
∏
私
=
1
メートル
(
e
私
x
私
)
x
私
=
∑
私
=
1
メートル
x
私
行
(
e
私
x
私
)
{\displaystyle {\begin{aligned}\ln \left({\frac {L({\tilde {\theta }}|x)}{L({\hat {\theta }}|x)}}\right)&=\ln \prod _{i=1}^{m}\left({\frac {e_{i}}{x_{i}}}\right)^{x_{i}}\\&=\sum _{i=1}^{m}x_{i}\ln \left({\frac {e_{i}}{x_{i}}}\right)\\\end{aligned}}}
e
私
{\textstyle e_{i}}
え
私
{\textstyle E_{i}}
x
私
{\textstyle x_{i}}
お
私
{\textstyle O_{i}}
−
2
{\textstyle -2}
グ
=
−
2
∑
私
=
1
メートル
お
私
行
(
え
私
お
私
)
=
2
∑
私
=
1
メートル
お
私
行
(
お
私
え
私
)
{\displaystyle {\begin{alignedat}{2}G&=&\;-2\sum _{i=1}^{m}O_{i}\ln \left({\frac {E_{i}}{O_{i}}}\right)\\&=&2\sum _{i=1}^{m}O_{i}\ln \left({\frac {O_{i}}{E_{i}}}\right)\end{alignedat}}}
経験的に、連続的かつゼロに近づくと想像することができ 、その場合 、ゼロの観測値を持つ項は単純に削除することができます。ただし、この方法を適用するには、各セルの 期待 カウントが各セル ( ) に対して厳密にゼロより大きくなければなりません 。
お
私
{\displaystyle ~O_{i}~}
お
私
行
お
私
→
0
、
{\displaystyle ~O_{i}\ln O_{i}\to 0~,}
え
私
>
0
∀
私
{\displaystyle ~E_{i}>0~\forall \,i~}
配布と使用
観測された頻度は、与えられた期待頻度を持つ分布からのランダムサンプリングによって得られるという帰無仮説が与えられると、 G の 分布は 、対応するカイ二乗検定と同じ数の 自由度を持つ カイ二乗分布 に近似します 。
非常に小さなサンプルの場合、 G 検定よりも、適合度の 多項式検定、分割表のフィッシャー の正確検定 、あるいはベイズ仮説選択の方が適しています 。 [2] マクドナルドは、サンプルの総数が1000未満の場合は、常に正確検定(適合度の正確検定、 フィッシャーの正確検定 )を使用することを推奨しています。
1,000 というサンプル サイズには何ら不思議な意味はなく、正確検定、カイ二乗検定、 G検定でほぼ同一の p 値が得られる範囲内にあるちょうどよい丸い数字というだけです 。スプレッドシート、Web ページ計算機、 SAS では、1,000 というサンプル サイズで正確検定を実行しても問題はありません。
— ジョン・H・マクドナルド [2]
G 検定は、少なくとも ロバート・R・ソーカル と F・ジェームズ・ロルフ による統計学の教科書 『バイオメトリクス』 の1981年版以来推奨されている。 [3]
他の指標との関係
カイ二乗検定との関係
分布への適合度や 分割表 における独立性を調べるために一般的に使用される カイ2乗検定は 、実際には G 検定の基礎となる 対数尤度比 の近似値である。 [4]
ピアソンのカイ二乗検定統計量の一般的な式は
χ
2
=
∑
私
(
お
私
−
え
私
)
2
え
私
。
{\displaystyle \chi^{2}=\sum_{i}{\frac{\left(O_{i}-E_{i}\right)^{2}}{E_{i}}}~.}
G のカイ二乗による近似値は 、1 付近の自然対数の 2 次 テイラー展開 によって得られます (下記の「導出 (カイ二乗)」を参照)。観測カウントが 期待カウントに近い場合、次の式が得られます。 ただし、この差が大きい場合、 近似値は崩れ始めます。ここでは、データ内の外れ値の影響がより顕著になり、これが、 データが少ない状況でテストが失敗する理由を説明しています。
グ
≈
χ
2
{\displaystyle G\approx \chi ^{2}}
お
私
{\displaystyle ~O_{i}~}
え
私
。
{\displaystyle ~E_{i}~.}
χ
2
{\displaystyle ~\chi ^{2}~}
χ
2
{\displaystyle ~\chi ^{2}~}
適度な大きさのサンプルであれば、 G 検定とカイ二乗検定は同じ結論に至ります。しかし、 G検定の理論的なカイ二乗分布への近似値は、 ピアソンのカイ二乗検定 よりも優れています 。 [5] セルのケースによって は、 G 検定がカイ二乗検定よりも常に優れている場合があります。 [ 要出典 ]
お
私
>
2
⋅
え
私
{\displaystyle ~O_{i}>2\cdot E_{i}~}
適合度を検定する場合、 G 検定はバハドゥールの意味ではカイ二乗検定より はるかに 効率的であるが、ピットマンの意味やホッジスとレーマンの意味では2つの検定は同等に効率的である。 [6] [7]
導出(カイ二乗)
考慮する
グ
=
2
∑
私
お
私
行
(
お
私
え
私
)
、
{\displaystyle G=2\sum _{i}{O_{i}\ln \left({\frac {O_{i}}{E_{i}}}\right)}~,}
を とすると 、カウントの総数は同じままです。代入すると、
お
私
=
え
私
+
δ
私
{\displaystyle O_{i}=E_{i}+\delta _{i}}
∑
私
δ
私
=
0
、
{\displaystyle \sum _{i}\delta _{i}=0~,}
グ
=
2
∑
私
(
え
私
+
δ
私
)
行
(
1
+
δ
私
え
私
)
。
{\displaystyle G=2\sum _{i}{(E_{i}+\delta _{i})\ln \left(1+{\frac {\delta _{i}}{E_{i}}}\right)}~.}
の周りのテイラー展開は、 を使って実行できる 。結果は次のようになる。
1
+
δ
私
え
私
{\displaystyle 1+{\frac {\delta _{i}}{E_{i}}}}
行
(
1
+
x
)
=
x
−
1
2
x
2
+
お
(
x
3
)
{\displaystyle \ln(1+x)=x-{\frac {1}{2}}x^{2}+{\mathcal {O}}(x^{3})}
グ
=
2
∑
私
(
え
私
+
δ
私
)
(
δ
私
え
私
−
1
2
δ
私
2
え
私
2
+
お
(
δ
私
3
)
)
、
{\displaystyle G=2\sum _{i}(E_{i}+\delta _{i})\left({\frac {\delta _{i}}{E_{i}}}-{\frac {1}{2}}{\frac {\delta _{i}^{2}}{E_{i}^{2}}}+{\mathcal {O}}\left(\delta _{i}^{3}\right)\right)~,}
そして、見つけた用語を分配すると、
グ
=
2
∑
私
δ
私
+
1
2
δ
私
2
え
私
+
お
(
δ
私
3
)
。
{\displaystyle G=2\sum _{i}\delta _{i}+{\frac {1}{2}}{\frac {\delta _{i}^{2}}{E_{i}}}+{\mathcal {O}}\left(\delta _{i}^{3}\right)~.}
さて、事実とを使って 、 結果を書きます。
∑
私
δ
私
=
0
{\displaystyle ~\sum _{i}\delta _{i}=0~}
δ
私
=
お
私
−
え
私
、
{\displaystyle ~\delta _{i}=O_{i}-E_{i}~,}
グ
≈
∑
私
(
お
私
−
え
私
)
2
え
私
。
{\displaystyle ~G\approx \sum _{i}{\frac {\left(O_{i}-E_{i}\right)^{2}}{E_{i}}}~.}
カルバック・ライブラー距離との関係
G 検定統計量は 、理論分布と経験分布の
Kullback-Leiblerダイバージェンス に比例します。
グ
=
2
∑
私
お
私
⋅
行
(
お
私
え
私
)
=
2
いいえ
∑
私
o
私
⋅
行
(
o
私
e
私
)
=
2
いいえ
だ
け
ら
(
o
‖
e
)
、
{\displaystyle {\begin{aligned}G&=2\sum _{i}{O_{i}\cdot \ln \left({\frac {O_{i}}{E_{i}}}\right)}=2N\sum _{i}{o_{i}\cdot \ln \left({\frac {o_{i}}{e_{i}}}\right)}\\&=2N\,D_{\mathrm {KL} }(o\|e),\end{aligned}}}
ここで、 N は 観測の総数であり、 および は それぞれ経験的頻度と理論的な頻度です。
o
私
{\displaystyle o_{i}}
e
私
{\displaystyle e_{i}}
分割表 の分析では、 G の値は 相互情報 量で表すこともできます 。
させて
いいえ
=
∑
私
じゅう
お
私
じゅう
{\displaystyle N=\sum _{ij}{O_{ij}}\;}
、 、 、 そして 。
π
i
j
=
O
i
j
N
{\displaystyle \;\pi _{ij}={\frac {O_{ij}}{N}}\;}
π
i
.
=
∑
j
O
i
j
N
{\displaystyle \;\pi _{i.}={\frac {\sum _{j}O_{ij}}{N}}\;}
π
.
j
=
∑
i
O
i
j
N
{\displaystyle \;\pi _{.j}={\frac {\sum _{i}O_{ij}}{N}}\;}
G は いくつかの 代替形式で表現できます。
G
=
2
⋅
N
⋅
∑
i
j
π
i
j
(
ln
(
π
i
j
)
−
ln
(
π
i
.
)
−
ln
(
π
.
j
)
)
,
{\displaystyle G=2\cdot N\cdot \sum _{ij}{\pi _{ij}\left(\ln(\pi _{ij})-\ln(\pi _{i.})-\ln(\pi _{.j})\right)},}
G
=
2
⋅
N
⋅
[
H
(
r
)
+
H
(
c
)
−
H
(
r
,
c
)
]
,
{\displaystyle G=2\cdot N\cdot \left[H(r)+H(c)-H(r,c)\right],}
G
=
2
⋅
N
⋅
MI
(
r
,
c
)
,
{\displaystyle G=2\cdot N\cdot \operatorname {MI} (r,c)\,,}
ここで 離散確率変数の エントロピーは 次のように定義される。
X
{\displaystyle X\,}
H
(
X
)
=
−
∑
x
∈
Supp
(
X
)
p
(
x
)
log
p
(
x
)
,
{\displaystyle H(X)=-{\sum _{x\in {\text{Supp}}(X)}p(x)\log p(x)}\,,}
そしてどこで
MI
(
r
,
c
)
=
H
(
r
)
+
H
(
c
)
−
H
(
r
,
c
)
{\displaystyle \operatorname {MI} (r,c)=H(r)+H(c)-H(r,c)\,}
分割表の
行ベクトル r と列ベクトル c間の 相互情報量 です。
また、 テキスト検索に一般的に使用される逆文書頻度重み付けは、クエリの行の合計がコーパスの残りの行の合計よりもはるかに小さい場合に適用される G の近似値であることが 示さ れ て い ます [ 引用が必要 ]。同様に、分割表のすべての行をまとめて単一の多項分布を選択した場合と、行ごとに個別の多項分布を選択した場合のベイズ推論の結果は、 G統計量と非常によく似た結果になります [ 引用が必要 ] 。
応用
統計遺伝学 における マクドナルド ・クライトマン検定は、 G 検定の応用です 。
ダニング [8] はこのテストを 計算言語学の コミュニティに導入し、現在では広く使用されています。
R-scapeプログラム( Rfam が使用)はG検定を使用してRNA配列アライメント位置間の共変動を検出します。 [9]
統計ソフトウェア
R では、 高速実装は AMR および Rfast パッケージで見つかります。AMR パッケージの場合、コマンドは で、これは ベース R と g.testまったく同じように機能します。R には、Deducer パッケージの probably.test Archived 2013-12-16 at the Wayback Machine 関数もあります 。 注意: R プログラミング言語 の GeneCycle パッケージ ( ) の Fisher の G検定は、この記事で説明されている G 検定を実装しているので はなく、時系列におけるガウス白色ノイズの Fisher の正確な検定を実装しています。 [10] chisq.testfisher.g.test
G 統計量とそれに対応する p 値を計算する別の R 実装は、R パッケージ entropy によって提供されます。コマンドは、 Gstat標準 G 統計量とそれに対応する p 値用と、 Gstatindep独立性をテストするために結合分布と積分布を比較するために適用される G 統計量用です。
SAS では 、 の後にオプションを適用することで G 検定を実施することができる 。 [11] /chisqproc freq
Stata では、コマンド の後にオプション を適用することで G 検定を実行できます 。 lrtabulate
Java では を 使用します org.apache.commons.math3.stat.inference.GTest。 [12]
Python では 、 scipy.stats.power_divergenceを使用します lambda_=0。 [13]
参考文献
^ McDonald, JH (2014). 「適合度のG検定」. 生物統計ハンドブック (第3版). メリーランド州ボルチモア:Sparky House Publishing. pp. 53–58.
^ ab McDonald, John H. (2014). 「カイ二乗検定とG検定における小さな数値」。 生物統計ハンドブック (第3版)。メリーランド州ボルチモア:Sparky House Publishing。pp. 86–89。
^ Sokal, RR; Rohlf, FJ (1981). バイオメトリクス:生物学研究における統計の原理と実践 (第2版). ニューヨーク:フリーマン. ISBN 978-0-7167-2411-7 。
^ Hoey, J. (2012). 「2元配置尤度比(G)検定と2元配置カイ2乗検定との比較」. arXiv : 1206.4881 [stat.ME].
^ Harremoës, P.; Tusnády, G. (2012). 「情報分散はカイ二乗統計よりもカイ二乗分布に近い」 Proceedings ISIT 2012 . pp. 538–543. arXiv : 1202.1125 . Bibcode :2012arXiv1202.1125H.
^ Quine, MP; Robinson, J. (1985). 「カイ二乗検定と尤度比適合度検定の効率」 Annals of Statistics . 13 (2): 727–742. doi : 10.1214/aos/1176349550 .
^ Harremoës, P.; Vajda, I. (2008). 「エントロピーによる均一性の Bahadur 効率テストについて」. IEEE Transactions on Information Theory . 54 : 321–331. CiteSeerX 10.1.1.226.8051 . doi :10.1109/tit.2007.911155. S2CID 2258586.
^ Dunning, Ted (1993). 「驚きと 偶然 の一致の統計のための正確な方法 」、 計算言語学 、第 19 巻、第 1 号 (1993 年 3 月)。
^ Rivas, Elena (2020年10月30日). 「正と負の進化情報を用いたRNA構造予測」. PLOS Computational Biology . 16 (10): e1008387. doi : 10.1371/journal.pcbi.1008387 . PMC 7657543 .
^ Fisher, RA (1929). 「調和解析における有意性の検定」 Proceedings of the Royal Society of London A . 125 (796): 54–59. Bibcode :1929RSPSA.125...54F. doi : 10.1098/rspa.1929.0151 . hdl : 2440/15201 .
^ 独立性の G 検定、適合度の G 検定、デラウェア大学生物統計ハンドブック。(pp. 46–51, 64–69 in: McDonald, JH (2009) Handbook of Biological Statistics (2nd ed.). Sparky House Publishing, Baltimore, Maryland.)
^ org.apache.commons.math3.stat.inference.GTest
^ 「Scipy.stats.power_divergence — SciPy v1.7.1 マニュアル」。
外部リンク