確率分布
確率論 において 、 ロジット正規分布は、 ロジット が 正規分布 する ランダム変数 の 確率分布 です 。Yが正規分布するランダム変数で、tが標準ロジスティック関数である場合 、 X = t ( Y ) は ロジット 正規 分布 になります。同様に、 X がロジット正規分布である場合、 Y = logit ( X )= log ( X /(1- X ))は正規分布します。これは ロジスティック正規分布 としても知られ 、 [1] 多項ロジットバージョンを指すことが多いです（例： [2] [3] [4] ）。
変数が比率であり、0 と 1 で制限され、0 と 1 の値が決して発生しない場合は、その変数はロジット正規としてモデル化される可能性があります。
特徴づけ
確率密度関数 ロジット正規分布の 確率密度関数 ( PDF) は、0 < x < 1 の場合、次のようになります。
ふ
バツ
（ x ; μ 、 σ ） =
1
σ
2 π
1
x （ 1 − x ）
e
−
（ ロジット （ x ） − μ
）
2
2
σ
2
{\displaystyle f_{X}(x;\mu ,\sigma )={\frac {1}{\sigma {\sqrt {2\pi }}}}\,{\frac {1}{x(1-x)}}\,e^{-{\frac {(\operatorname {logit} (x)-\mu )^{2}}{2\sigma ^{2}}}}}
ここで、 μ と σ は 変数の ロジットの 平均 と 標準偏差 です (定義により、変数のロジットは正規分布します)。
μ の符号を変えることによって得られる密度は対称的で、f(1-x;- μ , σ )に等しく 、モードは0.5（(0,1)区間の中点）の反対側にシフトします。
μ （ファセット）と σ （色） のさまざまな組み合わせに対するロジット正規分布の PDF のプロット
瞬間 ロジット正規分布のモーメントには解析解はありません。モーメントは 数値積分 によって推定できますが、 の値が密度関数が端点 0 と 1 で無限大に発散するような値である場合、数値積分は不可能になります。別の方法としては、ロジット正規分布が正規確率変数の変換であるという観察を使用することです。これにより 、次の準モンテカルロ推定によって - 番目のモーメント を近似できます。
μ 、
σ
2
{\textstyle \mu ,\sigma ^{2}}
ん
{\displaystyle n}
え [
バツ
ん
] ≈
1
け − 1
∑
私 = 1
け − 1
（
ポ
（
Φ
μ 、
σ
2
− 1
（ 私
/
け ）
）
）
ん
、
{\displaystyle E[X^{n}]\approx {\frac {1}{K-1}}\sum _{i=1}^{K-1}\left(P\left(\Phi _{\mu ,\sigma ^{2}}^{-1}(i/K)\right)\right)^{n},}
ここで、 は標準ロジスティック関数、 は 平均 と分散 の正規分布の逆累積分布関数です 。 のとき 、これは平均に対応します。
ポ
{\textstyle P}
Φ
μ 、
σ
2
− 1
{\textstyle \Phi _{\mu ,\sigma ^{2}}^{-1}}
μ 、
σ
2
{\textstyle \mu ,\sigma ^{2}}
ん = 1
{\displaystyle n=1}
モードまたはモード 密度の微分が 0 に等しい場合、モード x の位置は次の式を満たします。
ロジット （ x ） =
σ
2
（ 2 x − 1 ） + μ 。
{\displaystyle \operatorname {logit} (x)=\sigma ^{2}(2x-1)+\mu .}
パラメータの値によっては、2 つの解が存在する場合があり、つまり分布は 二峰性に なります。
多変量一般化 ロジスティック 正規分布は、 多変量正規分布のロジスティック変換を行うことで、ロジット正規分布をD次元確率ベクトルに一般化したものである。 [1] [5] [6]
確率密度関数 確率密度関数は次 の ようになります。
ふ
バツ
（
x
;
μ
、
Σ
） =
1
|
（ 2 π
）
だ − 1
Σ
|
1 2
1
∏
私 = 1
だ
x
私
e
−
1 2
{
ログ
（
x
− だ
x
だ
）
−
μ
}
⊤
Σ
− 1
{
ログ
（
x
− だ
x
だ
）
−
μ
}
、
x
∈
S
だ
、
{\displaystyle f_{X}(\mathbf {x} ;{\boldsymbol {\mu }},{\boldsymbol {\Sigma }})={\frac {1}{|(2\pi )^{D-1}{\boldsymbol {\Sigma }}|^{\frac {1}{2}}}}\,{\frac {1}{\prod \limits _{i=1}^{D}x_{i}}}\,e^{-{\frac {1}{2}}\left\{\log \left({\frac {\mathbf {x} _{-D}}{x_{D}}}\right)-{\boldsymbol {\mu }}\right\}^{\top }{\boldsymbol {\Sigma }}^{-1}\left\{\log \left({\frac {\mathbf {x} _{-D}}{x_{D}}}\right)-{\boldsymbol {\mu }}\right\}}\quad ,\quad \mathbf {x} \in {\mathcal {S}}^{D}\;\;,}
ここで、は の 最初の (D-1) 成分のベクトルを表し 、は D 次元確率ベクトルの 単体 を表します。これは、 加法ロジスティック変換を適用して 多変量正規 乱数を 単体に
マッピングすることで得られます。
x
− だ
{\displaystyle \mathbf {x} _{-D}}
x
{\displaystyle \mathbf {x} }
S
だ
{\displaystyle {\mathcal {S}}^{D}}
ええ
〜
いいえ
（
μ
、
Σ
）
、
ええ
∈
R
だ − 1
{\displaystyle \mathbf {y} \sim {\mathcal {N}}\left({\boldsymbol {\mu }},{\boldsymbol {\Sigma }}\right)\;,\;\mathbf {y} \in \mathbb {R} ^{D-1}}
x
=
[
e
ええ
1
1 +
∑
私 = 1
だ − 1
e
ええ
私
、 … 、
e
ええ
だ − 1
1 +
∑
私 = 1
だ − 1
e
ええ
私
、
1
1 +
∑
私 = 1
だ − 1
e
ええ
私
]
⊤
{\displaystyle \mathbf {x} =\left[{\frac {e^{y_{1}}}{1+\sum _{i=1}^{D-1}e^{y_{i}}}},\dots ,{\frac {e^{y_{D-1}}}{1+\sum _{i=1}^{D-1}e^{y_{i}}}},{\frac {1}{1+\sum _{i=1}^{D-1}e^{y_{i}}}}\right]^{\top }}
ガウス密度関数と、ロジスティック変換後の対応するロジスティック正規密度関数。 一意の逆マッピングは次のように与えられます。
ええ
=
[
ログ
（
x
1
x
だ
）
、 … 、 ログ
（
x
だ − 1
x
だ
）
]
⊤
{\displaystyle \mathbf {y} =\left[\log \left({\frac {x_{1}}{x_{D}}}\right),\dots ,\log \left({\frac {x_{D-1}}{x_{D}}}\right)\right]^{\top }}
。 これは、要素の合計が1になるベクトル xの場合です。シグモイド要素を持つ x の場合 、つまり、
ええ
=
[
ログ
（
x
1
1 −
x
1
）
、 … 、 ログ
（
x
だ
1 −
x
だ
）
]
⊤
{\displaystyle \mathbf {y} =\left[\log \left({\frac {x_{1}}{1-x_{1}}}\right),\dots ,\log \left({\frac {x_{D}}{1-x_{D}}}\right)\right]^{\top }}
我々は持っています
f
X
(
x
;
μ
,
Σ
)
=
1
|
(
2
π
)
D
−
1
Σ
|
1
2
1
∏
i
=
1
D
(
x
i
(
1
−
x
i
)
)
e
−
1
2
{
log
(
x
1
−
x
)
−
μ
}
⊤
Σ
−
1
{
log
(
x
1
−
x
)
−
μ
}
{\displaystyle f_{X}(\mathbf {x} ;{\boldsymbol {\mu }},{\boldsymbol {\Sigma }})={\frac {1}{|(2\pi )^{D-1}{\boldsymbol {\Sigma }}|^{\frac {1}{2}}}}\,{\frac {1}{\prod \limits _{i=1}^{D}\left(x_{i}(1-x_{i})\right)}}\,e^{-{\frac {1}{2}}\left\{\log \left({\frac {\mathbf {x} }{1-\mathbf {x} }}\right)-{\boldsymbol {\mu }}\right\}^{\top }{\boldsymbol {\Sigma }}^{-1}\left\{\log \left({\frac {\mathbf {x} }{1-\mathbf {x} }}\right)-{\boldsymbol {\mu }}\right\}}}
ここで、引数の対数と除算は要素ごとに行われます。これは、変換のヤコビ行列が要素を持つ対角行列であるためです 。
1
x
i
(
1
−
x
i
)
{\displaystyle {\frac {1}{x_{i}(1-x_{i})}}}
統計分析での使用 ロジスティック正規分布は、確率ベクトルのコンポーネント間の相関関係を捉えることができるという点で、 ディリクレ分布 よりも柔軟性の高い代替手段です。また、データ ベクトルのコンポーネントの対数比に関する質問に答えることができるため、 構成データ の統計分析を簡素化できる可能性もあります。多くの場合、絶対的なコンポーネント値よりも比率が重要になります。
確率単体は有界空間であるため、 のベクトルに通常適用される標準的な手法は あまり意味がありません。統計学者の ジョン・アッチソンは、 そのような手法を単体ベクトルに直接適用すると、偽の負の相関が生じるという問題を説明しました。 [5] しかし、 の合成データを 加法ロジスティック変換の逆変換でマッピングすると、 の実数値データが得られます 。このデータ表現には標準的な手法を適用できます。このアプローチでは、ロジスティック正規分布の使用が正当化され、したがって「単体のガウス分布」と見なすことができます。
R
n
{\displaystyle \mathbb {R} ^{n}}
S
D
{\displaystyle {\mathcal {S}}^{D}}
R
D
−
1
{\displaystyle \mathbb {R} ^{D-1}}
ディリクレ分布との関係 ディリクレ分布のロジスティック正規近似 ディリクレ 分布 とロジスティック正規分布は、どのようなパラメータを選択しても、完全に等しくなることはありません。しかし、Aitchison は、ディリクレ分布をロジスティック正規分布で近似し、 Kullback-Leibler ダイバージェンス (KL) を最小化する方法を説明しました。
K
(
p
,
q
)
=
∫
S
D
p
(
x
∣
α
)
log
(
p
(
x
∣
α
)
q
(
x
∣
μ
,
Σ
)
)
d
x
{\displaystyle K(p,q)=\int _{{\mathcal {S}}^{D}}p\left(\mathbf {x} \mid {\boldsymbol {\alpha }}\right)\log \left({\frac {p\left(\mathbf {x} \mid {\boldsymbol {\alpha }}\right)}{q\left(\mathbf {x} \mid {\boldsymbol {\mu }},{\boldsymbol {\Sigma }}\right)}}\right)\,d\mathbf {x} }
これは次のように最小限に抑えられます。
μ
∗
=
E
p
[
log
(
x
−
D
x
D
)
]
,
Σ
∗
=
Var
p
[
log
(
x
−
D
x
D
)
]
{\displaystyle {\boldsymbol {\mu }}^{*}=\mathbf {E} _{p}\left[\log \left({\frac {\mathbf {x} _{-D}}{x_{D}}}\right)\right]\quad ,\quad {\boldsymbol {\Sigma }}^{*}={\textbf {Var}}_{p}\left[\log \left({\frac {\mathbf {x} _{-D}}{x_{D}}}\right)\right]}
ディリクレ分布のモーメント特性を使用すると、解はディガンマ 関数と トリガンマ 関数で表すことができます 。
ψ
{\displaystyle \psi }
ψ
′
{\displaystyle \psi '}
μ
i
∗
=
ψ
(
α
i
)
−
ψ
(
α
D
)
,
i
=
1
,
…
,
D
−
1
{\displaystyle \mu _{i}^{*}=\psi \left(\alpha _{i}\right)-\psi \left(\alpha _{D}\right)\quad ,\quad i=1,\ldots ,D-1}
Σ
i
i
∗
=
ψ
′
(
α
i
)
+
ψ
′
(
α
D
)
,
i
=
1
,
…
,
D
−
1
{\displaystyle \Sigma _{ii}^{*}=\psi '\left(\alpha _{i}\right)+\psi '\left(\alpha _{D}\right)\quad ,\quad i=1,\ldots ,D-1}
Σ
i
j
∗
=
ψ
′
(
α
D
)
,
i
≠
j
{\displaystyle \Sigma _{ij}^{*}=\psi '\left(\alpha _{D}\right)\quad ,\quad i\neq j}
この近似は、 が大きい場合に特に正確です 。実際、 に対して であることが示され 、 が成り立ちます 。
α
{\displaystyle {\boldsymbol {\alpha }}}
α
i
→
∞
,
i
=
1
,
…
,
D
{\displaystyle \alpha _{i}\rightarrow \infty ,i=1,\ldots ,D}
p
(
x
∣
α
)
→
q
(
x
∣
μ
∗
,
Σ
∗
)
{\displaystyle p\left(\mathbf {x} \mid {\boldsymbol {\alpha }}\right)\rightarrow q\left(\mathbf {x} \mid {\boldsymbol {\mu }}^{*},{\boldsymbol {\Sigma }}^{*}\right)}
参照
参考文献
^ ab Aitchison, J.; Shen, SM (1980). 「ロジスティック正規分布：いくつかの特性と用途」 Biometrika . 67 (2): 261. doi :10.2307/2335470. ISSN 0006-3444. JSTOR 2335470. ^ http://people.csail.mit.edu/tomasz/papers/huang_hln_tech_report_2006.pdf [ 裸の URL PDF ] ^ ピーター・ホフ、2003年。リンク ^ 「対数正規分布とロジスティック正規分布の用語 - AIと社会科学 - ブレンダン・オコナー」 。brenocon.com 。 2018年 4月18日 閲覧 。 ^ ab J. Atchison。「構成データの統計分析」統計と応用確率に関するモノグラフ、チャップマン＆ホール、1986年。書籍 ^ Hinde, John (2011). 「ロジスティック正規分布」。Lovric, Miodrag ( 編 )。 国際統計科学百科事典 。Springer。pp . 754–755。doi :10.1007/978-3-642-04898-2_342。ISBN 978-3-642-04897-5 。
さらに読む Frederic, P. & Lad, F. (2008) 対数正規分布の2つのモーメント。 統計シミュレーションと計算の通信 。37: 1263-1269 Mead, R. (1965). 「一般化ロジット正規分布」. バイオメトリクス . 21 (3): 721–732. doi :10.2307/2528553. JSTOR 2528553. PMID 5858101.
外部リンク
![{\displaystyle {\frac {1}{2}}{\Big [}1+\operatorname {erf} {\Big (}{\frac {\operatorname {logit} (x)-\mu }{\sqrt {2\sigma ^{2}}}}{\Big )}{\Big ]}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/f866d537580a7e284ff45c5b6ba44282405d5437)
![{\displaystyle E[X^{n}]\approx {\frac {1}{K-1}}\sum _{i=1}^{K-1}\left(P\left(\Phi _{\mu ,\sigma ^{2}}^{-1}(i/K)\right)\right)^{n},}](https://wikimedia.org/api/rest_v1/media/math/render/svg/72f6194558f091fda796896edd4b1cb390fbf201)
![{\displaystyle \mathbf {x} =\left[{\frac {e^{y_{1}}}{1+\sum _{i=1}^{D-1}e^{y_{i}}}},\dots ,{\frac {e^{y_{D-1}}}{1+\sum _{i=1}^{D-1}e^{y_{i}}}},{\frac {1}{1+\sum _{i=1}^{D-1}e^{y_{i}}}}\right]^{\top }}](https://wikimedia.org/api/rest_v1/media/math/render/svg/8d9c97b2fcf6aa03dd19a3bd83b6ff96f2deb7f7)
![{\displaystyle \mathbf {y} =\left[\log \left({\frac {x_{1}}{x_{D}}}\right),\dots ,\log \left({\frac {x_{D-1}}{x_{D}}}\right)\right]^{\top }}](https://wikimedia.org/api/rest_v1/media/math/render/svg/dd6953a8dc1335421fa50d4956fe959f724590a5)
![{\displaystyle \mathbf {y} =\left[\log \left({\frac {x_{1}}{1-x_{1}}}\right),\dots ,\log \left({\frac {x_{D}}{1-x_{D}}}\right)\right]^{\top }}](https://wikimedia.org/api/rest_v1/media/math/render/svg/41624f2bfd185e5111e9d4ec2339495bf420d3ff)
![{\displaystyle {\boldsymbol {\mu }}^{*}=\mathbf {E} _{p}\left[\log \left({\frac {\mathbf {x} _{-D}}{x_{D}}}\right)\right]\quad 、\quad {\boldsymbol {\Sigma }}^{*}={\textbf {Var}}_{p}\left[\log \left({\frac {\mathbf {x} _{-D}}{x_{D}}}\right)\right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/b35a2ca21cc73c82be7e6e40e22cc8e3e297d36e)
