確率分布
一般 化正規分布 ( GND ) または 一般化ガウス分布 ( GGD ) は、 実数 直線上の パラメトリック 連続確率分布の 2 つのファミリーのうちの 1 つです。どちらのファミリーも、 正規分布 に 形状パラメータ を追加します 。2 つのファミリーを区別するために、以下では「対称」および「非対称」と呼びますが、これは標準的な命名法ではありません。
対称バージョン
対称 一般化正規分布は、 指数べき分布 または 一般化誤差分布 とも呼ばれ、 対称分布 のパラメトリック ファミリです。すべての 正規分布 と ラプラス 分布が含まれ、極限ケースとして、実数直線の制限された区間上のすべての 連続一様分布 が含まれます 。
この分布族には、 (平均 、分散 )の ときの 正規分布 が含まれ、のときの ラプラス分布 が含まれます。 のとき 、密度は 上の均一な密度に 点ごとに収束します 。
β
=
2
{\displaystyle \textstyle \beta =2}
μ
{\displaystyle \textstyle \mu }
α
2
2
{\displaystyle \textstyle {\frac {\alpha ^{2}}{2}}}
β
=
1
{\displaystyle \textstyle \beta =1}
β
→
∞
{\displaystyle \textstyle \beta \rightarrow \infty }
(
μ
−
α
、
μ
+
α
)
{\displaystyle \textstyle (\mu -\alpha ,\mu +\alpha )}
このファミリーは、通常よりも重い ( の場合) または通常よりも軽い ( の場合) 裾を許容します。これは、 正規 密度 ( ) から均一密度 ( ) にわたる対称な 扁平 密度の連続体、およびラプラス密度 ( )から 正規密度 ( ) にわたる対称な 急 尖密度の連続体 をパラメーター化する便利な方法です 。形状パラメーターは、 裾に加えて
尖り 具合も制御します。
β
<
2
{\displaystyle \beta <2}
β
>
2
{\displaystyle \beta >2}
β
=
2
{\displaystyle \textstyle \beta =2}
β
=
∞
{\displaystyle \textstyle \beta =\infty }
β
=
1
{\displaystyle \textstyle \beta =1}
β
=
2
{\displaystyle \textstyle \beta =2}
β
{\displaystyle \beta}
パラメータ推定
最大尤度法 と モーメント法 によるパラメータ推定 が研究されている。 [3] 推定値は閉じた形式を持たず、数値的に求める必要がある。数値計算を必要としない推定量も提案されている。 [4]
一般化正規対数尤度関数は、 が正の偶数整数の 場合にのみ、無限個の連続導関数を持ちます(つまり、 滑らかな関数 のクラス C ∞ に属します)。それ以外の場合、関数は連続導関数を持ちます。結果として、の 最大尤度 推定値の一貫性と漸近正規性に関する標準的な結果は 、 の場合にのみ適用されます 。
β
{\displaystyle \textstyle \beta }
⌊
β
⌋
{\displaystyle \textstyle \lfloor \beta \rfloor }
β
{\displaystyle \beta}
β
≥
2
{\displaystyle \textstyle \beta \geq 2}
最大尤度推定量
近似最大尤度 法を採用して一般化正規分布を近似することが可能である 。 [5] [6] 最初に サンプル第1モーメント に設定され 、
の初期推定値から始めて、 ニュートン・ラプソン 反復法を 使用して推定される 。
μ
{\displaystyle \mu}
メートル
1
{\displaystyle m_{1}}
β
{\displaystyle \textstyle \beta }
β
=
β
0
{\displaystyle \textstyle \beta =\textstyle \beta _{0}}
β
0
=
メートル
1
メートル
2
、
{\displaystyle \beta _{0}={\frac {m_{1}}{\sqrt {m_{2}}}},}
どこ
メートル
1
=
1
いいえ
∑
私
=
1
いいえ
|
x
私
|
、
{\displaystyle m_{1}={1 \over N}\sum _{i=1}^{N}|x_{i}|,}
は絶対値の 最初の統計 モーメント であり、は2番目の統計 モーメント である。反復は
メートル
2
{\displaystyle m_{2}}
β
私
+
1
=
β
私
−
グ
(
β
私
)
グ
′
(
β
私
)
、
{\displaystyle \beta _{i+1}=\beta _{i}-{\frac {g(\beta _{i})}{g'(\beta _{i})}},}
どこ
グ
(
β
)
=
1
+
ψ
(
1
/
β
)
β
−
∑
私
=
1
いいえ
|
x
私
−
μ
|
β
ログ
|
x
私
−
μ
|
∑
私
=
1
いいえ
|
x
私
−
μ
|
β
+
ログ
(
β
いいえ
∑
私
=
1
いいえ
|
x
私
−
μ
|
β
)
β
、
{\displaystyle g(\beta )=1+{\frac {\psi (1/\beta )}{\beta }}-{\frac {\sum _{i=1}^{N}|x_{i}-\mu |^{\beta }\log |x_{i}-\mu |}{\sum _{i=1}^{N}|x_{i}-\mu |^{\beta }}}+{\frac {\log({\frac {\beta }{N}}\sum _{i=1}^{N}|x_{i}-\mu |^{\beta })}{\beta }},}
そして
グ
′
(
β
)
=
−
ψ
(
1
/
β
)
β
2
−
ψ
′
(
1
/
β
)
β
3
+
1
β
2
−
∑
私
=
1
いいえ
|
x
私
−
μ
|
β
(
ログ
|
x
私
−
μ
|
)
2
∑
私
=
1
いいえ
|
x
私
−
μ
|
β
+
(
∑
私
=
1
いいえ
|
x
私
−
μ
|
β
ログ
|
x
私
−
μ
|
)
2
(
∑
私
=
1
いいえ
|
x
私
−
μ
|
β
)
2
+
∑
私
=
1
いいえ
|
x
私
−
μ
|
β
ログ
|
x
私
−
μ
|
β
∑
私
=
1
いいえ
|
x
私
−
μ
|
β
−
ログ
(
β
いいえ
∑
私
=
1
いいえ
|
x
私
−
μ
|
β
)
β
2
、
{\displaystyle {\begin{aligned}g'(\beta )={}&-{\frac {\psi (1/\beta )}{\beta ^{2}}}-{\frac {\psi '(1/\beta )}{\beta ^{3}}}+{\frac {1}{\beta ^{2}}}-{\frac {\sum _{i=1}^{N}|x_{i}-\mu |^{\beta }(\log |x_{i}-\mu |)^{2}}{\sum _{i=1}^{N}|x_{i}-\mu |^{\beta }}}\\[6pt]&{}+{\frac {\left(\sum _{i=1}^{N}|x_{i}-\mu |^{\beta }\log |x_{i}-\mu |\right)^{2}}{\left(\sum _{i=1}^{N}|x_{i}-\mu |^{\beta }\right)^{2}}}+{\frac {\sum _{i=1}^{N}|x_{i}-\mu |^{\beta }\log |x_{i}-\mu |}{\beta \sum _{i=1}^{N}|x_{i}-\mu |^{\beta }}}\\[6pt]&{}-{\frac {\log \left({\frac {\beta }{N}}\sum _{i=1}^{N}|x_{i}-\mu |^{\beta }\right)}{\beta ^{2}}},\end{aligned}}}
ここで 、 および は、 ディガンマ関数 と トリガンマ関数 です 。
ψ
{\displaystyle \psi}
ψ
′
{\displaystyle \psi '}
の値が与えられている場合、 次の最小値を見つけることで
推定することができます。
β
{\displaystyle \textstyle \beta }
μ
{\displaystyle \mu}
分
μ
=
∑
私
=
1
いいえ
|
x
私
−
μ
|
β
{\displaystyle \min_{\mu}=\sum_{i=1}^{N}|x_{i}-\mu |^{\beta} }}
最終的に次 のように評価されます
α
{\displaystyle \textstyle \alpha }
α
=
(
β
N
∑
i
=
1
N
|
x
i
−
μ
|
β
)
1
/
β
.
{\displaystyle \alpha =\left({\frac {\beta }{N}}\sum _{i=1}^{N}|x_{i}-\mu |^{\beta }\right)^{1/\beta }.}
については 、中央値が のより適切な推定値です 。 が 推定されると 、 は 上記のように推定できます。 [7]
β
≤
1
{\displaystyle \beta \leq 1}
μ
{\displaystyle \mu }
μ
{\displaystyle \mu }
β
{\displaystyle \beta }
α
{\displaystyle \alpha }
アプリケーション
対称一般化正規分布は、平均値の周りの値の集中と裾の挙動が特に興味深い場合のモデリングに使用されています。 [8] [9] 正規性からの他の偏差に焦点を当てる場合は、他の分布族を使用できます。 分布の 対称性が主な関心事である場合は、以下で説明する 歪んだ正規 族または一般化正規族の非対称バージョンを使用できます。裾の挙動が主な関心事である場合は、自由度が無限大に増加するにつれて正規分布に近似する スチューデントt 族を使用できます。t分布は、この一般化正規分布とは異なり、原点で 尖端を 獲得することなく、通常の裾よりも重くなります。これは、逆制動放射線から生じるラングドン分布という名前でプラズマ物理学で使用されています。 [10]
プロパティ
瞬間
を平均ゼロの一般化ガウス分布、形状 、スケーリングパラメータと する 。 のモーメントは、 kが−1より大きい場合、存在し、有限である。任意の非負整数kに対して、平板中心モーメントは [2]である。
X
β
{\displaystyle X_{\beta }}
β
{\displaystyle \beta }
α
{\displaystyle \alpha }
X
β
{\displaystyle X_{\beta }}
E
[
X
β
k
]
=
{
0
if
k
is odd,
α
k
Γ
(
k
+
1
β
)
/
Γ
(
1
β
)
if
k
is even.
{\displaystyle \operatorname {E} \left[X_{\beta }^{k}\right]={\begin{cases}0&{\text{if }}k{\text{ is odd,}}\\\alpha ^{k}\Gamma \left({\frac {k+1}{\beta }}\right){\Big /}\,\Gamma \left({\frac {1}{\beta }}\right)&{\text{if }}k{\text{ is even.}}\end{cases}}}
安定したカウント分布への接続
安定カウント分布 の観点から 、 はレヴィの安定パラメータとみなすことができます。この分布は、カーネルがラプラス 分布 または ガウス分布の いずれかであるカーネル密度の積分に分解できます。
β
{\displaystyle \beta }
1
2
1
Γ
(
1
β
+
1
)
e
−
z
β
=
{
∫
0
∞
1
ν
(
1
2
e
−
|
z
|
/
ν
)
N
β
(
ν
)
d
ν
,
1
≥
β
>
0
;
or
∫
0
∞
1
s
(
1
2
π
e
−
1
2
(
z
/
s
)
2
)
V
β
(
s
)
d
s
,
2
≥
β
>
0
;
{\displaystyle {\frac {1}{2}}{\frac {1}{\Gamma ({\frac {1}{\beta }}+1)}}e^{-z^{\beta }}={\begin{cases}\displaystyle \int _{0}^{\infty }{\frac {1}{\nu }}\left({\frac {1}{2}}e^{-|z|/\nu }\right){\mathfrak {N}}_{\beta }(\nu )\,d\nu ,&1\geq \beta >0;{\text{or }}\\\displaystyle \int _{0}^{\infty }{\frac {1}{s}}\left({\frac {1}{\sqrt {2\pi }}}e^{-{\frac {1}{2}}(z/s)^{2}}\right)V_{\beta }(s)\,ds,&2\geq \beta >0;\end{cases}}}
ここで は 安定したカウント分布 、 は 安定したボリューム分布
です 。
N
β
(
ν
)
{\displaystyle {\mathfrak {N}}_{\beta }(\nu )}
V
β
(
s
)
{\displaystyle V_{\beta }(s)}
正定値関数への接続
対称一般化正規分布の確率密度関数は、 正定値関数 で ある 。 [11] [12]
β
∈
(
0
,
2
]
{\displaystyle \beta \in (0,2]}
無限に割り切れる
対称一般化ガウス分布は、 次の条件を満たす場合にのみ 無限に割り切れる分布 である。 [13]
β
∈
(
0
,
1
]
∪
{
2
}
{\displaystyle \beta \in (0,1]\cup \{2\}}
一般化
多変量一般化正規分布、すなわち 同じパラメータ と パラメータを持つ指数べき分布の積は、形式で表すことができ 、独立した周辺分布を持つ唯一の確率密度である。 [14] 多変量正規分布 の特殊なケースの結果は、もともと マクスウェル に帰せられる 。 [15]
n
{\displaystyle n}
β
{\displaystyle \beta }
α
{\displaystyle \alpha }
p
(
x
)
=
g
(
‖
x
‖
β
)
{\displaystyle p(\mathbf {x} )=g(\|\mathbf {x} \|_{\beta })}
非対称バージョン
非対称一般化正規分布
確率密度関数
累積分布関数
パラメータ
ξ
{\displaystyle \xi \,}
位置 ( 実数 ) スケール (正、 実数 ) 形状 ( 実数 )
α
{\displaystyle \alpha \,}
κ
{\displaystyle \kappa \,}
サポート
x
∈
(
−
∞
,
ξ
+
α
/
κ
)
if
κ
>
0
{\displaystyle x\in (-\infty ,\xi +\alpha /\kappa ){\text{ if }}\kappa >0}
x
∈
(
−
∞
,
∞
)
if
κ
=
0
{\displaystyle x\in (-\infty ,\infty ){\text{ if }}\kappa =0}
x
∈
(
ξ
+
α
/
κ
,
+
∞
)
if
κ
<
0
{\displaystyle x\in (\xi +\alpha /\kappa ,+\infty ){\text{ if }}\kappa <0}
PDF
ϕ
(
y
)
α
−
κ
(
x
−
ξ
)
{\displaystyle {\frac {\phi (y)}{\alpha -\kappa (x-\xi )}}}
、 標準 正規分布の PDFは
y
=
{
−
1
κ
log
[
1
−
κ
(
x
−
ξ
)
α
]
if
κ
≠
0
x
−
ξ
α
if
κ
=
0
{\displaystyle y={\begin{cases}-{\frac {1}{\kappa }}\log \left[1-{\frac {\kappa (x-\xi )}{\alpha }}\right]&{\text{if }}\kappa \neq 0\\{\frac {x-\xi }{\alpha }}&{\text{if }}\kappa =0\end{cases}}}
ϕ
{\displaystyle \phi }
ドイツ連邦共和国
Φ
(
y
)
{\displaystyle \Phi (y)}
、ここで 標準 正規 CDFは
y
=
{
−
1
κ
log
[
1
−
κ
(
x
−
ξ
)
α
]
if
κ
≠
0
x
−
ξ
α
if
κ
=
0
{\displaystyle y={\begin{cases}-{\frac {1}{\kappa }}\log \left[1-{\frac {\kappa (x-\xi )}{\alpha }}\right]&{\text{if }}\kappa \neq 0\\{\frac {x-\xi }{\alpha }}&{\text{if }}\kappa =0\end{cases}}}
Φ
{\displaystyle \Phi }
平均
ξ
−
α
κ
(
e
κ
2
/
2
−
1
)
{\displaystyle \xi -{\frac {\alpha }{\kappa }}\left(e^{\kappa ^{2}/2}-1\right)}
中央値
ξ
{\displaystyle \xi \,}
分散
α
2
κ
2
e
κ
2
(
e
κ
2
−
1
)
{\displaystyle {\frac {\alpha ^{2}}{\kappa ^{2}}}e^{\kappa ^{2}}\left(e^{\kappa ^{2}}-1\right)}
歪度
3
e
κ
2
−
e
3
κ
2
−
2
(
e
κ
2
−
1
)
3
/
2
sign
(
κ
)
{\displaystyle {\frac {3e^{\kappa ^{2}}-e^{3\kappa ^{2}}-2}{(e^{\kappa ^{2}}-1)^{3/2}}}{\text{ sign}}(\kappa )}
過剰尖度
e
4
κ
2
+
2
e
3
κ
2
+
3
e
2
κ
2
−
6
{\displaystyle e^{4\kappa ^{2}}+2e^{3\kappa ^{2}}+3e^{2\kappa ^{2}}-6}
非対称 一般化正規分布は、 形状パラメータを使用して非対称性または歪度を導入できる連続確率分布の族です。 [16] [17] 形状パラメータがゼロの場合、正規分布になります。形状パラメータの値が正の場合は、右に拘束された左に歪んだ分布になり、形状パラメータの値が負の場合は、左に拘束された右に歪んだ分布になります。形状パラメータがゼロの場合にのみ、この分布の密度関数は実数線全体にわたって正になります。この場合、分布は 正規分布であり、それ以外の場合は分布はシフトしており、逆の 対数正規分布 である可能性があります 。
パラメータ推定
パラメータは、最尤推定法 またはモーメント法によって推定できます 。パラメータ推定値は閉じた形式ではないため、推定値を計算するには数値計算を使用する必要があります。サンプル空間 (密度がゼロでない実数の集合) はパラメータの真の値に依存するため、このファミリを使用する場合、パラメータ推定値のパフォーマンスに関するいくつかの標準的な結果は自動的には適用されません。
アプリケーション
非対称の一般化正規分布は、正規分布する可能性のある値、または正規分布に対して右または左に偏っている可能性のある値をモデル化するために使用できます。 歪んだ正規分布は 、歪んだために正規性から逸脱した値をモデル化するために役立つもう 1 つの分布です。歪んだデータをモデル化するために使用される他の分布には、 ガンマ 分布、 対数正規 分布、および ワイブル 分布がありますが、これらには正規分布が特別なケースとして含まれていません。
2 つの PDF 間の Kullback-Leibler ダイバージェンス
カルバック・ライブラー・ダイバージェンス (KLD)は、2つの確率密度関数間のダイバージェンスまたは類似性を計算するために使用される手法である。 [18]
と、
制約条件付きでパラメータ とを持つ 2つの一般化ガウス分布があると します 。 [19] この発散は次のように表されます。
P
(
x
)
{\displaystyle P(x)}
Q
(
x
)
{\displaystyle Q(x)}
α
1
,
β
1
,
μ
1
{\displaystyle \alpha _{1},\beta _{1},\mu _{1}}
α
2
,
β
2
,
μ
2
{\displaystyle \alpha _{2},\beta _{2},\mu _{2}}
μ
1
=
μ
2
=
0
{\displaystyle \mu _{1}=\mu _{2}=0}
K
L
D
p
d
f
(
P
(
x
)
|
|
Q
(
x
)
)
=
−
1
β
1
+
(
α
1
α
2
)
β
2
Γ
(
1
+
β
2
β
1
)
Γ
(
1
β
1
)
+
log
(
α
2
Γ
(
1
+
1
β
2
)
α
1
Γ
(
1
+
1
β
1
)
)
{\displaystyle KLD_{pdf}(P(x)||Q(x))=-{\frac {1}{\beta _{1}}}+{\frac {({\frac {\alpha _{1}}{\alpha _{2}}})^{\beta _{2}}\Gamma ({\frac {1+\beta _{2}}{\beta _{1}}})}{\Gamma ({\frac {1}{\beta _{1}}})}}+\log \left({\frac {\alpha _{2}\Gamma (1+{\frac {1}{\beta _{2}}})}{\alpha _{1}\Gamma (1+{\frac {1}{\beta _{1}}})}}\right)}
ここで説明する 2 つの一般化正規分布族は、 歪んだ正規 分布族と同様に、形状パラメータを追加することで正規分布を拡張するパラメトリック分布族です。確率と統計において正規分布が中心的な役割を果たすため、多くの分布は正規分布との関係で特徴付けることができます。たとえば、 対数正規分布 、 折り畳み正規分布 、 逆正規 分布は、正規分布する値の変換として定義されますが、一般化正規分布族や歪んだ正規分布族とは異なり、これらには正規分布が特別なケースとして含まれません。
実際、有限分散を持つすべての分布は、極限では正規分布と非常に関連しています。スチューデント t 分布、 アーウィン ホール分布 、 ベイツ分布 も正規分布を拡張し、極限では正規分布 を含みます 。したがって、たとえばスチューデント t と正規化された拡張アーウィン ホールの組み合わせよりも、タイプ 1 の「一般化された」正規分布を優先する強い理由はありません。これには、たとえば三角分布 (一般化されたガウス タイプ 1 ではモデル化できない) が含まれます。
尾部(長いものと短いもの)と 中心の動作(平坦、三角形、ガウスなど)の両方を完全に独立してモデル化できる対称分布は、たとえば X = IH/chi を
使用して導出できます 。
Tukey の g 分布と h 分布では、歪度と太い裾の両方を通じて、正規分布からの逸脱も許容されます<ref>The Tukey g-and-h Distribution Yuan Yan、Marc G. Genton Significance、第 16 巻、第 3 号、2019 年 6 月、12 ~ 13 ページ、https://doi.org/10.1111/j.1740-9713.2019.01273.x、https://academic.oup.com/jrssig/article/16/3/12/7037766?login=false<ref>。
参照
参考文献
^ Griffin, Maryclare. 「gnorm を使用した指数べき分布の操作」。Github 、gnorm パッケージ。2020 年 6 月 26 日 閲覧 。
^ ab Nadarajah, Saralees (2005 年 9 月). 「一般化された正規分布」. Journal of Applied Statistics . 32 (7): 685–694. Bibcode :2005JApSt..32..685N. doi :10.1080/02664760500079464. S2CID 121914682.
^ Varanasi, MK; Aazhang, B. (1989年10月). 「パラメトリック一般化ガウス密度推定」. Journal of the Acoustical Society of America . 86 (4): 1404–1415. Bibcode :1989ASAJ...86.1404V. doi :10.1121/1.398700.
^ ドミンゲス=モリーナ、J. アルマンド; González-Farías, グラシエラ ; Rodríguez-Dagnino、Ramón M. 「一般化ガウス分布における形状パラメータを推定するための実践的な手順」 (PDF) 。 2007 年 9 月 28 日に オリジナル (PDF)からアーカイブされました 。 2009 年 3 月 3 日 に取得 。
^ Varanasi, MK; Aazhang B. (1989). 「パラメトリック一般化ガウス密度推定」. J. Acoust. Soc. Am. 86 (4): 1404–1415. Bibcode :1989ASAJ...86.1404V. doi :10.1121/1.398700.
^ Do, MN; Vetterli, M. (2002 年 2 月)。「一般化ガウス密度と Kullback-Leibler 距離 を使用したウェーブレット ベースのテクスチャ検索」。IEEE Transactions on Image Processing。11 ( 2): 146–158。Bibcode : 2002ITIP ...11..146D。doi : 10.1109/83.982822。PMID 18244620 。
^ Varanasi, Mahesh K.; Aazhang, Behnaam (1989-10-01). 「パラメトリック一般化ガウス密度推定」. アメリカ音響学会誌 . 86 (4): 1404–1415. Bibcode :1989ASAJ...86.1404V. doi :10.1121/1.398700. ISSN 0001-4966.
^ Liang, Faming; Liu, Chuanhai; Wang, Naisyin (2007年4月). 「差次的に発現する遺伝子の同定のための堅牢な逐次ベイズ法」. Statistica Sinica . 17 (2): 571–597. 2007年10月9日時点のオリジナルよりアーカイブ。 2009年3月3日 閲覧 。
^ Box, George EP ; Tiao, George C. (1992). 統計分析におけるベイズ推論 。ニューヨーク: Wiley。ISBN
978-0-471-57428-6 。
^ Milder, Avram L. (2021). 電子速度分布関数とトムソン散乱 (博士論文). ロチェスター大学. hdl : 1802/36536 .
^ Dytso, Alex; Bustin, Ronit; Poor, H. Vincent; Shamai, Shlomo (2018). 「一般化ガウス分布の解析的特性」. Journal of Statistical Distributions and Applications . 5 (1): 6. doi : 10.1186/s40488-018-0088-5 .
^ボクナー、サロモン (1937)。「確率の安定した法則と完全 に 単調な関数」 デューク数学ジャーナル 。3 (4): 726–728。doi : 10.1215 /s0012-7094-37-00360-0。
^ Dytso, Alex; Bustin, Ronit; Poor, H. Vincent; Shamai, Shlomo (2018). 「一般化ガウス分布の解析的特性」. Journal of Statistical Distributions and Applications . 5 (1): 6. doi : 10.1186/s40488-018-0088-5 .
^ Sinz, Fabian; Gerwinn, Sebastian; Bethge, Matthias (2009年5月). 「p-一般化正規分布の特性評価」. Journal of Multivariate Analysis . 100 (5): 817–820. doi : 10.1016/j.jmva.2008.07.006 .
^ Kac, M. (1939). 「正規分布の特徴について」. American Journal of Mathematics . 61 (3): 726–728. doi :10.2307/2371328. JSTOR 2371328.
^ Hosking, JRM, Wallis , JR (1997) 地域頻度分析: Lモーメントに基づくアプローチ 、ケンブリッジ大学出版局。ISBN 0-521-43045-3 。セクション A.8
^ lmomco R パッケージのドキュメント
^ Kullback, S.; Leibler, RA (1951). 「情報と十分性について」. 数理統計年報 . 22 (1): 79-86. doi : 10.1214/aoms/1177729694 .
^ Quintero-Rincón, A.; Pereyra, M.; D'Giano, C.; Batatia, H.; Risk, M. (2017). 「ウェーブレット統計表現と Kullback-Leibler ダイバージェンスに基づく視覚 EEG てんかん検出法」 IFMBE Proceedings . 60 : 13-16. doi : 10.1007/978-981-10-4086-3_4 . hdl : 11336/77054 .