fダイバージェンス

確率論 において、 -ダイバージェンスは、2 つの確率分布との差を測定する特定のタイプの関数です。KLダイバージェンス、ヘリンガー距離、全変動距離などの一般的なダイバージェンスの多くは、 - ダイバージェンスの特殊なケースです。 ${\displaystyle f}$${\displaystyle D_{f}(P\|Q)}$ ${\displaystyle P}$${\displaystyle Q}$${\displaystyle f}$

これらのダイバージェンスは、アルフレッド・レーニ[1]によって、よく知られているレーニエントロピーを導入した同じ論文で導入されました。彼^は、 これらのダイバージェンスがマルコフ過程で減少することを証明しました。fダイバージェンスは、Csiszár (1963)、Morimoto (1963)、Ali & Silvey (1966)によって独立にさらに研究され、Csiszárダイバージェンス、Csiszár–Morimotoダイバージェンス、またはAli–Silvey距離 と呼ばれることもあります。${\displaystyle f}$

と を空間 上の2つの確率分布とし、、つまりがに関して絶対連続であるとする。すると、 がすべての、、（無限大の場合もある）に対して有限であるような凸関数に対して、から への -発散は次のように定義される 。${\displaystyle P}$${\displaystyle Q}$${\displaystyle \Omega }$${\displaystyle P\ll Q}$${\displaystyle P}$${\displaystyle Q}$ ${\displaystyle f:[0,+\infty )\to (-\infty ,+\infty ]}$${\displaystyle f(x)}$${\displaystyle x>0}$${\displaystyle f(1)=0}$${\displaystyle f(0)=\lim _{t\to 0^{+}}f(t)}$${\displaystyle f}$${\displaystyle P}$${\displaystyle Q}$

${\displaystyle D_{f}(P\parallel Q)\equiv \int _{\Omega }f\left({\frac {dP}{dQ}}\right)\,dQ.}$

のジェネレータをと呼びます。 ${\displaystyle f}$${\displaystyle D_{f}}$

具体的な応用では、には通常参照分布があり（例えば のとき、参照分布はルベーグ測度）、 となる。この場合、ラドン・ニコディムの定理を用いてそれらの確率密度およびを とり、${\displaystyle \mu }$${\displaystyle \Omega }$${\displaystyle \Omega =\mathbb {R} ^{n}}$${\displaystyle P,Q\ll \mu }$ ${\displaystyle p}$${\displaystyle q}$

${\displaystyle D_{f}(P\parallel Q)=\int _{\Omega }f\left({\frac {p(x)}{q(x)}}\right)q(x)\,d\mu (x).}$

そのような参照分布が手元にない場合は、 を定義して、上記のように進めることができます。これは、より抽象的な証明で役立つテクニックです。 ${\displaystyle \mu =P+Q}$

上記の定義は、が満たされなくなった場合にも拡張できる（ ^[2]の定義7.1 ）。 ${\displaystyle P\ll Q}$

は凸であり、 であるため、関数は非減少でなければならないため、 で値を取る が存在します。 ${\displaystyle f}$${\displaystyle f(1)=0}$${\displaystyle {\frac {f(x)}{x-1}}}$${\displaystyle f'(\infty ):=\lim _{x\to \infty }f(x)/x}$${\displaystyle (-\infty ,+\infty ]}$

任意の に対してとなるため、f ダイバージェンスを に拡張できます。 ${\displaystyle p(x)>0}$${\displaystyle \lim _{q(x)\to 0}q(x)f\left({\frac {p(x)}{q(x)}}\right)=p(x)f'(\infty )}$${\displaystyle P\not \ll Q}$

• 線形性:非負の実数と生成子の有限シーケンスが与えられます。${\displaystyle D_{\sum _{i}a_{i}f_{i}}=\sum _{i}a_{i}D_{f_{i}}}$${\displaystyle a_{i}}$${\displaystyle f_{i}}$

• ${\displaystyle D_{f}=D_{g}}$何らかの について のとき、その場合。${\displaystyle f(x)=g(x)+c(x-1)}$${\displaystyle c\in \mathbb {R} }$

特に、単調性は、マルコフ過程が正の均衡確率分布を持つ場合、 は時間の単調（非増加）関数であることを意味します。ここで、確率分布は、マルコフ過程における確率分布の時間発展を記述するために使用されるコルモゴロフ順方向方程式（またはマスター方程式）の解です。これは、すべてのfダイバージェンスがコルモゴロフ順方向方程式のリアプノフ関数であることを意味します。逆の命題も真です。 が正の均衡を持つすべてのマルコフ連鎖のリアプノフ関数であり、 がトレース形式（）である場合、何らかの凸関数fに対して です。^{[3] [4]}たとえば、ブレグマンダイバージェンスは一般にそのような特性を持たず、マルコフ過程で増加する可能性があります。^[5]${\displaystyle P^{*}}$${\displaystyle D_{f}(P(t)\parallel P^{*})}$${\displaystyle P(t)}$${\displaystyle D_{f}(P(t)\parallel P^{*})}$${\displaystyle H(P)}$${\displaystyle P^{*}}$${\displaystyle H(P)=\sum _{i}f(P_{i},P_{i}^{*})}$${\displaystyle H(P)=D_{f}(P(t)\parallel P^{*})}$

f ダイバージェンスはテイラー級数を使用して表現でき、カイ二乗距離の加重和を使用して書き直すことができます (Nielsen & Nock (2013))。

を の凸共役とします。を の 有効領域、つまり とします。すると、 の 2 つの変分表現が得られます。これらを以下に説明します。 ${\displaystyle f^{*}}$${\displaystyle f}$${\displaystyle \mathrm {effdom} (f^{*})}$${\displaystyle f^{*}}$${\displaystyle \mathrm {effdom} (f^{*})=\{y:f^{*}(y)<\infty \}}$${\displaystyle D_{f}}$

上記の設定では、

これは定理7.24です。^[2]

この定理を全変動距離に適用すると、生成元が のとき、その凸共役はとなり、次式が得られます 。 によって定義されるカイ2乗ダイバージェンスについては、次式が得られます 。 が変化する領域がアフィン不変であっても、 変動項は ではアフィン不変ではないため、アフィン不変量を利用してより簡潔な表現を得ることができます。 ${\displaystyle f(x)={\frac {1}{2}}|x-1|,}$${\displaystyle f^{*}(x^{*})={\begin{cases}x^{*}{\text{ on }}[-1/2,1/2],\\+\infty {\text{ else.}}\end{cases}}}$$${\displaystyle TV(P\|Q)=\sup _{|g|\leq 1/2}E_{P}[g(X)]-E_{Q}[g(X)].}$$${\displaystyle f(x)=(x-1)^{2},f^{*}(y)=y^{2}/4+y}$$${\displaystyle \chi ^{2}(P;Q)=\sup _{g}E_{P}[g(X)]-E_{Q}[g(X)^{2}/4+g(X)].}$$${\displaystyle g}$${\displaystyle g}$

を で置き換え、 上の最大値を取ると、 が得られます 。これは、 Hammersley–Chapman–Robbins の境界とCramér–Rao の境界 からわずか数歩のところにあります ( ^[2]の定理 29.1 とその系)。 ${\displaystyle g}$${\displaystyle ag+b}$${\displaystyle a,b\in \mathbb {R} }$$${\displaystyle \chi ^{2}(P;Q)=\sup _{g}{\frac {(E_{P}[g(X)]-E_{Q}[g(X)])^{2}}{Var_{Q}[g(X)]}},}$$

との -発散について、 が成り立ち、範囲は です。その凸共役はとなり、範囲は です。ここで です。 ${\displaystyle \alpha }$${\displaystyle \alpha \in (-\infty ,0)\cup (0,1)}$${\displaystyle f_{\alpha }(x)={\frac {x^{\alpha }-\alpha x-(1-\alpha )}{\alpha (\alpha -1)}}}$${\displaystyle x\in [0,\infty )}$${\displaystyle f_{\alpha }^{*}(y)={\frac {1}{\alpha }}(x(y)^{\alpha }-1)}$${\displaystyle y\in (-\infty ,(1-\alpha )^{-1})}$${\displaystyle x(y)=((\alpha -1)y+1)^{\frac {1}{\alpha -1}}}$

この定理を適用すると、 を代入した後、 または の制約を解除した後、 が得られます。 を設定すると、上で得られた -発散の変分表現が得られます。 ${\displaystyle h=((\alpha -1)g+1)^{\frac {1}{\alpha -1}}}$$${\displaystyle D_{\alpha }(P\|Q)={\frac {1}{\alpha (1-\alpha )}}-\inf _{h:\Omega \to (0,\infty )}\left(E_{Q}\left[{\frac {h^{\alpha }}{\alpha }}\right]+E_{P}\left[{\frac {h^{\alpha -1}}{1-\alpha }}\right]\right),}$$${\displaystyle h}$$${\displaystyle D_{\alpha }(P\|Q)={\frac {1}{\alpha (1-\alpha )}}-\inf _{h:\Omega \to \mathbb {R} }\left(E_{Q}\left[{\frac {|h|^{\alpha }}{\alpha }}\right]+E_{P}\left[{\frac {|h|^{\alpha -1}}{1-\alpha }}\right]\right).}$$${\displaystyle \alpha =-1}$${\displaystyle \chi ^{2}}$

が変化する領域は、 -発散の場合とは異なり、一般にアフィン不変ではありません。-発散は特別で、その場合はからを削除できます。 ${\displaystyle h}$${\displaystyle \chi ^{2}}$${\displaystyle \chi ^{2}}$${\displaystyle |\cdot |}$${\displaystyle |h|}$

一般的な に対して、 が変化する領域は単にスケール不変です。上記と同様に、を で置き換え、 を最小値として得ることができます。 を設定し、 による別の置き換えを実行すると、平方ヘリンガー距離の 2 つの変分表現が得られます。 この定理を で定義される KL ダイバージェンスに適用すると、次のようになります 。 これは、ドンスカー–バラダン表現 よりも確実に効率が悪くなります 。この欠陥は次の定理で修正されます。 ${\displaystyle \alpha \in (-\infty ,0)\cup (0,1)}$${\displaystyle h}$${\displaystyle h}$${\displaystyle ah}$${\displaystyle a>0}$$${\displaystyle D_{\alpha }(P\|Q)=\sup _{h>0}\left[{\frac {1}{\alpha (1-\alpha )}}\left(1-{\frac {E_{P}[h^{\alpha -1}]^{\alpha }}{E_{Q}[h^{\alpha }]^{\alpha -1}}}\right)\right].}$$${\displaystyle \alpha ={\frac {1}{2}}}$${\displaystyle g={\sqrt {h}}}$$${\displaystyle H^{2}(P\|Q)={\frac {1}{2}}D_{1/2}(P\|Q)=2-\inf _{h>0}\left(E_{Q}\left[h(X)\right]+E_{P}\left[h(X)^{-1}\right]\right),}$$ $${\displaystyle H^{2}(P\|Q)=2\sup _{h>0}\left(1-{\sqrt {E_{P}[h^{-1}]E_{Q}[h]}}\right).}$$${\displaystyle f(x)=x\ln x,f^{*}(y)=e^{y-1}}$$${\displaystyle D_{KL}(P;Q)=\sup _{g}E_{P}[g(X)]-e^{-1}E_{Q}[e^{g(X)}].}$$ $${\displaystyle D_{KL}(P;Q)=\sup _{g}E_{P}[g(X)]-\ln E_{Q}[e^{g(X)}].}$$

このセクションの冒頭の設定（「変分表現」）を想定します。

これは定理7.25です。^[2]

この定理を KL ダイバージェンスに適用すると、Donsker-Varadhan 表現が得られます。

この定理を一般的な-発散に適用しようとすると、閉じた形の解は得られません。 ${\displaystyle \alpha }$${\displaystyle \alpha \in (-\infty ,0)\cup (0,1)}$

次の表は、確率分布とそれに対応する可能性のある生成関数の間の一般的な発散の多くを示しています。特に、全変動距離を除き、その他はすべて- 発散の特殊なケース、または - 発散の線形和です。 ${\displaystyle \alpha }$${\displaystyle \alpha }$

各 f-ダイバージェンス に対して、その生成関数は一意に定義されず、 までしか定義されません。ここで、 は任意の実定数です。つまり、f-ダイバージェンスを生成する任意の に対して、 が成り立ちます。この自由度は便利なだけでなく、実際に必要です。 ${\displaystyle D_{f}}$${\displaystyle c\cdot (t-1)}$${\displaystyle c}$${\displaystyle f}$${\displaystyle D_{f(t)}=D_{f(t)+c\cdot (t-1)}}$

を -ダイバージェンスの生成元とすると、と は互いに凸反転となるため、 となります。特に、これはヘリンガー距離の二乗とジェンセン・シャノン・ダイバージェンスが対称であることを示しています。 ${\displaystyle f_{\alpha }}$${\displaystyle \alpha }$${\displaystyle f_{\alpha }}$${\displaystyle f_{1-\alpha }}$${\displaystyle D_{\alpha }(P\|Q)=D_{1-\alpha }(Q\|P)}$

文献では、-ダイバージェンスは次のようにパラメータ化されることがある。 ${\displaystyle \alpha }$

${\displaystyle {\begin{cases}{\frac {4}{1-\alpha ^{2}}}{\big (}1-t^{(1+\alpha )/2}{\big )},&{\text{if}}\ \alpha \neq \pm 1,\\t\ln t,&{\text{if}}\ \alpha =1,\\-\ln t,&{\text{if}}\ \alpha =-1\end{cases}}}$

これは、 を代入することでこのページのパラメータ化と同等になります。 ${\displaystyle \alpha \leftarrow {\frac {\alpha +1}{2}}}$

ここでは、fダイバージェンスを他の統計的ダイバージェンスと比較します。

レーニイ・ダイバージェンスは、次のように定義されるダイバージェンスのグループである。

${\displaystyle R_{\alpha }(P\|Q)={\frac {1}{\alpha -1}}\log {\Bigg (}E_{Q}\left[\left({\frac {dP}{dQ}}\right)^{\alpha }\right]{\Bigg )}\,}$

のとき。極限を取ることで の場合に拡張されます。${\displaystyle \alpha \in (0,1)\cup (1,+\infty )}$${\displaystyle \alpha =0,1,+\infty }$

簡単な代数により、 であることが示されます。ここで、 は上で定義した -発散です。 ${\displaystyle R_{\alpha }(P\|Q)={\frac {1}{\alpha -1}}\ln(1+\alpha (\alpha -1)D_{\alpha }(P\|Q))}$${\displaystyle D_{\alpha }}$${\displaystyle \alpha }$

ブレグマンダイバージェンスでもある唯一のfダイバージェンスはKLダイバージェンスである。^[6]

積分確率測定基準でもある唯一のfダイバージェンスは総変動である。^[7]

確率分布のペアは、一方の分布が公式オッズを定義し、もう一方の分布が実際の確率を含む運のゲームと見なすことができます。実際の確率を知ることで、プレーヤーはゲームから利益を得ることができます。合理的なプレーヤーの大規模なクラスでは、期待利益率はƒ-ダイバージェンスと同じ一般的な形になります。^[8]

• カルバック・ライブラー距離
• ブレグマンダイバージェンス