総変動距離は、2つの曲線間の絶対面積の半分、つまり上の網掛け部分の半分です。 確率論 において、全変動距離は 確率分布 間の統計的距離 であり、統計的距離 、統計的差 、または変動距離 と呼ばれることもある。
物件 全変動距離はf ダイバージェンス であり、積分確率尺度 である。
他の距離との関係 全変動距離は、ピンスカーの不等式 によってカルバック・ライブラー情報量 と関連付けられる。
δ ( P 、 Q ) ≤ 1 2 D K L ( P ∥ Q ) 。 \displaystyle \delta (P,Q)\leq \sqrt {{\frac {1}{2}}D_{\mathrm {KL} }(P\parallel Q)}}.} また、 BretagnolleとHuber [ 2 ] による次の不等式も存在する( [ 3 ] も参照)。この不等式は、たとえ次の場合でも非空虚な境界を与えるという利点がある。D K L ( P ∥ Q ) > 2 : {\displaystyle \textstyle D_{\mathrm {KL} }(P\parallel Q)>2\colon }
δ ( P 、 Q ) ≤ 1 − e − D K L ( P ∥ Q ) 。 {\displaystyle \delta (P,Q)\leq {\sqrt {1-e^{-D_{\mathrm {KL} }(P\Parallel Q)}}}.} 全変動距離は確率関数間のL1距離の半分です。 離散領域では、これは 確率質量関数 間の距離です[ 4 ]。
δ ( P 、 Q ) = 1 2 ∑ x | P ( x ) − Q ( x ) | 、 {\displaystyle \delta (P,Q)={\frac {1}{2}}\sum _{x}|P(x)-Q(x)|,} 分布が標準確率密度関数 p とq を持つ場合、[ 5 ]
δ ( P 、 Q ) = 1 2 ∫ | p ( x ) − q ( x ) | d x {\displaystyle \delta (P,Q)={\frac {1}{2}}\int |p(x)-q(x)|\,\mathrm {d} x} (または、任意の共通支配尺度を持つ ラドン・ニコディム微分 間の類似距離)。この結果は、定義における上限が、一方の分布が他方の分布を支配する集合で正確に達成されることに注目することで示すことができる。[ 6 ]
全変動距離はヘリンジャー距離と関連している H ( P 、 Q ) {\displaystyle H(P,Q)} 以下の通りです。[ 7 ]
H 2 ( P 、 Q ) ≤ δ ( P 、 Q ) ≤ 2 H ( P 、 Q ) 。 {\displaystyle H^{2}(P,Q)\leq \delta (P,Q)\leq {\sqrt {2}}H(P,Q).} これらの不等式は、 1ノルム と2ノルム の間の不等式から直ちに導かれる。
参考文献 ↑ Chatterjee, Sourav . 「確率測度間の距離」(PDF) . UC Berkeley. 2008年7月8日にオリジナル(PDF)からアーカイブ済み。 2013年 6月21日 に取得 。↑ ブレタニョール、J.; Huber, C、 Estimation des densités: risque minimax 、Séminaire de Probabilités、XII (Univ. Strasbourg, Strasbourg、1976/1977)、pp. 342–363、Lecture Notes in Math.、649、Springer、Berlin、1978、Lemma 2.1 (フランス語)。 ↑ アレクサンドル・B・ツィバコフ著『ノンパラメトリック推定入門』 、2004年フランス語原著を改訂・増補。ウラジミール・ザイアッツ訳。シュプリンガー統計学シリーズ。シュプリンガー、ニューヨーク、2009年。xii+214ページ。ISBN 978-0-387-79051-0 式2.25。 ↑ David A. Levin、 Yuval Peres 、 Elizabeth L. Wilmer 、『Markov Chains and Mixing Times』 、第2版改訂版(AMS、2017年)、命題4.2、p.48。 ↑ Tsybakov, Aleksandr B. (2009). Introduction to nonparametric estimation (rev. and extended version of the French Book ed.). New York, NY: Springer. Lemma 2.1. ISBN 978-0-387-79051-0 。↑ Devroye, Luc ; Györfi, Laszlo; Lugosi, Gabor (1996-04-04). A Probabilistic Theory of Pattern Recognition (Corrected ed.). New York: Springer. ISBN 978-0-387-94618-4 。↑ Harsha, Prahladh (2011年9月23日). 「コミュニケーションの複雑性に関する講義ノート」 (PDF) 。 ↑ ヴィラーニ、セドリック (2009)。 新旧問わず最適な輸送 。 Grundlehren der mathematischen Wissenschaften。 Vol. 338. シュプリンガー・フェルラーク・ベルリン・ハイデルベルク。 p. 10. 土井 : 10.1007/978-3-540-71050-9 。 ISBN 978-3-540-71049-3 。