カーク ウッド重ね合わせ近似は、 離散確率分布を 表現する手段として1935年に ジョン・G・カークウッド によって導入された 。 [1]離散 確率密度関数 のカークウッド近似は 次のように与えられる。
ポ （
x
1
、
x
2
、 … 、
x
ん
）
{\displaystyle P(x_{1},x_{2},\ldots,x_{n})}
ポ
′
（
x
1
、
x
2
、 … 、
x
ん
） =
∏
私 = 1
ん − 1
[
∏
T
私
⊆
五
p （
T
私
）
]
（ − 1
）
ん − 1 − 私
=
∏
T
ん − 1
⊆
五
p （
T
ん − 1
）
∏
T
ん − 2
⊆
五
p （
T
ん − 2
）
⋮
∏
T
1
⊆
五
p （
T
1
）
{\displaystyle P^{\prime }(x_{1},x_{2},\ldots ,x_{n})=\prod _{i=1}^{n-1}\left[\prod _{ {\mathcal {T}}_{i}\subseteq {\mathcal {V}}}p({\mathcal {T}}_{i})\right]^{(-1)^{n-1-i}}={\frac {\prod _{{\mathcal {T}}_{n-1}\ subseteq {\mathcal {V}}}p({\mathcal {T}}_{n-1})}{\frac {\prod _{{\mathcal {T}}_{n-2}\subseteq {\mathcal {V}}}p({\mathcal {T}}_{n-2})}{\frac {\vdots }{\prod _{{\mathcal {T}}_{1}\subseteq {\mathcal {V}}}p({\mathcal {T}}_{1})}}}}
どこ
∏
T
私
⊆
五
p （
T
私
）
{\displaystyle \prod _{{\mathcal {T}}_{i}\subseteq {\mathcal {V}}}p({\mathcal {T}}_{i})}
は、変数集合 におけるサイズ i の変数のすべての部分集合の確率の積である 。この種の式は、渡辺 (1960) によって検討されており、渡辺によれば、ロバート・ファノも検討している。3変数の場合、これは単純に次のように簡略化される。
五
{\displaystyle \scriptstyle {\mathcal {V}}}
ポ
′
（
x
1
、
x
2
、
x
3
） =
p （
x
1
、
x
2
） p （
x
2
、
x
3
） p （
x
1
、
x
3
）
p （
x
1
） p （
x
2
） p （
x
3
）
{\displaystyle P^{\prime }(x_{1},x_{2},x_{3})={\frac {p(x_{1},x_{2})p(x_{2},x_{3})p(x_{1},x_{3})}{p(x_{1})p(x_{2})p(x_{3})}}}
カークウッド近似は、一般に有効な確率分布を生成しません（正規化条件に違反します）。渡辺は、この理由から、このタイプの情報表現は意味をなさないと主張しており、実際、この尺度の特性について書かれたものはほとんどありません。カークウッド近似は、 相互作用情報 の確率的対応物です。
Judea Pearl (1988 §3.2.4) は、このタイプの表現は、 分解可能な モデル、つまり、 クリークが 木を 形成する グラフ 構造を許容する確率分布の場合には正確になり得ることを示しています 。このような場合、分子にはクリーク内結合分布の積が含まれ、分母にはクリーク交差分布の積が含まれます。
参考文献
^ カークウッド、ジョン G. (1935). 「流体混合物の統計力学」. 化学物理学ジャーナル . 3 (5). AIP 出版: 300–313. Bibcode :1935JChPh...3..300K. doi :10.1063/1.1749657. ISSN 0021-9606.
Jakulin, A. & Bratko, I. (2004)、「属性相互作用の定量化と視覚化: エントロピーに基づくアプローチ」、 Journal of Machine Learning Research 、(提出中) pp. 38–43。 松田 浩之 (2000-09-01). 「高次相互情報量の物理的性質: 内在的相関とフラストレーション」. Physical Review E. 62 ( 3). アメリカ物理学会 (APS): 3096–3102. Bibcode :2000PhRvE..62.3096M. doi :10.1103/physreve.62.3096. ISSN 1063-651X. PMID 11088803. Pearl, J. (1988). インテリジェントシステムにおける確率的推論: もっともらしい推論のネットワーク . サンマテオ、カリフォルニア州: Morgan Kaufmann/Elsevier. doi :10.1016/c2009-0-27609-4. ISBN 978-0-08-051489-5 。 渡辺 聡 (1960)。「多変量相関の情報理論的分析」。IBM Journal of Research and Development。4 (1) 。IBM : 66–82。doi :10.1147/rd.41.0066。ISSN 0018-8646 。 
![{\displaystyle P^{\prime }(x_{1},x_{2},\ldots ,x_{n})=\prod _{i=1}^{n-1}\left[\prod _{ {\mathcal {T}}_{i}\subseteq {\mathcal {V}}}p({\mathcal {T}}_{i})\right]^{(-1)^{n-1-i}}={\frac {\prod _{{\mathcal {T}}_{n-1}\ subseteq {\mathcal {V}}}p({\mathcal {T}}_{n-1})}{\frac {\prod _{{\mathcal {T}}_{n-2}\subseteq {\mathcal {V}}}p({\mathcal {T}}_{n-2})}{\frac {\vdots }{\prod _{{\mathcal {T}}_{1}\subseteq {\mathcal {V}}}p({\mathcal {T}}_{1})}}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/4f322af3e4c0b7f6ee0f898e6f0163bc8e58cded)
