ギブスアルゴリズム

統計力学において、 1902年にJ.ウィラード・ギブスによって導入されたギブスアルゴリズムは、平均対数確率を最小化することによって、熱力学系のミクロ状態の統計的アンサンブルの確率分布を選択するための基準である。

${\displaystyle \langle \ln p_{i}\rangle =\sum _{i}p_{i}\ln p_{i}\,}$

既知の巨視的量に対応する一連の制約（通常は期待値）を満たす確率分布p _{iを条件とする。} ^{[ 1 ]} 1948 年、クロード・シャノンはこの量の負の値を情報エントロピーと呼び、確率分布の不確実性の尺度として解釈した。^{[ 1 ]} 1957 年、ET ジェインズはこの量が何であれ欠落した情報として解釈できることに気づき、最大エントロピーの原理と最大エントロピー熱力学を用いてギブスアルゴリズムを非平衡系に一般化した。^{[ 1 ]}

物理学者は、ギブスアルゴリズムを適用した結果を、与えられた制約条件に対するギブス分布と呼ぶ。最も有名なのは、平均エネルギーと平均粒子数が与えられた開放系に対するギブスのグランドカノニカルアンサンブルである。（分配関数も参照）。

ギブスアルゴリズムの一般的な結果として得られるのは、最大エントロピー確率分布である。統計学者は、このような分布を指数型分布族に属するものとみなす。