最大エントロピー熱力学

ジェインズ（1985、^{[ 5 ]} 2003、^{[ 6 ]}他）は確率の概念について論じた。MaxEnt の観点によれば、統計力学における確率は、2 つの要因によって共同で決定される。1 つは、基礎となる状態空間の特定のモデル（例えば、リウヴィル位相空間）によって、もう 1 つは、システムの特定の部分的記述（MaxEnt の確率割り当てを制約するために使用されるシステムの巨視的記述）によってである。確率は、これらの入力が与えられると、特定の個人の主観性や恣意的な意見とは無関係に、すべての合理的な研究者にとって同じ、一意に定義された確率分布が得られるという意味で客観的である。確率は、特定のデータに基づいて定義され、すべての合理的な研究者にとって同じ、明確かつ客観的な推論規則によってそのデータから導出されるという意味で認識論的である。^{[ 7 ]}ここで「認識論的」という言葉は、客観的で非人格的な科学的知識、つまりすべての合理的な研究者にとって同じ知識を指し、特定の人物の主観的または恣意的な信念を指す「意見的」という言葉と対比する意味で使用されています。この対比はプラトンとアリストテレスによって使用され、今日でも信頼できます。

ジェインズは、他の人々がこの文脈でこの言葉を使っていたため、この文脈で「主観的」という言葉も使った。彼は、知識の状態には主観的な側面があることを認めた。それは、それが精神過程である思考を指すからである。しかし、彼は、最大エントロピーの原理は、思考者の人格とは無関係な、合理的で客観的な思考のみを指すことを強調した。一般的に、哲学的観点から言えば、「主観的」と「客観的」という言葉は矛盾するものではなく、多くの場合、実体は主観的側面と客観的側面の両方を持つ。ジェインズは、思考に主観的な側面があると言えるからといって、思考が自動的に非客観的であるという一部の著述家の批判を明確に否定した。彼は、科学的推論、すなわち科学の認識論の基礎として主観性を明確に否定し、科学的推論には完全かつ厳密に客観的な基礎が必要であると主張した。^{[ 8 ]}それにもかかわらず、批評家たちはジェインズの考えが「主観的」であると主張して彼を攻撃し続けている。ある著者はジェインズのアプローチを「超主観主義的」とまで呼び^{[ 9 ]}、「主観主義という用語が物理学者の間で引き起こしたパニック」に言及している^{[ 10 ] 。}

これらの確率は、アナリストがシステムのマクロ的な記述に用いるデータとモデルにおける知識の程度と情報不足の両方を表しており、さらに、それらのデータが根底にある現実の性質について何を語っているかも示している。

確率の妥当性は、指定された巨視的モデルの制約が、実験的に再現可能なすべての挙動を捉えるのに十分な精度と完全性を備えたシステム記述であるかどうかに依存します。これは事前に保証できるものではありません。そのため、MaxEntの提唱者はこの手法を予測統計力学とも呼んでいます。予測が失敗することもあります。しかし、失敗した場合は、システムの再現可能な挙動を捉えるために必要な、これまで考慮されていなかった新たな制約の存在を示すため、有益な情報となります。

熱力学的エントロピー（平衡状態）は、モデル記述の状態変数の関数です。したがって、モデル記述における他の変数と同様に「実在する」ものです。確率割り当てにおけるモデル制約が、再現可能な実験結果を予測するために必要なすべての情報を含む「適切な」記述である場合、それは古典熱力学のエントロピーを含む式を用いて予測できるすべての結果を含みます。その意味で、MaxEnt S _{Th は}古典熱力学のエントロピーと同様に「実在する」ものです。

もちろん、現実にはシステムの真の状態は一つしか存在しない。エントロピーはその状態の直接的な関数ではない。エントロピーは、（主観的に選択された）巨視的モデル記述を通してのみ、真の状態の関数となる。

ギブスアンサンブルは、同じシステムで何度も実験を繰り返すのではなく、異なるシステムで何度も実験を繰り返すという概念を理想化したものです。したがって、20世紀前半に強い関心を集めた長期平均やエルゴード仮説は、厳密に言えば、システムがどのような状態にあるかという確率の割り当てとは関係がありません。

しかし、測定前にシステムが特定の方法で準備されているという追加情報がある場合は、状況が変わります。その場合、測定時にもなお関連性のある追加情報が得られるかどうかを検討する必要があります。システムのさまざまな特性がどの程度「急速に混合」されるかという問題が非常に重要になります。結合されたシステムの自由度に関する情報はすぐに使用できなくなる可能性がありますが、システムの他の特性に関する情報はかなりの期間関連性を持ち続ける可能性があります。

少なくとも、このシステムの中長期的な時間相関特性は、それ自体が実験的に興味深い対象である。それらを正確に予測できないということは、関連する巨視的に決定可能な物理現象がモデルに欠けている可能性を示す良い指標となる。

ハミルトン力学に関するリウヴィルの定理によれば、位相空間における点群の超体積は、システムが時間とともに進化しても一定に保たれる。したがって、元の情報に基づいて条件付けを行い、それらのミクロ状態を時間的に追跡していくと、情報エントロピーも一定に保たれるはずである。

${\displaystyle \Delta S_{\text{I}}=0\,}$

しかし、時間が経つにつれて、当初得られた情報は直接的にアクセスしにくくなります。システムの巨視的な記述で容易に要約できるものではなくなり、個々の分子の位置と運動量の間の非常に微妙な相関関係にますます関係するようになります。（ボルツマンのH定理と比較してください。）言い換えれば、6N次元位相空間におけるシステム全体の確率分布は、当初の厳密に定義された可能性の体積ではなく、細長い指のように広がり、ますます不規則になるということです。

古典熱力学は、エントロピーが巨視的な変数の状態関数であるという仮定に基づいている。つまり、システムの履歴はどれも重要ではなく、すべて無視できるという仮定である。

拡張され、繊細で、進化を遂げた確率分布は、依然として初期のシャノンエントロピーS _Th ^{(1)を保持しており、時刻}t ₂における観測された巨視的変数の期待値を再現するはずです。しかし、それはもはや、その新しい巨視的記述にとって必ずしも最大エントロピー分布になるとは限りません。一方、新しい熱力学的エントロピーS _Th ⁽²⁾は、構成上、確実に最大エントロピー分布を測定します。したがって、次のことが予想されます。

${\displaystyle {S_{\text{Th}}}^{(2)}\geq {S_{\text{Th}}}^{(1)}}$

抽象的なレベルでは、この結果は、システムに関して当初持っていた情報の一部が、巨視的なレベルでは「もはや役に立たなくなった」ことを示唆している。6N次元確率分布のレベルでは、この結果は粗視化、つまり非常に細かい詳細を平滑化することによる情報損失を表している。

上記にはいくつかの注意点がある。

1. MaxEnt学派による統計力学的な結果すべてと同様に、この熱力学的エントロピーの増加は単なる予測に過ぎません。特に、初期の巨視的記述には、後の巨視的状態を予測するために必要なすべての情報が含まれていることを前提としています。しかし、例えば、初期の記述が、後に重要となるシステムの準備段階の何らかの側面を反映していない場合など、必ずしもそうとは限りません。その場合、MaxEnt予測の「失敗」は、システムの物理学において、私たちが見落としていた可能性のある、さらに重要な何かが存在することを示しています。

また、量子測定、特にデコヒーレンス解釈においては、これまでアクセスできなかった巨視的な情報が利用可能になるように見えるため、この議論によれば、エントロピーが予想外に減少する可能性があると示唆されることもある。（ただし、量子測定のエントロピー計算は複雑である。なぜなら、完全なデコヒーレンスを得るには、無限のエントロピーを持つ無限の環境を仮定する必要があるかもしれないからである。）

2. これまでの議論では、変動の問題は軽視されてきました。また、時刻t _{1における時刻}t _{2 の}変数の予測される不確実性は、測定誤差よりもはるかに小さいと暗黙のうちに仮定してきました。しかし、測定によってシステムの知識が意味のある形で更新される場合、システムの状態に関する不確実性は減少し、S _I ⁽¹⁾よりも小さい新しいS _I ^{(2)が得られます。（}ラプラスの悪魔の能力を許容すれば、この新しい情報の帰結を逆方向にマッピングすることもできるため、時刻t ₁における動的状態に関する不確実性もS _I ⁽¹⁾からS _I ⁽²⁾に減少することに注意してください。）

S _Th ⁽²⁾ > S _I ⁽²⁾であることはわかっていますが、 S _Th ⁽¹⁾ = S _I ⁽¹⁾より大きいとはもはや断言できません。そのため、 S _Thにゆらぎが生じる可能性が残ります。熱力学的エントロピーは、上昇するだけでなく「下降」することもあります。より洗練された解析は、時間依存の最大エントロピー像の結果として確立できるエントロピーゆらぎ定理によって与えられます。

3. 先ほど述べたように、最大​​エントロピー推論は逆方向にも同様に機能します。したがって、特定の最終状態が与えられた場合、以前の状態に関する知識を向上させるために何を「遡及的に予測」できるかを問うことができます。しかし、上記の第二法則の議論は逆方向にも機能します。時刻t ₂における巨視的な情報が与えられた場合、その情報も有用性が低下すると予想されます。この 2 つの手順は時間的に対称です。しかし、今度は、情報はより早い時刻ではますます有用性が低下します。（ロシュミットのパラドックスと比較してください。）最大エントロピー推論は、現在の低エントロピー状態の最も可能性の高い起源は、以前の高エントロピー状態からの自発的な変動であると予測します。しかし、これは、過去に遡ってもエントロピーが着実に増加してきたという、私たちが知っている事実と矛盾します。

MaxEnt の支持者たちは、MaxEnt 推論の予測におけるこのような体系的な失敗は「良い」ことだと答えるだろう。^{[ 11 ]}つまり、問題の仕様において重要な物理情報が見落とされているという明確な証拠があるということだ。ダイナミクスが時間対称であるとすれば、熱力学的エントロピーが低い初期配置が熱力学的エントロピーが高い初期配置よりも起こりやすいという事前確率を手動で設定する必要があるようだ。これは、直接的なダイナミクスでは説明できない。おそらく、宇宙論的スケールでの宇宙の明らかな時間非対称進化を反映して生じているのだろう (時間の矢を参照)。

• Balescu, Radu (1997). Statistical Dynamics: Matter out of equilibrium . London: Imperial College Press. Bibcode : 1997sdmo.book.....B .
• Jaynes, ET (1968年9月) 「事前確率」(PDF) IEEE Transactions on Systems Science and Cyber​​netics . SSC–4 (3): 227– 241. doi : 10.1109/TSSC.1968.300117 .
• Guttmann, YM (1999). 『統計物理学における確率の概念』、ケンブリッジ大学出版局、ケンブリッジ、英国、ISBN 978-0-521-62128-1。
• Jaynes, ET (1979). 「最大エントロピーに関する我々の現状は？」(PDF) . Levine, R.; Tribus M. (編) 『最大エントロピー形式論』 . MIT Press. ISBN 978-0-262-12080-7。
• Jaynes, ET (1985). 「いくつかのランダムな観察」. Synthese . 63 : 115–138 . doi : 10.1007/BF00485957 . S2CID 46975520 . 
• Jaynes, ET (2003). Bretthorst, GL (編).確率論：科学の論理. ケンブリッジ：ケンブリッジ大学出版局. ISBN 978-0-521-59271-0。
• クライドン、アクセル；ローレンツ、ラルフ・D. (2005).非平衡熱力学とエントロピーの生成：生命、地球、そしてその先へ. スプリンガー. pp.  42–. ISBN 978-3-540-22495-2。