Loading article…
物理学の歴史において、エントロピーの概念は、燃焼反応から放出される一定量の機能エネルギーが常に散逸や摩擦によって失われ、有用な仕事に変換されないという観察に対応して発展しました。トーマス・セイヴァリーの（1698年）、ニューコメン機関（1712年） 、ニコラ＝ジョゼフ・キュニョの蒸気三輪車（1769年）などの初期の熱機関は非効率的で、入力エネルギーの約0.5%を有用な仕事出力に変換していました。[ 1 ]その後2世紀にわたり、物理学者はこの失われたエネルギーの謎を調査し、その結果としてエントロピーの概念が生まれました。
1850年代初頭、ルドルフ・クラウジウスは熱力学系の概念を提唱し、不可逆過程においては、系の境界を越えて微量の熱エネルギーδQが徐々に散逸するという主張を展開した。クラウジウスはエネルギー損失に関する自身の考えを発展させ続け、エントロピーという用語を作り出した。
20世紀半ば以降、エントロピーの概念は情報理論の分野で応用され、[ 2 ]情報伝送システムにおける類似のデータ損失を説明するようになった。
1803年、数学者のラザール・カルノーは『平衡と運動の基本原理』という著作を出版した。この著作には、滑車や斜面といった基本的な機械の効率についての議論が含まれている。カルノーは、機械エネルギーの保存に関する一般的な議論を展開するために、機構のあらゆる詳細を見抜いた。その後30年間、カルノーの定理は、あらゆる機械において、可動部の加速度と衝撃はすべて活動のモーメント、つまり行われた有効な仕事の損失を表すという記述として受け止められた。このことから、カルノーは永久運動は不可能であるという推論を導き出した。この活動のモーメントの損失は、熱力学第二法則と「変換エネルギー」またはエントロピー、つまり散逸と摩擦によって失われるエネルギーの概念の最初の基本的な記述であった。[ 3 ]
カルノーは1823年に亡命先で亡くなった。翌年、息子のサディ・カルノーは、エコール・ポリテクニークの技術者養成学校を卒業したが、当時は兄のイポリットとともにパリの小さなアパートで半給で暮らしており、『火の動力に関する考察』を執筆した。この著書の中で、サディは、熱（すなわちカロリー）が仕事に変換されたら、サイクルの運動を逆転させることでそれを元に戻すことができる理想的な機関を構想した。これは後に熱力学的可逆性として知られる概念である。父の研究を発展させ、サディは、摩擦損失や実際の機械の不完全性によるその他の損失を除外した理想化された可逆熱機関であっても、仕事への変換において「カロリーの一部は常に失われる」という概念を提唱した。また、この理想化された効率は、機関が作動する熱源の温度のみに依存し、作動流体の種類には依存しないことも発見した。実際の熱機関ではカルノーサイクルの可逆性を実現することはできず、効率はさらに低下せざるを得なかった。この利用可能な熱量の損失は、現在私たちが知っているエントロピー増加の先駆けとなる形態であった。エントロピーではなく熱量という観点から定式化されたものの、これは熱力学第二法則への初期の洞察であった。
クラウジウスは1854年の回顧録で、まず「物体の原子同士が及ぼし合う」内部仕事と、「物体がさらされる外部の影響から生じる」外部仕事という概念を展開し、これらは流体や気体の作動体に作用し、典型的にはピストンを動かす働きをする。そして、熱Qを3つのカテゴリーに分類できることを論じている。
この論理に基づいて、第一基本定理の数学的表現に続いて、クラウジウスは史上初のエントロピーの数学的定式化を提示したが、この時点では理論の発展においてそれを「等価値」と呼んでおり、おそらくエントロピーではなく、当時発展していた熱の機械的等価物の概念を指していたのだろう。エントロピーという用語は後に使われるようになる。 [ 4 ]彼は次のように述べている。 [ 5 ]
熱の力学的理論における第二の基本定理は、次のように述べることができる。
他の永続的な変化を必要とせずに互いに置き換えることができる2つの変換を等価と呼ぶならば、温度Tでの仕事から発生する熱量Qは、次の等価値を持つ。
そして、温度T1から温度T2への熱量Qの移動は、以下の等価値を持つ。
ここで、Tは温度の関数であり、変換が行われるプロセスの性質とは無関係である。
現代の用語、すなわち1865年にクラウジウス自身が導入した用語では、この等価値を「エントロピー」と呼び、Sで表します。したがって、上記の説明を用いて、熱量Qが温度T1から流体の「作動体」（通常は蒸気）を通って温度T2に伝わる際のエントロピー変化ΔSを以下のように計算できます。
課題を設定する場合：
すると、この変換におけるエントロピー変化、すなわち「等価値」は次のようになる。
これは以下と同等です。
そしてQを因数分解すると、クラウジウスが導き出した以下の形式が得られる。
1856年、クラウジウスは「熱の力学的理論における第二の基本定理」と呼んだものを、次のような形で述べた。
ここで、N は、循環プロセスに関与するすべての補償されていない変換の「等価値」である。この等価値は、エントロピーの先駆けとなる定式化であった。[ 6 ]
1862年、クラウジウスは「変換の等価値に関する定理」、すなわち現在では熱力学第二法則として知られるものを次のように述べた。
循環過程において発生するすべての変換の代数和は、正の値しか取らないか、極端な場合にはゼロになる。
定量的に言えば、クラウジウスはこの定理の数式を次のように述べている。
δQを、物体が自身の変化の際に熱源に放出する熱量（ここでは熱源から吸収する熱量は負の値として計算される）とし、Tをこの熱を放出する瞬間の物体の絶対温度とすると、次の式が成り立つ。
可逆的な循環過程すべてにおいて真でなければならない関係式：
あらゆる循環過程において、いかなる形であれ、この原則は当てはまるはずだ。
これは第二法則の初期の定式化であり、エントロピーの概念の原型の一つであった。
1865年、クラウジウスは不可逆的な熱損失、あるいはそれまで「等価値」と呼んでいたものに名前を付けました。[ 7 ] [ 8 ] [ 9 ]
私は、S をギリシャ語の「en-tropie」（内在的方向）から取ることを提案します。私は意図的に、entropy という言葉を energy という言葉にできるだけ似せて選びました。これらの言葉で名付けられる 2 つの量は物理的な意味において非常に密接に関連しているため、その名前にある程度の類似性があるのは適切であると思われます。[ 10 ]
クラウジウスはエントロピーを表す記号としてSを選んだ理由を明記しておらず、クラウジウスがサディ・カルノーに敬意を表してSを選んだというのはほぼ間違いなく事実ではない。科学者の名前がこのように使われることはほとんどない。[ 11 ]
1876年、物理学者J.ウィラード・ギブスは、クラウジウス、ヘルマン・フォン・ヘルムホルツらの研究に基づいて、熱力学系における「利用可能なエネルギー」 ΔGの測定は、系の全エネルギー変化ΔHから「エネルギー損失」 TΔSを差し引くことで数学的に説明できると提唱した。これらの概念は、ジェームズ・クラーク・マクスウェル[1871] [ 12 ]とマックス・プランク[1903] [ 13 ]によってさらに発展させられた。
1877年、ルートヴィヒ・ボルツマンは、内部熱力学的平衡状態にある物体のエントロピーSを統計力学的に評価する方法を開発した。それは次のように表される。
どこ
ボルツマン自身は、定数k Bで表されたこの式を実際に書いたわけではなく、これはプランクがボルツマンの解釈によるものです。[ 14 ]
ボルツマンはエントロピーを統計的な「混沌度」あるいは無秩序の尺度と捉えた。この概念はすぐにギブスによって洗練され、現在では統計力学の理論の基礎の一つとみなされている。
エルヴィン・シュレーディンガーは、 1944年の著書『生命とは何か？』[ 15 ]の中で、ボルツマンの研究を利用して、生命系における複製エラーが統計力学から予測されるよりもはるかに少ない理由を説明した。シュレーディンガーは、エントロピーの増大を示すために、ボルツマン方程式を別の形で用いた。
ここで、Dはシステム内でランダムにエネルギーを充填できる可能なエネルギー状態の数です。彼は、(1/D) がランダムに分布することが妨げられる状態の数を表す場合、遺伝暗号の複製で起こるように、生命システムでは局所的にエントロピーが減少すると仮定しました。
この修正がなければ、シュレーディンガーは、統計力学では100万回の反復につき1000回の突然変異、 nの平方根の法則に従って100回の反復につき10回の突然変異が予測されると主張したが、これは実際に起こる突然変異よりもはるかに多い数である。
シュレーディンガーのランダムなエネルギー状態と非ランダムなエネルギー状態の分離は、エントロピーが過去には低かったのに、現在では継続的に増加している理由を説明する数少ない方法の一つです。これは、放物面反射鏡における放射エネルギーの集束時やダイオードの暗電流時における局所的なエントロピーの減少[ 16 ]の説明として提案されており、そうでなければ統計力学に違反することになります。
熱力学的エントロピーの類似物として情報エントロピーがある。1948年、ベル電話研究所で働いていた電気技師のクロード・シャノンは、電話回線信号における「失われた情報」の統計的性質を数学的に定量化しようと試みた。そのために、シャノンは情報理論の基本的な礎石である情報エントロピーという非常に一般的な概念を開発した。話は様々だが、当初シャノンは、自身の新しい量と熱力学における以前の研究との密接な類似性に特に気づいていなかったようだ。しかし、1939年、シャノンが方程式に取り組んでいた頃、偶然にも数学者のジョン・フォン・ノイマンを訪ねた。ある情報源によると、電話回線信号における「不確実性の尺度」または減衰をシャノンが自身の新しい情報理論に照らして何と呼ぶべきかについての議論の中で、次のようなことが起こったという。[ 17 ]
私が最も懸念していたのは、それを何と呼ぶかということでした。「情報」と呼ぼうかとも考えましたが、その言葉は使い古されていたので、「不確実性」と呼ぶことにしました。ジョン・フォン・ノイマンとこの件について話し合ったところ、彼の方がもっと良い考えを持っていました。フォン・ノイマンは私にこう言いました。「エントロピーと呼ぶべきだ。理由は二つある。まず、君の不確実性関数は統計力学で既にその名前で使われているので、名前が付けられている。そして、より重要なことに、エントロピーが実際には何なのか誰も知らないので、議論になった時には常に君が有利になるだろう。」
別の情報源によると、フォン・ノイマンがシャノンに情報理論の進捗状況を尋ねたところ、シャノンは次のように答えたという。[ 18 ]
その理論は申し分ない出来だったが、「欠落情報」に適切な名前が必要だった。「エントロピーと呼んでみてはどうでしょう」とフォン・ノイマンは提案した。「まず第一に、あなたの理論と非常によく似た数学的展開がボルツマンの統計力学に既に存在します。第二に、エントロピーをよく理解している人はほとんどいないので、どんな議論においてもあなたは有利な立場に立てるでしょう。」
1948年、シャノンは画期的な論文「コミュニケーションの数学的理論」を発表し、その中で選択、不確実性、エントロピーと呼ばれるものに一節を割いた。[ 19 ]この節で、シャノンは次のような形式のH関数を導入している。
ここでKは正の定数である。シャノンは続けて、「K が単に測定単位の選択に相当するこの形式の量は、情報、選択、不確実性の尺度として情報理論において中心的な役割を果たす」と述べている。そして、この表現がさまざまな分野でどのように適用されるかの例として、リチャード C. トルマンの 1938 年の『統計力学の原理』を引用し、次のように述べている。
Hの形式は、統計力学の特定の定式化で定義されるエントロピーの形式として認識される。ここでp iは、システムがその位相空間のセルiにある確率である。Hは、例えば、ボルツマンの有名なH定理のHである。
そのため、この発言がなされて以来、過去50年間、人々はこの2つの概念を混同したり、あるいは両者は全く同じものだと主張したりしてきた。
シャノンの情報エントロピーは、統計的熱力学的エントロピーよりもはるかに一般的な概念です。情報エントロピーは、確率分布によってのみ記述できる未知の量が存在する場合に存在します。1957年から始まったET Jaynesによる一連の論文[ 20 ] [ 21 ]では、統計的熱力学的エントロピーは、特定のマクロ状態を生成するためにシステムの特定のミクロ状態が発生する確率に対するシャノンの情報エントロピーの特定の適用例と見なすことができます。
エントロピーという用語は、一般的にはさまざまな無関係な現象を指すのに用いられることが多い。その一例として、トム・デマルコとティモシー・リスターが1987年の名著『ピープルウェア』の中で、ややユーモラスに提唱した「企業エントロピー」という概念がある。この本は、生産性の高いチームと成功するソフトウェアプロジェクトを育成・管理する方法について書かれたものだ。彼らは、エネルギーの浪費を官僚主義的な手続きと捉え、ビジネスチームの非効率性をエントロピーの一形態、つまり無駄に失われるエネルギーとみなしている。この概念は広く受け入れられ、今ではビジネススクールでよく使われる専門用語となっている。
別の例として、アイザック・アシモフの短編小説「最後の質問」（1956年著作権取得）では、エントロピーが中心的なテーマとなっている。この物語は、最も重要な問題はエントロピーの増大をいかに止めるかである、という考え方を扱っている。
必要に応じて、統計熱力学におけるエントロピーの概念と、様々な研究者によって提唱されたエントロピーに類似した公式とを区別するために、統計熱力学におけるエントロピーはギブスエントロピーと呼ぶのが最も適切である。文献には、ボルツマン・ギブスエントロピー（BGエントロピー）やボルツマン・ギブス・シャノンエントロピー（BGSエントロピー）といった用語も見られる。
