エントロピー的不確実性

量子力学、情報理論、フーリエ解析では、エントロピー不確定性またはヒルシュマン不確定性は、時間的およびスペクトル的シャノンエントロピーの合計として定義されます。ハイゼンベルクの不確定性原理は、これらのエントロピーの合計の下限として表現できることがわかります。これは、標準偏差の積に関する不確定性原理の通常の記述よりも 強力です。

^1957年[1] にハーシュマンは関数fとそのフーリエ変換 gを考察し、

${\displaystyle g(y)\approx \int _{-\infty }^{\infty }\exp(-2\pi ixy)f(x)\,dx,\qquad f(x)\approx \int _{-\infty }^{\infty }\exp(2\pi ixy)g(y)\,dy~,}$

ここで「≈」はL ²における収束を示し、（プランシュレルの定理により）となるように正規化される。

${\displaystyle \int _{-\infty }^{\infty }|f(x)|^{2}\,dx=\int _{-\infty }^{\infty }|g(y)|^{2}\,dy=1~.}$

彼は、そのような関数のシャノンエントロピーの合計は非負であることを示した。

${\displaystyle H(|f|^{2})+H(|g|^{2})\equiv -\int _{-\infty }^{\infty }|f(x)|^{2}\log |f(x)|^{2}\,dx-\int _{-\infty }^{\infty }|g(y)|^{2}\log |g(y)|^{2}\,dy\geq 0.}$

より厳しい境界、

^{は、ヒルシュマン[1]}とエヴェレット^[2]によって予想され、1975年にW.ベックナー^{[3]によって証明され、同年にビアリニツキ・ビルラとミシェルスキ[4]}によって一般化された量子力学的不確定性原理として解釈されました。この等式は、ガウス分布 の場合にも成り立ちます。^[5] ただし、上記のエントロピー不確定性関数は、位相空間で表される量子フォン・ノイマンエントロピーとは明確に異なることに注意してください。

この厳密な不等式の証明は、フーリエ変換のいわゆる( q ,  p ) ノルムに依存します。(このノルムを確立することが証明の最も難しい部分です。)

このノルムから、（微分）レーニエントロピーの合計の下限値H _α (|f|²)+H _β (|g|²)を確立することができます。ここで1/α + 1/β = 2であり、これはシャノンエントロピーを一般化します。簡単にするために、この不等式を 1 次元でのみ考慮します。多次元への拡張は簡単で、引用文献に記載されています。

フーリエ変換の( q ,  p )ノルムは次のように定義される^[6]

${\displaystyle \|{\mathcal {F}}\|_{q,p}=\sup _{f\in L^{p}(\mathbb {R} )}{\frac {\|{\mathcal {F}}f\|_{q}}{\|f\|_{p}}},}$ どこで   そして${\displaystyle 1<p\leq 2~,}$${\displaystyle {\frac {1}{p}}+{\frac {1}{q}}=1.}$

1961年にバベンコ^[7]はqの偶数整数値に対してこのノルムを発見した。最終的に1975年にベックナー^[3]はエルミート関数をフーリエ変換の固有関数として用いて、このノルムの値（1次元）がすべてのq ≥ 2に対して次のようになることを証明した。

${\displaystyle \|{\mathcal {F}}\|_{q,p}={\sqrt {p^{1/p}/q^{1/q}}}.}}$

したがって、バベンコ・ベックナー不等式は次のように なる。

${\displaystyle \|{\mathcal {F}}f\|_{q}\leq \left(p^{1/p}/q^{1/q}\right)^{1/2}\|f\|_{p}.}$

この不等式から、レーニエントロピーによる不確定性原理の表現を導くことができる。^{[6] [8]}

とすると、 ${\displaystyle g={\mathcal {F}}f,\,2\alpha =p,\,2\beta =q,}$${\displaystyle {\frac {1}{\alpha }}+{\frac {1}{\beta }}=2}$${\displaystyle {\frac {1}{2}}\leq \alpha \leq 1\leq \beta }$

${\displaystyle \left(\int _{\mathbb {R} }|g(y)|^{2\beta }\,dy\right)^{1/2\beta }\leq {\frac {(2\alpha )^{1/4\alpha }}{(2\beta )^{1/4\beta }}}\left(\int _{\mathbb {R} }|f(x)|^{2\alpha }\,dx\right)^{1/2\alpha }.}$

両辺を二乗して対数をとると、

${\displaystyle {\frac {1}{\beta }}\log \left(\int _{\mathbb {R} }|g(y)|^{2\beta }\,dy\right)\leq {\frac {1}{2}}\log {\frac {(2\alpha )^{1/\alpha }}{(2\beta )^{1/\beta }}}+{\frac {1}{\alpha }}\log \left(\int _{\mathbb {R} }|f(x)|^{2\alpha }\,dx\right).}$

条件を次のよう に書き直すことができる。${\displaystyle \alpha ,\beta }$

${\displaystyle \alpha (1-\beta )+\beta (1-\alpha )=0}$

と仮定すると、両辺に負の ${\displaystyle \alpha ,\beta \neq 1}$

${\displaystyle {\frac {\beta }{1-\beta }}=-{\frac {\alpha }{1-\alpha }}}$

取得するため

${\displaystyle {\frac {1}{1-\beta }}\log \left(\int _{\mathbb {R} }|g(y)|^{2\beta }\,dy\right)\geq {\frac {\alpha }{2(\alpha -1)}}\log {\frac {(2\alpha )^{1/\alpha }}{(2\beta )^{1/\beta }}}-{\frac {1}{1-\alpha }}\log \left(\int _{\mathbb {R} }|f(x)|^{2\alpha }\,dx\right)~.}$

項を並べ替えると、レーニエントロピーの合計に関して不等式が得られる。

${\displaystyle {\frac {1}{1-\alpha }}\log \left(\int _{\mathbb {R} }|f(x)|^{2\alpha }\,dx\right)+{\frac {1}{1-\beta }}\log \left(\int _{\mathbb {R} }|g(y)|^{2\beta }\,dy\right)\geq {\frac {\alpha }{2(\alpha -1)}}\log {\frac {(2\alpha )^{1/\alpha }}{(2\beta )^{1/\beta }}};}$

${\displaystyle H_{\alpha }(|f|^{2})+H_{\beta }(|g|^{2})\geq {\frac {1}{2}}\left({\frac {\log \alpha }{\alpha -1}}+{\frac {\log \beta }{\beta -1}}\right)-\log 2}$

${\displaystyle {\frac {\alpha }{2(\alpha -1)}}\log {\frac {(2\alpha )^{1/\alpha }}{(2\beta )^{1/\beta }}}}$

${\displaystyle ={\frac {1}{2}}\left[{\frac {\alpha }{\alpha -1}}\log(2\alpha )^{1/\alpha }+{\frac {\beta }{\beta -1}}\log(2\beta )^{1/\beta }\right]}$

${\displaystyle ={\frac {1}{2}}\left[{\frac {\log 2\alpha }{\alpha -1}}+{\frac {\log 2\beta }{\beta -1}}\right]}$

${\displaystyle ={\frac {1}{2}}\left[{\frac {\log \alpha }{\alpha -1}}+{\frac {\log \beta }{\beta -1}}\right]+{\frac {1}{2}}\log 2\left[{\frac {1}{\alpha -1}}+{\frac {1}{\beta -1}}\right]}$

${\displaystyle ={\frac {1}{2}}\left[{\frac {\log \alpha }{\alpha -1}}+{\frac {\log \beta }{\beta -1}}\right]+{\frac {1}{2}}\log 2\left[{\frac {1}{\alpha -1}}+{\frac {1}{\beta -1}}-{\frac {\alpha }{\alpha -1}}-{\frac {\beta }{\beta -1}}\right]}$

${\displaystyle ={\frac {1}{2}}\left[{\frac {\log \alpha }{\alpha -1}}+{\frac {\log \beta }{\beta -1}}\right]+{\frac {1}{2}}\log 2\left[-2\right]}$

${\displaystyle ={\frac {1}{2}}\left[{\frac {\log \alpha }{\alpha -1}}+{\frac {\log \beta }{\beta -1}}\right]-\log 2}$

この最後の不等式の極限を として代入すると、あまり一般的ではないシャノンエントロピー不等式が得られる。 ${\displaystyle \alpha ,\,\beta \to 1}$${\displaystyle \mathrm {A} =\alpha -1,\mathrm {B} =\beta -1}$

${\displaystyle H(|f|^{2})+H(|g|^{2})\geq \log {\frac {e}{2}},\quad {\textrm {where}}\quad g(y)\approx \int _{\mathbb {R} }e^{-2\pi ixy}f(x)\,dx~,}$

適切な情報単位（ビット、ナットなど） を選択すれば、対数の底に関係なく有効です。

ただし、フーリエ変換の正規化が異なると定数は異なります（物理学では通常、ħ =1となるように正規化が選ばれます）。

${\displaystyle H(|f|^{2})+H(|g|^{2})\geq \log(\pi e)\quad {\textrm {for}}\quad g(y)\approx {\frac {1}{\sqrt {2\pi }}}\int _{\mathbb {R} }e^{-ixy}f(x)\,dx~.}$

この場合、フーリエ変換の絶対値の二乗を 2 π倍に拡大すると、エントロピーに log(2 π ) が加算されるだけです。

ガウス分布または正規確率分布は、分散とエントロピーの関係において重要な役割を果たします。この分布が、与えられた分散に対してエントロピーを最大化し、同時に与えられたエントロピーに対して分散を最小化することを示すのは変分法の問題です。実際、 実数直線上の任意の確率密度関数に対して、シャノンのエントロピー不等式は次のように指定します。 ${\displaystyle \phi }$

${\displaystyle H(\phi )\leq \log {\sqrt {2\pi eV(\phi )}},}$

ここで、Hはシャノンエントロピー、V は分散であり、正規分布の場合にのみ飽和する不等式です。

さらに、ガウス確率振幅関数のフーリエ変換もガウスであり、これらの絶対値の二乗もガウスである。これを使用して、上記のエントロピー不等式から通常のロバートソン分散不確実性不等式を導き出すことができ、後者を前者よりも厳密なものにすることができる。つまり、（ħ =1の場合）ヒルシュマン不等式を累乗し、上記のシャノンの式を使用すると、

${\displaystyle 1/2\leq \exp(H(|f|^{2})+H(|g|^{2}))/(2e\pi )\leq {\sqrt {V(|f|^{2})V(|g|^{2})}}~.}$

ハーシュマン^[1]は、エントロピー（彼のバージョンのエントロピーはシャノンのエントロピーの逆）は「小さな測度の集合における[確率分布]の集中度の尺度」であると説明した。したがって、シャノンのエントロピーが低いか大きい負の値は、確率分布のかなりの大部分が小さな測度の集合に限定されていることを意味する。

この小さな測定のセットは連続している必要はないことに注意してください。確率分布は小さな測定の間隔で質量の集中が複数ある場合があり、それらの間隔がどれだけ広く散らばっていてもエントロピーは低いままである可​​能性があります。これは分散には当てはまりません。分散は分布の平均に関する質量の集中度を測定し、低い分散は確率分布のかなりの質量が小さな測定の連続した間隔に集中していることを意味します。

この区別を明確にするために、2つの確率密度関数とが等測可能であると述べる。 ${\displaystyle \phi _{1}}$${\displaystyle \phi _{2}}$

${\displaystyle \forall \delta >0,\,\mu \{x\in \mathbb {R} |\phi _{1}(x)\geq \delta \}=\mu \{x\in \mathbb {R} |\phi _{2}(x)\geq \delta \},}$

ここで、μはルベーグ測度 です。任意の 2 つの等測定可能な確率密度関数は、任意の順序で同じシャノン エントロピーを持ち、実際は同じレーニ エントロピーを持ちます。ただし、分散については同じことが当てはまりません。任意の確率密度関数には、放射状に減少する等測定可能な「再配置」があり、その分散は関数の他の再配置よりも小さくなります (平行移動を除く)。また、任意の高い分散の再配置も存在します (すべて同じエントロピーを持ちます)。

• 情報理論における不等式
• 対数シュレーディンガー方程式
• 不確定性原理
• リース・トーリン定理
• フーリエ変換

• Jizba, P.; Ma, Y.; Hayes, A.; Dunningham, JA (2016). 「エントロピーパワーに基づく不確定性関係の 1 パラメータクラス」。Phys . Rev. E 93 (6): 060104(R). doi:10.1103/PhysRevE.93.060104。
• Zozor, S.; Vignat, C. (2007). 「エントロピー的不確定性原理における非ガウス漸近最小化子のクラスについて」. Physica A: 統計力学とその応用. 375 (2): 499. arXiv : math/0605510 . Bibcode :2007PhyA..375..499Z. doi :10.1016/j.physa.2006.09.019. S2CID  119718352. arXiv:math/0605510v1
• Maassen, H.; Uffink, J. (1988). 「一般化されたエントロピー不確定性関係」(PDF) . Physical Review Letters . 60 (12): 1103–1106. Bibcode :1988PhRvL..60.1103M. doi :10.1103/PhysRevLett.60.1103. PMID  10037942.
• Ballester, M.; Wehner, S. (2007). 「エントロピー不確定性関係とロッキング: 相互に偏りのない基底の厳密な境界」. Physical Review A. 75 ( 2): 022319. arXiv : quant-ph/0606244 . Bibcode :2007PhRvA..75b2319B. doi :10.1103/PhysRevA.75.022319. S2CID  119470256.
• Ghirardi, G.; Marinatto, L.; Romano, R. (2003). 「2次元ヒルベルト空間における最適なエントロピー不確定性関係」. Physics Letters A. 317 ( 1–2): 32–36. arXiv : quant-ph/0310120 . Bibcode :2003PhLA..317...32G. doi :10.1016/j.physleta.2003.08.029. S2CID  9267554.
• Salcedo, LL (1998). 「反対称波動関数の最小不確実性」.数理物理学の手紙. 43 (3): 233–248. arXiv : quant-ph/9706015 . Bibcode :1997quant.ph..6015S. doi :10.1023/A:1007464229188. S2CID  18118758.