凸共役

数学および数理最適化において、関数の凸共役は、非凸関数に適用されるルジャンドル変換の一般化です。ルジャンドル–フェンシェル変換、フェンシェル変換、またはフェンシェル共役（アドリアン＝マリー・ルジャンドルとヴェルナー・フェンシェルにちなんで）とも呼ばれます。凸共役は、最適化理論における双対問題の構築に広く使用されており、ラグランジュ双対性を一般化しています。

を実位相ベクトル空間とし、を への双対空間とする。 を で表す。 ${\displaystyle X}$ ${\displaystyle X^{*}}$${\displaystyle X}$

${\displaystyle \langle \cdot ,\cdot \rangle :X^{*}\times X\to \mathbb {R} }$

標準的な双対関係は次のように定義される。${\displaystyle \left\langle x^{*},x\right\rangle \mapsto x^{*}(x).}$

拡張された実数直線上の値をとる関数の場合、その凸共役は関数 ${\displaystyle f:X\to \mathbb {R} \cup \{-\infty ,+\infty \}}$

${\displaystyle f^{*}:X^{*}\to \mathbb {R} \cup \{-\infty ,+\infty \}}$

における値は上限として定義されます。 ${\displaystyle x^{*}\in X^{*}}$

${\displaystyle f^{*}\left(x^{*}\right):=\sup \left\{\left\langle x^{*},x\right\rangle -f(x)~\colon ~x\in X\right\},}$

あるいは、同様に、最小値に関して言えば、

${\displaystyle f^{*}\left(x^{*}\right):=-\inf \left\{f(x)-\left\langle x^{*},x\right\rangle ~\colon ~x\in X\right\}.}$

この定義は、関数のエピグラフの凸包をそれを支える超平面の観点から符号化したものとして解釈することができる。^[1]

その他の例については、§ 選択された凸共役の表を参照してください。

• アフィン関数 の凸共役は${\displaystyle f(x)=\left\langle a,x\right\rangle -b}$$${\displaystyle f^{*}\left(x^{*}\right)={\begin{cases}b,&x^{*}=a\\+\infty ,&x^{*}\neq a.\end{cases}}}$$
• べき乗関数 の凸共役は${\displaystyle f(x)={\frac {1}{p}}|x|^{p},1<p<\infty }$$${\displaystyle f^{*}\left(x^{*}\right)={\frac {1}{q}}|x^{*}|^{q},1<q<\infty ,{\text{where}}{\tfrac {1}{p}}+{\tfrac {1}{q}}=1.}$$
• 絶対値関数の凸共役は${\displaystyle f(x)=\left|x\right|}$$${\displaystyle f^{*}\left(x^{*}\right)={\begin{cases}0,&\left|x^{*}\right|\leq 1\\\infty ,&\left|x^{*}\right|>1.\end{cases}}}$$
• 指数関数 の凸共役は${\displaystyle f(x)=e^{x}}$$${\displaystyle f^{*}\left(x^{*}\right)={\begin{cases}x^{*}\ln x^{*}-x^{*},&x^{*}>0\\0,&x^{*}=0\\\infty ,&x^{*}<0.\end{cases}}}$$

指数関数の凸共役とルジャンドル変換は、ルジャンドル変換が正の実数に対してのみ定義されるため凸共役の定義 域が厳密に大きくなることを除いて一致します。

たとえば、この記事をご覧ください。

F を確率変数Xの累積分布関数とします。すると、（部分積分すると） 凸共役関数は  $${\displaystyle f(x):=\int _{-\infty }^{x}F(u)\,du=\operatorname {E} \left[\max(0,x-X)\right]=x-\operatorname {E} \left[\min(x,X)\right]}$$$${\displaystyle f^{*}(p)=\int _{0}^{p}F^{-1}(q)\,dq=(p-1)F^{-1}(p)+\operatorname {E} \left[\min(F^{-1}(p),X)\right]=pF^{-1}(p)-\operatorname {E} \left[\max(0,F^{-1}(p)-X)\right].}$$

特定の解釈では、この変換は 初期関数fの非減少的な並べ替えであり、特にf が非減少である場合に該当します。 $${\displaystyle f^{\text{inc}}(x):=\arg \sup _{t}t\cdot x-\int _{0}^{1}\max\{t-f(u),0\}\,du,}$$${\displaystyle f^{\text{inc}}=f}$

閉じた凸関数の凸共役は、再び閉じた凸関数です。多面体凸関数（多面体 エピグラフを持つ凸関数）の凸共役は、再び多面体凸関数です。

全ての に対してが成り立つ場合、かつ が成り立つ場合に限って であると宣言する。すると、凸共役は順序反転となり、定義により が成り立つ場合、${\displaystyle f\leq g}$${\displaystyle f(x)\leq g(x)}$${\displaystyle x.}$${\displaystyle f\leq g}$${\displaystyle f^{*}\geq g^{*}.}$

関数の族については、上限が交換可能であるという事実から、 ${\displaystyle \left(f_{\alpha }\right)_{\alpha }}$

${\displaystyle \left(\inf _{\alpha }f_{\alpha }\right)^{*}(x^{*})=\sup _{\alpha }f_{\alpha }^{*}(x^{*}),}$

そして、最大最小不等式 から

${\displaystyle \left(\sup _{\alpha }f_{\alpha }\right)^{*}(x^{*})\leq \inf _{\alpha }f_{\alpha }^{*}(x^{*}).}$

関数の凸共役は常に下半連続である。共役二項 （凸共役の凸共役）は閉じた凸包、すなわち、下半連続凸関数のうち最大のものでもある。適切な関数 の場合、${\displaystyle f^{**}}$${\displaystyle f^{**}\leq f.}$ ${\displaystyle f,}$

${\displaystyle f=f^{**}}$ フェンシェル・モローの定理により、 が凸かつ下半連続である場合に限ります。${\displaystyle f}$

任意の関数f とその凸共役関数f *に対して、フェンチェルの不等式（フェンチェル・ヤングの不等式とも呼ばれる）が任意の およびに対して成立します。${\displaystyle x\in X}$${\displaystyle p\in X^{*}}$

${\displaystyle \left\langle p,x\right\rangle \leq f(x)+f^{*}(p).}$

さらに、等式は の場合にのみ成立します。証明は凸共役の定義から得られます。${\displaystyle p\in \partial f(x)}$${\displaystyle f^{*}(p)=\sup _{\tilde {x}}\left\{\langle p,{\tilde {x}}\rangle -f({\tilde {x}})\right\}\geq \langle p,x\rangle -f(x).}$

2つの関数と数に対して凸関係 ${\displaystyle f_{0}}$${\displaystyle f_{1}}$${\displaystyle 0\leq \lambda \leq 1}$

${\displaystyle \left((1-\lambda )f_{0}+\lambda f_{1}\right)^{*}\leq (1-\lambda )f_{0}^{*}+\lambda f_{1}^{*}}$

が成り立ちます。この操作は凸写像そのものです。 ${\displaystyle {*}}$

2つの関数の最小畳み込み（または累乗和）は次のように定義されます 。${\displaystyle f}$${\displaystyle g}$

${\displaystyle \left(f\operatorname {\Box } g\right)(x)=\inf \left\{f(x-y)+g(y)\mid y\in \mathbb {R} ^{n}\right\}.}$

を 上の適切な凸下半連続関数とすると、最小畳み込みは凸下半連続（ただし必ずしも適切ではない）となり、^[2]を満たす。 ${\displaystyle f_{1},\ldots ,f_{m}}$${\displaystyle \mathbb {R} ^{n}.}$

${\displaystyle \left(f_{1}\operatorname {\Box } \cdots \operatorname {\Box } f_{m}\right)^{*}=f_{1}^{*}+\cdots +f_{m}^{*}.}$

2つの関数の最小畳み込みには幾何学的な解釈がある。2つの関数の最小畳み込みの（厳密な）エピグラフは、それらの関数の（厳密な）エピグラフのミンコフスキー和である。 ^[3]

関数が微分可能な場合、その導関数は凸共役の計算における最大化引数となります。 ${\displaystyle f}$

${\displaystyle f^{\prime }(x)=x^{*}(x):=\arg \sup _{x^{*}}{\langle x,x^{*}\rangle }-f^{*}\left(x^{*}\right)}$そして

${\displaystyle f^{{*}\prime }\left(x^{*}\right)=x\left(x^{*}\right):=\arg \sup _{x}{\langle x,x^{*}\rangle }-f(x);}$

したがって

${\displaystyle x=\nabla f^{*}\left(\nabla f(x)\right),}$

${\displaystyle x^{*}=\nabla f\left(\nabla f^{*}\left(x^{*}\right)\right),}$

そしてさらに

${\displaystyle f^{\prime \prime }(x)\cdot f^{{*}\prime \prime }\left(x^{*}(x)\right)=1,}$

${\displaystyle f^{{*}\prime \prime }\left(x^{*}\right)\cdot f^{\prime \prime }\left(x(x^{*})\right)=1.}$

もし、ある人にとって、 ${\displaystyle \gamma >0,}$ ${\displaystyle g(x)=\alpha +\beta x+\gamma \cdot f\left(\lambda x+\delta \right)}$

${\displaystyle g^{*}\left(x^{*}\right)=-\alpha -\delta {\frac {x^{*}-\beta }{\lambda }}+\gamma \cdot f^{*}\left({\frac {x^{*}-\beta }{\lambda \gamma }}\right).}$

を有界線型作用素とする。任意の凸関数に対して${\displaystyle A:X\to Y}$${\displaystyle f}$${\displaystyle X,}$

${\displaystyle \left(Af\right)^{*}=f^{*}A^{*}}$

どこ

${\displaystyle (Af)(y)=\inf\{f(x):x\in X,Ax=y\}}$

は の逆像であり、はの随伴作用素である^[4]${\displaystyle f}$${\displaystyle A}$${\displaystyle A^{*}}$${\displaystyle A.}$

閉じた凸関数は与えられた直交線形変換の集合に関して対称である。 ${\displaystyle f}$${\displaystyle G}$

${\displaystyle f(Ax)=f(x)}$全ての人々のために${\displaystyle x}$${\displaystyle A\in G}$

凸共役が対称である場合に限り、${\displaystyle f^{*}}$${\displaystyle G.}$

次の表は、多くの一般的な関数のルジャンドル変換といくつかの便利な特性を示しています。^[5]

• 二重問題
• フェンチェルの双対定理
• ルジャンドル変換
• ヤングの積の不等式

• アルノルド、ウラジミール・イゴレヴィッチ(1989)。古典力学の数学的手法(第 2 版)。シュプリンガー。ISBN 0-387-96890-3. MR  0997295。
• R・ティレル・ロッカフェラー;ウェッツ、ロジャー J.-B. (2009 年 6 月 26 日)。変分分析。 Grundlehren der mathematischen Wissenschaften。 Vol. 317. ベルリン、ニューヨーク: Springer Science & Business Media。ISBN 9783642024313. OCLC  883392544.
• Rockafellar, R. Tyrell (1970)。凸解析。プリンストン：プリンストン大学出版局。ISBN 0-691-01586-4. MR  0274683。

• Touchette, Hugo (2014-10-16). 「Legendre-Fenchel の変形を簡単に説明すると」(PDF)。2017-04-07 にオリジナル(PDF)からアーカイブ。2017-01-09に取得。

• Touchette, Hugo (2006-11-21). 「凸解析の要素」(PDF)。2015-05-26 にオリジナル(PDF)からアーカイブ。2008-03-26に取得。

• Ellerman, David Patterson (1995-03-21)。「第 12 章: 並列加算、直列並列双対性、金融数学」。知的侵入を生き方とする: 哲学、経済、数学のエッセイ( PDF)。世俗哲学: 哲学と経済の交差点の研究。Rowman & Littlefield Publishers, Inc. pp. 237–268。ISBN 0-8476-7932-2. 2016年3月5日にオリジナルからアーカイブ（PDF）されました。2019年8月9日に取得。シリーズG - 参考資料、情報、学際的主題シリーズ[1] (271ページ)

• Ellerman, David Patterson (2004 年 5 月) [1995-03-21]. 「直列並列双対性入門」(PDF) .カリフォルニア大学リバーサイド校. CiteSeerX  10.1.1.90.3666 . 2019 年 8 月 10 日のオリジナルからアーカイブ。2019年 8 月 9 日に取得。[2] （24ページ）