凸解析

凸解析は、凸関数と凸集合の特性の研究に特化した数学の分野であり、最適化理論のサブドメインである凸最小化に応用されることが多い。

あるベクトル空間の部分集合が凸であるとは、次の同値な条件のいずれかを満たす場合です。 ${\displaystyle C\subseteq X}$ ${\displaystyle X}$

1. が実数であれば^[1]${\displaystyle 0\leq r\leq 1}$${\displaystyle x,y\in C}$${\displaystyle rx+(1-r)y\in C.}$
2. が実数で、${\displaystyle 0<r<1}$${\displaystyle x,y\in C}$${\displaystyle x\neq y,}$${\displaystyle rx+(1-r)y\in C.}$

全体を通して、は、あるベクトル空間の凸部分集合である定義域を持つ拡張実数で値を取る写像となる。写像が凸関数であるのは、 ${\displaystyle f:X\to [-\infty ,\infty ]}$ ${\displaystyle [-\infty ,\infty ]=\mathbb {R} \cup \{\pm \infty \}}$ ${\displaystyle \operatorname {domain} f=X}$${\displaystyle f:X\to [-\infty ,\infty ]}$

は任意の実数と任意のに対して成り立ち、定義不等式（凸性 ≤）を厳密不等式に置き換えても これが成り立つ場合、${\displaystyle 0<r<1}$${\displaystyle x,y\in X}$${\displaystyle x\neq y.}$${\displaystyle f}$

は厳密に凸と呼ばれる。^[1]${\displaystyle f}$

凸関数は凸集合と関連している。具体的には、関数が凸関数であるのは、そのエピグラフが${\displaystyle f}$

は凸集合である。^{[2]拡張された実数値関数のエピグラフは、}実解析における実数値関数のグラフが果たす役割に類似した役割を果たします。具体的には、拡張された実数値関数のエピグラフは、定式化を支援したり、推測を証明したりするために使用できる幾何学的な直感を提供します。

関数の定義域はで表され、その有効定義域は集合^{[2]で示される。}${\displaystyle f:X\to [-\infty ,\infty ]}$${\displaystyle \operatorname {domain} f}$

関数は、 およびに対してすべて であるとき、適切であると呼ばれる^[2]あるいは、のドメインにが存在し、 と決して等しくならないことを意味する。つまり、関数が適切であるのは、そのドメインが空でなく、 の値をとることがなく、 と全く等しくない場合である。が適切な凸関数である場合、 となるベクトルと が存在する。 ${\displaystyle f:X\to [-\infty ,\infty ]}$${\displaystyle \operatorname {dom} f\neq \varnothing }$${\displaystyle f(x)>-\infty }$ ${\displaystyle x\in \operatorname {domain} f.}$${\displaystyle x}$${\displaystyle f}$${\displaystyle f(x)\in \mathbb {R} }$${\displaystyle f}$${\displaystyle -\infty .}$${\displaystyle -\infty ,}$${\displaystyle +\infty .}$${\displaystyle f:\mathbb {R} ^{n}\to [-\infty ,\infty ]}$${\displaystyle b\in \mathbb {R} ^{n}}$${\displaystyle r\in \mathbb {R} }$

${\displaystyle f(x)\geq x\cdot br}$     すべての${\displaystyle x}$

ここで、 はこれらのベクトルのドット積を表します。 ${\displaystyle x\cdot b}$

拡張された実数値関数（必ずしも凸ではない）の凸共役は、（連続）双対空間からの関数であり、^[3]${\displaystyle f:X\to [-\infty ,\infty ]}$${\displaystyle f^{*}:X^{*}\to [-\infty ,\infty ]}$ ${\displaystyle X^{*}}$${\displaystyle X,}$

${\displaystyle f^{*}\left(x^{*}\right)=\sup _{z\in X}\left\{\left\langle x^{*},z\right\rangle -f(z)\right\}}$

ここで、括弧は標準双対性を表します。の共役は、任意の に対してによって定義される写像です。 が上の - 値関数の集合を表す 場合、によって定義される写像は、ルジャンドル-フェンシェル変換と呼ばれます。 ${\displaystyle \left\langle \cdot ,\cdot \right\rangle }$ ${\displaystyle \left\langle x^{*},z\right\rangle :=x^{*}(z).}$${\displaystyle f}$${\displaystyle f^{**}=\left(f^{*}\right)^{*}:X\to [-\infty ,\infty ]}$${\displaystyle f^{**}(x):=\sup _{z^{*}\in X^{*}}\left\{\left\langle x,z^{*}\right\rangle -f\left(z^{*}\right)\right\}}$${\displaystyle x\in X.}$${\displaystyle \operatorname {Func} (X;Y)}$${\displaystyle Y}$${\displaystyle X,}$${\displaystyle \operatorname {Func} (X;[-\infty ,\infty ])\to \operatorname {Func} \left(X^{*};[-\infty ,\infty ]\right)}$${\displaystyle f\mapsto f^{*}}$

であり、その場合、部分微分集合は ${\displaystyle f:X\to [-\infty ,\infty ]}$${\displaystyle x\in X}$

${\displaystyle {\begin{alignedat}{4}\partial f(x):&=\left\{x^{*}\in X^{*}~:~f(z)\geq f(x)+\left\langle x^{*},z-x\right\rangle {\text{ for all }}z\in X\right\}&&({\text{“}}z\in X{\text{''}}{\text{ can be replaced with: }}{\text{“}}z\in X{\text{ such that }}z\neq x{\text{''}})\\&=\left\{x^{*}\in X^{*}~:~\left\langle x^{*},x\right\rangle -f(x)\geq \left\langle x^{*},z\right\rangle -f(z){\text{ for all }}z\in X\right\}&&\\&=\left\{x^{*}\in X^{*}~:~\left\langle x^{*},x\right\rangle -f(x)\geq \sup _{z\in X}\left\langle x^{*},z\right\rangle -f(z)\right\}&&{\text{ The right hand side is }}f^{*}\left(x^{*}\right)\\&=\left\{x^{*}\in X^{*}~:~\left\langle x^{*},x\right\rangle -f(x)=f^{*}\left(x^{*}\right)\right\}&&{\text{ Taking }}z:=x{\text{ in the }}\sup {}{\text{ gives the inequality }}\leq .\\\end{alignedat}}}$

例えば、 が上のノルムである重要な特殊なケースでは、 の 場合にはこの定義は次のように簡約されること が示されます^{[証明 1] 。}${\displaystyle f=\|\cdot \|}$${\displaystyle X}$${\displaystyle 0\neq x\in X}$

${\displaystyle \partial f(x)=\left\{x^{*}\in X^{*}~:~\left\langle x^{*},x\right\rangle =\|x\|{\text{ and }}\left\|x^{*}\right\|=1\right\}}$     そして     ${\displaystyle \partial f(0)=\left\{x^{*}\in X^{*}~:~\left\|x^{*}\right\|\leq 1\right\}.}$

任意のとに対して、 はフェンチェル・ヤング不等式と呼ばれる。この不等式が等式（すなわち）となるのは、次の場合のみである。このようにして、部分微分集合は凸共役集合に直接関係している。${\displaystyle x\in X}$${\displaystyle x^{*}\in X^{*},}$ ${\displaystyle f(x)+f^{*}\left(x^{*}\right)\geq \left\langle x^{*},x\right\rangle ,}$${\displaystyle f(x)+f^{*}\left(x^{*}\right)=\left\langle x^{*},x\right\rangle }$${\displaystyle x^{*}\in \partial f(x).}$${\displaystyle \partial f(x)}$${\displaystyle f^{*}\left(x^{*}\right).}$

関数の共役は共役の共役であり、通常は と記述されます。共役は、強い双対性または弱い双対性が成り立つ場合を示すのに役立ちます (摂動関数を介して)。 ${\displaystyle f:X\to [-\infty ,\infty ]}$${\displaystyle f^{**}:X\to [-\infty ,\infty ].}$

任意の関数に対して、不等式はフェンシェル・ヤングの不等式から導かれる。固有関数に対して、フェンシェル・モローの定理により、 が凸かつ下半連続である場合に限ります。^{[3] [4]}${\displaystyle x\in X,}$${\displaystyle f^{**}(x)\leq f(x)}$${\displaystyle f=f^{**}}$ ${\displaystyle f}$

凸最小化（プライマル）問題とは、次のような形式の問題である。

凸関数と凸部分集合が与えられたときに見つける${\displaystyle \inf _{x\in M}f(x)}$${\displaystyle f:X\to [-\infty ,\infty ]}$${\displaystyle M\subseteq X.}$

最適化理論における双対性原理は、最適化問題は主問題と双対問題という 2 つの視点のいずれかから見ることができると述べています。

一般に、局所凸空間から分離された2つの双対の対 が与えられ、関数が与えられたとき、次のようなもの を見つけることが主問題として定義できる。 ${\displaystyle \left(X,X^{*}\right)}$${\displaystyle \left(Y,Y^{*}\right).}$${\displaystyle f:X\to [-\infty ,\infty ],}$${\displaystyle x}$

${\displaystyle \inf _{x\in X}f(x).}$

制約条件がある場合、これらはとすることで関数に組み込むことができます。ここで は指示関数です。次に が摂動関数であるとします。 ^[5]${\displaystyle f}$${\displaystyle f=f+I_{\mathrm {constraints} }}$${\displaystyle I}$${\displaystyle F:X\times Y\to [-\infty ,\infty ]}$${\displaystyle F(x,0)=f(x).}$

選択された摂動関数に関する 双対問題は次のように与えられる。

${\displaystyle \sup _{y^{*}\in Y^{*}}-F^{*}\left(0,y^{*}\right)}$

ここで、両変数の凸共役は${\displaystyle F^{*}}$${\displaystyle F.}$

双対性ギャップとは不等式の右辺と左辺の差である^{[6] [5] [7]}

${\displaystyle \sup _{y^{*}\in Y^{*}}-F^{*}\left(0,y^{*}\right)\leq \inf _{x\in X}F(x,0).}$

この原理は弱い双対性と同じです。両辺が等しい場合、問題は強い双対性を満たしていると言われます。

強い双対性が成立するための条件は多数あります。たとえば、

• ${\displaystyle F=F^{**}}$ここで は主問題と双対問題に関連する摂動関数であり、は の共役である。^[要出典]${\displaystyle F}$${\displaystyle F^{**}}$${\displaystyle F}$
• 主な問題は線形最適化問題です。
• 凸最適化問題に対するスレーターの条件。^{[8] [9]}

不等式制約のある凸最小化問題の場合、

${\displaystyle \min {}_{x}f(x)}$対象となる${\displaystyle g_{i}(x)\leq 0}$${\displaystyle i=1,\ldots ,m.}$

ラグランジアン双対問題は

${\displaystyle \sup {}_{u}\inf {}_{x}L(x,u)}$対象となる${\displaystyle u_{i}(x)\geq 0}$${\displaystyle i=1,\ldots ,m.}$

ここで、目的関数は次のように定義されるラグランジュ双対関数です。 ${\displaystyle L(x,u)}$

${\displaystyle L(x,u)=f(x)+\sum _{j=1}^{m}u_{j}g_{j}(x)}$

• 経済における凸性 – 経済における重要なトピック
  • 非凸性（経済学）  - 初等経済学の凸性仮定の違反
• 凸凹トピックのリスト
• ヴェルナー・フェンヘル – ドイツの数学者 (1905–1988)

• Bauschke, Heinz H.; Combettes, Patrick L. ( 2017年 2 月 28 日)。ヒルベルト空間における凸解析と単調作用素理論。CMS Books in Mathematics。Springer Science & Business Media。ISBN 978-3-319-48311-5. OCLC  1037059594.
• Boyd, Stephen ; Vandenberghe, Lieven ( 2004年 3 月 8 日)。凸最適化。Cambridge Series in Statistical and Probabilistic Mathematics。ケンブリッジ、イギリス、ニューヨーク: Cambridge University Press。ISBN 978-0-521-83378-3. OCLC  53331084.
• Hiriart-Urruty、J.-B. Lemaréchal、C. (2001)。凸解析の基礎。ベルリン: Springer-Verlag。ISBN 978-3-540-42205-1。
• Kusraev, AG; Kutateladze, Semen Samsonovich (1995)。Subdifferentials : Theory and Applications。ドルドレヒト: Kluwer Academic Publishers。ISBN 978-94-011-0265-0。
• R・ティレル・ロッカフェラー;ウェッツ、ロジャー J.-B. (2009 年 6 月 26 日)。変分分析。 Grundlehren der mathematischen Wissenschaften。 Vol. 317. ベルリン、ニューヨーク: Springer Science & Business Media。ISBN 9783642024313. OCLC  883392544.
• ルディン、ウォルター(1991)。関数解析。国際純粋・応用数学シリーズ。第 8 巻 (第 2 版)。ニューヨーク、NY: McGraw - Hill Science/Engineering/ Math。ISBN 978-0-07-054236-5. OCLC  21163277.
• シンガー、イヴァン (1997)。抽象凸解析。カナダ数学協会のモノグラフおよび上級テキストシリーズ。ニューヨーク: John Wiley & Sons, Inc. pp. xxii+ 491。ISBN 0-471-16015-6. MR  1461544。
• Stoer, J.; Witzgall, C. (1970).有限次元における凸性と最適化. 第1巻. ベルリン: Springer. ISBN 978-0-387-04835-2。
• Zălinescu, Constantin (2002 年 7 月 30 日)。一般ベクトル空間における凸解析。リバーエッジ、ニュージャージー、ロンドン: World Scientific Publishing。ISBN 978-981-4488-15-0. MR  1921556. OCLC  285163112 –インターネットアーカイブ経由。

• ウィキメディア・コモンズの凸解析に関連するメディア