敵対的生成ネットワーク

生成敵対ネットワーク（GAN ）は、機械学習フレームワークの一種であり、生成型人工知能へのアプローチにおける主要なフレームワークです。この概念は、2014年6月にイアン・グッドフェローとその同僚によって最初に開発されました。^{[ 1 ]} GANでは、2つのニューラルネットワークがゼロサムゲームの形で互いに競合し、一方のエージェントの利益はもう一方のエージェントの損失となります。

訓練セットが与えられると、この手法は訓練セットと同じ統計を持つ新しいデータを生成することを学習します。たとえば、写真で訓練されたGANは、人間の観察者にとって少なくとも表面上は本物に見える、多くの現実的な特徴を持つ新しい写真を生成できます。GANは、もともと教師なし学習のための生成モデルの一種として提案されましたが、半教師あり学習^[²^]、完全教師あり学習^[³^]、および強化学習^[⁴^]にも役立つことが証明されています。

GANの核心的なアイデアは、入力がどれほど「現実的」に見えるかを判断できる別のニューラルネットワークである識別器を介した「間接的な」トレーニングに基づいています。識別器自体も動的に更新されます。^{[ 5 ]}これは、生成器が特定の画像との距離を最小化するようにトレーニングされるのではなく、識別器をだますようにトレーニングされることを意味します。これにより、モデルは教師なし学習を行うことができます。

GANは進化生物学における擬態に似ており、両方のネットワーク間で進化的な軍拡競争が繰り広げられている。

意味

数学

オリジナルのGANは、次のゲームとして定義されます。^{[ 1 ]}

各確率空間 $(\Omega ,\mu _{\text{ref}})$ GANゲームを定義します。
プレイヤーはジェネレーターとディスクリミネーターの2人です。
ジェネレーターの戦略セットは ${\mathcal {P}}(\Omega )$ 確率測度の集合 $\mu _{G}$ の上 $\Omega$ 。
識別器の戦略セットはマルコフカーネルの集合である。 $\mu _{D}:\Omega \to {\mathcal {P}}[0,1]$ 、どこ $\displaystyle {\mathcal {P}}[0,1]}$ は確率測度の集合である $[0,1]$ 。
GANゲームは、目的関数がゼロサムゲームである。 $L(\mu _{G},\mu _{D}):=\operatorname {E} _{x\sim \mu _{\text{ref}},y\sim \mu _{D}(x)}[\ln y]+\operatorname {E} _{x\sim \mu _{G},y\sim \mu _{D}(x)}[\ln(1-y)].$ ジェネレーターは目的関数を最小化することを目的とし、ディスクリミネーターは目的関数を最大化することを目的とする。

ジェネレーターのタスクは、 $\mu _{G}\approx \mu _{\text{ref}}$ つまり、自身の出力分布を基準分布にできるだけ近づけることです。識別器の役割は、入力が基準分布からのものであると思われる場合は1に近い値を出力し、入力が生成器分布からのものであると思われる場合は0に近い値を出力することです。

実際には

生成ネットワークは候補を生成し、識別ネットワークはそれらを評価する。^{[ 1 ]}これにより、データ分布に基づく競争が生まれ、生成器は潜在空間から真のデータ分布へのマッピングを学習し、識別器が実際のデータと区別できない候補を生成することを目指す。識別器の目標はこれらの候補を正しく識別することだが、生成器の性能が向上するにつれて、そのタスクはより困難になり、識別器のエラー率が高くなる。^{[ 1 ]}^{[ 6 ]}

既知のデータセットは、識別器の初期トレーニングデータとして機能します。トレーニングでは、識別器が許容できる精度に達するまで、トレーニングデータセットからのサンプルを提示します。ジェネレーターは、識別器をだますことに成功したかどうかに基づいてトレーニングされます。通常、ジェネレーターは、事前定義された潜在空間(たとえば、多変量正規分布) からサンプリングされたランダムな入力でシードされます。その後、ジェネレーターによって合成された候補は、識別器によって評価されます。ジェネレーターがより良いサンプルを生成し、識別器が合成サンプルを識別するスキルが向上するように、両方のネットワークに独立したバックプロパゲーション手順が適用されます。 ^{[ 7 ]}画像生成に使用される場合、ジェネレーターは通常、逆畳み込みニューラルネットワークであり、識別器は畳み込みニューラルネットワークです。

他の統計的機械学習手法との関連性

GANは暗黙的な生成モデルであり、^{[ 8 ]}これは、フローベースの生成モデルなどの代替モデルとは異なり、尤度関数を明示的にモデル化したり、特定のサンプルに対応する潜在変数を見つける手段を提供したりしないことを意味します。

WaveNetやPixelRNNのような完全に可視化された信念ネットワークや、一般的な自己回帰モデルと比較して、GANはネットワークを複数回通過させるのではなく、1回の通過で1つの完全なサンプルを生成できます。

ボルツマンマシンや線形ICAと比較して、ネットワークが使用する関数の種類に制限はありません。

ニューラルネットワークは普遍近似器であるため、GANは漸近的に一貫性があります。2026年現在、変分オートエンコーダーは普遍近似器であることが証明されています^{[ 10 ]}。

数学的性質

測度論的考察

このセクションでは、これらの手法の背後にある数学的理論の一部を説明します。

測度論に基づく現代の確率論では、確率空間にはσ代数も必要となる。その結果、GANゲームのより厳密な定義では、以下の変更が生じる。

各確率空間 $(\Omega ,{\mathcal {B}},\mu _{\text{ref}})$ GANゲームを定義します。
ジェネレーターの戦略セットは ${\mathcal {P}}(\Omega ,{\mathcal {B}})$ 確率測度の集合 $\mu _{G}$ 測度空間において $(\Omega ,{\mathcal {B}})$ 。
識別器の戦略セットはマルコフカーネルの集合である。 $\mu _{D}:(\Omega ,{\mathcal {B}})\to {\mathcal {P}}([0,1],{\mathcal {B}}([0,1]))$ 、どこ $\displaystyle {\mathcal {B}}([0,1])}$ ボレルσ代数は $[0,1]$ 。

測定可能性の問題は実際には発生しないため、これについてはこれ以上検討しない。

戦略セットの選択

上記で説明したGANゲームの最も一般的なバージョンでは、識別器の戦略セットにはすべてのマルコフカーネルが含まれます。 $\mu _{D}:\Omega \to {\mathcal {P}}[0,1]$ ジェネレーターの戦略セットには、任意の確率分布が含まれる。 $\mu _{G}$ の上 $\Omega$ 。

しかし、以下に示すように、あらゆるに対する最適な識別戦略は $\mu _{G}$ 決定論的であるため、識別器の戦略を決定論的関数に限定しても一般性は失われない。 $D:\Omega \to [0,1]$ ほとんどのアプリケーションでは、 $D$ これは深層ニューラルネットワーク関数です。

発電機に関しては、 $\mu _{G}$ 理論的には任意の計算可能な確率分布になり得るが、実際には通常はプッシュフォワードとして実装される。 $\mu _{G}=\mu _{Z}\circ G^{-1}$ つまり、ランダム変数から始める $z\sim \mu _{Z}$ 、どこ $\mu _{Z}$ は計算が容易な確率分布（一様分布やガウス分布など）であり、次に関数を定義します。 $G:\Omega _{Z}\to \Omega$ すると分布 $\mu _{G}$ の分布は $G(z)$ 。

したがって、ジェネレーターの戦略は通常次のように定義されます。 $G$ 去る $z\sim \mu _{Z}$ 暗黙的。この形式論では、GANゲームの目的は $L(G,D):=\operatorname {E} _{x\sim \mu _{\text{ref}}}[\ln D(x)]+\operatorname {E} _{z\sim \mu _{Z}}[\ln(1-D(G(z)))].$

生成的な再パラメータ化

GANアーキテクチャには2つの主要な構成要素があります。1つは最適化をゲームに落とし込むことです。 $\min _{G}\max _{D}L(G,D)$ これは、通常の最適化とは異なり、 $\min _{\theta }L(\theta )$ もう一つは、 $\mu _{G}$ の中へ $\mu _{Z}\circ G^{-1}$ これは、パラメータの再設定というトリックとして理解できる。

その重要性を理解するには、GANを、最大尤度推定や関連戦略で発生する「扱いにくい確率的計算」に悩まされていた従来の生成モデル学習手法と比較する必要がある。^{[ 1 ]}

同時に、KingmaとWelling ^{[ 11 ]}およびRezendeら^{[ 12 ]}は、再パラメータ化の同じアイデアを一般的な確率的バックプロパゲーション法に発展させた。その最初の応用例の一つが変分オートエンコーダーである。

行動順序と戦略的均衡

原著論文およびその後のほとんどの論文では、通常、生成器が先に動き、識別器が後に動くと仮定されており、その結果、以下のミニマックスゲームが得られます。 $\displaystyle \min _{\mu _{G}}\max _{\mu _{D}}L(\mu _{G},\mu _{D}):=\operatorname {E} _{x\sim \mu _{\text{ref}},y\sim \mu _{D}(x)}[\ln y]+\operatorname {E} _{x\sim \mu _{G},y\sim \mu _{D}(x)}[\ln(1-y)].}$

生成器と識別器の戦略集合が有限個の戦略によって張られる場合、ミニマックス定理により、 $\min _{\mu _{G}}\max _{\mu _{D}}L(\mu _{G},\mu _{D})=\max _{\mu _{D}}\min _{\mu _{G}}L(\mu _{G},\mu _{D})$ つまり、手番の順番は関係ない。

しかし、戦略集合はどちらも有限に張られていないため、ミニマックス定理は適用されず、「均衡」という概念は微妙なものとなる。すなわち、均衡には以下のような異なる概念が存在する。

ジェネレーターが先に動き、ディスクリミネータが後に動く場合の平衡状態： $\displaystyle {\hat {\mu }}_{G}\in \arg \min _{\mu _{G}}\max _{\mu _{D}}L(\mu _{G},\mu _{D}),\quad {\hat {\mu }}_{D}\in \arg \max _{\mu _{D}}L({\hat {\mu }}_{G},\mu _{D}),\quad }$
判別器が先に動き、生成器が後に動く場合の平衡状態： $\displaystyle {\hat {\mu }}_{D}\in \arg \max _{\mu _{D}}\min _{\mu _{G}}L(\mu _{G},\mu _{D}),\quad {\hat {\mu }}_{G}\in \arg \min _{\mu _{G}}L(\mu _{G},{\hat {\mu }}_{D}),}$
ナッシュ均衡 $({\hat {\mu }}_{D},{\hat {\mu }}_{G})$ これは同時移動順序に対して安定している。 ${\hat {\mu }}_{D}\in \arg \max _{\mu _{D}}L({\hat {\mu }}_{G},\mu _{D}),\quad {\hat {\mu }}_{G}\in \arg \min _{\mu _{G}}L(\mu _{G},{\hat {\mu }}_{D})$

一般的なゲームでは、これらの均衡は一致する必要はなく、存在することさえありません。オリジナルのGANゲームでは、これらの均衡はすべて存在し、すべて等しいです。しかし、より一般的なGANゲームでは、これらは必ずしも存在したり、一致したりするとは限りません。^{[ 13 ]}

GANゲームの主な定理

オリジナルのGAN論文では、密度ベースの最適識別器の公式とグローバルミニマックス最適解が証明されました。^{[ 1 ]}測度論的処理では、ラドン-ニコディム微分を使用して同じバイナリ敵対的計算が得られます。^{[ 14 ]}

定理（最適判別器はジェンセン・シャノン発散を計算する）—任意の固定生成器戦略に対して $\mu _{G}$ 、させて $D^{*}\in \arg \max _{D}L(\mu _{G},D)$ 最適な決定論的判別器となる。

${\begin{aligned}D^{*}(x)&={\frac {d\mu _{\text{ref}}}{d(\mu _{\text{ref}}+\mu _{G})}}\quad (\mu _{\text{ref}}+\mu _{G}){\text{-almost everywhere}}\\[6pt]L(\mu _{G},D^{*})&=2D_{JS}(\mu _{\text{ref}};\mu _{G})-2\ln 2\end{aligned}}$

ここで、導関数はラドン・ニコディム導関数であり、 $D_{JS}$ はジェンセン・シャノンダイバージェンスである。^{[ 15 ]}

証拠

イェンセンの不等式によれば、

$\operatorname {E} _{x\sim \mu _{\text{ref}},y\sim \mu _{D}(x)}[\ln y]\leq \operatorname {E} _{x\sim \mu _{\text{ref}}}[\ln \operatorname {E} _{y\sim \mu _{D}(x)}[y]]$ そして、もう一方の項についても同様である。端点のケースは、ジェンセンの不等式を適用することによって得られる。 $\ln(y+\varepsilon )$ そして $\ln(1-y+\varepsilon )$ そして $\varepsilon \downarrow 0$ カーネル平均は測定可能なので、置き換える $\mu _{D}(x)$ 決定論的カーネルの平均値によって、識別器の利得を減少させることはできない。^{[ 15 ]}^{[ 16 ]}したがって、最適な応答は次のように記述できる。 $\mu _{D}(x)=\delta _{D(x)}$ 測定可能な関数の場合 $D:\Omega \to [0,1]$ その場合

$L(\mu _{G},\mu _{D}):=\operatorname {E} _{x\sim \mu _{\text{ref}}}[\ln D(x)]+\operatorname {E} _{x\sim \mu _{G}}[\ln(1-D(x))].$

適切な密度関数を定義するために、基本尺度を定義します。 ${\displaystyle \mu$ となり、ラドン-ニコディム微分を取ることができます。

$\rho _{\text{ref}}={\frac {d\mu _{\text{ref}}}{d\mu }}\quad \rho _{G}={\frac {d\mu _{G}}{d\mu }}$ と $\rho _{\text{ref}}+\rho _{G}=1$ $\mu$ ほぼどこにでも。

次に

$L(\mu _{G},\mu _{D}):=\int \mu (dx)\left[\rho _{\text{ref}}(x)\ln(D(x))+\rho _{G}(x)\ln(1-D(x))\right].$

被積分関数は、パラメータを持つ 2 つのベルヌーイ確率変数間の負の交差エントロピーです。 $\rho _{\text{ref}}(x)$ そして $D(x)$ . これを次のように書くことができます。 $-H(\rho _{\text{ref}}(x))-D_{KL}(\rho _{\text{ref}}(x)\parallel D(x))$ 、どこ $H$ はバイナリエントロピー関数なので、

$L(\mu _{G},\mu _{D})=-\int \mu (dx)(H(\rho _{\text{ref}}(x))+D_{KL}(\rho _{\text{ref}}(x)\parallel D(x))).$

これは、識別器の最適な戦略が $D(x)=\rho _{\text{ref}}(x)$ $\mu$ -ほぼどこにでも、 $L(\mu _{G},\mu _{D}^{*})=-\int \mu (dx)H(\rho _{\text{ref}}(x))=2D_{JS}(\mu _{\text{ref}}\parallel \mu _{G})-2\ln 2$

定型計算後。

解釈：任意の固定発電機戦略の場合 $\mu _{G}$ 最適な判別器は、参照分布と生成分布の間の尤度比を追跡します。 $D^{*}=\rho _{\text{ref}}$ そして $1-D^{*}=\rho _{G}$ 、 ${\frac {D^{*}(x)}{1-D^{*}(x)}}={\frac {\rho _{\text{ref}}(x)}{\rho _{G}(x)}}\quad \mu {\text{-almost everywhere on }}\{\rho _{G}>0\}.$ の上 $\{\rho _{G}=0\}$ 、 $D^{*}=1$ ; の上 $\{\rho _{\text{ref}}=0\}$ 、 $D^{*}=0$ いずれの場合も $\mu$ ほぼどこにでも。 $\mu _{\text{ref}}\ll \mu _{G}$ 表示される比率は、 $d\mu _{\text{ref}}/d\mu _{G}$ $\mu _{G}$ -ほぼどこでも。両方の密度が正の場合、 $D^{*}(x)=\sigma \left(\ln \rho _{\text{ref}}(x)-\ln \rho _{G}(x)\right)\quad \mu {\text{-almost everywhere}},$ どこ $\sigma$ はロジスティック関数です。等事前混合モデルでは $M=(\mu _{\text{ref}}+\mu _{G})/2$ 、 $D^{*}$ は、観測値が参照分布から得られた事後確率の一種です。 $M$ -ほぼどこにでもある。^{[ 15 ]}

定理（均衡点）—上記で定義した制約なしGANゲームには、ペアが存在する。 $({\hat {\mu }}_{D},{\hat {\mu }}_{G})$ これは鞍点とナッシュ均衡の両方である: ^{[ 1 ]}^{[ 13 ]}

${\begin{aligned}&L({\hat {\mu }}_{G},{\hat {\mu }}_{D})=\min _{\mu _{G}}\max _{\mu _{D}}L(\mu _{G},\mu _{D})=&\max _{\mu _{D}}\inf _{\mu _{G}}L(\mu _{G},\mu _{D})=-2\ln 2\\[6pt]&{\hat {\mu }}_{D}\in \arg \max _{\mu _{D}}\inf _{\mu _{G}}L(\mu _{G},\mu _{D}),&\quad {\hat {\mu }}_{G}\in \arg \min _{\mu _{G}}\max _{\mu _{D}}L(\mu _{G},\mu _{D})\\[6pt]&{\hat {\mu }}_{D}\in \arg \max _{\mu _{D}}L({\hat {\mu }}_{G},\mu _{D}),&\quad {\hat {\mu }}_{G}\in \arg \min _{\mu _{G}}L(\mu _{G},{\hat {\mu }}_{D})\\[6pt]&\forall x\in \Omega ,{\hat {\mu }}_{D}(x)=\delta _{\frac {1}{2}},&\quad {\hat {\mu }}_{G}=\mu _{\text{ref}}\end{aligned}}$

つまり、ジェネレータは参照信号を完全に模倣し、ディスクリミネータはそれを出力します。 ${\frac {1}{2}}$ すべての入力に対して決定論的に。

証拠

前の定理から、

$\arg \min _{\mu _{G}}\max _{\mu _{D}}L(\mu _{G},\mu _{D})=\{\mu _{\text{ref}}\};\quad \min _{\mu _{G}}\max _{\mu _{D}}L(\mu _{G},\mu _{D})=-2\ln 2.$

任意の固定判別戦略の場合 $\mu _{D}$ 、 $\inf _{\mu _{G}}L(\mu _{G},\mu _{D})=\operatorname {E} _{x\sim \mu _{\text{ref}},\,y\sim \mu _{D}(x)}[\ln y]+\inf _{x\in \Omega }\operatorname {E} _{y\sim \mu _{D}(x)}[\ln(1-y)].$ したがって、 $\arg \max _{\mu _{D}}\inf _{\mu _{G}}L(\mu _{G},\mu _{D})=\arg \max _{\mu _{D}}\operatorname {E} _{x\sim \mu _{\text{ref}},y\sim \mu _{D}(x)}[\ln y]+\inf _{x}\operatorname {E} _{y\sim \mu _{D}(x)}[\ln(1-y)].$

ジェンセンの不等式によれば、判別器は常にプレイするという決定論的戦略を採用することによってのみ改善できる。 $D(x)=\operatorname {E} _{y\sim \mu _{D}(x)}[y]$ ^{[ 15 ]}^{[ 16 ]}したがって、

$\arg \max _{\mu _{D}}\inf _{\mu _{G}}L(\mu _{G},\mu _{D})=\arg \max _{D}\operatorname {E} _{x\sim \mu _{\text{ref}}}[\ln D(x)]+\inf _{x}\ln(1-D(x))$

イェンセンの不等式によれば、

${\begin{aligned}&\operatorname {E} _{x\sim \mu _{\text{ref}}}[\ln D(x)]+\inf _{x}\ln(1-D(x))\\[6pt]\leq {}&\ln \operatorname {E} _{x\sim \mu _{\text{ref}}}[D(x)]+\inf _{x}\ln(1-D(x))\\[6pt]={}&\ln \operatorname {E} _{x\sim \mu _{\text{ref}}}[D(x)]+\ln(1-\sup _{x}D(x))\\[6pt]={}&\ln[\operatorname {E} _{x\sim \mu _{\text{ref}}}[D(x)](1-\sup _{x}D(x))]\leq \ln[\sup _{x}D(x)(1-\sup _{x}D(x))]\leq \ln {\frac {1}{4}},\end{aligned}}$

等号で $D(x)={\frac {1}{2}}$ 、それで

$\forall x\in \Omega ,{\hat {\mu }}_{D}(x)=\delta _{\frac {1}{2}};\quad \max _{\mu _{D}}\inf _{\mu _{G}}L(\mu _{G},\mu _{D})=-2\ln 2.$

最後に、これがナッシュ均衡であることを確認するために、次の点に注目してください。 $\mu _{G}=\mu _{\text{ref}}$ 、我々は持っています

$L(\mu _{G},\mu _{D}):=\operatorname {E} _{x\sim \mu _{\text{ref}},y\sim \mu _{D}(x)}[\ln(y(1-y))]$ これは常に最大化される $y={\frac {1}{2}}$ 。

いつ $\forall x\in \Omega ,\mu _{D}(x)=\delta _{\frac {1}{2}}$ 発電機にとって最適な戦略はどれであれ、いずれの戦略も最適である。

GANのトレーニングと評価

トレーニング

不安定な収束

GANゲームでは、生成器と識別器の両方が戦略セット全体にアクセスできる場合、一意のグローバル均衡点が存在するが、戦略セットが制限されている場合は均衡は保証されない。^{[ 13 ]}

実際には、ジェネレーターは形式の尺度にしかアクセスできません $\mu _{Z}\circ G_{\theta }^{-1}$ 、どこ $G_{\theta }$ は、パラメータを持つニューラルネットワークによって計算される関数です。 $\theta$ 、そして $\mu _{Z}$ は、一様分布や正規分布など、容易にサンプリングできる分布です。同様に、識別器は、形式の関数のみにアクセスできます。 $D_{\zeta }$ パラメータを持つニューラルネットワークによって計算される関数 $\zeta$ これらの制限された戦略セットは、戦略セット全体のごくわずかな割合を占めるにすぎない。 ^{[ 17 ]}

さらに、均衡がまだ存在するとしても、それはすべての可能なニューラルネットワーク関数の高次元空間を探索することによってのみ見つけることができます。均衡を見つけるために勾配降下法を使用する標準的な戦略は、GANではうまく機能しないことが多く、多くの場合、ゲームはいくつかの失敗モードのいずれかに「崩壊」します。収束の安定性を向上させるために、一部のトレーニング戦略では、低解像度の画像^{[ 18 ]}や単純な画像（均一な背景を持つ1つのオブジェクト）^{[ 19 ]}を生成するなど、より簡単なタスクから開始し、トレーニング中にタスクの難易度を徐々に上げていきます。これは基本的に、カリキュラム学習スキームを適用することに相当します。^{[ 20 ]}

モード崩壊

GANは、入力データからモード全体を見落とし、適切に汎化できないモード崩壊に陥ることがよくあります。たとえば、各数字のサンプルが多数含まれるMNISTデータセットでトレーニングされたGANは、数字0の画像しか生成しない可能性があります。これは「ヘルベチカシナリオ」と呼ばれています。^{[ 1 ]}

モード崩壊の典型的なメカニズムは、ジェネレーターが可能性のある値のうち1つまたは少数しか生成しない、あるいはターゲット分布のごく一部しか生成しないことです。ディスクリミネーターは本物のサンプルと偽のサンプルを区別するようにのみ訓練されているため、生成されたサンプルを本物として正しく識別しますが、ターゲット分布の全範囲を表すデータを生成するGANの能力にはペナルティが課されません。

例えば、パラメータが不足しているものや、生成器に比べて学習速度が遅すぎるものなど、識別能力の弱いものは、分布のサポート全体にわたって完全に識別することができず、ターゲット分布のごく一部しか正しく識別できなくなる可能性がある。

一部の研究者は、根本的な問題は、省略のパターンを認識できない弱い識別ネットワークにあると考えている一方、目的関数の選択が不適切であることが原因だと考える研究者もいる。多くの解決策が提案されているが、これはまだ未解決の問題である。^{[ 21 ]}^{[ 22 ]}

最先端のアーキテクチャであるBigGAN（2019）でさえ、モード崩壊を避けることはできませんでした。著者らは、「モデルが十分に訓練されて良好な結果が得られるようになるトレーニングの後期段階で崩壊が発生することを許容する」という手段に頼りました。^{[ 23 ]}

2つの時間スケール更新ルール

2つの時間スケール更新ルール（TTUR）は、ジェネレータの学習率をディスクリミネータの学習率よりも低くすることで、GANの収束をより安定させるために提案されています。彼らは、このように学習させた場合、GANは「緩やかな仮定の下で、定常的な局所ナッシュ均衡に収束する」ことを証明しています。^{[ 24 ]}さらに、この特性は、確率的勾配降下で一般的に使用されるAdamオプティマイザの使用にも拡張されることを示しています。

局所的なナッシュ均衡は、モード崩壊がないことを決して意味するものではありません。例えば、MNISTで学習したGANが1桁の数字を生成するように崩壊した場合、論文の仮説を満たしつつも、モード崩壊を示している可能性があります。

消失勾配

逆に、識別器が生成器に比べて速く学習しすぎると、識別器はほぼ完全に区別できてしまう。 $\mu _{G_{\theta }},\mu _{\text{ref}}$ 。そのような場合、発電機は $G_{\theta }$ どちらの方向に変化しても非常に大きな損失を抱えることになる $\theta$ つまり、勾配が $\nabla _{\theta }L(G_{\theta },D_{\zeta })$ ゼロに近くなるだろう。そのような場合、ジェネレーターは学習できず、勾配消失問題が発生する。^{[ 17 ]}

直感的に言えば、識別器は優秀すぎるため、生成器は報酬を改善するために小さなステップ（勾配降下法では小さなステップしか考慮されない）を取ることができないので、そもそも改善しようとさえしない。

この問題を解決するための重要な方法の一つが、ワッサースタインGANです。

評価

GANは通常、 Inception Score (IS)によって評価されます。ISは、ジェネレータの出力がどれだけ多様であるか（通常はInception-v3などの画像分類器によって分類される）を測定する指標です。または、Fréchet inception distance (FID) によって評価されます。FIDは、ジェネレータの出力が参照セットにどれだけ類似しているか（最終層を除いたInception-v3などの学習済み画像特徴量分類器によって分類される）を測定する指標です。画像生成のための新しいGANアーキテクチャを提案する多くの論文では、そのアーキテクチャがFIDまたはISにおいて最先端の性能をどのように向上させたかを報告しています。

別の評価方法として、学習済み知覚画像パッチ類似度（LPIPS）があり、これは学習済みの画像特徴量化器から始まります。 $f_{\theta }:{\text{Image}}\to \mathbb {R} ^{n}$ 、そして、一連のデータに対する教師あり学習によって微調整します。 $(x,x',\operatorname {perceptual~difference} (x,x'))$ 、どこ $x$ 画像です。 $x'$ これはその摂動バージョンであり、 $\operatorname {perceptual~difference} (x,x')$ これは、被験者が報告した、両者の違いの度合いです。モデルは、それを近似できるように微調整されています。 $\|f_{\theta }(x)-f_{\theta }(x')\|\approx \operatorname {perceptual~difference} (x,x')$ この微調整されたモデルは、定義するために使用されます。 $\operatorname {LPIPS} (x,x'):=\|f_{\theta }(x)-f_{\theta }(x')\|$ [ ²⁵^]

その他の評価方法については、^{[ 26 ]で検討されている。}

バリエーション

GANには実に多くのバリエーションが存在する。^{[ 27 ]}その中でも特に有名なものをいくつか挙げると以下の通りである。

条件付きGAN

条件付きGANは、追加情報に基づいて条件付きでサンプルを生成できる点を除けば、標準的なGANと似ています。例えば、犬の画像から猫の顔を生成したい場合、条件付きGANを使用できます。

GANゲームのジェネレーターは $\mu _{G}$ 確率空間上の確率分布 $\Omega$ これは条件付きGANのアイデアにつながり、1つの確率分布を生成する代わりに、 $\Omega$ ジェネレーターは異なる確率分布を生成する $\mu _{G}(c)$ の上 $\Omega$ 指定された各クラスラベルについて $c$ 。

例えば、ImageNetのような画像を生成する場合、ジェネレーターは「cat」というクラスラベルを与えられたときに、猫の画像を生成できる必要があります。

元の論文^{[ 1 ]}では、GANは生成器と識別器の両方にラベルを与えることで条件付きGANに簡単に拡張できることが指摘されている。

具体的には、条件付きGANゲームとは、クラスラベルが付与されたGANゲームのことです。 $L(\mu _{G},D):=\operatorname {E} _{c\sim \mu _{C},x\sim \mu _{\text{ref}}(c)}[\ln D(x,c)]+\operatorname {E} _{c\sim \mu _{C},x\sim \mu _{G}(c)}[\ln(1-D(x,c))]$ どこ $\mu _{C}$ クラスに対する確率分布、 $\mu _{\text{ref}}(c)$ は、クラスの実画像の確率分布です。 $c$ 、そして $\mu _{G}(c)$ クラスラベルが与えられた場合にジェネレーターによって生成される画像の確率分布 $c$ 。

2017年に条件付きGANがImageNetの1000種類の画像クラスを生成することを学習した。^{[ 28 ]}

代替アーキテクチャを備えたGAN

GANゲームは汎用的なフレームワークであり、ジェネレーターの任意の妥当なパラメータ設定で実行できます。 $G$ および識別器 $D$ 原著論文では、著者らは多層パーセプトロンネットワークと畳み込みニューラルネットワークを用いてそれを実証した。その後、多くの代替アーキテクチャが試みられてきた。

深層畳み込みGAN（DCGAN）：^{[ 29 ]}ジェネレータとディスクリミネーターの両方で、畳み込み-逆畳み込み層のみで構成される深層ネットワーク、つまり完全畳み込みネットワークのみを使用します。^{[ 30 ]}

自己注意GAN（SAGAN）：^{[ 31 ]} DCGANから始まり、ジェネレータとディスクリミネーターに残差接続された標準自己注意モジュールを追加します。

変分オートエンコーダーGAN（VAEGAN）：^{[ 32 ]}ジェネレーターに変分オートエンコーダー（VAE）を使用します。

Transformer GAN (TransGAN): ^{[ 33 ]}生成器と識別器の両方に純粋なトランスフォーマーアーキテクチャを使用し、畳み込み層と逆畳み込み層は一切使用しません。

Flow-GAN: ^{[ 34 ]}生成器にフローベースの生成モデルを使用し、尤度関数の効率的な計算を可能にします。

代替目的を持つGAN

GANの多くのバリエーションは、ジェネレーターとディスクリミネーターの損失関数を変更するだけで得られる。

オリジナルGAN：

元のGANの目的関数を、比較しやすい形式に書き換えました。 ${\begin{cases}\min _{D}L_{D}(D,\mu _{G})=-\operatorname {E} _{x\sim \mu _{G}}[\ln D(x)]-\operatorname {E} _{x\sim \mu _{\text{ref}}}[\ln(1-D(x))]\\\min _{G}L_{G}(D,\mu _{G})=-\operatorname {E} _{x\sim \mu _{G}}[\ln(1-D(x))]\end{cases}}$

オリジナルのGAN、非飽和損失：

このジェネレーターの目的は、収束を速めるために元の論文で推奨されたものです。^{[ 1 ]} $L_{G}=\operatorname {E} _{x\sim \mu _{G}}[\ln D(x)]$ この目的の使用による効果は、Arjovsky ら^{[ 35 ]のセクション 2.2.2 で分析されています。}

オリジナルGAN、最尤法：

$L_{G}=\operatorname {E} _{x\sim \mu _{G}}[({\exp }\circ \sigma ^{-1}\circ D)(x)]$ どこ $\sigma$ はロジスティック関数です。識別器が最適な場合、GAN は最尤推定自体を実行できませんが、生成器の勾配は最尤推定の場合と同じです。^{[ 36 ]}^{[ 37 ]}

ヒンジ損失GAN：^{[ 38 ]} $L_{D}=-\operatorname {E} _{x\sim p_{\text{ref}}}\left[\min \left(0,-1+D(x)\right)\right]-\operatorname {E} _{x\sim \mu _{G}}\left[\min \left(0,-1-D\left(x\right)\right)\right]$ $L_{G}=-\operatorname {E} _{x\sim \mu _{G}}[D(x)]$ 最小二乗GAN: ^{[ 39 ]} $L_{D}=\operatorname {E} _{x\sim \mu _{\text{ref}}}[(D(x)-b)^{2}]+\operatorname {E} _{x\sim \mu _{G}}[(D(x)-a)^{2}]$ $L_{G}=\operatorname {E} _{x\sim \mu _{G}}[(D(x)-c)^{2}]$ どこ $a,b,c$ 選択すべきパラメータです。著者らは、 $a=-1,b=1,c=0$ 。

ヴァッサーシュタインGAN（WGAN）

Wasserstein GANは、GANゲームを2つの点で変更しています。

識別器の戦略セットは、タイプの測定可能な関数の集合である。 $D:\Omega \to \mathbb {R}$ 有界リプシッツノルムを持つ場合： $\|D\|_{L}\leq K$ 、どこ $K$ は固定された正の定数です。
目的は $L_{WGAN}(\mu _{G},D):=\operatorname {E} _{x\sim \mu _{G}}[D(x)]-\mathbb {E} _{x\sim \mu _{\text{ref}}}[D(x)]$

その目的の一つは、モード崩壊の問題を解決することである（上記参照）。^{[ 17 ]}著者らは「WGANアルゴリズムでは、どの実験でもモード崩壊の証拠は見られなかった」と主張している。

2人以上のプレイヤーがいるGAN

敵対的オートエンコーダー

敵対的オートエンコーダー（AAE）^{[ 40 ]}はGANよりもオートエンコーダーに近い。基本的なオートエンコーダーから始めて、潜在ベクトルを基準分布（多くの場合、正規分布）から識別する識別器を訓練するという考え方である。

InfoGAN

条件付きGANでは、ジェネレーターはノイズベクトルを受け取ります。 $z$ そしてラベル $c$ 、そして画像を生成する $G(z,c)$ 識別器は画像とラベルのペアを受け取ります。 $(x,c)$ 、計算します $D(x,c)$ 。

トレーニングデータセットにラベルがない場合、条件付きGANは直接機能しません。

InfoGANの考え方は、潜在空間内のすべての潜在ベクトルは次のように分解できると宣言することです。 $(z,c)$ : 非圧縮性ノイズ部分 $z$ 情報ラベル部分 $c$ そして、発電事業者が法令を遵守するよう促し、最大限に活用するよう促す。 $I(c,G(z,c))$ 相互情報量 $c$ そして $G(z,c)$ 相互情報に関して何の要求もせずに $z$ 間 $G(z,c)$ 。

残念ながら、 $I(c,G(z,c))$ 一般的に扱いが困難である。InfoGAN の重要なアイデアは変分相互情報最大化である: ^{[ 41 ]}下限を最大化することによって間接的に最大化する ${\hat {I}}(G,Q)=\mathbb {E} _{z\sim \mu _{Z},c\sim \mu _{C}}[\ln Q(c\mid G(z,c))];\quad I(c,G(z,c))\geq \sup _{Q}{\hat {I}}(G,Q)$ どこ $Q$ 型のすべてのマルコフカーネルの範囲 $Q:\Omega _{Y}\to {\mathcal {P}}(\Omega _{C})$ 。

InfoGANゲームは次のように定義されます。^{[ 42 ]}

InfoGANゲームは、3つの確率空間によって定義されます。
$(\Omega _{X},\mu _{\text{ref}})$ 参照画像の空間。
$(\Omega _{Z},\mu _{Z})$ 固定ランダムノイズ発生器。
$(\Omega _{C},\mu _{C})$ 固定乱数情報生成器。
2つのチームに分かれた3人のプレイヤー（ジェネレーター、Q、ディスクリミネーター）がいる。ジェネレーターとQは一方のチームに、ディスクリミネーターはもう一方のチームに所属する。
目的関数は $L(G,Q,D)=L_{GAN}(G,D)-\lambda {\hat {I}}(G,Q)$ どこ $L_{GAN}(G,D)=\operatorname {E} _{x\sim \mu _{\text{ref}},}[\ln D(x)]+\operatorname {E} _{z\sim \mu _{Z}}[\ln(1-D(G(z,c)))]$ はオリジナルのGANゲームの目的であり、 ${\hat {I}}(G,Q)=\mathbb {E} _{z\sim \mu _{Z},c\sim \mu _{C}}[\ln Q(c\mid G(z,c))]$
ジェネレーターQチームは目的関数を最小化することを目指し、ディスクリミネーターは目的関数を最大化することを目指します。 $\min _{G,Q}\max _{D}L(G,Q,D)$

双方向GAN（BiGAN）

標準GANジェネレーターは、次のタイプの関数です。 $G:\Omega _{Z}\to \Omega _{X}$ つまり、それは潜在空間からのマッピングである。 $\Omega _{Z}$ 画像空間へ $\Omega _{X}$ これは「デコード」プロセスと理解でき、すべての潜在ベクトルが $z\in \Omega _{Z}$ 画像のコードです $x\in \Omega _{X}$ そして、ジェネレーターがデコードを実行します。これは自然に、「エンコード」を実行する別のネットワークをトレーニングするというアイデアにつながり、エンコーダーとジェネレーターのペアからオートエンコーダーを作成します。

既に原著論文^{[ 1 ]}において、著者らは「補助ネットワークを訓練して予測することで、学習による近似推論を実行できる」と述べている。 $z$ 与えられた $x$ 双方向GANアーキテクチャはまさにこれを実現します。^{[ 43 ]}

BiGANは以下のように定義されます。

BiGANゲームは2つの確率空間によって定義される。
$(\Omega _{X},\mu _{X})$ 参照画像の空間。
$(\Omega _{Z},\mu _{Z})$ 潜在空間。
2つのチームに分かれた3人のプレイヤー（ジェネレーター、エンコーダー、ディスクリミネーター）がいる。ジェネレーターとエンコーダーは一方のチームに、ディスクリミネーターはもう一方のチームに所属する。
ジェネレーターの戦略は関数です $G:\Omega _{Z}\to \Omega _{X}$ エンコーダの戦略は関数である $E:\Omega _{X}\to \Omega _{Z}$ 識別器の戦略は関数である $D:\Omega _{X}\to [0,1]$ 。
目的関数は $L(G,E,D)=\mathbb {E} _{x\sim \mu _{X}}[\ln D(x,E(x))]+\mathbb {E} _{z\sim \mu _{Z}}[\ln(1-D(G(z),z))]$
ジェネレーター・エンコーダーチームは目的関数を最小化することを目指し、ディスクリミネーターは目的関数を最大化することを目指す。 $\min _{G,E}\max _{D}L(G,E,D)$

論文の中で、彼らは目的をより抽象的に次のように定義した。 $L(G,E,D)=\mathbb {E} _{(x,z)\sim \mu _{E,X}}[\ln D(x,z)]+\mathbb {E} _{(x,z)\sim \mu _{G,Z}}[\ln(1-D(x,z))]$ どこ $\mu _{E,X}(dx,dz)=\mu _{X}(dx)\cdot \delta _{E(x)}(dz)$ 確率分布は $\Omega _{X}\times \Omega _{Z}$ 押して得られた $\mu _{X}$ 転送 $x\mapsto (x,E(x))$ 、そして $\mu _{G,Z}(dx,dz)=\delta _{G(z)}(dx)\cdot \mu _{Z}(dz)$ 確率分布は $\Omega _{X}\times \Omega _{Z}$ 押して得られた $\mu _{Z}$ 転送 $z\mapsto (G(x),z)$ 。

双方向モデルの応用例としては、半教師あり学習^{[ 44 ]} 、解釈可能な機械学習^{[ 45 ]}、ニューラル機械翻訳^[⁴⁶^]などがある。

CycleGAN

CycleGANは、馬の写真とシマウマの写真、あるいは夜の街の写真と昼間の街の写真など、2つのドメイン間で変換を行うためのアーキテクチャです。

CycleGANゲームは次のように定義されます。^{[ 47 ]}

確率空間は2つある $(\Omega _{X},\mu _{X}),(\Omega _{Y},\mu _{Y})$ これは、前後方向の翻訳に必要な2つのドメインに対応しています。
2チームに4人のプレイヤーがいます：ジェネレーター $G_{X}:\Omega _{X}\to \Omega _{Y},G_{Y}:\Omega _{Y}\to \Omega _{X}$ 、そして差別者 $D_{X}:\Omega _{X}\to [0,1],D_{Y}:\Omega _{Y}\to [0,1]$ 。
目的関数は $L(G_{X},G_{Y},D_{X},D_{Y})=L_{GAN}(G_{X},D_{X})+L_{GAN}(G_{Y},D_{Y})+\lambda L_{cycle}(G_{X},G_{Y})$
どこ $\lambda$ は正の調整可能なパラメータです。 $L_{GAN}$ GANゲームの目的は、 $L_{cycle}$ サイクル一貫性損失とは： $L_{cycle}(G_{X},G_{Y})=E_{x\sim \mu _{X}}\|G_{X}(G_{Y}(x))-x\|+E_{y\sim \mu _{Y}}\|G_{Y}(G_{X}(y))-y\|$ ジェネレーターは目的関数を最小化することを目的とし、ディスクリプターは目的関数を最大化することを目的とする。 $\min _{G_{X},G_{Y}}\max _{D_{X},D_{Y}}L(G_{X},G_{Y},D_{X},D_{Y})$

pix2pix ^{[ 48 ]}のような従来の研究とは異なり、cycleGAN はペアのトレーニングデータを必要としません。たとえば、pix2pix モデルをトレーニングして夏の風景写真を冬の風景写真に変換し、また元に戻すには、データセットには同じ場所で夏と冬に同じ角度で撮影されたペアの写真が含まれている必要があります。cycleGAN は、夏の風景写真のセットと、それとは無関係な冬の風景写真のセットだけを必要とします。

特にスケールが大きい、または小さいGAN

ビッグガン

BigGANは基本的に、大規模（最大8000万パラメータ）にトレーニングされた自己注意GANであり、ImageNetの大きな画像（最大512 x 512解像度）を生成するために、収束させるための多くのエンジニアリングの工夫が施されています。^{[ 23 ]}^{[ 49 ]}

可逆データ拡張

トレーニングデータが不十分な場合、参照分布 $\mu _{\text{ref}}$ 訓練データセットによって与えられる経験分布では、十分に近似できない。このような場合、データ拡張を適用することで、より小さなデータセットでGANを訓練することが可能になる。しかし、単純なデータ拡張には問題点がある。

オリジナルのGANゲームを、以下のように若干修正したものを考えてみましょう。 ${\begin{cases}\min _{D}L_{D}(D,\mu _{G})=-\operatorname {E} _{x\sim \mu _{\text{ref}}}[\ln D(x)]-\operatorname {E} _{x\sim \mu _{G}}[\ln(1-D(x))]\\\min _{G}L_{G}(D,\mu _{G})=-\operatorname {E} _{x\sim \mu _{G}}[\ln(1-D(x))]\end{cases}}$ ここでは、意味を保持する変換をランダムにサンプリングすることによってデータ拡張を行います。 $T:\Omega \to \Omega$ そして、それらをデータセットに適用して、再定式化されたGANゲームを取得します。 ${\begin{cases}\min _{D}L_{D}(D,\mu _{G})=-\operatorname {E} _{x\sim \mu _{\text{ref}},T\sim \mu _{\text{trans}}}[\ln D(T(x))]-\operatorname {E} _{x\sim \mu _{G}}[\ln(1-D(x))]\\\min _{G}L_{G}(D,\mu _{G})=-\operatorname {E} _{x\sim \mu _{G}}[\ln(1-D(x))]\end{cases}}$ これは、分布が異なるGANゲームに相当する。 $\mu _{\text{ref}}'$ サンプリング元 $T(x)$ 、と $x\sim \mu _{\text{ref}},T\sim \mu _{\text{trans}}$ 例えば、 $\mu _{\text{ref}}$ ImageNetにおける画像の分布は、 $\mu _{\text{trans}}$ サンプルは確率0.5で恒等変換され、確率0.5で水平反射され、 $\mu _{\text{ref}}'$ これは、ImageNetと水平反転ImageNetにおける画像の分布を組み合わせたものです。

このようなトレーニングの結果、次のようなジェネレーターが生成される。 $\mu _{\text{ref}}'$ 例えば、データ拡張でランダムな切り抜き処理を用いる場合、ランダムに切り抜かれたように見える画像が生成される。

解決策は、生成された画像と実際の画像の両方にデータ拡張を適用することです。 ${\begin{cases}\min _{D}L_{D}(D,\mu _{G})=-\operatorname {E} _{x\sim \mu _{\text{ref}},T\sim \mu _{\text{trans}}}[\ln D(T(x))]-\operatorname {E} _{x\sim \mu _{G},T\sim \mu _{\text{trans}}}[\ln(1-D(T(x)))]\\\min _{G}L_{G}(D,\mu _{G})=-\operatorname {E} _{x\sim \mu _{G},T\sim \mu _{\text{trans}}}[\ln(1-D(T(x)))]\end{cases}}$ 著者らは、わずか100枚の画像からなるデータセットを用いて高品質な生成を実現した。^{[ 50 ]}

StyleGAN-2-ADA 論文では、データ拡張に関するもう 1 つの点が指摘されています。それは、可逆でなければならないということです。^{[ 51 ]} ImageNet 画像を生成する例を続けて見てみましょう。データ拡張が「画像を 0、90、180、270 度ずつ等しい確率でランダムに回転させる」場合、ジェネレーターはどれが真の向きであるかを知る方法がありません。2 つのジェネレーターを考えてみましょう。 $G,G'$ 任意の潜在的 $z$ 生成された画像 $G(z)$ 90度回転 $G'(z)$ 両者の予想損失額は全く同じであるため、どちらも他方より優れているとは言えません。

解決策は、可逆的なデータ拡張のみを使用することです。「画像を0度、90度、180度、270度それぞれ等しい確率でランダムに回転させる」代わりに、「画像を90度、180度、270度それぞれ0.1の確率でランダムに回転させ、0.7の確率で画像をそのままにする」ようにします。こうすることで、ジェネレーターは、拡張されていないImageNet画像と同じ向きの画像を維持するように報酬を得ることができます。

抽象的に言えば、ランダムサンプリング変換の効果 $T:\Omega \to \Omega$ 分布から $\mu _{\text{trans}}$ マルコフカーネルを定義する $K_{\text{trans}}:\Omega \to {\mathcal {P}}(\Omega )$ そして、データ拡張GANゲームはジェネレーターにいくつかのものを見つけるように促します。 ${\hat {\mu }}_{G}\in {\mathcal {P}}(\Omega )$ 、したがって $K_{\text{trans}}*\mu _{\text{ref}}=K_{\text{trans}}*{\hat {\mu }}_{G}$ どこ $*$ はマルコフカーネル畳み込みです。データ拡張法は、そのマルコフカーネルが可逆である場合に可逆であると定義されます。 $K_{\text{trans}}$ 満たす $K_{\text{trans}}*\mu =K_{\text{trans}}*\mu '\implies \mu =\mu '\quad \forall \mu ,\mu '\in {\mathcal {P}}(\Omega )$ 定義からすぐにわかるように、複数の可逆データ拡張手法を組み合わせると、また別の可逆手法が得られます。また定義から、データ拡張手法が可逆であれば、それをGANゲームで使用しても最適な戦略は変わりません。 ${\hat {\mu }}_{G}$ 発電機はまだ $\mu _{\text{ref}}$ 。

可逆マルコフ核の典型的な例が2つあります。

離散ケース：可逆確率行列の場合 $\Omega$ 有限である。

例えば、 $\Omega =\{\uparrow ,\downarrow ,\leftarrow ,\rightarrow \}$ これは4つの方向を指す矢印の4つの画像のセットであり、データ拡張は「確率で画像を90度、180度、270度ランダムに回転させる」ことです。 $p$ 確率的に画像をそのままにしておく $(1-3p)$ 、そしてマルコフカーネル $K_{\text{trans}}$ 確率行列として表現できる。 $[K_{\text{trans}}]={\begin{bmatrix}(1-3p)&p&p&p\\p&(1-3p)&p&p\\p&p&(1-3p)&p\\p&p&p&(1-3p)\end{bmatrix}}$ そして $K_{\text{trans}}$ 可逆カーネルであるのは、 $[K_{\text{trans}}]$ は可逆行列である、つまり、 $p\neq 1/4$ 。

連続ケース：ガウスカーネルは、 $\Omega =\mathbb {R} ^{n}$ 一部の人にとって $n\geq 1$ 。

例えば、 $\Omega =\mathbb {R} ^{256^{2}}$ は256x256ピクセルの画像空間であり、データ拡張方法は「ガウスノイズを生成する」である。 $z\sim {\mathcal {N}}(0,I_{256^{2}})$ 追加 $\epsilon z$ 画像へ」、そして $K_{\text{trans}}$ これは密度関数による畳み込みです ${\mathcal {N}}(0,\epsilon ^{2}I_{256^{2}})$ これは可逆です。なぜなら、ガウス関数による畳み込みは熱カーネルによる畳み込みに等しいからです。したがって、任意の $\mu \in {\mathcal {P}}(\mathbb {R} ^{n})$ 畳み込み分布 $K_{\text{trans}}*\mu$ 加熱することで得られる $\mathbb {R} ^{n}$ 正確には $\mu$ そして、時間を待つ $\epsilon ^{2}/4$ それによって回復できる $\mu$ 熱方程式を時間的に逆方向に実行することで $\epsilon ^{2}/4$ 。

可逆データ拡張のその他の例は、論文中に記載されている。^{[ 51 ]}

シンガン

SinGANは、単一の画像のみを学習データとして使用し、その画像に対してデータ拡張を行うことで、データ拡張の限界を押し広げています。GANアーキテクチャは、マルチスケールパイプラインを使用することで、この学習方法に適応しています。

発電機 $G$ 生成器のピラミッドに分解される $G=G_{1}\circ G_{2}\circ \cdots \circ G_{N}$ 最も低いものが画像を生成する $G_{N}(z_{N})$ 最低解像度で生成された画像は、 $r(G_{N}(z_{N}))$ そして次のレベルに送られ、画像が生成される。 $G_{N-1}(z_{N-1}+r(G_{N}(z_{N})))$ より高い解像度で、など。識別器もピラミッドに分解されます。^{[ 52 ]}

StyleGANシリーズ

StyleGANファミリーは、 NVIDIAの研究部門が発表した一連のアーキテクチャです。

プログレッシブGAN

Progressive GAN ^{[ 18 ]}は、GAN ジェネレータをピラミッド状に小規模から大規模へと成長させることで、大規模画像生成のための GAN を安定的にトレーニングする方法です。SinGAN と同様に、ジェネレータを次のように分解します。 $G=G_{1}\circ G_{2}\circ \cdots \circ G_{N}$ 、そして識別器として $D=D_{1}\circ D_{2}\circ \cdots \circ D_{N}$ 。

トレーニング中は、最初は $G_{N},D_{N}$ GANゲームで4x4画像を生成するために使用されます。 $G_{N-1},D_{N-1}$ GANゲームの第2段階に到達して8x8画像を生成するために追加され、1024x1024画像を生成するGANゲームに到達するまで続きます。

GANゲームのステージ間のショックを避けるため、各新しいレイヤーは「ブレンド」されます（論文^{[ 18 ]}の図2 ）。たとえば、第2ステージのGANゲームは次のように始まります。

その直前、GANゲームはペアで構成されています $G_{N},D_{N}$ 4×4画像を生成および識別する。
その直後、GANゲームはペアで構成されています $((1-\alpha )+\alpha \cdot G_{N-1})\circ u\circ G_{N},D_{N}\circ d\circ ((1-\alpha )+\alpha \cdot D_{N-1})$ 8x8画像を生成および識別する。ここでは、関数について説明します。 $u,d$ は画像のアップサンプリングおよびダウンサンプリング関数であり、 $\alpha$ これはブレンドイン係数（画像合成におけるアルファ値によく似ている）であり、0から1まで滑らかに変化します。

StyleGAN-1

StyleGAN-1は、プログレッシブGANとニューラルスタイル転送を組み合わせたものとして設計されています。^{[ 53 ]}

StyleGAN-1の重要なアーキテクチャ上の選択は、Progressive GANと同様の漸進的成長メカニズムです。生成される各画像は定数から始まります。 $4\times 4\times 512$ 配列は、スタイルブロックを介して繰り返し渡されます。各スタイルブロックは、ニューラルスタイル転送がグラミアン行列を使用するのと同様に、アフィン変換（「適応型インスタンス正規化」）を介して「スタイル潜在ベクトル」を適用します。次に、ノイズを追加し、正規化（平均を減算し、分散で割る）します。

トレーニング時には、通常、生成される画像ごとに1つのスタイル潜在ベクトルのみが使用されますが、各スタイルブロックが他のスタイルブロックからの助けを期待せずに（まったく異なるスタイル潜在ベクトルを受け取る可能性があるため）、独立してスタイル化を実行するように促すために、2つ使用される場合もあります（「混合正則化」）。

学習後、複数のスタイル潜在ベクトルを各スタイルブロックに入力できます。下位層に入力されたベクトルは大規模なスタイルを制御し、上位層に入力されたベクトルは細かいディテールのスタイルを制御します。

2つの画像間でスタイルをミックスする $x,x'$ も同様に実行できます。まず、勾配降下法を実行して、 $z,z'$ そのため $G(z)\approx x,G(z')\approx x'$ これは「イメージをスタイル潜在空間に投影する」と呼ばれます。次に、 $z$ 下位スタイルのブロックに供給することができ、 $z'$ より上位のスタイルブロックに、大規模なスタイルを持つ合成画像を生成する $x$ 、そして細部までこだわったスタイル $x'$ 複数の画像をこの方法で合成することも可能です。

StyleGAN-2

StyleGAN-2は、スタイル潜在ベクトルを使用して畳み込み層の重みを変換することでStyleGAN-1を改良し、「ブロブ」問題を解決しています。^{[ 54 ]}

これは、上記のように可逆的なデータ拡張を使用する StyleGAN-2-ADA (「ADA」は「adaptive」の略) ^{[ 51 ]}によって更新されました。また、適用されるデータ拡張の量をゼロから始めて徐々に増やし、「過学習ヒューリスティック」が目標レベルに達するまで調整するため、「adaptive」という名前が付けられています。

StyleGAN-3

StyleGAN-3 ^{[ 55 ]は、公式ビデオ}^{[ 56 ]}で見られる「テクスチャの付着」問題を解決することで、StyleGAN-2 を改良しています。彼らはナイキスト・シャノン標本化定理によってこの問題を分析し、ジェネレーターのレイヤーが、操作対象のピクセルの高周波信号を利用することを学習したと主張しました。

この問題を解決するため、各ジェネレーターのレイヤー間に厳密なローパスフィルターを課すことを提案した。これにより、ジェネレーターはピクセルを単なる離散信号として扱うのではなく、それらが表す連続信号に忠実な方法でピクセルを処理するように強制される。さらに、より多くの信号フィルターを使用することで、回転および並進不変性を課した。その結果、StyleGAN-3はテクスチャの付着問題を解決し、滑らかに回転および並進する画像を生成できるようになった。

その他の用途

GANは、データの生成モデルや識別モデル以外にも、様々な用途で利用されている。

GANは、深層強化学習のように、潜在特徴空間のアライメントを強制するための転移学習に使用されてきました。^[⁵⁷^]これは、ソースタスクとターゲットタスクの埋め込みを識別器に入力し、識別器がコンテキストを推測することで機能します。結果として得られた損失は、エンコーダーを通して（逆方向に）バックプロパゲーションされます。

アプリケーション

科学

天体画像を反復的に再構築する^{[ 58 ]}
暗黒物質研究のための重力レンズ効果のシミュレーション。^{[ 59 ]}^{[ 60 ]}^{[ 61 ]}
宇宙空間の特定の方向における暗黒物質の分布をモデル化し、発生する重力レンズ効果を予測する。 ^{[ 62 ]}^{[ 63 ]}
高エネルギー物理実験のカロリメーターを通して、高エネルギージェットの形成^{[ 64 ]}とシャワーをモデル化する。^[⁶⁵^]^[⁶⁶^]^[⁶⁷^]^[⁶⁸^]
粒子物理実験の計算コストの高いシミュレーションにおける近似的なボトルネック。現在および提案されているCERN実験のコンテキストでの応用は、これらの方法がシミュレーションを加速したり、シミュレーションの忠実度を向上させたりする可能性を示している。^{[ 69 ]}^{[ 70 ]}
乱流における速度場とスカラー場を再構築する。^{[ 71 ]}^{[ 72 ]}^{[ 73 ]}

GANで生成された分子はマウスで実験的に検証された。^{[ 74 ]}^{[ 75 ]}

医学

医療画像における主要な懸念事項の1つは、患者のプライバシーを保護することです。これらの理由から、研究者は研究目的のために医療画像を取得する際に困難に直面することがよくあります。GANは、この課題に対処するために、 MRIやPET画像などの合成医療画像を生成するために使用されてきました。^[⁷⁶^]

GANは緑内障画像を検出するために使用でき、早期診断に役立ち、部分的または完全な視力喪失を回避するために不可欠です。^{[ 77 ]}

GANは、亡くなった歴史上の人物の法医学的な顔の復元を作成するために使用されてきました。^{[ 78 ]}

悪意のある

GANベースの人間の画像合成が、偽の、場合によっては罪を問われるような写真やビデオを作成するなど、悪意のある目的で使用される可能性について懸念が提起されている。^{[ 79 ]} GANは、存在しない人物のユニークでリアルなプロフィール写真を生成するために使用でき、偽のソーシャルメディアプロフィールの作成を自動化することができる。^{[ 80 ]}

2019年、カリフォルニア州は、人物の同意なしに偽のポルノを作成するために人間の画像合成技術を使用することを禁止する法案AB-602と^、選挙の^{60日以内に政治候補}^者の加工されたビデオを配布することを禁止する法案AB-730を検討し、2019年10月3日に可決した[81]。両法案は、州議会議員マーク・バーマンによって起草され、ギャビン・ニューサム知事によって署名された。これらの法律は2020年に施行された^{[ 82 ] 。}

DARPAのメディアフォレンジックプログラムは、GANを使用して生成された偽メディアを含む、偽メディアに対抗する方法を研究しています。^{[ 83 ]}

ファッション、アート、広告

GANはアート作品の生成にも使用できます。The Vergeは2019年3月に「GANによって生成された画像は、現代AIアートの決定的な外観となっている」と書いています。^{[ 84 ]} GANはまた、

写真にペイントを施す^{[ 85 ]}
ファッションモデル^{[ 86 ]}、影^{[ 87 ]} 、インテリアデザイン、工業デザイン、靴などのフォトリアリスティックなレンダリング^{[ 88 ]}を生成する。このようなネットワークはFacebookで使用されていると報告されている。^{[ 89 ]}

GANを「創造的敵対ネットワーク」として芸術的創造性に利用して研究した人もいる。^{[ 90 ]}^{[ 91 ]} 14世紀から19世紀にかけてのWikiArtの15,000枚の肖像画のセットで訓練されたGANは、2018年にエドモン・ド・ベラミーの絵画を作成し、 432,500米ドルで売却された。^{[ 92 ]}

GANは、ビデオゲームの改造コミュニティによって、古いビデオゲームの低解像度2Dテクスチャを画像トレーニングによって4K以上の解像度で再作成し、その後ゲームのネイティブ解像度に合うようにダウンサンプリングすることで、高解像度化するために使用されました（スーパーサンプリングアンチエイリアシングに似ています）。^[⁹³^]

2020年、Artbreederは心理ウェブホラーシリーズ「Ben Drowned」の続編で主要な敵役を作成するために使用されました。著者は後に、予算と人員が不足している独立系アーティストのためにアセットを生成する能力を持つGANアプリケーションを称賛しました。^{[ 94 ]}^{[ 95 ]}

2020年5月、Nvidiaの研究者たちは、パックマンのプレイを見るだけでゲームを再現するようにAIシステム（「GameGAN」と呼ばれる）を訓練した。 ^{[ 96 ]}^{[ 97 ]}

2019年8月、歌詞とメロディーのペアを含む12,197曲のMIDIソングからなる大規模なデータセットが、条件付きGAN-LSTMを使用して歌詞からニューラルメロディーを生成するために作成されました（GitHub AI Melody Generation from Lyricsのソースを参照）。^{[ 98 ]}

その他

GANは、

個人の外見が年齢とともにどのように変化するかを示す。^{[ 99 ]}
画像から物体の3Dモデルを再構築する、^{[ 100 ]}
新しいオブジェクトを3D点群として生成する、^{[ 101 ]}
ビデオ内の動きのパターンをモデル化する。^{[ 102 ]}
地図の欠落した特徴を補修したり、地図作成における地図スタイルを転送したり^{[ 103 ]}、ストリートビュー画像を拡張したりします^{[ 104 ] 。}
フィードバックを利用して画像を生成し、画像検索システムを置き換える。^{[ 105 ]}
気候変動が特定の住宅に及ぼす影響を視覚化する。^{[ 106 ]}
声を聞いて人の顔の画像を再構築する。^{[ 107 ]}
人物の写真1枚だけを与えられた場合、その人物の話している動画を生成する。^{[ 108 ]}
反復シーケンス生成。^{[ 109 ]}

歴史

1991年、ユルゲン・シュミットフーバーは「人工好奇心」、ゼロサムゲームにおけるニューラルネットワークを発表した。^[¹¹⁰^]最初のネットワークは、出力パターンの確率分布をモデル化する生成モデルである。2番目のネットワークは、勾配降下法によって、これらのパターンに対する環境の反応を予測することを学習する。GANは、最初のネットワークの出力が特定のセットに含まれているかどうかに応じて、環境の反応が1または0になるケースと見なすことができる。^[¹¹¹^]

他の人も同様のアイデアを持っていたが、同じようには発展させなかった。敵対的ネットワークに関するアイデアは、Olli Niemitalo が 2010 年にブログ記事で発表した。^{[ 112 ]}このアイデアは実装されることはなく、ジェネレーターに確率性が含まれていなかったため、生成モデルではなかった。GAN に似たアイデアは、Wei Li、Melvin Gauci、Roderich Gross が 2013 年に動物の行動をモデル化するために使用した。^{[ 113 ]}

GANのもう一つの着想源はノイズコントラスト推定^{[ 114 ]}で、これはGANと同じ損失関数を使用し、グッドフェローは2010年から2014年の博士課程でこれを研究した。

敵対的機械学習は生成モデル以外にも用途があり、ニューラルネットワーク以外のモデルにも適用できます。制御理論では、ニューラルネットワークに基づく敵対的学習が2006年に、最小化ポリシー（コントローラ）と最大化ポリシー（外乱）の反復を交互に行うことで、ゲーム理論的な意味でロバストコントローラを訓練するために使用されました。^{[ 115 ]}^{[ 116 ]}

2017年にGANがピクセル精度よりもリアルなテクスチャに焦点を当てた画像強調に使用され、高倍率でより高い画像品質が生成された。^{[ 117 ]} 2017年に最初の顔が生成された。^{[ 118 ]}これらは2018年2月にグラン・パレで展示された。^{[ 119 ]}^{[ 120 ]} 2019年にStyleGAN ^{[ 121 ]}によって生成された顔はディープフェイクと比較された。^{[ 122 ]}^{[ 123 ]}^{[ 124 ]}

参考文献

1 2 3 4 5 6 7 8 9 10 11 Goodfellow, Ian; Pouget-Abadie, Jean; Mirza, Mehdi; Xu, Bing; Warde-Farley, David; Ozair, Sherjil; Courville, Aaron; Bengio, Yoshua (2014). Generative Adversarial Nets (PDF) . Proceedings of the International Conference on Neural Information Processing Systems (NIPS 2014). pp. 2672– 2680.
↑ Salimans, Tim; Goodfellow, Ian; Zaremba, Wojciech; Cheung, Vicki; Radford, Alec; Chen, Xi (2016). "Improved Techniques for Training GANs". arXiv : 1606.03498 [ cs.LG ].
↑ Isola, Phillip; Zhu, Jun-Yan; Zhou, Tinghui; Efros, Alexei (2017). "条件付き敵対的ネットワークによる画像間変換" . Computer Vision and Pattern Recognition .
↑ Ho, Jonathon; Ermon, Stefano (2016). "Generative Adversarial Imitation Learning" . Advances in Neural Information Processing Systems . 29 : 4565– 4573. arXiv : 1606.03476 .
↑ 「Vanilla GAN（コンピュータビジョンにおけるGAN：生成学習入門）」。theaisummer.com。AI Summer。2020年4月10日。2020年6月3日のオリジナルからアーカイブ。2020年9月20日取得。
↑ Luc, Pauline; Couprie, Camille; Chintala, Soumith; Verbeek, Jakob (2016年11月25日). "Semantic Segmentation using Adversarial Networks". NIPS Workshop on Adversarial Training、12月、バルセロナ、スペイン。2016年。arXiv : 1611.08408。
↑ Andrej Karpathy ; Pieter Abbeel ; Greg Brockman; Peter Chen; Vicki Cheung; Rocky Duan; Ian Goodfellow; Durk Kingma; Jonathan Ho; Rein Houthooft; Tim Salimans; John Schulman; Ilya Sutskever; Wojciech Zaremba、「Generative Models」、OpenAI 、 2016年4月7日取得
↑ Mohamed, Shakir; Lakshminarayanan, Balaji (2016). "Learning in Implicit Generative Models". arXiv : 1610.03483 [ stat.ML ].
↑ Goodfellow, Ian (2017年4月3日). "NIPS 2016チュートリアル: 敵対的生成ネットワーク". arXiv : 1701.00160 [ cs.LG ].
↑ Kingma, Diederik P.; Welling, Max (2019). "An Introduction to Variational Autoencoders". Foundations and Trends in Machine Learning . 12 (4): 307–392 . arXiv : 1906.02691 . doi : 10.1561/2200000056 .
↑ Kingma, Diederik P.; Welling, Max (2014年5月1日). "Auto-Encoding Variational Bayes". arXiv : 1312.6114 [ stat.ML ].
↑ Rezende, Danilo Jimenez; Mohamed, Shakir; Wierstra, Daan (2014). "深層生成モデルにおける確率的バックプロパゲーションと近似推論" . Journal of Machine Learning Research . 32 (2): 1278– 1286. arXiv : 1401.4082 .
1 2 3 Farnia, Farzan; Ozdaglar, Asuman (2020年11月21日) 「GANは常にナッシュ均衡を持つのか？」第37回国際機械学習会議議事録第119巻PMLR 3029–3039ページ
↑ Donahue, Jeff; Krähenbühl, Philipp; Darrell, Trevor (2017).敵対的特徴学習. 国際学習表現会議. 命題 1–2 および定理 1、p. 4.
1 2 3 4 Kallenberg, Olav (2021). Foundations of Modern Probability (3rd ed.). Springer. pp. 40–41, 55–57, 86, and 167–168. doi : 10.1007/978-3-030-61871-1 .
1 2 Berger, James O. (1985). Statistical Decision Theory and Bayesian Analysis (2nd ed.). Springer. p. 40. doi : 10.1007/978-1-4757-4286-2 .
1 2 3ウェン、リリアン（2019 年 4 月 18 日）。「GANからWGANへ」。arXiv : 1904.08994 [ cs.LG ]。
1 2 3カラス、テロ。アイラ、ティモ。ライネ、サムリ。レティネン、ヤーコ（2017年10月1日）。「品質、安定性、バリエーションの向上を目的とした GAN の漸進的な成長」。arXiv : 1710.10196 [ cs.NE ]。
↑ソヴィアニー、ペトル。アルデイ、クローディウ。イヨネスク、ラドゥ・チューダー。レオデアヌ、マリウス（2019年10月22日）。「敵対的生成ネットワーク (CuGAN) の画像難易度カリキュラム」。arXiv : 1910.08967 [ cs.LG ]。
↑ Hacohen, Guy; Weinshall, Daphna (2019年5月24日). 「深層ネットワークのトレーニングにおけるカリキュラム学習の力について」 .国際機械学習会議. PMLR: 2535–2544 . arXiv : 1904.03626 .
↑ Lin, Zinan; et al. (2018 年 12 月). PacGAN: 生成敵対ネットワークにおける 2 つのサンプルの力. 第 32 回国際ニューラル情報処理システム会議. pp. 1505–1514 . arXiv : 1712.04086 .
↑ Mescheder, Lars; Geiger, Andreas; Nowozin, Sebastian (2018年7月31日). 「GANのどのトレーニング方法が実際に収束するのか？」. arXiv : 1801.04406 [ cs.LG ].
1 2 Brock, Andrew; Donahue, Jeff; Simonyan, Karen (2018 年 9 月 1 日).高忠実度自然画像合成のための大規模 GAN トレーニング. 国際学習表現会議 2019. arXiv : 1809.11096 .
↑ Heusel, Martin; Ramsauer, Hubert; Unterthiner, Thomas; Nessler, Bernhard; Hochreiter, Sepp (2017). "GANs Trained by a Two Time-Scale Update Rule Converge to a Local Nash Equilibrium" . Advances in Neural Information Processing Systems . 30. Curran Associates, Inc. arXiv : 1706.08500 .
↑ Zhang, Richard; Isola, Phillip; Efros, Alexei A.; Shechtman, Eli; Wang, Oliver (2018). "知覚指標としての深層特徴の不合理な有効性". pp. 586–595 . arXiv : 1801.03924 [ cs.CV ].
↑ Borji, Ali (2019年2月1日). 「GAN評価尺度の長所と短所」 . Computer Vision and Image Understanding . 179 : 41–65 . arXiv : 1802.03446 . Bibcode : 2019CVIU..179...41B . doi : 10.1016/j.cviu.2018.10.009 . ISSN 1077-3142 . S2CID 3627712 .
↑ヒンドゥプール、アビナシュ (2022 年 7 月 15 日)、GAN 動物園、 2022 年7 月 15 日取得
↑ Odena, Augustus; Olah, Christopher; Shlens, Jonathon (2017年7月17日). "補助分類器GANによる条件付き画像合成" .国際機械学習会議. PMLR: 2642– 2651. arXiv : 1610.09585 .
↑ Radford, Alec; Metz, Luke; Chintala, Soumith (2016). "深層畳み込み生成敵対ネットワークによる教師なし表現学習". ICLR . S2CID 11758569 .
↑ Long, Jonathan; Shelhamer, Evan; Darrell, Trevor (2015). "Fully Convolutional Networks for Semantic Segmentation" . CVF : 3431– 3440.
↑ Zhang, Han; Goodfellow, Ian; Metaxas, Dimitris; Odena, Augustus (2019年5月24日). "Self-Attention Generative Adversarial Networks" . International Conference on Machine Learning . PMLR: 7354– 7363.
↑ラーセン、アンデルス・ベーセン、リンドボ。ソンダービー、ソーレン・カーエ。ラロシェル、ヒューゴ。オーレ、ウィンター（2016年6月11日）。「学習された類似性メトリックを使用したピクセルを超えた自動エンコーディング」。機械学習に関する国際会議。 PMLR : 1558–1566。arXiv : 1512.09300 。
↑ Jiang, Yifan; Chang, Shiyu; Wang, Zhangyang (2021年12月8日). "TransGAN: 2つの純粋なトランスフォーマーで1つの強力なGANを作成でき、スケールアップが可能". arXiv : 2102.07074 [ cs.CV ].
↑ Grover, Aditya; Dhar, Manik; Ermon, Stefano (2017年5月1日). "Flow-GAN: 生成モデルにおける最大尤度と敵対的学習の組み合わせ". arXiv : 1705.08868 [ cs.LG ].
↑ Arjovsky, Martin; Bottou, Léon (2017年1月1日). "生成敵対ネットワークのトレーニングのための原理に基づいた方法に向けて". arXiv : 1701.04862 [ stat.ML ].
↑ Goodfellow, Ian J. (2014年12月1日). 「生成モデルを推定するための識別可能性基準について」. arXiv : 1412.6515 [ stat.ML ].
↑ Goodfellow, Ian (2016年8月31日) 「敵対的生成ネットワーク（GAN）、バークレー人工知能研究所でのプレゼンテーション」（PDF）。2022年5月8日にオリジナルからアーカイブ（PDF）。
↑イム・ジェヒョン；イェ・ジョンチョル（2017年5月8日）。「幾何学GAN」。arXiv : 1705.02894 [ stat.ML ]。
↑ Mao, Xudong; Li, Qing; Xie, Haoran; Lau, Raymond YK; Wang, Zhen; Paul Smolley, Stephen (2017). "Least Squares Generative Adversarial Networks" . 2017 IEEE International Conference on Computer Vision (ICCV) . pp. 2794–2802 . arXiv : 1611.04076 . doi : 10.1109/ICCV.2017.304 . ISBN 978-1-5386-1032-9。
↑ Makhzani, Alireza; Shlens, Jonathon; Jaitly, Navdeep; Goodfellow, Ian ; Frey, Brendan (2016). "Adversarial Autoencoders". arXiv : 1511.05644 [ cs.LG ].
↑ Barber, David; Agakov, Felix (2003 年 12 月 9 日). 「IM アルゴリズム: 情報最大化への変分アプローチ」 .第 16 回国際ニューラル情報処理システム会議議事録. NIPS'03. マサチューセッツ州ケンブリッジ、米国: MIT Press: 201–208 .
↑ Chen, Xi; Duan, Yan; Houthooft, Rein; Schulman, John; Sutskever, Ilya; Abbeel, Pieter (2016). "InfoGAN: 情報最大化生成敵対ネットワークによる解釈可能な表現学習" . Advances in Neural Information Processing Systems . 29 . Curran Associates, Inc. arXiv : 1606.03657 .
↑ドナヒュー、ジェフ。クレヘンビュール、フィリップ。ダレル、トレバー(2016)。「敵対的特徴学習」。arXiv : 1605.09782 [ cs.LG ]。
↑ Dumoulin, Vincent; Belghazi, Ishmael; Poole, Ben; Mastropietro, Olivier; Arjovsky, Alex; Courville, Aaron (2016). "Adversarially Learned Inference". arXiv : 1606.00704 [ stat.ML ].
↑ Xi Chen; Yan Duan; Rein Houthooft; John Schulman; Ilya Sutskever ; Pieter Abeel (2016). "InfoGAN: 情報最大化生成敵対ネットワークによる解釈可能な表現学習". arXiv : 1606.03657 [ cs.LG ].
↑ Zhirui Zhang; Shujie Liu; Mu Li; Ming Zhou; Enhong Chen (2018 年 10 月). "ニューラル機械翻訳のための双方向生成敵対ネットワーク" (PDF) . pp. 190–199 .
↑ Zhu, Jun-Yan; Park, Taesung; Isola, Phillip; Efros, Alexei A. (2017). "Unpaired Image-To-Image Translation Using Cycle-Consistent Adversarial Networks". pp. 2223– 2232. arXiv : 1703.10593 [ cs.CV ].
↑ Isola, Phillip; Zhu, Jun-Yan; Zhou, Tinghui; Efros, Alexei A. (2017). "Image-To-Image Translation With Conditional Adversarial Networks". pp. 1125– 1134. arXiv : 1611.07004 [ cs.CV ].
↑ Brownlee, Jason (2019年8月22日). 「BigGAN（大規模敵対的生成ネットワーク）の入門」 . Machine Learning Mastery . 2022年7月15日取得。
↑ Shengyu, Zhao; Zhijian, Liu; Ji, Lin; Jun-Yan, Zhu; Song, Han (2020). "データ効率の良いGANトレーニングのための微分可能な拡張" . Advances in Neural Information Processing Systems . 33 . arXiv : 2006.10738 .
1 2 3テロ、カラス。ミイカ、アイッタラ。ヤンネ、ヘルステン。サムリ、レイン。ヤッコ、レーティネン。ティモ、アイラ（2020）。「限られたデータによる敵対的生成ネットワークのトレーニング」。神経情報処理システムの進歩。33．
↑ Shaham, Tamar Rott; Dekel, Tali; Michaeli, Tomer (2019年10月) 「SinGAN: 単一の自然画像から生成モデルを学習する」 2019 IEEE/CVF International Conference on Computer Vision (ICCV) IEEE. pp. 4569–4579 . arXiv : 1905.01164 . doi : 10.1109/iccv.2019.00467 . ISBN 978-1-7281-4803-8. S2CID 145052179 .
↑ Karras, Tero; Laine, Samuli; Aila, Timo (2019年6月) 「敵対的生成ネットワークのためのスタイルベースのジェネレーターアーキテクチャ」2019 IEEE / CVFコンピュータビジョンおよびパターン認識会議（CVPR） IEEE。pp . 4396–4405。arXiv : 1812.04948。doi : 10.1109 / cvpr.2019.00453。ISBN 978-1-7281-3293-8. S2CID 54482423 .
↑テロ、カラス。ライネ、サムリ。アイッタラ、ミイカ。ヘルステン、ヤンネ。レティネン、ヤッコ。アイラ、ティモ（2020年6月）。「StyleGANの画質の解析と改善」。コンピュータビジョンとパターン認識 (CVPR) に関する 2020 IEEE/CVF カンファレンス。 IEEE。 pp. 8107 – 8116。arXiv : 1912.04958。土井：10.1109/cvpr42600.2020.00813。ISBN 978-1-7281-7168-5. S2CID 209202273 .
↑ティモ、カラス、テロ・アイッタラ、ミーカ・レイン、サムリ・ハルコネン、エリック・ヘルステン、ヤンネ・レーティネン、ヤーコ・アイラ（2021年6月23日）。エイリアスフリーの敵対的生成ネットワーク。OCLC 1269560084。 {{cite book}}: CS1 maint: 複数の名前: 著者リスト (リンク)
↑テロ、カラス。アイッタラ、ミイカ。ライネ、サムリ。ハルコネン、エリック。ヘルステン、ヤンネ。レティネン、ヤッコ。アイラ、ティモ。「エイリアスフリーの敵対的生成ネットワーク (StyleGAN3)」。nvlabs.github.io 。2022 年7 月 16 日に取得。
↑リー、ボニー。フランソワ＝ラヴェ、ヴァンサン。ドアン、タン。ピノー、ジョエル（2021年2月14日）。「ドメイン敵対的強化学習」。arXiv : 2102.07097 [ cs.LG ]。
↑ Schawinski, Kevin; Zhang, Ce; Zhang, Hantian; Fowler, Lucas; Santhanam, Gokula Krishnan (2017年2月1日)。「 Generative Adversarial Networksは、デコンボリューション限界を超えて銀河の天体物理画像の特徴を復元する」。Monthly Notices of the Royal Astronomical Society: Letters。467 ( 1): L110– L114。arXiv : 1702.00403。Bibcode : 2017MNRAS.467L.110S。doi : 10.1093 / mnrasl / slx008。S2CID 7213940。
↑キンケード、キャシー。「研究者たちが暗黒物質を研究するためにニューラルネットワークを訓練」。R&Dマガジン。
↑キンケード、キャシー（2019年5月16日）。「CosmoGAN：暗黒物質を研究するためのニューラルネットワークのトレーニング」。Phys.org 。
↑ 「暗黒物質を研究するためのニューラルネットワークのトレーニング」。サイエンス・デイリー。2019年5月16日。
↑ 2019年5月20日 06:13、Katyanna Quach。「宇宙学者がニューラルネットワークを使って簡単にダークマターマップを作成」。www.theregister.co.uk 。2019年5月20日取得。{{cite web}}: CS1 maint: 数値名: 著者リスト (リンク)
↑ Mustafa, Mustafa; Bard, Deborah; Bhimji, Wahid; Lukić, Zarija; Al-Rfou, Rami; Kratochvil, Jan M. (2019年5月6日). "CosmoGAN: 生成敵対ネットワークを使用した高忠実度弱レンズ収束マップの作成" . Computational Astrophysics and Cosmology . 6 (1) 1. arXiv : 1706.02390 . Bibcode : 2019ComAC...6....1M . doi : 10.1186/s40668-019-0029-9 . ISSN 2197-7909 . S2CID 126034204 .
↑ Paganini, Michela; de Oliveira, Luke; Nachman, Benjamin (2017). "Learning Particle Physics by Example: Location-Aware Generative Adversarial Networks for Physics Synthesis". Computing and Software for Big Science . 1 (1): 4. arXiv : 1701.05927 . Bibcode : 2017CSBS....1....4D . doi : 10.1007/s41781-017-0004-6 . S2CID 88514467 .
↑ Paganini, Michela; de Oliveira, Luke; Nachman, Benjamin (2018). "生成敵対ネットワークによる科学の加速：多層カロリメーターにおける3D粒子シャワーへの応用". Physical Review Letters . 120 (4) 042003. arXiv : 1705.02355 . Bibcode : 2018PhRvL.120d2003P . doi : 10.1103/PhysRevLett.120.042003 . PMID 29437460. S2CID 3330974 .
↑ Paganini, Michela; de Oliveira, Luke; Nachman, Benjamin (2018). "CaloGAN: 生成敵対ネットワークによる多層電磁カロリメータにおける 3D 高エネルギー粒子シャワーのシミュレーション". Phys. Rev. D . 97 (1) 014021. arXiv : 1712.10321 . Bibcode : 2018PhRvD..97a4021P . doi : 10.1103/PhysRevD.97.014021 . S2CID 41265836 .
↑ Erdmann, Martin; Glombitza, Jonas; Quast, Thorben (2019). "Wasserstein Generative Adversarial Network を使用した電磁カロリメータシャワーの精密シミュレーション". Computing and Software for Big Science . 3 (1): 4. arXiv : 1807.01954 . Bibcode : 2019CSBS....3....4E . doi : 10.1007/s41781-018-0019-7 . S2CID 54216502 .
↑ Musella, Pasquale; Pandolfi, Francesco (2018). "生成敵対ネットワークを使用した粒子検出器の高速かつ正確なシミュレーション". Computing and Software for Big Science . 2 (1): 8. arXiv : 1805.00850 . Bibcode : 2018CSBS....2....8M . doi : 10.1007/s41781-018-0015-y . S2CID 119474793 .
↑ 「ATLASにおける高速シャワーシミュレーションのための深層生成モデル」 2018年。
↑ SHiP, Collaboration (2019). "生成敵対ネットワークを用いたSHiP実験で生成されたミューオンの高速シミュレーション". Journal of Instrumentation . 14 (11) 11028. arXiv : 1909.04451 . Bibcode : 2019JInst..14P1028A . doi : 10.1088/1748-0221/14/11/P11028 . S2CID 202542604 .
↑ Nista, Ludovico; Pitsch, Heinz; Schumann, Christoph DK; Bode, Mathis; Grenga, Temistocle; MacArt, Jonathan F.; Attili, Antonio (2024年6月4日). "Influence of adversarial training on super-resolution turbulence reconstruction" . Physical Review Fluids . 9 (6) 064601. arXiv : 2308.16015 . Bibcode : 2024PhRvF...9f4601N . doi : 10.1103/PhysRevFluids.9.064601 .
↑ Nista, L.; Schumann, CDK; Grenga, T.; Attili, A.; Pitsch, H. (2023 年 1 月 1 日). "乱流予混合反応流の大規模渦シミュレーションのための生成敵対ネットワークの汎化能力の調査" . Proceedings of the Combustion Institute . 39 (4): 5279– 5288. Bibcode : 2023PComI..39.5279N . doi : 10.1016/j.proci.2022.07.244 . hdl : 20.500.11820/d36801a4-ead5-4379-92a4-020a509112ec . ISSN 1540-7489 .
↑深見凱、深形浩二、平邦彦 (2020 年 8 月 1 日) 「流体流れに対する教師あり機械学習手法の評価」Theoretical and Computational Fluid Dynamics 34 (4): 497– 519. arXiv : 2001.09618 . Bibcode : 2020ThCFD..34..497F . doi : 10.1007/s00162-020-00518-y . ISSN 1432-2250 .
↑ Zhavoronkov, Alex (2019). "ディープラーニングにより強力なDDR1キナーゼ阻害剤を迅速に同定できる". Nature Biotechnology . 37 (9): 1038–1040 . doi : 10.1038/s41587-019-0224-x . PMID 31477924. S2CID 201716327 .
↑バーバー、グレゴリー。「AIによって設計された分子が「薬のような」性質を示す」。Wired 。
↑ Moradi, M; Demirel, H (2024). "3D条件付きプログレッシブGANおよびLDAベースのデータ選択を使用したアルツハイマー病の分類". Signal, Image and Video Processing . 18 (2): 1847– 1861. doi : 10.1007/s11760-023-02878-4 .
↑ビスネト、トマス・リベイロ・ヴィアナ。デ・カルヴァーリョ・フィーリョ、アントニオ・オセアス。マガリャンイス州、デボラ・マリア・ヴィエイラ（2020年2月）。「自動緑内障検出に適用された敵対的生成ネットワークとテクスチャ機能」。応用ソフトコンピューティング。90 106165.土井: 10.1016/j.asoc.2020.106165。S2CID 214571484。
↑ローマ皇帝の再構築：ダニエル・ヴォシャートへのインタビュー、2020年11月16日、 2022年6月3日取得
↑ msmash (2019年2月14日) "「この人物は存在しない」ウェブサイトは、AIを使用してリアルでありながら恐ろしい顔を作成します。Slashdot 。2019年2月16日取得。
↑ドイル、マイケル（2019年5月16日）「ジョン・ビーズリーはエバンズビルのサドルホース・ドライブに住んでいる。本当にそうだろうか？」クーリエ・アンド・プレス。
↑ Targett, Ed (2019年5月16日). 「カリフォルニア州、ディープフェイクポルノの違法化に向けて前進」. Computer Business Review.
↑ミハルチク、キャリー（2019年10月4日）。「カリフォルニア州法は政治とポルノにおけるディープフェイクの取り締まりを目指す」。cnet.com。CNET 。2019年10月13日取得。
↑ Knight, Will (2018年8月7日) 「国防総省がディープフェイク検出のための最初のツールを開発」 MITテクノロジーレビュー。
↑ヴィンセント、ジェームズ（2019年3月5日）。「AIアートの終わりのない流れがオークションに出品される」。The Verge 。 2020年6月13日閲覧。
↑ Yu, Jiahui, et al.「コンテキスト注意を用いた生成的画像修復」IEEEコンピュータビジョンおよびパターン認識会議議事録。2018年。
↑ウォン、シーシー（2019年5月27日）「AIスーパーモデルの台頭」CDOトレンド。
↑ Taif, K.; Ugail, H.; Mehmood, I. (2020). "敵対的生成ネットワークを用いた影の投影". Computational Science – ICCS 2020. Lecture Notes in Computer Science. Vol. 12141. pp. 481–495 . doi : 10.1007/978-3-030-50426-7_36 . ISBN 978-3-030-50425-0. PMC 7302543 .
↑ Wei, Jerry (2019年7月3日). 「機械学習による靴のデザイン生成」 . Medium . 2020年4月30日のオリジナルからアーカイブ済み。2019年11月6日取得。
↑ラリー・グリーンマイヤー（2016年6月20日）「コンピューターはいつになったら常識を持つようになるのか？フェイスブックに聞いてみよう」サイエンティフィック・アメリカン。 2016年7月31日閲覧。
↑ Elgammal, Ahmed; Liu, Bingchen; Elhoseiny, Mohamed; Mazzone, Marian (2017). "CAN: Creative Adversarial Networks, Generating "Art" by Learning About Styles and Deviating from Style Norms". arXiv : 1706.07068 [ cs.AI ].
↑マッツォーネ、マリアン、アーメド・エルガンマル（2019年2月21日）。「芸術、創造性、そして人工知能の可能性」。Arts。8 ：26。doi：10.3390 /arts8010026。
↑ Cohn, Gabe (2018年10月25日). 「クリスティーズのAIアートが43万2500ドルで落札」 .ニューヨーク・タイムズ.
↑タン、シャオオウ。チャオ、ユウ。ロイ、チェン・チェンジ。ドン、チャオ。劉亦豪。グ、ジンジン。ウー、シシアン。ゆ、け。王欣濤（2018年9月1日）。「ESRGAN: 強化された超解像度生成敵対的ネットワーク」。arXiv : 1809.00219 [ cs.CV ]。
↑アレン、エリック・ヴァン（2020年7月8日）。「悪名高いゼルダのクリーピーパスタ・サーガが人工知能を使って最終章を制作中」。USgamer 。 2022年11月7日のオリジナルからアーカイブ済み。 2022年11月7日に取得。
↑ arcadeattack (2020年9月28日)。「Arcade Attack Podcast – 2020年9月 (4/4) - Alex Hall (Ben Drowned) - インタビュー」。Arcade Attack 。 2022年11月7日取得。
↑ 「NvidiaのAIが、プレイしている様子を見るだけでパックマンをゼロから再現」。The Verge。2020年5月22日。
↑ Seung Wook Kim; Zhou, Yuhao; Philion, Jonah; Torralba, Antonio; Fidler, Sanja (2020). "GameGAN を用いた動的環境のシミュレーション学習". arXiv : 2005.12126 [ cs.CV ].
↑ Yu, Yi; Canales, Simon (2021). "Conditional LSTM-GAN for Melody Generation from Lyrics". ACM Transactions on Multimedia Computing, Communications, and Applications . 17 : 1–20 . arXiv : 1908.05551 . doi : 10.1145/3424116 . ISSN 1551-6857 . S2CID 199668828 .
↑ Antipov, Grigory; Baccouche, Moez; Dugelay, Jean-Luc (2017). "条件付き生成敵対ネットワークによる顔の老化". arXiv : 1702.01983 [ cs.CV ].
↑ 「 3D生成敵対ネットワーク」。3dgan.csail.mit.edu 。
↑ Achlioptas, Panos; Diamanti, Olga; Mitliagkas, Ioannis; Guibas, Leonidas (2018). "Learning Representations and Generative Models for 3D Point Clouds". arXiv : 1707.02392 [ cs.CV ].
↑ Vondrick, Carl; Pirsiavash, Hamed; Torralba, Antonio (2016). "Generating Videos with Scene Dynamics" . carlvondrick.com . arXiv : 1609.02612 . Bibcode : 2016arXiv160902612V .
↑ Kang, Yuhao; Gao, Song; Roth, Rob (2019). "Transferring Multiscale Map Styles Using Generative Adversarial Networks" . International Journal of Cartography . 5 ( 2–3 ): 115–141 . arXiv : 1905.02200 . Bibcode : 2019IJCar...5..115K . doi : 10.1080/23729333.2019.1615729 . S2CID 146808465 .
↑ Wijnands, Jasper; Nice, Kerry; Thompson, Jason; Zhao, Haifeng; Stevenson, Mark (2019). "Streetscape augmentation using generative adversarial networks: Insights related to health and wellbeing". Sustainable Cities and Society . 49 101602. arXiv : 1905.06464 . Bibcode : 2019SusCS..4901602W . doi : 10.1016/j.scs.2019.101602 . S2CID 155100183 .
↑ Ukkonen, Antti; Joona, Pyry; Ruotsalo, Tuukka (2020). "Generating Images Instead of Retrieving Them" . Proceedings of the 43rd International ACM SIGIR Conference on Research and Development in Information Retrieval . pp. 1329–1338 . doi : 10.1145/3397271.3401129 . hdl : 10138/328471 . ISBN 978-1-4503-8016-4. S2CID 220730163 .
↑ 「AIは気候変動の惨状を私たちに示してくれる」。MITテクノロジーレビュー。2019年5月16日。
↑ Christian, Jon (2019年5月28日). 「驚異のAIがあなたの声に基づいてあなたの容姿を推測」 . Futurism.
↑クルプ、パトリック（2019年5月23日）。「サムスンのAIラボは、1枚の顔写真から偽のビデオ映像を作成できる」。AdWeek 。
↑ Mohammad Navid Fekri; Ananda Mohon Ghosh; Katarina Grolinger (2020). "Generating Energy Data for Machine Learning with Recurrent Generative Adversarial Networks" . Energies . 13 (1): 130. doi : 10.3390/en13010130 .
↑ Schmidhuber, Jürgen (1991). 「モデル構築ニューラルコントローラにおける好奇心と退屈の実装の可能性」。Proc . SAB'1991。MIT Press/Bradford Books。pp. 222–227。
↑ Schmidhuber, Jürgen (2020). "Generative Adversarial Networks are Special Cases of Artificial Curiosity (1990) and also Closely Related to Predictability Minimization (1991)". Neural Networks . 127 : 58–66 . arXiv : 1906.04493 . doi : 10.1016/ j.neunet.2020.04.008 . PMID 32334341. S2CID 216056336 .
↑ Niemitalo, Olli (2010年2月24日)。「可変コンテキスト内で欠損データを生成するように人工ニューラルネットワークをトレーニングする方法」。インターネットアーカイブ（Wayback Machine）。2012年3月12日のオリジナルからアーカイブ。 2019年2月22日取得。
↑ Li, Wei; Gauci, Melvin; Gross, Roderich (2013年7月6日). 「第15回遺伝的および進化的計算に関する年次会議 - GECCO '13 の議事録」.第15回遺伝的および進化的計算に関する年次会議 (GECCO 2013) の議事録. アムステルダム、オランダ: ACM. pp. 223–230 . doi : 10.1145/2463372.2465801 . ISBN 978-1-4503-1963-8。
↑ Gutmann, Michael; Hyvärinen, Aapo. "Noise-Contrastive Estimation" (PDF) . International Conference on AI and Statistics .
↑ Abu-Khalaf, Murad; Lewis, Frank L.; Huang, Jie (2008年7月1日). "制約付き制御システムのためのニューロダイナミックプログラミングとゼロサムゲーム". IEEE Transactions on Neural Networks . 19 (7): 1243– 1252. Bibcode : 2008ITNN...19.1243A . doi : 10.1109/TNN.2008.2000204 . S2CID 15680448 .
↑ Abu-Khalaf, Murad; Lewis, Frank L.; Huang, Jie (2006 年 12 月 1 日). "入力飽和を伴うH _∞状態フィードバック制御のための Hamilton–Jacobi–Isaacs 方程式に関するポリシー反復". IEEE Transactions on Automatic Control . doi : 10.1109/TAC.2006.884959 . S2CID 1338976 .
↑ Sajjadi, Mehdi SM; Schölkopf, Bernhard; Hirsch, Michael (2016年12月23日). "EnhanceNet: 自動テクスチャ合成による単一画像超解像". arXiv : 1612.07919 [ cs.CV ].
↑ 「この人物は存在しない：AIによっていずれ何も存在しなくなる」 2019年3月20日。
↑ 「人工知能が美術史に参入」 2018年12月28日。
↑トム・フェブリエ（2019年2月17日）。「知性芸術のスキャンダル」。
↑ "StyleGAN: 公式 TensorFlow 実装" . 2019 年 3 月 2 日– GitHub 経由。
↑ Paez, Danny (2019年2月13日). 「この人物は存在しない」は2019年の最高の単発ウェブサイトです。 2019年2月16日取得。
↑ベシッツァ、ロブ（2019年2月15日）。「この人物は存在しない」。Boing -Boing 。2019年2月16日取得。
↑ Horev, Rani (2018年12月26日). "スタイルベースのGAN - リアルな人工顔の生成と調整" . Lyrn.AI. 2020年11月5日のオリジナルからアーカイブ済み。2019年2月16日取得。

外部リンク

Knight, Will. 「2017年の人工知能に関する5つの大きな予測」 MIT Technology Review 2017年1月5日取得。
Karras, Tero; Laine, Samuli; Aila, Timo (2018). "生成敵対ネットワークのためのスタイルベースのジェネレーターアーキテクチャ". arXiv : 1812.04948 [ cs.NE ].
この人物は存在しません– StyleGANによって生成された、実在しない人物のフォトリアルな画像
この猫は存在しません（2019年3月5日、Wayback Machineにアーカイブ済み） – StyleGANによって生成された、存在しない猫のフォトリアルな画像
Wang, Zhengwei; She, Qi; Ward, Tomas E. (2019). "Generative Adversarial Networks in Computer Vision: A Survey and Taxonomy". arXiv : 1906.01529 [ cs.LG ].

[GANnips-1] 1 2 3 4 5 6 7 8 9 10 11 Goodfellow, Ian; Pouget-Abadie, Jean; Mirza, Mehdi; Xu, Bing; Warde-Farley, David; Ozair, Sherjil; Courville, Aaron; Bengio, Yoshua (2014). Generative Adversarial Nets (PDF) . Proceedings of the International Conference on Neural Information Processing Systems (NIPS 2014). pp. 2672– 2680.

[ITT_GANs-2] Salimans, Tim; Goodfellow, Ian; Zaremba, Wojciech; Cheung, Vicki; Radford, Alec; Chen, Xi (2016). "Improved Techniques for Training GANs". arXiv : 1606.03498 [ cs.LG ].

[3] Isola, Phillip; Zhu, Jun-Yan; Zhou, Tinghui; Efros, Alexei (2017). "条件付き敵対的ネットワークによる画像間変換" . Computer Vision and Pattern Recognition .

[4] Ho, Jonathon; Ermon, Stefano (2016). "Generative Adversarial Imitation Learning" . Advances in Neural Information Processing Systems . 29 : 4565– 4573. arXiv : 1606.03476 .

[5] 「Vanilla GAN（コンピュータビジョンにおけるGAN：生成学習入門）」。theaisummer.com。AI Summer。2020年4月10日。2020年6月3日のオリジナルからアーカイブ。2020年9月20日取得。

[6] Luc, Pauline; Couprie, Camille; Chintala, Soumith; Verbeek, Jakob (2016年11月25日). "Semantic Segmentation using Adversarial Networks". NIPS Workshop on Adversarial Training、12月、バルセロナ、スペイン。2016年。arXiv : 1611.08408。

[OpenAI_com-7] Andrej Karpathy ; Pieter Abbeel ; Greg Brockman; Peter Chen; Vicki Cheung; Rocky Duan; Ian Goodfellow; Durk Kingma; Jonathan Ho; Rein Houthooft; Tim Salimans; John Schulman; Ilya Sutskever; Wojciech Zaremba、「Generative Models」、OpenAI 、 2016年4月7日取得

[8] Mohamed, Shakir; Lakshminarayanan, Balaji (2016). "Learning in Implicit Generative Models". arXiv : 1610.03483 [ stat.ML ].

[:5-9] Goodfellow, Ian (2017年4月3日). "NIPS 2016チュートリアル: 敵対的生成ネットワーク". arXiv : 1701.00160 [ cs.LG ].

[KingmaWelling2019-10] Kingma, Diederik P.; Welling, Max (2019). "An Introduction to Variational Autoencoders". Foundations and Trends in Machine Learning . 12 (4): 307–392 . arXiv : 1906.02691 . doi : 10.1561/2200000056 .

[11] Kingma, Diederik P.; Welling, Max (2014年5月1日). "Auto-Encoding Variational Bayes". arXiv : 1312.6114 [ stat.ML ].

[12] Rezende, Danilo Jimenez; Mohamed, Shakir; Wierstra, Daan (2014). "深層生成モデルにおける確率的バックプロパゲーションと近似推論" . Journal of Machine Learning Research . 32 (2): 1278– 1286. arXiv : 1401.4082 .

[:2-13] 1 2 3 Farnia, Farzan; Ozdaglar, Asuman (2020年11月21日) 「GANは常にナッシュ均衡を持つのか？」第37回国際機械学習会議議事録第119巻PMLR 3029–3039ページ

[BiGANmeasure-14] Donahue, Jeff; Krähenbühl, Philipp; Darrell, Trevor (2017).敵対的特徴学習. 国際学習表現会議. 命題 1–2 および定理 1、p. 4.

[Kallenberg2021-15] 1 2 3 4 Kallenberg, Olav (2021). Foundations of Modern Probability (3rd ed.). Springer. pp. 40–41, 55–57, 86, and 167–168. doi : 10.1007/978-3-030-61871-1 .

[BergerRandomization-16] 1 2 Berger, James O. (1985). Statistical Decision Theory and Bayesian Analysis (2nd ed.). Springer. p. 40. doi : 10.1007/978-1-4757-4286-2 .

[:3-17] 1 2 3ウェン、リリアン（2019 年 4 月 18 日）。「GANからWGANへ」。arXiv : 1904.08994 [ cs.LG ]。

[:1-18] 1 2 3カラス、テロ。アイラ、ティモ。ライネ、サムリ。レティネン、ヤーコ（2017年10月1日）。「品質、安定性、バリエーションの向上を目的とした GAN の漸進的な成長」。arXiv : 1710.10196 [ cs.NE ]。

[19] ソヴィアニー、ペトル。アルデイ、クローディウ。イヨネスク、ラドゥ・チューダー。レオデアヌ、マリウス（2019年10月22日）。「敵対的生成ネットワーク (CuGAN) の画像難易度カリキュラム」。arXiv : 1910.08967 [ cs.LG ]。

[20] Hacohen, Guy; Weinshall, Daphna (2019年5月24日). 「深層ネットワークのトレーニングにおけるカリキュラム学習の力について」 .国際機械学習会議. PMLR: 2535–2544 . arXiv : 1904.03626 .

[21] Lin, Zinan; et al. (2018 年 12 月). PacGAN: 生成敵対ネットワークにおける 2 つのサンプルの力. 第 32 回国際ニューラル情報処理システム会議. pp. 1505–1514 . arXiv : 1712.04086 .

[22] Mescheder, Lars; Geiger, Andreas; Nowozin, Sebastian (2018年7月31日). 「GANのどのトレーニング方法が実際に収束するのか？」. arXiv : 1801.04406 [ cs.LG ].

[:0-23] 1 2 Brock, Andrew; Donahue, Jeff; Simonyan, Karen (2018 年 9 月 1 日).高忠実度自然画像合成のための大規模 GAN トレーニング. 国際学習表現会議 2019. arXiv : 1809.11096 .

[24] Heusel, Martin; Ramsauer, Hubert; Unterthiner, Thomas; Nessler, Bernhard; Hochreiter, Sepp (2017). "GANs Trained by a Two Time-Scale Update Rule Converge to a Local Nash Equilibrium" . Advances in Neural Information Processing Systems . 30. Curran Associates, Inc. arXiv : 1706.08500 .

[25] Zhang, Richard; Isola, Phillip; Efros, Alexei A.; Shechtman, Eli; Wang, Oliver (2018). "知覚指標としての深層特徴の不合理な有効性". pp. 586–595 . arXiv : 1801.03924 [ cs.CV ].

[26] Borji, Ali (2019年2月1日). 「GAN評価尺度の長所と短所」 . Computer Vision and Image Understanding . 179 : 41–65 . arXiv : 1802.03446 . Bibcode : 2019CVIU..179...41B . doi : 10.1016/j.cviu.2018.10.009 . ISSN 1077-3142 . S2CID 3627712 .

[27] ヒンドゥプール、アビナシュ (2022 年 7 月 15 日)、GAN 動物園、 2022 年7 月 15 日取得

[28] Odena, Augustus; Olah, Christopher; Shlens, Jonathon (2017年7月17日). "補助分類器GANによる条件付き画像合成" .国際機械学習会議. PMLR: 2642– 2651. arXiv : 1610.09585 .

[29] Radford, Alec; Metz, Luke; Chintala, Soumith (2016). "深層畳み込み生成敵対ネットワークによる教師なし表現学習". ICLR . S2CID 11758569 .

[30] Long, Jonathan; Shelhamer, Evan; Darrell, Trevor (2015). "Fully Convolutional Networks for Semantic Segmentation" . CVF : 3431– 3440.

[31] Zhang, Han; Goodfellow, Ian; Metaxas, Dimitris; Odena, Augustus (2019年5月24日). "Self-Attention Generative Adversarial Networks" . International Conference on Machine Learning . PMLR: 7354– 7363.

[32] ラーセン、アンデルス・ベーセン、リンドボ。ソンダービー、ソーレン・カーエ。ラロシェル、ヒューゴ。オーレ、ウィンター（2016年6月11日）。「学習された類似性メトリックを使用したピクセルを超えた自動エンコーディング」。機械学習に関する国際会議。 PMLR : 1558–1566。arXiv : 1512.09300 。

[33] Jiang, Yifan; Chang, Shiyu; Wang, Zhangyang (2021年12月8日). "TransGAN: 2つの純粋なトランスフォーマーで1つの強力なGANを作成でき、スケールアップが可能". arXiv : 2102.07074 [ cs.CV ].

[34] Grover, Aditya; Dhar, Manik; Ermon, Stefano (2017年5月1日). "Flow-GAN: 生成モデルにおける最大尤度と敵対的学習の組み合わせ". arXiv : 1705.08868 [ cs.LG ].

[35] Arjovsky, Martin; Bottou, Léon (2017年1月1日). "生成敵対ネットワークのトレーニングのための原理に基づいた方法に向けて". arXiv : 1701.04862 [ stat.ML ].

[36] Goodfellow, Ian J. (2014年12月1日). 「生成モデルを推定するための識別可能性基準について」. arXiv : 1412.6515 [ stat.ML ].

[37] Goodfellow, Ian (2016年8月31日) 「敵対的生成ネットワーク（GAN）、バークレー人工知能研究所でのプレゼンテーション」（PDF）。2022年5月8日にオリジナルからアーカイブ（PDF）。

[38] イム・ジェヒョン；イェ・ジョンチョル（2017年5月8日）。「幾何学GAN」。arXiv : 1705.02894 [ stat.ML ]。

[39] Mao, Xudong; Li, Qing; Xie, Haoran; Lau, Raymond YK; Wang, Zhen; Paul Smolley, Stephen (2017). "Least Squares Generative Adversarial Networks" . 2017 IEEE International Conference on Computer Vision (ICCV) . pp. 2794–2802 . arXiv : 1611.04076 . doi : 10.1109/ICCV.2017.304 . ISBN 978-1-5386-1032-9。

[40] Makhzani, Alireza; Shlens, Jonathon; Jaitly, Navdeep; Goodfellow, Ian ; Frey, Brendan (2016). "Adversarial Autoencoders". arXiv : 1511.05644 [ cs.LG ].

[41] Barber, David; Agakov, Felix (2003 年 12 月 9 日). 「IM アルゴリズム: 情報最大化への変分アプローチ」 .第 16 回国際ニューラル情報処理システム会議議事録. NIPS'03. マサチューセッツ州ケンブリッジ、米国: MIT Press: 201–208 .

[42] Chen, Xi; Duan, Yan; Houthooft, Rein; Schulman, John; Sutskever, Ilya; Abbeel, Pieter (2016). "InfoGAN: 情報最大化生成敵対ネットワークによる解釈可能な表現学習" . Advances in Neural Information Processing Systems . 29 . Curran Associates, Inc. arXiv : 1606.03657 .

[43] ドナヒュー、ジェフ。クレヘンビュール、フィリップ。ダレル、トレバー(2016)。「敵対的特徴学習」。arXiv : 1605.09782 [ cs.LG ]。

[44] Dumoulin, Vincent; Belghazi, Ishmael; Poole, Ben; Mastropietro, Olivier; Arjovsky, Alex; Courville, Aaron (2016). "Adversarially Learned Inference". arXiv : 1606.00704 [ stat.ML ].

[45] Xi Chen; Yan Duan; Rein Houthooft; John Schulman; Ilya Sutskever ; Pieter Abeel (2016). "InfoGAN: 情報最大化生成敵対ネットワークによる解釈可能な表現学習". arXiv : 1606.03657 [ cs.LG ].

[46] Zhirui Zhang; Shujie Liu; Mu Li; Ming Zhou; Enhong Chen (2018 年 10 月). "ニューラル機械翻訳のための双方向生成敵対ネットワーク" (PDF) . pp. 190–199 .

[47] Zhu, Jun-Yan; Park, Taesung; Isola, Phillip; Efros, Alexei A. (2017). "Unpaired Image-To-Image Translation Using Cycle-Consistent Adversarial Networks". pp. 2223– 2232. arXiv : 1703.10593 [ cs.CV ].

[48] Isola, Phillip; Zhu, Jun-Yan; Zhou, Tinghui; Efros, Alexei A. (2017). "Image-To-Image Translation With Conditional Adversarial Networks". pp. 1125– 1134. arXiv : 1611.07004 [ cs.CV ].

[49] Brownlee, Jason (2019年8月22日). 「BigGAN（大規模敵対的生成ネットワーク）の入門」 . Machine Learning Mastery . 2022年7月15日取得。

[50] Shengyu, Zhao; Zhijian, Liu; Ji, Lin; Jun-Yan, Zhu; Song, Han (2020). "データ効率の良いGANトレーニングのための微分可能な拡張" . Advances in Neural Information Processing Systems . 33 . arXiv : 2006.10738 .

[:4-51] 1 2 3テロ、カラス。ミイカ、アイッタラ。ヤンネ、ヘルステン。サムリ、レイン。ヤッコ、レーティネン。ティモ、アイラ（2020）。「限られたデータによる敵対的生成ネットワークのトレーニング」。神経情報処理システムの進歩。33．

[52] Shaham, Tamar Rott; Dekel, Tali; Michaeli, Tomer (2019年10月) 「SinGAN: 単一の自然画像から生成モデルを学習する」 2019 IEEE/CVF International Conference on Computer Vision (ICCV) IEEE. pp. 4569–4579 . arXiv : 1905.01164 . doi : 10.1109/iccv.2019.00467 . ISBN 978-1-7281-4803-8. S2CID 145052179 .

[53] Karras, Tero; Laine, Samuli; Aila, Timo (2019年6月) 「敵対的生成ネットワークのためのスタイルベースのジェネレーターアーキテクチャ」2019 IEEE / CVFコンピュータビジョンおよびパターン認識会議（CVPR） IEEE。pp . 4396–4405。arXiv : 1812.04948。doi : 10.1109 / cvpr.2019.00453。ISBN 978-1-7281-3293-8. S2CID 54482423 .

[54] テロ、カラス。ライネ、サムリ。アイッタラ、ミイカ。ヘルステン、ヤンネ。レティネン、ヤッコ。アイラ、ティモ（2020年6月）。「StyleGANの画質の解析と改善」。コンピュータビジョンとパターン認識 (CVPR) に関する 2020 IEEE/CVF カンファレンス。 IEEE。 pp. 8107 – 8116。arXiv : 1912.04958。土井：10.1109/cvpr42600.2020.00813。ISBN 978-1-7281-7168-5. S2CID 209202273 .

[55] ティモ、カラス、テロ・アイッタラ、ミーカ・レイン、サムリ・ハルコネン、エリック・ヘルステン、ヤンネ・レーティネン、ヤーコ・アイラ（2021年6月23日）。エイリアスフリーの敵対的生成ネットワーク。OCLC 1269560084。 {{cite book}}: CS1 maint: 複数の名前: 著者リスト (リンク)

[56] テロ、カラス。アイッタラ、ミイカ。ライネ、サムリ。ハルコネン、エリック。ヘルステン、ヤンネ。レティネン、ヤッコ。アイラ、ティモ。「エイリアスフリーの敵対的生成ネットワーク (StyleGAN3)」。nvlabs.github.io 。2022 年7 月 16 日に取得。

[57] リー、ボニー。フランソワ＝ラヴェ、ヴァンサン。ドアン、タン。ピノー、ジョエル（2021年2月14日）。「ドメイン敵対的強化学習」。arXiv : 2102.07097 [ cs.LG ]。

[58] Schawinski, Kevin; Zhang, Ce; Zhang, Hantian; Fowler, Lucas; Santhanam, Gokula Krishnan (2017年2月1日)。「 Generative Adversarial Networksは、デコンボリューション限界を超えて銀河の天体物理画像の特徴を復元する」。Monthly Notices of the Royal Astronomical Society: Letters。467 ( 1): L110– L114。arXiv : 1702.00403。Bibcode : 2017MNRAS.467L.110S。doi : 10.1093 / mnrasl / slx008。S2CID 7213940。

[59] キンケード、キャシー。「研究者たちが暗黒物質を研究するためにニューラルネットワークを訓練」。R&Dマガジン。

[60] キンケード、キャシー（2019年5月16日）。「CosmoGAN：暗黒物質を研究するためのニューラルネットワークのトレーニング」。Phys.org 。

[61] 「暗黒物質を研究するためのニューラルネットワークのトレーニング」。サイエンス・デイリー。2019年5月16日。

[62] 2019年5月20日 06:13、Katyanna Quach。「宇宙学者がニューラルネットワークを使って簡単にダークマターマップを作成」。www.theregister.co.uk 。2019年5月20日取得。{{cite web}}: CS1 maint: 数値名: 著者リスト (リンク)

[63] Mustafa, Mustafa; Bard, Deborah; Bhimji, Wahid; Lukić, Zarija; Al-Rfou, Rami; Kratochvil, Jan M. (2019年5月6日). "CosmoGAN: 生成敵対ネットワークを使用した高忠実度弱レンズ収束マップの作成" . Computational Astrophysics and Cosmology . 6 (1) 1. arXiv : 1706.02390 . Bibcode : 2019ComAC...6....1M . doi : 10.1186/s40668-019-0029-9 . ISSN 2197-7909 . S2CID 126034204 .

[64] Paganini, Michela; de Oliveira, Luke; Nachman, Benjamin (2017). "Learning Particle Physics by Example: Location-Aware Generative Adversarial Networks for Physics Synthesis". Computing and Software for Big Science . 1 (1): 4. arXiv : 1701.05927 . Bibcode : 2017CSBS....1....4D . doi : 10.1007/s41781-017-0004-6 . S2CID 88514467 .

[65] Paganini, Michela; de Oliveira, Luke; Nachman, Benjamin (2018). "生成敵対ネットワークによる科学の加速：多層カロリメーターにおける3D粒子シャワーへの応用". Physical Review Letters . 120 (4) 042003. arXiv : 1705.02355 . Bibcode : 2018PhRvL.120d2003P . doi : 10.1103/PhysRevLett.120.042003 . PMID 29437460. S2CID 3330974 .

[66] Paganini, Michela; de Oliveira, Luke; Nachman, Benjamin (2018). "CaloGAN: 生成敵対ネットワークによる多層電磁カロリメータにおける 3D 高エネルギー粒子シャワーのシミュレーション". Phys. Rev. D . 97 (1) 014021. arXiv : 1712.10321 . Bibcode : 2018PhRvD..97a4021P . doi : 10.1103/PhysRevD.97.014021 . S2CID 41265836 .

[67] Erdmann, Martin; Glombitza, Jonas; Quast, Thorben (2019). "Wasserstein Generative Adversarial Network を使用した電磁カロリメータシャワーの精密シミュレーション". Computing and Software for Big Science . 3 (1): 4. arXiv : 1807.01954 . Bibcode : 2019CSBS....3....4E . doi : 10.1007/s41781-018-0019-7 . S2CID 54216502 .

[68] Musella, Pasquale; Pandolfi, Francesco (2018). "生成敵対ネットワークを使用した粒子検出器の高速かつ正確なシミュレーション". Computing and Software for Big Science . 2 (1): 8. arXiv : 1805.00850 . Bibcode : 2018CSBS....2....8M . doi : 10.1007/s41781-018-0015-y . S2CID 119474793 .

[69] 「ATLASにおける高速シャワーシミュレーションのための深層生成モデル」 2018年。

[70] SHiP, Collaboration (2019). "生成敵対ネットワークを用いたSHiP実験で生成されたミューオンの高速シミュレーション". Journal of Instrumentation . 14 (11) 11028. arXiv : 1909.04451 . Bibcode : 2019JInst..14P1028A . doi : 10.1088/1748-0221/14/11/P11028 . S2CID 202542604 .

[71] Nista, Ludovico; Pitsch, Heinz; Schumann, Christoph DK; Bode, Mathis; Grenga, Temistocle; MacArt, Jonathan F.; Attili, Antonio (2024年6月4日). "Influence of adversarial training on super-resolution turbulence reconstruction" . Physical Review Fluids . 9 (6) 064601. arXiv : 2308.16015 . Bibcode : 2024PhRvF...9f4601N . doi : 10.1103/PhysRevFluids.9.064601 .

[72] Nista, L.; Schumann, CDK; Grenga, T.; Attili, A.; Pitsch, H. (2023 年 1 月 1 日). "乱流予混合反応流の大規模渦シミュレーションのための生成敵対ネットワークの汎化能力の調査" . Proceedings of the Combustion Institute . 39 (4): 5279– 5288. Bibcode : 2023PComI..39.5279N . doi : 10.1016/j.proci.2022.07.244 . hdl : 20.500.11820/d36801a4-ead5-4379-92a4-020a509112ec . ISSN 1540-7489 .

[73] 深見凱、深形浩二、平邦彦 (2020 年 8 月 1 日) 「流体流れに対する教師あり機械学習手法の評価」Theoretical and Computational Fluid Dynamics 34 (4): 497– 519. arXiv : 2001.09618 . Bibcode : 2020ThCFD..34..497F . doi : 10.1007/s00162-020-00518-y . ISSN 1432-2250 .

[74] Zhavoronkov, Alex (2019). "ディープラーニングにより強力なDDR1キナーゼ阻害剤を迅速に同定できる". Nature Biotechnology . 37 (9): 1038–1040 . doi : 10.1038/s41587-019-0224-x . PMID 31477924. S2CID 201716327 .

[75] バーバー、グレゴリー。「AIによって設計された分子が「薬のような」性質を示す」。Wired 。

[76] Moradi, M; Demirel, H (2024). "3D条件付きプログレッシブGANおよびLDAベースのデータ選択を使用したアルツハイマー病の分類". Signal, Image and Video Processing . 18 (2): 1847– 1861. doi : 10.1007/s11760-023-02878-4 .

[77] ビスネト、トマス・リベイロ・ヴィアナ。デ・カルヴァーリョ・フィーリョ、アントニオ・オセアス。マガリャンイス州、デボラ・マリア・ヴィエイラ（2020年2月）。「自動緑内障検出に適用された敵対的生成ネットワークとテクスチャ機能」。応用ソフトコンピューティング。90 106165.土井: 10.1016/j.asoc.2020.106165。S2CID 214571484。

[78] ローマ皇帝の再構築：ダニエル・ヴォシャートへのインタビュー、2020年11月16日、 2022年6月3日取得

[TPDNEwuaitcryhf|-79] smash (2019年2月14日) "「この人物は存在しない」ウェブサイトは、AIを使用してリアルでありながら恐ろしい顔を作成します。Slashdot 。2019年2月16日取得。

[80] ドイル、マイケル（2019年5月16日）「ジョン・ビーズリーはエバンズビルのサドルホース・ドライブに住んでいる。本当にそうだろうか？」クーリエ・アンド・プレス。

[81] Targett, Ed (2019年5月16日). 「カリフォルニア州、ディープフェイクポルノの違法化に向けて前進」. Computer Business Review.

[CNET2019-82] ミハルチク、キャリー（2019年10月4日）。「カリフォルニア州法は政治とポルノにおけるディープフェイクの取り締まりを目指す」。cnet.com。CNET 。2019年10月13日取得。

[83] Knight, Will (2018年8月7日) 「国防総省がディープフェイク検出のための最初のツールを開発」 MITテクノロジーレビュー。

[84] ヴィンセント、ジェームズ（2019年3月5日）。「AIアートの終わりのない流れがオークションに出品される」。The Verge 。 2020年6月13日閲覧。

[85] Yu, Jiahui, et al.「コンテキスト注意を用いた生成的画像修復」IEEEコンピュータビジョンおよびパターン認識会議議事録。2018年。

[86] ウォン、シーシー（2019年5月27日）「AIスーパーモデルの台頭」CDOトレンド。

[87] Taif, K.; Ugail, H.; Mehmood, I. (2020). "敵対的生成ネットワークを用いた影の投影". Computational Science – ICCS 2020. Lecture Notes in Computer Science. Vol. 12141. pp. 481–495 . doi : 10.1007/978-3-030-50426-7_36 . ISBN 978-3-030-50425-0. PMC 7302543 .

[88] Wei, Jerry (2019年7月3日). 「機械学習による靴のデザイン生成」 . Medium . 2020年4月30日のオリジナルからアーカイブ済み。2019年11月6日取得。

[89] ラリー・グリーンマイヤー（2016年6月20日）「コンピューターはいつになったら常識を持つようになるのか？フェイスブックに聞いてみよう」サイエンティフィック・アメリカン。 2016年7月31日閲覧。

[90] Elgammal, Ahmed; Liu, Bingchen; Elhoseiny, Mohamed; Mazzone, Marian (2017). "CAN: Creative Adversarial Networks, Generating "Art" by Learning About Styles and Deviating from Style Norms". arXiv : 1706.07068 [ cs.AI ].

[91] マッツォーネ、マリアン、アーメド・エルガンマル（2019年2月21日）。「芸術、創造性、そして人工知能の可能性」。Arts。8 ：26。doi：10.3390 /arts8010026。

[92] Cohn, Gabe (2018年10月25日). 「クリスティーズのAIアートが43万2500ドルで落札」 .ニューヨーク・タイムズ.

[93] タン、シャオオウ。チャオ、ユウ。ロイ、チェン・チェンジ。ドン、チャオ。劉亦豪。グ、ジンジン。ウー、シシアン。ゆ、け。王欣濤（2018年9月1日）。「ESRGAN: 強化された超解像度生成敵対的ネットワーク」。arXiv : 1809.00219 [ cs.CV ]。

[94] アレン、エリック・ヴァン（2020年7月8日）。「悪名高いゼルダのクリーピーパスタ・サーガが人工知能を使って最終章を制作中」。USgamer 。 2022年11月7日のオリジナルからアーカイブ済み。 2022年11月7日に取得。

[95] rcadeattack (2020年9月28日)。「Arcade Attack Podcast – 2020年9月 (4/4) - Alex Hall (Ben Drowned) - インタビュー」。Arcade Attack 。 2022年11月7日取得。

[96] 「NvidiaのAIが、プレイしている様子を見るだけでパックマンをゼロから再現」。The Verge。2020年5月22日。

[97] Seung Wook Kim; Zhou, Yuhao; Philion, Jonah; Torralba, Antonio; Fidler, Sanja (2020). "GameGAN を用いた動的環境のシミュレーション学習". arXiv : 2005.12126 [ cs.CV ].

[98] Yu, Yi; Canales, Simon (2021). "Conditional LSTM-GAN for Melody Generation from Lyrics". ACM Transactions on Multimedia Computing, Communications, and Applications . 17 : 1–20 . arXiv : 1908.05551 . doi : 10.1145/3424116 . ISSN 1551-6857 . S2CID 199668828 .

[99] Antipov, Grigory; Baccouche, Moez; Dugelay, Jean-Luc (2017). "条件付き生成敵対ネットワークによる顔の老化". arXiv : 1702.01983 [ cs.CV ].

[100] 「 3D生成敵対ネットワーク」。3dgan.csail.mit.edu 。

[101] Achlioptas, Panos; Diamanti, Olga; Mitliagkas, Ioannis; Guibas, Leonidas (2018). "Learning Representations and Generative Models for 3D Point Clouds". arXiv : 1707.02392 [ cs.CV ].

[102] Vondrick, Carl; Pirsiavash, Hamed; Torralba, Antonio (2016). "Generating Videos with Scene Dynamics" . carlvondrick.com . arXiv : 1609.02612 . Bibcode : 2016arXiv160902612V .

[103] Kang, Yuhao; Gao, Song; Roth, Rob (2019). "Transferring Multiscale Map Styles Using Generative Adversarial Networks" . International Journal of Cartography . 5 ( 2–3 ): 115–141 . arXiv : 1905.02200 . Bibcode : 2019IJCar...5..115K . doi : 10.1080/23729333.2019.1615729 . S2CID 146808465 .

[104] Wijnands, Jasper; Nice, Kerry; Thompson, Jason; Zhao, Haifeng; Stevenson, Mark (2019). "Streetscape augmentation using generative adversarial networks: Insights related to health and wellbeing". Sustainable Cities and Society . 49 101602. arXiv : 1905.06464 . Bibcode : 2019SusCS..4901602W . doi : 10.1016/j.scs.2019.101602 . S2CID 155100183 .

[105] Ukkonen, Antti; Joona, Pyry; Ruotsalo, Tuukka (2020). "Generating Images Instead of Retrieving Them" . Proceedings of the 43rd International ACM SIGIR Conference on Research and Development in Information Retrieval . pp. 1329–1338 . doi : 10.1145/3397271.3401129 . hdl : 10138/328471 . ISBN 978-1-4503-8016-4. S2CID 220730163 .

[106] 「AIは気候変動の惨状を私たちに示してくれる」。MITテクノロジーレビュー。2019年5月16日。

[107] Christian, Jon (2019年5月28日). 「驚異のAIがあなたの声に基づいてあなたの容姿を推測」 . Futurism.

[108] クルプ、パトリック（2019年5月23日）。「サムスンのAIラボは、1枚の顔写真から偽のビデオ映像を作成できる」。AdWeek 。

[109] Mohammad Navid Fekri; Ananda Mohon Ghosh; Katarina Grolinger (2020). "Generating Energy Data for Machine Learning with Recurrent Generative Adversarial Networks" . Energies . 13 (1): 130. doi : 10.3390/en13010130 .

[curiosity1991-110] Schmidhuber, Jürgen (1991). 「モデル構築ニューラルコントローラにおける好奇心と退屈の実装の可能性」。Proc . SAB'1991。MIT Press/Bradford Books。pp. 222–227。

[gancurpm2020-111] Schmidhuber, Jürgen (2020). "Generative Adversarial Networks are Special Cases of Artificial Curiosity (1990) and also Closely Related to Predictability Minimization (1991)". Neural Networks . 127 : 58–66 . arXiv : 1906.04493 . doi : 10.1016/ j.neunet.2020.04.008 . PMID 32334341. S2CID 216056336 .

[olli2010-112] Niemitalo, Olli (2010年2月24日)。「可変コンテキスト内で欠損データを生成するように人工ニューラルネットワークをトレーニングする方法」。インターネットアーカイブ（Wayback Machine）。2012年3月12日のオリジナルからアーカイブ。 2019年2月22日取得。

[Li-etal-GECCO2013-113] Li, Wei; Gauci, Melvin; Gross, Roderich (2013年7月6日). 「第15回遺伝的および進化的計算に関する年次会議 - GECCO '13 の議事録」.第15回遺伝的および進化的計算に関する年次会議 (GECCO 2013) の議事録. アムステルダム、オランダ: ACM. pp. 223–230 . doi : 10.1145/2463372.2465801 . ISBN 978-1-4503-1963-8。

[114] Gutmann, Michael; Hyvärinen, Aapo. "Noise-Contrastive Estimation" (PDF) . International Conference on AI and Statistics .

[115] Abu-Khalaf, Murad; Lewis, Frank L.; Huang, Jie (2008年7月1日). "制約付き制御システムのためのニューロダイナミックプログラミングとゼロサムゲーム". IEEE Transactions on Neural Networks . 19 (7): 1243– 1252. Bibcode : 2008ITNN...19.1243A . doi : 10.1109/TNN.2008.2000204 . S2CID 15680448 .

[116] Abu-Khalaf, Murad; Lewis, Frank L.; Huang, Jie (2006 年 12 月 1 日). "入力飽和を伴うH _∞状態フィードバック制御のための Hamilton–Jacobi–Isaacs 方程式に関するポリシー反復". IEEE Transactions on Automatic Control . doi : 10.1109/TAC.2006.884959 . S2CID 1338976 .

[117] Sajjadi, Mehdi SM; Schölkopf, Bernhard; Hirsch, Michael (2016年12月23日). "EnhanceNet: 自動テクスチャ合成による単一画像超解像". arXiv : 1612.07919 [ cs.CV ].

[118] 「この人物は存在しない：AIによっていずれ何も存在しなくなる」 2019年3月20日。

[119] 「人工知能が美術史に参入」 2018年12月28日。

[120] トム・フェブリエ（2019年2月17日）。「知性芸術のスキャンダル」。

[121] "StyleGAN: 公式 TensorFlow 実装" . 2019 年 3 月 2 日– GitHub 経由。

[TPDNEitboowo2019-122] Paez, Danny (2019年2月13日). 「この人物は存在しない」は2019年の最高の単発ウェブサイトです。 2019年2月16日取得。

[TPDNE-123] ベシッツァ、ロブ（2019年2月15日）。「この人物は存在しない」。Boing -Boing 。2019年2月16日取得。

[Style-based_GANs_–_Generating_and_Tuning_Realistic_Artificial_Faces-124] Horev, Rani (2018年12月26日). "スタイルベースのGAN - リアルな人工顔の生成と調整" . Lyrn.AI. 2020年11月5日のオリジナルからアーカイブ済み。2019年2月16日取得。

[ 1 ]

[

[

[

[ 5 ]

[ 6 ]

[ 7 ]

[ 8 ]

[ 10 ]

[ 11 ]

[ 12 ]

[ 14 ]

[ 15 ]

[ 16 ]

[ 19 ]

[ 20 ]

[ 21 ]

[ 22 ]

[ 24 ]

25

[ 26 ]で検討されている。

[ 27 ]

[ 28 ]

[ 29 ]

[ 30 ]

[ 31 ]

[ 32 ]

[ 33 ]

[ 34 ]

[ 35 ]のセクション 2.2.2 で分析されています。

[ 36 ]

[ 37 ]

[ 38 ]

[ 39 ]

[ 40 ]

[ 41 ]

[ 42 ]

[ 43 ]

[ 44 ]

[ 45 ]

[

[ 47 ]

[ 48 ]

[ 49 ]

[ 50 ]

[ 52 ]

[ 53 ]

[ 54 ]

[ 55 ]は、公式ビデオ

[ 56 ]

[

[ 58 ]

[ 59 ]

[ 60 ]

[ 61 ]

[ 62 ]

[ 63 ]

[ 64 ]

[

[

[

[

[ 69 ]

[ 70 ]

[ 71 ]

[ 72 ]

[ 73 ]

[ 74 ]

[ 75 ]

[

[ 77 ]

[ 78 ]

[ 79 ]

[ 80 ]

、

[ 82 ] 。

[ 83 ]

[ 84 ]

[ 85 ]

[ 86 ]

[ 87 ]

[ 88 ]

[ 89 ]

[ 90 ]

[ 91 ]

[ 92 ]

[

[ 94 ]

[ 95 ]

[ 96 ]

[ 97 ]

[ 98 ]

[ 99 ]

[ 100 ]

[ 101 ]

[ 102 ]

[ 103 ]

[ 104 ] 。

[ 105 ]

[ 106 ]

意味

数学