本質的な次元

データ セットの固有次元は、データの最小表現に必要な変数の数と考えることができます。同様に、多次元信号の信号処理では、信号の固有次元は、信号の適切な近似値を生成するために必要な変数の数を表します。

ただし、固有次元を推定する場合、多様体次元に基づくやや広い定義が使用されることが多く、その場合、固有次元の表現は局所的にのみ存在する必要があります。このような固有次元推定方法では、データセットのさまざまな部分に異なる固有次元を持つデータセットを処理できます。これは、多くの場合、局所固有次元と呼ばれます。

固有次元は、次元削減によってデータ セットを圧縮できる次元の下限として使用できますが、データ セットまたは信号の複雑さの尺度としても使用できます。N 変数のデータ セットまたは信号の場合、その固有次元M は0 ≤ M ≤ Nを満たしますが、推定値によってより高い値が生成される場合があります。

を、定数ではない1 変数関数g の形式である 2 変数関数(または信号)とします。これは、 f がgに従って、最初の変数とともに、または最初の座標に沿って変化することを意味します。一方、f は2 番目の変数に関して、または 2 番目の座標に沿って一定です。 fの値を決定するには、1 つの変数、つまり最初の変数の値を知るだけで十分です。したがって、これは 2 変数関数ですが、その本質的次元は 1 です。 ${\textstyle f(x_{1},x_{2})}$${\textstyle f(x_{1},x_{2})=g(x_{1})}$

もう少し複雑な例は です。 f は依然として本質的に 1 次元であり、これは変数変換を行ってを 得る ことで確認できます。 fの変化は単一の変数y ₁で記述できるため、その本質的次元は 1 です。 ${\textstyle f(x_{1},x_{2})=g(x_{1}+x_{2})}$ ${\textstyle y_{1}=x_{1}+x_{2}}$${\textstyle y_{2}=x_{1}-x_{2}}$${\textstyle f\left({\frac {y_{1}+y_{2}}{2}},{\frac {y_{1}-y_{2}}{2}}\right)=g\left(y_{1}\right)}$

fが定数である場合、変化を記述するのに変数は必要ないので、その固有次元は 0 です。一般的な場合、2 変数関数fの固有次元が 0 でも 1 でもないときは、2 です。

文献では、固有次元が 0、1、または 2 である関数は、それぞれi0D、i1D、またはi2Dと呼ばれることがあります。

N変数関数fの場合、変数の集合はN次元ベクトルx : として表すことができます。 ${\textstyle f=f\left(\mathbf {x} \right){\text{ ただし }}\mathbf {x} =\left(x_{1},\dots ,x_{N}\right)}$

あるM変数関数gとM×N行列Aに対して、

• すべてのxについて;${\textstyle f(\mathbf {x} )=g(\mathbf {Ax} ),}$
• Mは、 fとgの間に上記の関係が見つかる最小の数です。

fの固有次元はMです。

固有次元はfの特徴であり、 gやAの明確な特徴ではありません。つまり、上記の関係が何らかのf、g、Aに対して満たされる場合、 および によって与えられる 同じfおよびg′およびA′に対しても満たされる必要があります。 ここで、B は非特異M × M行列 です。 ${\textstyle g'\left(\mathbf {y} \right)=g\left(\mathbf {By} \right)}$${\textstyle \mathbf {A'} =\mathbf {B} ^{-1}\mathbf {A} }$${\textstyle f\left(\mathbf {x} \right)=g'\left(\mathbf {A'x} \right)=g\left(\mathbf {BA'x} \right)=g\left (\mathbf {斧} \right)}$

固有次元M < N を持つN変数関数には、特性フーリエ変換があります。直感的には、このタイプの関数は 1 つまたは複数の次元に沿って定数であるため、そのフーリエ変換は周波数領域で同じ次元に沿ったインパルス(定数のフーリエ変換)のように見えるはずです。

f をi1D の 2 変数関数とします。これは、 すべての に対して となる 正規化ベクトルと 1 変数関数gが存在することを意味します。Fが fのフーリエ変換である場合(両方とも 2 変数関数)、 が成立する必要があります 。 ${\textstyle \mathbf {n} \in \mathbb {R} ^{2}}$${\textstyle f(\mathbf {x} )=g(\mathbf {n} ^{\operatorname {T} }\mathbf {x} )}$${\textstyle \mathbf {x} \in \mathbb {R} ^{2}}$${\textstyle F\left(\mathbf {u} \right)=G\left(\mathbf {n} ^{\mathrm {T} }\mathbf {u} \right)\cdot \delta \left(\mathbf {m} ^{\mathrm {T} }\mathbf {u} \right)}$

ここで、Gはgのフーリエ変換（両方とも 1 変数関数）、δはディラックのインパルス関数、m はnに垂直な正規化されたベクトルです。これは、周波数領域の原点を通りmに平行な線上を除いて、F がどこでも消えることを意味します。この線に沿って、F はGに応じて変化します。 ${\textstyle \mathbb {R} ^{2}}$

f を、固有次元M を持つN変数関数とします。つまり、となる M変数関数gとM × N行列A が存在するとします。 ${\textstyle f(\mathbf {x} )=g(\mathbf {Ax} )\quad \forall \mathbf {x} }$

フーリエ変換F は次のように記述できます。

• FはM次元の部分空間を除いてどこでも消える
• 部分空間Mは行列Aの行によって張られる。
• 部分空間では、FはGに応じて変化する。gのフーリエ変換

上で説明した固有次元のタイプは、N変数関数fの座標に線形変換が適用され、 fのすべての値を表すために必要なM変数が生成されることを前提としています。つまり、NとMに応じて、 f は直線、平面、または超平面に沿って一定になります。

一般的な場合、M個の関数a 1 _, a 2 _, ..., a _MとM変数関数gが存在し、

• ${\textstyle f(\mathbf {x} )=g\left(a_{1}(\mathbf {x} ),a_{2}(\mathbf {x} ),\dots ,a_{M}(\mathbf {x} )\right)}$すべてのxについて
• Mは上記の変換を可能にする関数の最小の数である。

簡単な例として、2変数関数f を極座標に変換する方法があります。

$${\displaystyle f\left({\frac {y_{1}+y_{2}}{2}},{\frac {y_{1}-y_{2}}{2}}\right)=g\left(y_{1}\right)}$$

• ${\displaystyle f(x_{1},x_{2})=g\left({\sqrt {x_{1}^{2}+x_{2}^{2}}}\right)}$、fはi1Dであり、原点を中心とする任意の円に沿って一定である。
• ${\displaystyle f(x_{1},x_{2})=g\left(\arctan \left({\frac {x_{2}}{x_{1}}}\right)\right)}$、fはi1Dであり、原点からのすべての光線に沿って一定である。

一般的なケースでは、fが定数である点集合またはそのフーリエ変換の単純な記述は通常は不可能です。

ローカル固有次元 (LID) とは、データの近くのサブセットのみを考慮すると、データが低次元の多様体に分布することが多いという観察を指します。たとえば、関数は、yが 0 に近い場合(変数xが 1 つ) は 1 次元、 yが 1 に近い場合は 2 次元、 yが正で 1 よりはるかに大きい場合 (変数x+y ) は再び 1 次元と見なすことができます。 ${\displaystyle f(x,y)=x+\max\{0,|y|-1\}}$

局所的固有次元は、データに関してよく使用されます。これは通常、データポイントのk近傍点に基づいて推定されます。 ^{[1]多くの場合、数学の}倍増次元に関連する概念に基づいています。 d球の体積はdに対して指数関数的に増加するため、検索半径が増加するにつれて新しい近傍点が見つかる割合を使用して、局所的固有次元を推定できます (例: GED 推定^[2] )。ただし、角度ベースの推定など、代替の推定アプローチが提案されています。^[3]

データ多様体の内在次元は、データ多様体の仮定に応じて、さまざまな方法で推定できます。2016年のレビューがあります。^[4]

2近傍法（TwoNN法）は、浸漬リーマン多様体の固有次元を推定する方法である。アルゴリズムは以下のとおりである。^[5]

多様体上にいくつかの点を散布します。

多数の点を測定します。ここで、点はその点の最も近い 2 つの隣接点までの距離です。 ${\displaystyle \mu =r_{2}/r_{1}}$${\displaystyle r_{1},r_{2}}$

の経験的 CDFを に適合させます。 ${\displaystyle \mu }$${\displaystyle 1-\mu ^{-d}}$

戻る。${\displaystyle d}$

1950年代には、社会科学において多次元データセットを調査および要約するためのいわゆる「スケーリング」手法が開発されました。 ^[6]シェパードが1962年に非計量多次元スケーリングを導入した後、^[7]多次元スケーリング（MDS）の主要な研究分野の1つは、内在的次元の推定でした。^{[8]このトピックは}情報理論でも研究され、1965年にベネットが「内在的次元」という用語を作り出し、それを推定するコンピュータプログラムを書いたことで先駆者となりました。^{[9] [10] [11]}

1970年代には、MDSのような次元削減に依存しない、局所固有値に基づくもの^[12]、距離分布に基づくもの^[13]、その他の次元依存の幾何学的特性に基づくもの^{[14]などの固有次元推定法が構築されました。}

集合や確率測度の固有次元の推定は、1980 年頃から力学系の分野で広く研究されており、（ストレンジ）アトラクターの次元が関心の対象となってきた。^{[15] [16] [17] [18]}ストレンジアトラクターの場合、多様体仮定はなく、測定される次元はフラクタル次元の一種であり、これも整数でない可能性がある。しかし、フラクタル次元の定義により、多様体に対して多様体次元が得られる。

2000年代には「次元の呪い」が内在次元の推定に利用された。^{[19] [20]}

i1D である 2 変数信号のケースは、コンピューター ビジョンや画像処理で頻繁に登場し、線やエッジを含むローカル画像領域の概念を捉えています。このような領域の分析には長い歴史がありますが、このような操作のより形式的かつ理論的な処理が開始されて初めて、名前は変化したものの、固有次元の概念が確立されました。

例えば、ここで固有次元1の画像近傍またはi1D近傍と呼ばれている概念は、Knutsson (1982)では1次元と呼ばれ、 ^[21] Bigün & Granlund (1987)では線型対称と呼ばれ、 ^[22] Granlund & Knutsson (1995)では単純近傍と呼ばれています。 ^[23]

• 寸法
• フラクタル次元
• ハウスドルフ次元
• 位相次元
• 本質的な低次元多様体

• Michael Felsberg、Sinan Kalkan、Norbert Krueger ( 2009 )。「画像構造の連続次元特性」。イメージとビジョンコンピューティング。27 ( 6): 628–636。doi : 10.1016 /j.imavis.2008.06.018。hdl : 11511/36631。