識別可能性

統計学において、識別可能性とは、正確な推論を可能にするためにモデルが満たさなければならない特性です。モデルから無限の数の観測値を取得した後、そのモデルの基礎となるパラメータの真の値を知ることが理論的に可能である場合、そのモデルは識別可能です。数学的には、これはパラメータの異なる値は観測可能な変数の異なる確率分布を生成すると言うことと同等です。通常、モデルは特定の技術的制約の下でのみ識別可能であり、その場合、これらの要件のセットは識別条件と呼ばれます。

識別できないモデルは、非識別可能または識別不能であると言われます。つまり、2 つ以上のパラメータ化が観測的に同等であるということです。場合によっては、モデルが非識別可能であっても、モデル パラメータの特定のサブセットの真の値を知ることは可能です。この場合、モデルは部分的に識別可能であると言います。他の場合には、パラメータ空間の特定の有限領域までの真のパラメータの位置を知ることができる可能性があり、その場合、モデルは識別可能と設定されます。

モデル特性の厳密な理論的な探求とは別に、識別可能性分析を使用してモデルが実験データセットでテストされる場合、識別可能性はより広い範囲で参照されることがあります。^[1]

をパラメータ空間 を持つ統計モデルとします。 が1対1のマッピング である場合、 は識別可能であると言えます。^[2]${\displaystyle {\mathcal {P}}=\{P_{\theta }:\theta \in \Theta \}}$${\displaystyle \Theta}$${\displaystyle {\mathcal {P}}}$${\displaystyle \theta \mapsto P_{\theta }}$

${\displaystyle P_{\theta _{1}}=P_{\theta _{2}}\quad \Rightarrow \quad \theta _{1}=\theta _{2}\quad \ {\text{すべての }}\theta _{1}、\theta _{2}\in \Theta に対して。}$

この定義は、異なるθの値は異なる確率分布に対応する必要があることを意味します。つまり、 θ ₁ ≠ θ ₂であれば、P _{θ 1} ≠ P _{θ 2}でもあります。^[3]分布が確率密度関数(pdf)で定義されている場合、2 つの pdf は、非ゼロの測度のセット上で異なる場合にのみ異なると見なされます (たとえば、2 つの関数 ƒ ₁ ( x ) =  1 _{0 ≤  x  < 1}と ƒ ₂ ( x ) =  1 _{0 ≤  x  ≤ 1}は、単一の点x = 1 (測度がゼロ のセット) のみが異なるため、異なる pdf とは見なされません)。

マップの可逆性という意味でのモデルの識別可能性は、モデルが無限に長く観測できる場合、モデルの真のパラメータを学習できることと同等です。実際、{ X _t } ⊆  S がモデルからの観測のシーケンスである場合、大数の強い法則により、 ${\displaystyle \theta \mapsto P_{\theta }}$

${\displaystyle {\frac {1}{T}}\sum _{t=1}^{T}\mathbf {1} _{\{X_{t}\in A\}}\ {\xrightarrow {\text{as}}}\ \Pr[X_{t}\in A],}$

すべての測定可能な集合A  ⊆  Sについて（ここで1 _{{...} は}指示関数です）。したがって、無限の数の観測値を使用して、モデル内の真の確率分布P _{0 を}見つけることができます。また、上記の識別可能性条件ではマップが可逆であることが求められるため、与えられた分布P ₀を生成するパラメータの真の値を見つけることもできます 。 ${\displaystyle \theta \mapsto P_{\theta }}$

を通常の位置スケール族とします。 ${\displaystyle {\mathcal {P}}}$

${\displaystyle {\mathcal {P}}={\Big \{}\ f_{\theta }(x)={\tfrac {1}{{\sqrt {2\pi }}\sigma }}e^{-{\frac {1}{2\sigma ^{2}}}(x-\mu )^{2}}\ {\Big |}\ \theta =(\mu ,\sigma ):\mu \in \mathbb {R} ,\,\sigma \!>0\ {\Big \}}.}$

それから

${\displaystyle {\begin{aligned}&f_{\theta _{1}}(x)=f_{\theta _{2}}(x)\\[6pt]\Longleftrightarrow {}&{\frac {1}{{\sqrt {2\pi }}\sigma _{1}}}\exp \left(-{\frac {1}{2\sigma _{1}^{2}}}(x-\mu _{1})^{2}\right)={\frac {1}{{\sqrt {2\pi }}\sigma _{2}}}\exp \left(-{\frac {1}{2\sigma _{2}^{2}}}(x-\mu _{2})^{2}\right)\\[6pt]\Longleftrightarrow {}&{\frac {1}{\sigma _{1}^{2}}}(x-\mu _{1})^{2}+\ln \sigma _{1}={\frac {1}{\sigma _{2}^{2}}}(x-\mu _{2})^{2}+\ln \sigma _{2}\\[6pt]\Longleftrightarrow {}&x^{2}\left({\frac {1}{\sigma _{1}^{2}}}-{\frac {1}{\sigma _{2}^{2}}}\right)-2x\left({\frac {\mu _{1}}{\sigma _{1}^{2}}}-{\frac {\mu _{2}}{\sigma _{2}^{2}}}\right)+\left({\frac {\mu _{1}^{2}}{\sigma _{1}^{2}}}-{\frac {\mu _{2}^{2}}{\sigma _{2}^{2}}}+\ln \sigma _{1}-\ln \sigma _{2}\right)=0\end{aligned}}}$

この式は、その係数がすべてゼロの場合にのみ、ほぼすべてのxに対してゼロに等しくなります。これは、| σ ₁ | = | σ ₂ | かつμ ₁ = μ ₂の場合にのみ可能です。スケールパラメータσはゼロより大きい値に制限されるため、モデルは識別可能であると結論付けられます: ƒ _{θ 1}  = ƒ _{θ 2} ≡ θ ₁  =  θ ₂。

を標準線形回帰モデルとします。 ${\displaystyle {\mathcal {P}}}$

${\displaystyle y=\beta 'x+\varepsilon ,\quad \mathrm {E} [\,\varepsilon \mid x\,]=0}$

（ここで′は行列の転置を表す）。行列が逆行列である場合にのみ、パラメータβは識別可能となる。したがって、これがモデルにおける 識別条件である。${\displaystyle \mathrm {E} [xx']}$

古典的な変数誤差線形モデルを仮定します。 ${\displaystyle {\mathcal {P}}}$

${\displaystyle {\begin{cases}y=\beta x^{*}+\varepsilon ,\\x=x^{*}+\eta ,\end{cases}}}$

ここで、 ( ε、η、x* ) は、期待値がゼロで分散が未知の、独立な正規分布の同時確率変数であり、変数 ( x、y ) のみが観測されます。このモデルは識別可能ではなく、^[4]積 βσ² _∗のみが識別可能です (σ² _∗は潜在回帰変数x*の分散です)。これも集合識別可能モデルの例です。 βの正確な値は学習できませんが、区間 ( β _yx、 1÷ β _xy ) のどこかにあることは保証できます。ここで、β _{yx は}yのxに対するOLS回帰の係数であり、β _{xy は}xのyに対するOLS 回帰の係数です。^[5]

正規性仮定を放棄し、x*が正規分布していないことを要求し、 独立 条件ε⊥η⊥x*のみを保持すると、モデルは識別可能になります。[  4  ^]

• システム識別
• 構造的識別性
• 可観測性
• 同時方程式モデル

• Walter, É. ; Pronzato, L. (1997)、実験データからのパラメトリックモデルの識別、Springer

• Lewbel, Arthur (2019-12-01). 「識別動物園：計量経済学における識別の意味」。 経済文献ジャーナル。57 (4)。アメリカ経済学会：835–903。doi :10.1257/ jel.20181361。ISSN 0022-0515。S2CID 125792293  。
• Matzkin, Rosa L. (2013). 「構造経済モデルにおけるノンパラメトリック識別」。Annual Review of Economics . 5 (1): 457–486. doi :10.1146/annurev-economics-082912-110231.
• Rothenberg, Thomas J. (1971). 「パラメトリックモデルにおける識別」. Econometrica . 39 (3): 577–591. doi :10.2307/1913267. ISSN  0012-9682. JSTOR  1913267.