統計分析において、 「カーネル 」という用語はウィンドウ関数 を指すために用いられる。「カーネル」という用語は、統計学の様々な分野において、それぞれ異なる意味を持つ。
ベイズ統計学 統計学、特にベイズ統計学では、 確率密度関数 (pdf) または確率質量関数 (pmf)のカーネルとは、定義域内のどの変数にも依存しない因子を省略した pdf または pmf の形式です。[ 1 ] ただし、このような因子はpdf または pmf のパラメータの関数である場合もあります。これらの因子は 確率分布 の正規化因子 の一部を形成し、多くの状況では不要です。たとえば、擬似乱数サンプリング では、ほとんどのサンプリングアルゴリズムは正規化因子を無視します。さらに、共役事前 分布のベイズ分析 では、計算中は正規化因子は一般的に無視され、カーネルのみが考慮されます。最後に、カーネルの形式が調べられ、既知の分布と一致する場合は、正規化因子を復元できます。そうでない場合は、不要である可能性があります (たとえば、分布からサンプリングするだけでよい場合)。
多くの分布において、カーネルは閉じた形で記述できるが、正規化定数はそうではない。
例として正規分布 がある。その確率密度関数 は次のようになる。
p ( x | μ 、 σ 2 ) = 1 2 π σ 2 e − ( x − μ ) 2 2 σ 2 ${\displaystyle p(x|\mu ,\sigma ^{2})={\frac {1}{\sqrt {2\pi \sigma ^{2}}}}e^{-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}}}$ そして関連するカーネルは
p ( x | μ 、 σ 2 ) ∝ e − ( x − μ ) 2 2 σ 2 {\displaystyle p(x|\mu ,\sigma ^{2})\propto e^{-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}} 指数関数の前の係数は省略されているが、その係数にはパラメータが含まれていることに注意されたい。σ 2 \displaystyle \sigma ^{2}} なぜなら、それはドメイン変数の関数ではないからである。x {\displaystyle x} 。
ノンパラメトリック統計 ノンパラメトリック統計学 において、カーネルとはノンパラメトリック 推定手法で使用される重み関数です。カーネルは、カーネル密度推定において 確率変数 の密度関数 を推定するために、あるいはカーネル回帰 において確率変数の条件付き期待値 を推定するために使用されます。カーネルは時系列においても使用され、 スペクトル密度を 推定するための周期図 の使用において、ウィンドウ関数 として知られています。さらに、点過程 の時間変動強度を推定する際にも使用され、その場合、ウィンドウ関数(カーネル)は時系列データと畳み込まれます。
一般的に、ノンパラメトリック推定を実行する際には、カーネル幅も指定する必要があります。
意味 カーネルとは、非負の 実数値積分 可能 関数K のことである。ほとんどのアプリケーションでは、関数がさらに2つの要件を満たすように定義することが望ましい。
∫ − ∞ + ∞ K ( u ) d u = 1 ; {\displaystyle \int _{-\infty }^{+\infty }K(u)\,du=1\,;} K ( − u ) = K ( u ) すべての値に対して u 。 {\displaystyle K(-u)=K(u){\mbox{すべてのuの値について}} 最初の要件は、カーネル密度推定法によって確率密度関数 が得られることを保証する。2番目の要件は、対応する分布の平均が、使用した標本の平均と等しくなることを保証する。
K がカーネルである場合、関数K *もカーネルであり、 K *( u ) = λK (λu ) で定義されます。ここでλ > 0です。これを利用して、データに適したスケールを選択できます。
一般的に使用されるカーネル関数 以下に、共通座標系におけるいくつかのカーネルを示す。 カーネル関数には、一様、三角形、エパネチニコフ[ 2 ] 、四次(バイウェイト)、三角波[ 3 ] 、三角波、ガウス、二次[ 4 ] 、コサインなど、いくつかの種類が一般的に使用されています。
以下の表では、K {\displaystyle K} 有界なサポート が与えられている場合、K ( u ) = 0 {\displaystyle K(u)=0} サポート外にあるu の値の場合。
注記 ↑ 効率は次のように定義されます∫ u 2 K ( u ) d u ∫ K ( u ) 2 d u {\displaystyle {\sqrt {\int u^{2}K(u)\,du}}\int K(u)^{2}\,du} 。
参考文献 ↑ Schuster, Eugene (1969年8月) 「確率密度関数とその導関数の推定」『数理統計学年報 』40 (4):1187-1195. doi : 10.1214/aoms/1177697495 . ↑ エパネチニコフ、VA (1969)「多変量確率密度の非パラメトリック推定」 Theory Probab. Appl . 14 (1): 153– 158. doi : 10.1137/1114019 にちなんで命名。 ↑ Altman, NS (1992). "カーネルと最近傍ノンパラメトリック回帰入門". The American Statistician . 46 (3): 175– 185. doi : 10.1080/00031305.1992.10475879 . hdl : 1813/31637 . ↑ Cleveland, WS ; Devlin, SJ (1988). "局所加重回帰: 局所適合による回帰分析へのアプローチ". Journal of the American Statistical Association . 83 (403): 596– 610. doi : 10.1080/01621459.1988.10478639 . ↑ Silverman, BW (1986). Density Estimation for Statistics and Data Analysis . Chapman and Hall, London. Bibcode : 1986desd.book.....S . Li, Qi; Racine, Jeffrey S. (2007).ノンパラメトリック計量経済学:理論と実践 . プリンストン大学出版局. ISBN 978-0-691-12161-1 。 Zucchini, Walter. 「応用平滑化手法 パート 1: カーネル密度推定」(PDF) 。 2018年 9月6日 取得 。 Comaniciu, D; Meer, P (2002). "平均シフト: 特徴空間分析に対する堅牢なアプローチ". IEEE Transactions on Pattern Analysis and Machine Intelligence . 24 (5): 603–619 . CiteSeerX 10.1.1.76.8968 . doi : 10.1109/34.1000236 .