赤池情報量基準

赤池情報量基準（AIC ）は、与えられたデータセットに対する統計モデルの予測誤差と相対的な品質を推定する指標です。 ^{[1] [2] [3]データに対する一連のモデルが与えられた場合、AICは各モデルの品質を他の各モデルと比較して推定します。したがって、AICは}モデル選択の手段を提供します。

AIC は情報理論に基づいています。統計モデルを使用してデータを生成したプロセスを表す場合、その表現が正確になることはほとんどありません。そのため、モデルを使用してプロセスを表すと、一部の情報が失われます。AIC は、特定のモデルによって失われる情報の相対的な量を推定します。モデルが失う情報が少ないほど、そのモデルの品質は高くなります。

モデルによって失われる情報の量を推定する際に、AIC はモデルの適合度とモデルの単純さの間のトレードオフを扱います。言い換えると、AIC は過剰適合のリスクと不足適合のリスクの両方を扱います。

赤池情報量基準は、これを考案した日本の統計学者赤池弘次氏にちなんで名付けられました。現在では、統計学の基礎パラダイムの基礎を形成しており、統計的推論にも広く使用されています。

あるデータの統計モデルがあるとします。kをモデル内の推定パラメータの数とします。をモデルの尤度関数の最大値とします。すると、モデルのAIC値は次のようになります。^{[4] [5]}${\displaystyle {\hat {L}}}$

${\displaystyle \mathrm {AIC} \,=\,2k-2\ln({\hat {L}})}$

データの候補モデルのセットが与えられた場合、AIC 値が最小のモデルが優先されます。つまり、AIC は適合度(尤度関数によって評価) に報酬を与えますが、推定パラメータの数の増加関数であるペナルティも含みます。ペナルティは、モデル内のパラメータの数を増やすと適合度がほぼ常に向上するため、望ましい 過剰適合を抑制します。

AIC は情報理論に基づいています。データが何らかの未知のプロセスfによって生成されたと仮定します。 f を表す2 つの候補モデル、 g ₁とg ₂を検討します。 fがわかっている場合は、Kullback–Leibler 情報量D _KL ( f ‖ g ₁ )を計算することで、fを表すためにg _{1を使用することで失われる情報を求めることができます。同様に、} f を表すためにg _{2 を}使用することで失われる情報も、D _KL ( f ‖ g ₂ )を計算することで求めることができます。その後、通常は情報損失を最小限に抑える候補モデルを選択します。

fが分からないため、確実に選択することはできません。しかし、Akaike (1974) は、AIC によって、g _1がg ₂よりもどれだけ多くの (または少ない) 情報が失われるかを推定できることを示しました。ただし、推定は漸近的にのみ有効です。データ ポイントの数が少ない場合は、何らかの補正が必要になることがよくあります (以下の AICc を参照)。

AIC はモデルの絶対的な品質については何も示さず、他のモデルと比較した品質のみを示すことに注意してください。したがって、候補モデルのすべてが適合度が低い場合、AIC はそのことを警告しません。したがって、AIC でモデルを選択した後は、通常、モデルの絶対的な品質を検証することをお勧めします。このような検証には通常、モデルの残差のチェック(残差がランダムであるかどうかを判断するため) とモデルの予測のテストが含まれます。このトピックの詳細については、統計モデルの検証を参照してください。

AIC を実際に適用するには、まず候補モデルのセットを用意し、次にそのモデルに対応する AIC 値を見つけます。候補モデルを使用して「真のモデル」、つまりデータを生成したプロセスを表すため、ほとんどの場合、情報が失われます。候補モデルの中から、情報損失を最小限に抑えるモデルを選択する必要があります。確実に選択することはできませんが、推定される情報損失を最小限に抑えることはできます。

R 個の候補モデルがあると仮定する。これらのモデルの AIC 値を AIC ₁、 AIC ₂、 AIC ₃、...、 AIC _Rで表す。AIC _{min を}これらの値の最小値とする。すると、量 exp((AIC _min − AIC _i )/2) は、i番目のモデルが (推定) 情報損失を最小化する確率に比例すると解釈できる。^[6]

たとえば、AIC 値が 100、102、110 の 3 つの候補モデルがあるとします。この場合、2 番目のモデルが情報損失を最小限に抑える可能性は、最初のモデルよりexp((100 − 102)/2) = 0.368倍高くなります。同様に、3 番目のモデルが情報損失を最小限に抑える可能性は、最初のモデルより exp((100 − 110)/2) = 0.007倍高くなります。

この例では、3番目のモデルをこれ以上の検討から除外します。その場合、3つの選択肢があります。(1)最初の2つのモデルを明確に区別できるようになることを期待して、より多くのデータを収集する。(2)最初の2つのモデルから1つのモデルを選択するにはデータが不十分であると単純に結論付ける。(3)最初の2つのモデルの加重平均を取り、重みをそれぞれ1と0.368に比例させ、加重マルチモデルに基づいて統計的推論を行う。^[7]

量exp((AIC _min − AIC _i )/2)は、モデルiの相対尤度として知られています。これは、尤度比検定で使用される尤度比と密接に関連しています。実際、候補セット内のすべてのモデルが同じ数のパラメータを持つ場合、AIC を使用することは、一見、尤度比検定を使用することと非常に似ているように見えるかもしれません。ただし、重要な違いがあります。特に、尤度比検定はネストされたモデルにのみ有効ですが、AIC (および AICc) にはそのような制限はありません。^{[8] [9]}

すべての統計的仮説検定は、統計モデルの比較として定式化できます。したがって、すべての統計的仮説検定は AIC を介して再現できます。以下のサブセクションでは、2 つの例を簡単に説明します。これらの例の詳細と、その他の多くの例については、Sakamoto、Ishiguro & Kitagawa (1986、パート II) および Konishi & Kitagawa (2008、第 4 章) で説明されています。

仮説検定の例として、正規分布する2 つの母集団の平均を比較するt検定を考えてみましょう。t検定への入力は、2 つの母集団のそれぞれからランダムに抽出されたサンプルで構成されます。

テストをモデルの比較として定式化するために、2 つの異なるモデルを構築します。最初のモデルは、2 つの母集団が潜在的に異なる平均値と標準偏差を持つものとしてモデル化します。したがって、最初のモデルの尤度関数は、2 つの異なる正規分布の尤度の積であるため、4 つのパラメーター ( μ ₁、σ ₁、μ ₂、σ _{2 )}を持ちます。明示的に、尤度関数は次のようになります (サンプル サイズをn ₁とn ₂で示します)。

${\displaystyle {\mathcal {L}}(\mu _{1},\sigma _{1},\mu _{2},\sigma _{2})\,=\,}$

${\displaystyle \;\;\;\;\;\;\;\;\prod _{i=1}^{n_{1}}{\frac {1}{{\sqrt {2\pi }}\sigma _{1}}}\exp \left(-{\frac {(x_{i}-\mu _{1})^{2}}{2\sigma _{1}^{2}}}\right)\;\,{\boldsymbol {\cdot }}\,\prod _{i=n_{1}+1}^{n_{1}+n_{2}}{\frac {1}{{\sqrt {2\pi }}\sigma _{2}}}\exp \left(-{\frac {(x_{i}-\mu _{2})^{2}}{2\sigma _{2}^{2}}}\right)}$

2 番目のモデルは、2 つの母集団の平均は同じだが、標準偏差が異なる可能性があるものとしてモデル化します。したがって、2 番目のモデルの尤度関数は、上記の式でμ ₁ = μ ₂に設定されるため、3 つのパラメーターを持ちます。

次に、2 つのモデルの尤度関数を最大化します (実際には、対数尤度関数を最大化します)。その後は、モデルの AIC 値を簡単に計算できます。次に、相対尤度を計算します。たとえば、2 番目のモデルが最初のモデルの 0.01 倍しか尤度がない場合は、2 番目のモデルをそれ以上の検討から除外します。つまり、2 つの母集団の平均が異なると結論付けます。

t検定では、2 つの母集団の標準偏差が同一であると仮定します。この仮定が誤っており、2 つのサンプルのサイズが大きく異なる場合、検定は信頼できない傾向があります (ウェルチのt検定の方が適しています)。上記の例のように、AIC を介して母集団の平均を比較すると、このような仮定を行わないという利点があります。

仮説検定の別の例として、2 つの母集団があり、各母集団の各メンバーが 2 つのカテゴリ(カテゴリ #1 またはカテゴリ #2) のいずれかに属しているとします。各母集団は二項分布しています。2 つの母集団の分布が同じかどうかを知りたいのです。2 つの母集団からそれぞれランダム サンプルが与えられます。

m を最初の母集団からの標本のサイズとします。 m _{1 を}カテゴリ #1 の観測値の数 (標本内) とします。したがって、カテゴリ #2 の観測値はm − m ₁です。同様に、n を2 番目の母集団からの標本のサイズとします。n _{1 を}カテゴリ #1 の観測値の数 (標本内) とします。

最初の母集団からランダムに選ばれたメンバーがカテゴリ #1 に属する確率をpとします。したがって、最初の母集団からランダムに選ばれたメンバーがカテゴリ #2 に属する確率は1 − pです。最初の母集団の分布には 1 つのパラメータがあることに注意してください。2番目の母集団からランダムに選ばれたメンバーがカテゴリ #1 に属する確率をqとします。2 番目の母集団の分布にも 1 つのパラメータがあることに注意してください。

2 つの母集団の分布を比較するために、2 つの異なるモデルを構築します。最初のモデルは、2 つの母集団が潜在的に異なる分布を持つものとしてモデル化します。したがって、最初のモデルの尤度関数は、2 つの異なる二項分布の尤度の積であるため、2 つのパラメーターp、q を持ちます。明示的に、尤度関数は次のようになります。

${\displaystyle {\mathcal {L}}(p,q)\,=\,{\frac {m!}{m_{1}!(m-m_{1})!}}p^{m_{1}}(1-p)^{m-m_{1}}\;\,{\boldsymbol {\cdot }}\;\;{\frac {n!}{n_{1}!(n-n_{1})!}}q^{n_{1}}(1-q)^{n-n_{1}}}$

2 番目のモデルは、2 つの母集団が同じ分布を持つものとしてモデル化します。したがって、2 番目のモデルの尤度関数は、上記の式でp = qを設定します。したがって、2 番目のモデルには 1 つのパラメーターがあります。

次に、2 つのモデルの尤度関数を最大化します (実際には、対数尤度関数を最大化します)。その後は、モデルの AIC 値を簡単に計算できます。次に、相対尤度を計算します。たとえば、2 番目のモデルが最初のモデルの 0.01 倍しか尤度がない場合は、2 番目のモデルをそれ以上の検討から除外します。つまり、2 つの母集団の分布が異なると結論付けます。

統計的推論は、一般的に仮説検定と推定から構成されると考えられています。仮説検定は、上で説明したように、AIC を介して行うことができます。推定に関しては、点推定と区間推定の 2 つのタイプがあります。点推定は、AIC パラダイム内で実行できます。これは、最大尤度推定によって提供されます。区間推定も AIC パラダイム内で実行できます。これは、尤度区間によって提供されます。したがって、統計的推論は、一般的に AIC パラダイム内で行うことができます。

統計的推論で最も一般的に使用されるパラダイムは、頻度主義的推論とベイズ推論です。しかし、AICは、頻度主義パラダイムやベイズパラダイムに依存せずに統計的推論を行うために使用できます。なぜなら、AICは有意水準やベイズ事前分布の助けを借りずに解釈できるためです。^[10]言い換えれば、AICは、頻度主義とベイズ主義の両方とは異なる統計の基礎を形成するために使用できます。^{[11] [12]}

サンプルサイズが小さい場合、AICがパラメータが多すぎるモデルを選択する可能性がかなり高くなります。つまり、AICが過剰適合することになります。^{[13] [14] [15]}このような潜在的な過剰適合に対処するために、AICcが開発されました。AICcは、小さなサンプルサイズに対する補正機能を備えたAICです。

AICcの計算式は統計モデルによって異なります。モデルが単変量で、パラメータが線形であり、残差が正規分布している（回帰変数を条件とする）と仮定すると、AICcの計算式は次のようになります。^{[16] [17] [18] [19]}

${\displaystyle \mathrm {AICc} \,=\,\mathrm {AIC} +{\frac {2k^{2}+2k}{nk-1}}}$

ここでnはサンプルサイズ、kはパラメータ数を表す。したがって、AICcは本質的にはパラメータ数に対する追加のペナルティ項を持つAICである。n → ∞になると、追加のペナルティ項は0に収束し、AICcはAICに収束することに注意する。^[20]

モデルが単変量で正規残差を持つ線形であるという仮定が成り立たない場合、AICcの式は一般に上記の式とは異なります。モデルによっては、式を決定するのが難しい場合があります。ただし、AICcが利用可能なすべてのモデルでは、AICcの式はAICにkとk ^2の両方を含む項を加えたものです。比較すると、AICの式にはkが含まれますが、 k ^2は含まれません。言い換えると、AICは（情報損失の）一次推定値であるのに対し、AICcは二次推定値です。^[21]

この式のさらなる議論は、他の仮定の例とともに、Burnham & Anderson (2002、第 7 章) および Konishi & Kitagawa (2008、第 7 ～ 8 章) によって行われています。特に、他の仮定を伴えば、この式のブートストラップ推定は多くの場合実行可能です。

まとめると、AICc は AIC よりも正確になる傾向があるという利点があります (特にサンプル数が少ない場合)。しかし、AICc は AIC よりも計算がはるかに難しい場合があるという欠点もあります。候補モデルがすべて同じk を持ち、AICc の式が同じである場合、AICc と AIC は同じ (相対的) 評価値を与えることに注意してください。したがって、AICc の代わりに AIC を使用してもデメリットはありません。さらに、nがk ²の何倍も大きい場合、追加のペナルティ項は無視できます。したがって、AICc の代わりに AIC を使用することによるデメリットは無視できます。

赤池情報量基準は、統計学者の赤池弘次によって考案されました。当初は「情報量基準」と名付けられました。^[22]赤池は1971年のシンポジウムで初めて英語で発表し、シンポジウムの議事録は1973年に出版されました。 ^{[22] [23]} ただし、1973年の出版物は、概念の非公式な発表に過ぎませんでした。^[24] 最初の正式な出版物は、1974年の赤池の論文でした。^[5]

AICの初期の導出はいくつかの強い仮定に依存していました。竹内（1976）は、その仮定をはるかに弱めることができることを示しまし た。しかし、竹内の研究は日本語で書かれていたため、長年日本国外では広く知られていませんでした。（^[25]に翻訳）

AIC はもともと Sugiura (1978) によって線形回帰のみを対象に提案されました。これがきっかけとなって Hurvich & Tsai (1989) の研究が進められ、同じ著者らによるいくつかの論文が発表され、AICc を適用できる状況が拡大しました。

情報理論的アプローチを初めて一般公開したのは、バーナムとアンダーソン (2002) の著書です。この著書には、竹内の研究の英語版が含まれています。この本によって AIC の使用が大幅に増加し、現在ではGoogle Scholarで 64,000 件を超える引用があります。

赤池は、彼のアプローチを「エントロピー最大化原理」と呼んだ。なぜなら、このアプローチは情報理論におけるエントロピーの概念に基づいているからである。実際、統計モデルで AIC を最小化することは、事実上、熱力学システムでエントロピーを最大化することと同等である。言い換えれば、統計における情報理論的アプローチは、本質的に熱力学の第二法則を適用することである。このように、AIC はルートヴィヒ・ボルツマンのエントロピーに関する研究に根ざしている 。これらの問題の詳細については、赤池 (1985) およびバーナムとアンダーソン (2002、第 2 章) を参照のこと。

統計モデルはランダム誤差を考慮する必要がある。直線モデルは、正式にはy _i  = b ₀  + b ₁ x _i  + ε _iと記述される。ここで、ε _{i は}直線近似からの残差である。 ε _iがiid ガウス分布（平均ゼロ） であると仮定すると、モデルには 3 つのパラメータ、つまりb ₀、b ₁、およびガウス分布の分散がある。したがって、このモデルの AIC 値を計算するときは、k =3 を使用する必要があります。より一般的には、 iid ガウス残差を持つ最小二乗モデルでは、残差分布の分散をパラメータの 1 つとしてカウントする必要があります。^[26]

別の例として、 x _i  = c  + φx _{i −1}  + ε _iで定義され 、ε _iがiid ガウス分布（平均ゼロ）である1 次自己回帰モデルを考えます。このモデルには、 c、φ 、およびε _iの分散の3 つのパラメーターがあります。より一般的には、p次の自己回帰モデルにはp + 2 個のパラメーターがあります。（ただし、c がデータから推定されるのではなく、事前に与えられている場合は、パラメーターはp + 1個だけです。）

候補モデルの AIC 値はすべて同じデータ セットで計算する必要があります。ただし、応答変数yのモデルを応答変数の対数log( y )のモデルと比較したい場合があります。より一般的には、データのモデルを変換されたデータのモデルと比較したい場合があります。以下は、データ変換の処理方法を示した図です (Burnham & Anderson (2002、§2.11.3) から引用:「調査員は、すべての仮説が同じ応答変数を使用してモデル化されていることを確認する必要があります」)。

2 つのモデルを比較するとします。1 つはyの正規分布で、もう 1 つはlog( y )の正規分布です。2つのモデルの AIC 値を直接比較するのではなく、正規累積分布関数を変換して、最初に y の対数を取る必要があります。そのためには、置換による適切な積分を実行する必要があります。つまり、 (自然)対数関数の導関数1/ yを掛ける必要があります。したがって、変換された分布の確率密度関数は次のようになります。

${\displaystyle y\mapsto \,{\frac {1}{y}}{\frac {1}{\sqrt {2\pi \sigma ^{2}}}}\,\exp \left(-{\frac {\left(\ln y-\mu \right)^{2}}{2\sigma ^{2}}}\right)}$

これは対数正規分布の確率密度関数です。次に、正規モデルの AIC 値と対数正規モデルの AIC 値を比較します。

不正確なモデルに対しては、竹内情​​報量基準（TIC）がより適切かもしれない。しかし、TICは推定誤差による不安定性に悩まされることが多い。^[27]

AICとBIC（およびその変種）の決定的な違いは、適切に指定されたモデルクラスと不適切に指定されたモデルクラスにおける漸近特性である。^{[28]それらの基本的な違いは、回帰変数選択と自己回帰順序選択[29]の}問題で十分に研究されてきた。一般に、目標が予測である場合、AICとleave-one-outクロスバリデーションが好まれる。目標が選択、推論、または解釈である場合、BICまたはleave-many-outクロスバリデーションが好まれる。AICと他の一般的なモデル選択方法の包括的な概要は、Ding et al.（2018）^{[30]によって示されている。}

ベイズ情報量基準(BIC)の式はAIC の式と似ていますが、パラメータの数に対するペナルティが異なります。AIC の場合、ペナルティは2 kですが、BIC の場合、ペナルティはln( n ) kです。

AIC/AICc と BIC の比較は、Burnham & Anderson (2002、§6.3-6.4) によって行われ、Burnham & Anderson (2004) によってフォローアップのコメントが示されています。著者らは、異なる事前確率を使用するだけで、AIC/AICc は BIC と同じベイジアン フレームワークで導出できることを示しています。ただし、BIC のベイジアン導出では、各候補モデルの事前確率は 1/ R ( Rは候補モデルの数) です。さらに、著者らは、AICc が BIC よりも実用的/パフォーマンス上の利点がある傾向があることを示唆するシミュレーション研究をいくつか示しています。

複数の研究者が指摘している点は、AIC と BIC は異なるタスクに適しているという点です。特に、BIC は候補モデルのセットから「真のモデル」（つまり、データを生成したプロセス）を選択するのに適していると主張されていますが、AIC は適していません。具体的には、「真のモデル」が候補セットに含まれている場合、BIC はn → ∞として確率 1 で「真のモデル」を選択します。対照的に、AIC を介して選択が行われる場合、確率は 1 未満になる可能性があります。^{[31] [32] [33] AIC の支持者は、「真のモデル」が候補セットに含まれることはほとんどないため、この問題は無視できると主張しています。実際、統計学では「}すべてのモデルは間違っている」というのが一般的な格言であり、したがって「真のモデル」（つまり、現実）が候補セットに含まれることはあり得ません。

AIC と BIC の別の比較は、Vrieze (2012) によって行われています。Vrieze は、(ほぼすべての実際のデータとは異なり)「真のモデル」が候補セットに含まれることを許容するシミュレーション研究を提示しています。シミュレーション研究では特に、「真のモデル」が候補セットに含まれる場合でも、AIC が BIC よりもはるかに優れたモデルを選択することがあることが示されています。その理由は、有限のnの場合、BIC では候補セットから非常に悪いモデルが選択されるリスクがかなり高くなる可能性があるためです。この理由は、 nがk ²よりもはるかに大きい場合でも発生する可能性があります。AIC を使用すると、非常に悪いモデルが選択されるリスクが最小限に抑えられます。

「真のモデル」が候補セットに含まれていない場合、私たちが期待できるのは、「真のモデル」に最も近いモデルを選択することだけです。AICは、特定の仮定の下で、最も近似するモデルを見つけるのに適しています。^{[31] [32] [33]} （これらの仮定には、特に、近似が情報損失を考慮して行われることが含まれます。）

回帰の文脈における AIC と BIC の比較は、Yang (2005) によって示されています。回帰では、AIC は、 「真のモデル」が候補セットに含まれていないという仮定の下で、平均二乗誤差が最小のモデルを選択するために漸近的に最適です。BIC は、この仮定の下では漸近的に最適ではありません。Yang はさらに、AIC が最適値に収束する速度が、ある意味では可能な限り最良であることを示しています。

場合によっては、各候補モデルは、残差が独立した同一正規分布（平均がゼロ）に従って分布していると想定します。これにより、最小二乗モデルフィッティングが行われます。

最小二乗法では、モデルの残差分布の分散の 最大尤度推定値は

${\displaystyle {\hat {\sigma }}^{2}=\mathrm {RSS} /n}$、

ここで残差平方和は

${\displaystyle \textstyle \mathrm {RSS} =\sum _{i=1}^{n}(y_{i}-f(x_{i};{\hat {\theta }}))^{2}}$

すると、モデルの対数尤度関数の最大値は次のようになります (正規分布#対数尤度を参照)。

${\displaystyle \ln({\hat {L}})=-{\frac {n}{2}}\ln(2\pi )-{\frac {n}{2}}\ln({\hat {\sigma }}^{2})-{\frac {1}{2{\hat {\sigma }}^{2}}}\mathrm {RSS} \,=\,-{\frac {n}{2}}\ln({\hat {\sigma }}^{2})+C}$

ここで、C はモデルから独立した定数であり、特定のデータ ポイントにのみ依存します。つまり、データが変更されない場合は変化しません。

つまり^[34]

${\displaystyle \mathrm {AIC} =2k-2\ln({\hat {L}})=2k+n\ln({\hat {\sigma }}^{2})-2C}$

AIC の差のみが意味を持つため、定数C は無視することができ、これによりモデルの比較に次の式を簡単に使用できます。

${\displaystyle \Delta \mathrm {AIC} =2k+n\ln({\hat {\sigma }}^{2})}$

すべてのモデルのkが同じ場合、 AIC が最小のモデルを選択することは、 RSS が最小のモデルを選択することと同じであることに注意してください。これは、最小二乗に基づくモデル選択の通常の目的です。

通常の線形回帰モデルの場合、 Leave-one-out交差検証はAICと漸近的に同等である。^{[35] AICとの漸近的同等性は}混合効果モデルでも成立する。^[36]

マローズのC _pは、（ガウス）線形回帰の場合のAICと同等である。^[37]

• 逸脱情報基準
• 焦点を絞った情報基準
• ハンナン・クイン情報量基準
• 最大尤度推定
• 最大エントロピーの原理
• ウィルクスの定理

• Akaike, H. (1981 年 12 月 21 日)、「今週の引用クラシック」(PDF)、Current Contents Engineering, Technology, and Applied Sciences、12 (51): 42【赤池弘次がAICに入社した経緯について語る】
• アンダーソン、DR（2008）、生命科学におけるモデルベース推論、シュプリンガー
• アーノルド、TW (2010)、「赤池情報基準を用いた非情報パラメータとモデル選択」、野生生物管理ジャーナル、74 (6): 1175–1178、Bibcode :2010JWMan..74.1175A、doi : 10.1111/j.1937-2817.2010.tb01236.x
• Burnham, KP; Anderson, DR; Huyvaert, KP (2011)、「行動生態学における AIC モデル選択とマルチモデル推論」(PDF)、行動生態学と社会生物学、65 : 23–35、doi :10.1007/s00265-010-1029-6、S2CID 3354490、2017-08-09に オリジナル(PDF)からアーカイブ、 2018-05-04取得
• Cavanaugh, JE; Neath, AA (2019)、「赤池情報量基準」、WIREs Computational Statistics、11 (3): e1460、doi :10.1002/wics.1460、S2CID  88491599
• Ing, C.-K.; Wei, C.-Z. (2005)、「自己回帰プロセスにおける同一実現予測の順序選択」、Annals of Statistics、33 (5): 2423–2474、arXiv : math/0602326、doi : 10.1214/009053605000000525
• Ko, V.; Hjort, NL (2019)、「2段階最大尤度推定によるモデル選択のためのコピュラ情報基準」、計量経済学と統計、12 : 167–180、doi :10.1016/j.ecosta.2019.01.001、hdl : 10852/ 74878 、S2CID  126873625
• Larski, S. (2012)、「モデル選択と科学的リアリズムの問​​題」(PDF) (論文)、ロンドン・スクール・オブ・エコノミクス
• Pan, W. (2001)、「一般化推定方程式における赤池の情報基準」、バイオメトリクス、57 (1): 120–125、doi :10.1111/j.0006-341X.2001.00120.x、PMID  11252586、S2CID  7862441
• Parzen, E. ; Tanabe, K.; Kitagawa, G., eds. (1998)、赤池弘次選集、Springer Series in Statistics、Springer、doi :10.1007/978-1-4612-1694-0、ISBN 978-1-4612-7248-9
• Saefken, B.; Kneib, T.; van Waveren, C.-S.; Greven, S. (2014)、「一般化線形混合モデルにおける条件付き赤池情報量の推定に対する統一的アプローチ」、Electronic Journal of Statistics、8 : 201–225、doi : 10.1214/14-EJS881