応答モデリング手法

応答モデリング手法（RMM）は、応答変数（従属変数）と線形予測子（予測子／効果／因子／独立変数の線形結合）との間の線形／非線形関係を統計的にモデル化するための一般的なプラットフォームであり、線形予測子関数と呼ばれることが多い。一般的に、モデル化された関係は単調凸（単調凸関数を出力）または単調凹（単調凹関数を出力）であると想定される。しかし、二次方程式のような多くの非単調関数は、この一般モデルの特殊なケースである。

RMMは当初、オリジナルの逆Box–Cox変換の拡張として開発されました。${\displaystyle y={{(1+\lambda z)}^{1/\lambda }},}$ここで、yはモデル化された応答のパーセンタイル、 Y（モデル化された確率変数）、zは正規変数の対応するパーセンタイル、λはBox–Coxパラメータです。λがゼロに近づくと、逆Box–Cox変換は次のようになります。${\displaystyle y=e^{z},}$指数モデル。したがって、元の逆ボックス・コックス変換には、線形（λ  =  1）、べき乗（λ  ≠  1、λ  ≠  0）、指数（λ  =  0）の3つのモデルが含まれます。これは、サンプルデータを使用してλを推定する場合、最終モデルは事前に（推定前に）決定されるのではなく、推定の結果として決定されることを意味します。言い換えれば、データのみによって最終モデルが決定されます。

逆 Box–Cox 変換の拡張は Shore (2001a ^{[ 1 ]} ) によって開発され、逆正規化変換 (INT) と呼ばれていました。これらは、さまざまな工学分野における単調凸関係のモデル化に適用され、主に化学化合物の物理的特性のモデル化に用いられてきました (Shore et al.、2001a、^{[ 1 ]}およびその中の参考文献)。INT モデルは、非線形単調凸関係のモデル化のためのより広範な一般的なアプローチの特殊なケースとして認識できることが認識されると、新しい応答モデリング手法が開始され、開発されました (Shore、2005a、^{[ 2 ]} 2011 ^{[ 3 ]}およびその中の参考文献)。

RMMモデルは、応答変数Y（モデル化された確率変数）と、Yに変動をもたらす2つの要素との関係を表します。

• 線形予測関数、LP（ηと表記）：${\displaystyle \eta =\beta _{0}+\beta _{1}X_{1}+\cdots +\beta _{k}X_{k},}$ここで、{ X ₁ ,..., X _k } は、応答に体系的な変動をもたらす回帰変数（「影響因子」）です。
• 通常の誤差は、応答にランダムな変動をもたらします。

基本的な RMM モデルは、 Yを LP、相関関係にある可能性のある 2 つのゼロ平均正規誤差ε ₁およびε ₂ (相関ρおよび標準偏差σ _{ε 1}および σ _{ε 2}をそれぞれ持つ)、およびパラメータのベクトル { α、λ、μ } の観点から記述します (Shore、2005a、^{[ 2 ]} 2011 ^{[ 3 ]} )。

${\displaystyle W=\log(Y)=\mu +\left({\frac {\alpha }{\lambda }}\right)[(\eta +\varepsilon _{1})^{\lambda }-1]+\varepsilon _{2},\,}$

また、ε _{1 は}説明変数(LP に含まれる)の不確実性 (測定の不正確さなど) を表します。これは応答に関連する不確実性 ( ε ₂ ) に加えてのものです。ε 1 と ε 2 をそれぞれ相関 ρ を持つ標準正規変数 Z 1 と Z 2 で表し、_Z 2 _| Z 1 = z 1 ( _Z 1が_与えられた_値z 1_に等しい場合のZ ₂ )を_{条件付ける}と、_単一の誤差εで次のように表すことができます。 

${\displaystyle {\begin{aligned}\varepsilon _{1}&=\sigma _{\varepsilon _{1}}Z_{1}\,\,;\,\,\varepsilon _{2}=\sigma _{\varepsilon _{2}}Z_{2};\\[4pt]\varepsilon _{2}&=\sigma _{\varepsilon _{2}}\rho z_{1}+(1-\rho ^{2})^{(1/2)}\sigma _{\varepsilon _{2}}Z=dz_{1}+\varepsilon ,\\\end{aligned}}}$

ここで、ZはZ ₁とZ ₂の両方とは独立した標準正規変数であり、εはゼロ平均誤差、d はパラメータです。これらの関係から、関連する RMM分位関数は次のようになります (Shore、2011 ^{[ 3 ]} )。

${\displaystyle w=\log(y)=\mu +\left({\frac {\alpha }{\lambda }}\right)[(\eta +cz)^{\lambda }-1]+(d)z+\varepsilon ,}$

または、再パラメータ化後：

${\displaystyle w=\log(y)=\log(M_{Y})+\left({\frac {a\eta ^{b}}{b}}\right)\left\{\left[1+\left({\frac {c}{\eta }}\right)z\right]^{b}-1\right\}+(d)z+\varepsilon ,}$

ここで、y は応答 ( Y ) のパーセンタイル、zはそれぞれの標準正規パーセンタイル、εはモデルの定常分散を持つゼロ平均正規誤差、σ、{ a,b,c,d } はパラメータ、M _Yは応答の中央値( z = 0 ) であり、パラメータの値と LP の値ηに依存します。  

${\displaystyle \log(M_{Y})=\mu +\left({\frac {a}{b}}\right)[\eta ^{b}-1]=\log(m)+\left({\frac {a}{b}}\right)[\eta ^{b}-1],}$

ここでμ（またはm）は追加のパラメータである。

cz<<ηと仮定すると、上記のRMM分位関数モデルは次のように近似できます。

${\displaystyle w=\log(y)=\log(M_{Y})+\left({\frac {a\eta ^{b}}{b}}\right)\left[\exp \left({\frac {bcz}{\eta }}\right)-1\right]+(d)z+\varepsilon .}$

パラメータ「c」はLP（η）のパラメータに「吸収」することはできません。なぜなら、「c」とLPは（後述するように）2つの別々の段階で推定されるからです。

モデルの推定に使用される応答データに符号が変化する値が含まれている場合、または最小応答値がゼロから大きく離れている場合（たとえば、データが左側で切り捨てられている場合）、応答に位置パラメータLを追加することで、分位関数と中央値の式をそれぞれ次のようにすることができます。

${\displaystyle w=\log(y-L)=\log(M_{Y}-L)+\left({\frac {a\eta ^{b}}{b}}\right)\left\{\left[1+\left({\frac {c}{\eta }}\right)z\right]^{b}-1\right\}+(d)z+\varepsilon \,;}$

${\displaystyle \log(M_{Y}-L)=\mu +\left({\frac {a}{b}}\right)[\eta ^{b}-1].}$

前述のように、逆ボックス・コックス変換は、モデルの最終形式（線形、べき乗、指数関数のいずれか）を決定する単一のパラメータλに依存します。したがって、これら3つのモデルはすべて、λによって張られる単調凸性の連続スペクトル上の単なる点となります。このように、異なる既知のモデルが、モデルのパラメータによって張られる連続スペクトル上の単なる点となる性質は、連続単調凸性（CMC）特性と呼ばれます。この特性はすべてのRMMモデルに共通しており、逆ボックス・コックス変換の根底にある基本的な「線形-べき乗-指数関数」サイクルを無限に繰り返すことができ、より凸性の高いモデルを導出することが可能になります。このようなモデルの例としては、指数-べき乗モデルや指数-指数-べき乗モデルなどがあります（詳細は後述の具体的なモデルを参照）。モデルの最終形式はRMMパラメータの値によって決定されるため、パラメータの推定に使用されるデータが、推定されたRMMモデルの最終形式を決定することになります（Box-Cox逆変換と同様）。したがって、CMC特性により、RMMモデルはパラメータの推定に使用されるデータに対応する高い柔軟性を備えています。以下に示す参考文献は、RMMモデルと既存モデルとの比較結果を示しています。これらの比較は、CMC特性の有効性を実証しています。

RMM誤差を無視する（パーセンタイルモデルにおける項cz、dz、eを無視する）と、単調凸性の昇順で以下のRMMモデルが得られます。

${\displaystyle {\begin{aligned}&{\text{linear: }}y=\eta &&(\alpha =1,\lambda =0);\\[5pt]&{\text{power: }}y=\eta ^{\alpha },&&(\alpha \neq 1,\lambda =0);\\[5pt]&{\text{exponential-linear: }}y=k\exp(\eta ),&&(\alpha \neq 1,\lambda =1);\\[5pt]&{\text{exponential-power: }}y=k\exp(\eta ^{\lambda }),&&(\alpha \neq 1,\lambda \neq 1;k{\text{ is a non-negative parameter}}.)\end{aligned}}}$

パーセンタイルモデルにおいてηを導入することにより、2つの新しいパラメータを追加します。${\displaystyle \exp \left[\left({\frac {\beta }{\kappa }}\right)(\eta ^{\kappa }-1)\right]}$、より強い単調凸性を持つモデルを生成するために、「線形-べき乗-指数」の新しいサイクルが繰り返されます（Shore、2005a、^{[ 2 ]} 2011、^{[ 3 ]} 2012 ^{[ 4 ]}）：

${\displaystyle {\begin{aligned}&{\text{exponential-power: }}y=k\exp(\eta ^{\lambda }),&&(\alpha \neq ,\lambda \neq 1,\beta =1,\kappa =0,\\&&&{\text{ restoring the former model}});\\[6pt]&{\text{exponential-exponential-linear: }}y=k_{1}\exp[k_{2}\exp(\eta )],&&(\alpha \neq 1,\lambda \neq 1,\beta =1,\kappa =1);\\[6pt]&{\text{exponential-exponential-power: }}y=k_{1}\exp[k_{2}\exp(\eta ^{\kappa })],&&(\alpha \neq 1,\lambda \neq 1,\beta =1,\kappa \neq 1).\end{aligned}}}$

^{単調凸関数の階層構造（Shore、2011 [ 3 ]} ）に現れる一連の単調凸モデルは、上方向には無制限であることが認識されています。しかし、すべてのモデルは、RMMパラメータによって張られる連続スペクトル上の単なる点です。また、ゴンペルツ関数のような多くの成長モデルは、 RMMモデルの正確な特殊ケースであることにも注意してください。

Yのk番目の非中心モーメントは ( L = 0 と仮定した場合、Shore、2005a、^{[ 2 ]} 2011 ^{[ 3 ]} ) である。  

${\displaystyle \operatorname {E} (Y^{k})=(M_{Y})^{k}\operatorname {E} \left\{\exp \left\{\left({\frac {k\alpha }{\lambda }}\right)[(\eta +cZ)^{\lambda }-1]+(kd)Z\right\}\right\}.}$

右辺に示されているY ^{k を}、 Z (標準正規変数)のべき乗を用いてゼロの周りのテイラー級数に展開し、 cZ ≪ ηと仮定してη + cZ ≈ ηの両辺の期待値を取ると、展開の最初の 6 項に基づくk番目の非中心モーメントの近似的な簡単な表現は次のようになります。      

${\displaystyle \operatorname {E} (Y)^{k}\cong (M_{Y})^{k}e^{\alpha k\left(\eta ^{\lambda }-1\right)/\lambda }\left\{1+{\frac {1}{2}}(kd)^{2}+{\frac {1}{8}}(kd)^{4}\right\}.}$

cZ  ≪ ηを仮定しなくても、同様の式を導出できます。この場合、より正確な（ただし、長くて扱いにくい）式が得られます。上記の式でcZ を無視すると、 Y は対数正規分布に従う確率変数になります（パラメータはηに依存します）。  

RMMモデルは、ランダムな変動をモデル化するために（分布フィッティングのための一般的なプラットフォームとして）、または系統的な変動をモデル化するために（一般化線形モデル（GLM）と同様に）使用できます。

前者の場合（系統的な変動がない場合、すなわちη  = 定数の場合）、RMM分位関数は既知の分布に適合されます。基礎となる分布が不明な場合は、利用可能なサンプルデータを使用してRMM分位関数が推定されます。RMMによるランダム変動のモデリングについては、Shore (2011 ^{[ 3 ]}およびその参考文献) で取り上げられ、実証されています。

後者の場合（系統的変動のモデリング）、RMM モデルは、線形予測子の変動（回帰変数の変動によって生成される）がモデル化された応答変数（Y ）の全体的な変動に寄与すると仮定して推定されます。このケースは、Shore（2005a、 ^{[ 2 ]} 2012 ^{[ 4 ]}およびその中の関連文献）で取り上げられ、実証されています。推定は 2 段階で行われます。まず、適合モデルとサンプル データ ポイントの絶対偏差の合計を最小化することによって中央値が推定されます。第 2 段階では、残りの 2 つのパラメータ（第 1 段階で推定されなかった、つまり { c、d }）が推定されます。Shore（2012 ^{[ 4 ]}）では、最尤法、モーメント マッチング、非線形分位点回帰の3 つの推定アプローチが提示されています。

2021年現在、RMMに関する文献は3つの分野を扱っています。

（１） INTsの開発、そして後にRMMアプローチと関連する推定方法の開発

（２） RMMの特性を探求し、RMMの有効性を他の既存のモデリング手法（分布適合または系統的変動のモデリング）と比較する。

（３）応用

ショア（2003a ^{[ 5 ]}）は21世紀初頭に逆正規化変換（INT）を開発し、統計的プロセス制御（ショア、2000a、^{[ 1 ]} b、^{[ 6 ]} 2001a、^{[ 7 ]} b、^{[ 8 ]} 2002a ^{[ 9 ]}）や化学工学（ショア他、2002 ^{[ 10 ]}）などのさまざまな工学分野に適用しました。その後、新しい応答モデリング手法（RMM）が登場し、単調凸関係をモデル化するための本格的なプラットフォームへと発展するにつれて（最終的には書籍Shore, 2005a ^{[ 2 ]}で発表）、RMMの特性が調査され（Shore, 2002b, ^{[ 11 ]} 2004a, ^{[ 12 ]} b, ^{[ 13 ]} 2008a, ^{[ 14 ]} 2011 ^{[ 3 ]}）、推定手順が開発され（Shore, 2005a, ^{[ 2 ]} b, ^{[ 15 ]} 2012 ^{[ 4 ]}）、新しいモデリング手法がランダム変動をモデル化するための他のアプローチと比較されました（Shore 2005c, ^{[ 16 ]} 2007, ^{[ 17 ]} 2010; ^{[ 18 ]} Shore and A'wad 2010 ^{[ 19 ]}）。系統的変動のモデリングにも用いられます（Shore、2008b ^{[ 20 ]}）。

同時に、RMMは様々な科学および工学分野に適用され、そこで実践されている既存のモデルやモデリング手法と比較検討されてきた。例えば、化学工学（Shore、2003b; ^{[ 21 ]} Benson-Karhi et al.、2007; ^{[ 22 ]} Shacham et al.、2008; ^{[ 23 ]} Shore and Benson-Karhi、2010 ^{[ 24 ]}）、統計的プロセス管理（Shore、2014; ^{[ 25 ]} Shore et al.、2014; ^{[ 26 ]} Danoch and Shore、2016 ^{[ 27 ]}）、信頼性工学（Shore、2004c; ^{[ 28 ]} Ladany and Shore、2007 ^{[ 29 ]}）、予測（Shore and Benson-Karhi、2007 ^{[ 30 ]}）、生態学（Shore、2014 ^{[ 25 ]}）、および医療専門職（Shore et al.、 2014年; ^{[ 26 ]}ベンソン・カーヒら。、2017年^{[ 31 ]}）。