Loading article…
実験計画法において、最適実験計画（または最適計画[ 2 ] ）は、何らかの統計的基準に関して最適な実験計画の一種である。この統計学分野の創始者は、デンマークの統計学者キルスティン・スミスであるとされている。[ 3 ] [ 4 ]
統計モデルを推定するための実験計画において、最適な計画を用いることで、バイアスなく、かつ分散を最小限に抑えてパラメータを推定することが可能になります。最適でない計画では、最適な計画と同等の精度でパラメータを推定するために、より多くの実験回数が必要となります。実際には、最適な実験は実験コストの削減につながります。
実験計画の最適性は統計モデルに依存し、推定量の分散行列に関連する統計的基準に基づいて評価されます。適切なモデルを指定することと、適切な基準関数を指定することの両方には、統計理論の理解と実験計画に関する実践的な知識が必要です。
最適な実験計画は、最適ではない実験計画に比べて 3 つの利点があります。[ 5 ]
実験計画は統計的基準を用いて評価される。[ 6 ]
最小二乗推定量は、平均不偏推定量の分散を最小化することが知られています（ガウス・マルコフの定理の条件下）。1つの実数パラメータを持つ統計モデルの推定理論では、 （ 「効率的な」 ）推定量の分散の逆数は、その推定量の「フィッシャー情報」と呼ばれます。 [ 7 ]この相互性により、分散を最小化することは、情報を最大化することに対応します。
しかし、統計モデルに複数のパラメータがある場合、パラメータ推定量の平均はベクトルであり、その分散は行列です。分散行列の逆行列は「情報行列」と呼ばれます。パラメータベクトルの推定量の分散は行列であるため、「分散を最小化する」問題は複雑になります。統計理論を使用して、統計学者は実数値要約統計量を使用して情報行列を圧縮します。これらの「情報基準」は実数値関数であるため、最大化できます。[ 8 ]従来の最適性基準は情報行列の不変量です。代数的に、従来の最適性基準は情報行列の固有値の関数です。
その他の最適性基準は、予測値の分散に関係する。
多くの応用において、統計学者は「邪魔なパラメータ」よりも「関心のあるパラメータ」に最も関心を寄せます。より一般的には、統計学者はパラメータの線形結合を考慮します。これは、実験計画法や分散分析において、処理平均の線形結合によって推定されます。このような線形結合はコントラストと呼ばれます。統計学者は、このような関心のあるパラメータとコントラストに対して適切な最適性基準を使用できます。[ 12 ]
最適な設計のカタログは、書籍やソフトウェアライブラリに掲載されている。
さらに、SASやRなどの主要な統計システムには、ユーザーの仕様に従って設計を最適化する手順があります。実験者は、最適な設計を計算する前に、設計のモデルと最適性基準を指定する必要があります。 [ 13 ]
最適設計における高度なトピックの中には、より高度な統計理論と実験計画における実践的な知識を必要とするものがある。
ほとんどの最適設計の最適性基準は情報行列の何らかの関数に基づいているため、特定の設計の「最適性」はモデルに依存します。つまり、あるモデルでは最適設計が最適であっても、他のモデルではその性能が低下する可能性があります。他のモデルでは、最適設計が非最適設計よりも優れている場合も劣っている場合もあります。[ 14 ]したがって、代替モデルの下での設計の性能をベンチマークすることが重要です。[ 15 ]
適切な最適性基準の選択には熟考が必要であり、複数の最適性基準に関して設計の性能をベンチマークすることが有用である。コーネルは次のように述べている。
[従来の最適性]基準は分散最小化基準であるため、いずれかの基準を使用して特定のモデルに対して最適な設計は、通常、他の基準に関しても同じモデルに対してほぼ最適である。
実際、キーファーの「普遍的最適性」理論によれば、従来の最適性基準がすべて一致する設計のクラスがいくつか存在する。[ 17 ]コーネルのような実務家の経験とキーファーの「普遍的最適性」理論は、最適性基準の変化に対する頑健性が、モデルの変化に対する頑健性よりもはるかに大きいことを示唆している。
高品質な統計ソフトウェアは、指定されたモデルと最適性基準に応じて、最適な設計のライブラリ、または近似的に最適な設計を構築するための反復法を組み合わせた機能を提供します。ユーザーは標準的な最適性基準を使用することも、独自の基準をプログラムすることもできます。
従来の最適性基準はすべて凸関数（または凹関数）であるため、最適設計は凸解析の数学理論に適しており、その計算には凸最小化の特殊な方法を使用できます。[ 18 ]実務者は、従来の最適性基準を1 つだけ選択する必要はなく、独自の基準を指定できます。特に、実務者は凸最適性基準の最大値と最適性基準の非負の組み合わせを使用して凸基準を指定できます（これらの操作は凸関数を保存するため）。凸最適性基準の場合、キーファー・ウォルフォウィッツ等価定理により、実務者は与えられた設計が全体的に最適であることを検証できます。[ 19 ]キーファー・ウォルフォウィッツ等価定理は、凸関数のルジャンドル・フェンシェル共役と関連しています。[ 20 ]
科学者が複数の理論を検証したい場合、統計学者は特定のモデル間で最適なテストを可能にする実験を設計することができます。このような「識別実験」は、CoxとAtkinsonの研究に続いて、薬物動態学と薬力学を支える 生物統計学において特に重要です。[ 21 ]
実務家が複数のモデルを検討する必要がある場合、モデルに確率測度を指定し、その実験の期待値を最大化する任意の設計を選択できます。このような確率に基づく最適な設計は、最適なベイズ設計と呼ばれます。このようなベイズ設計は、特に一般化線形モデル（応答が指数族分布に従う場合）に使用されます。[ 22 ]
しかし、ベイズ設計の使用は、統計学者にデータの分析にベイズ法を使用することを強制するものではありません。実際、確率に基づく実験計画に対する「ベイズ」というラベルは、一部の研究者には好まれていません。 [ 23 ] 「ベイズ」最適性の代替用語には、「平均」最適性または「母集団」最適性などがあります。
科学実験は反復的なプロセスであり、統計学者は連続実験の最適な設計のためのいくつかの手法を開発してきた。
逐次分析はアブラハム・ウォルドによって開拓されました。[ 24 ] 1972年にハーマン・チェルノフは最適逐次設計の概要を執筆し、[ 25 ]適応設計は後にS.ザックスによって調査されました。[ 26 ]もちろん、実験の最適設計に関する多くの研究は最適決定理論、特にアブラハム・ウォルドの統計的決定理論に関連しています。[ 27 ]
応答曲面モデルの最適設計については、Atkinson、Donev、Tobias共著の教科書、GaffkeとHeiligersによる概説、およびPukelsheimの数学書で論じられている。最適設計のブロッキングについては、Atkinson、Donev、Tobias共著の教科書、およびGoosのモノグラフで論じられている。
最も初期の最適設計は、例えば1815年にJD Gergonneによって、連続変数を含む回帰モデルのパラメータを推定するために開発された（Stigler）。英語圏では、 Charles S. PeirceとKirstine Smithが初期の貢献を行った。
多変量応答曲面の先駆的な設計は、George EP Boxによって提案されました。しかし、Box の設計には最適性特性がほとんどありません。実際、Box–Behnken 設計では、変数の数が 3 つを超えると、実験実行回数が過剰になります。[ 28 ] Box の「中心複合」設計は、 Kôno の最適設計よりも多くの実験実行回数を必要とします。[ 29 ]
逐次実験の最適化は、確率計画法やシステムおよび制御の分野でも研究されています。一般的な手法としては、確率近似法やその他の確率最適化手法があります。この研究の多くは、システム同定の分野に関連しています。[ 30 ] 計算最適制御では、D. Judin & A. Nemirovskii とBoris Polyak が、応答曲面法でGEP Boxが導入した( Armijo スタイルの)ステップ サイズ ルールよりも効率的な手法を説明しています。[ 31 ]
適応型デザインは臨床試験で用いられており、最適な適応型デザインについては、シェレミヤフ・ザックスによる『実験デザインハンドブック』の章で概説されている。
実験回数または反復回数に事前の制約がある場合、最適な実験計画を見つける方法はいくつかあります。これらの方法の一部は、Atkinson、Donev、Tobiasらの論文や、HardinとSloaneの論文で議論されています。もちろん、実験回数を事前に固定することは現実的ではありません。慎重な統計学者は、実験回数が異なる他の最適な実験計画を検討します。
最適実験に関する数学理論では、最適設計は、無限個の観測地点でサポートされる確率測度である。このような最適確率測度設計は、観測と実験実行のコストを指定しなかった数学的問題を解決する。ただし、このような最適確率測度設計は、近似的に最適設計を与えるために離散化することができる。[ 32 ]
場合によっては、有限個の観測地点で最適な設計をサポートするのに十分です。このような結果は、KônoとKieferが二次モデルの応答曲面設計に関する研究で証明しました。Kôno-Kieferの分析は、応答曲面の最適な設計が離散的なサポートを持つことができ、それが応答曲面法で従来用いられてきた効率の低い設計と非常によく似ている理由を説明しています。[ 33 ]
スティグラーによれば、1815年にジョセフ・ディアス・ゲルゴンヌによって多項式回帰の最適設計に関する論文が発表された。
チャールズ・S・パースは1876年に、推定値の精度を最大化することを目的とした科学実験の経済理論を提唱した。パースの最適配分は重力実験の精度を即座に向上させ、パース自身と彼の同僚によって数十年にわたり使用された。1882年にジョンズ・ホプキンス大学で発表された講演の中で、パースは実験計画法を次のように紹介した。
論理は、重力加速度やオームの値を決定するためにどのような実験を行うべきかを教えてくれるわけではありませんが、実験計画を立てる方法を教えてくれます。 […] 残念ながら、一般的に実践は理論に先行し、人類のいつもの運命は、まず何やら途方もない方法で物事を成し遂げ、後になって、もっと簡単かつ完璧にできた方法があったことに気づくことです。[ 34 ]
カースティン・スミスは1918年に多項式モデルの最適設計を提案した。（カースティン・スミスはデンマークの統計学者トールヴァルド・N・ティーレの教え子であり、ロンドンでカール・ピアソンと共同研究を行っていた。）
アトキンソン、ドネフ、トビアスによる教科書は、産業界の実務家向けの短期講座だけでなく、大学の講義でも使用されている。
最適なブロック設計については、ベイリーとバパットが論じている。バパットの著書の第1章では、ベイリー（または後述の上級者向け書籍）で使用されている線形代数を概説している。ベイリーの演習問題とランダム化に関する議論は、いずれも（代数計算よりも）統計的概念を重視している。
最適なブロック設計については、ShahとSinhaによる高度な専門書、およびChengとMajumdarによる概説論文で論じられている。