
確率論および関連分野において、確率過程(/ stəˈkæstɪk /)またはランダム過程とは、通常、確率空間における確率変数の族として定義される数学的対象であり、その族の添え字はしばしば時間として解釈される。確率過程は、ランダムに変化するように見えるシステムや現象の数学的モデルとして広く用いられている。例としては、細菌集団の増殖、熱雑音による電流の変動、気体分子の運動などが挙げられる。[ 1 ] [ 4 ] [ 5 ]確率過程は、生物学[ 6 ]化学[ 7 ]生態学[ 8 ]神経科学[ 9 ]物理学[ 10 ]画像処理、信号処理[ 11 ]制御理論[ 12 ]情報理論[ 13 ]コンピュータ科学[ 14 ]および電気通信[ 15 ]など、多くの分野で応用されています。さらに、金融市場における一見ランダムな変化が、金融における確率過程の広範な利用を促しています。[ 16 ] [ 17 ] [ 18 ]
応用や現実世界の現象は、数学者たちに新しい確率過程を提案するよう繰り返し促してきた。その2つの古典的な例は、ウィーナー過程(ブラウン運動過程とも呼ばれる)[ a ]とポアソン過程である。ルイ・バシュリエはパリ証券取引所の価格変動をモデル化するためにウィーナー過程を使用し[ 21 ] 、 AK アーランは一定期間に発生する電話の通話数をモデル化するためにポアソン過程を使用した[ 22 ] 。これら2つの過程は、確率過程の理論の中心として広く扱われており[ 1 ] [ 4 ] [ 23 ]、バシュリエとアーランの前後に、異なる環境や国で繰り返し独立して発明された[ 21 ] [ 24 ] 。
確率関数という用語は、確率過程またはランダム過程を指す場合にも使用されます。[ 25 ] [ 26 ]なぜなら、確率過程は関数空間のランダム要素として解釈することもできるからです。[ 27 ] [ 28 ]確率過程とランダム過程という用語は、ランダム変数をインデックス付けする集合に特定の数学的空間がない場合でも、互換的に使用されることがよくあります。 [ 27 ] [ 29 ]しかし、ランダム変数が整数または実数直線の区間によってインデックス付けされている場合、これらの 2 つの用語がよく使用されます。[ 5 ] [ 29 ]ランダム変数がデカルト平面または何らかの高次元ユークリッド空間によってインデックス付けされている場合、ランダム変数の集合は通常、ランダム場と呼ばれます。[ 5 ] [ 30 ]確率過程の値は必ずしも数値ではなく、ベクトルまたはその他の数学的オブジェクトである場合があります。[ 5 ] [ 28 ]
確率過程は、その数学的性質に基づいて、ランダムウォーク[ 31 ] 、マルチンゲール[ 32 ] 、マルコフ過程[ 33 ] 、レヴィ過程[ 34 ] 、ガウス過程[ 35 ]、ランダム場[ 36 ] 、再生過程、分岐過程[ 37 ]など、さまざまなカテゴリに分類できます。確率過程の研究には、確率、微積分、線形代数、集合論、位相幾何学[ 38 ] [ 39 ] [ 40 ]の数学的知識と手法、および実解析、測度論、フーリエ解析、関数解析などの数学的解析の分野 [ 41 ] [ 42 ] [ 43 ]が用いられます。確率過程の理論は、数学への重要な貢献であると考えられており[ 44 ] 、理論的な理由と応用の両方から、活発な研究テーマであり続けています。[ 45 ] [ 46 ] [ 47 ]
確率過程またはランダム過程は、ある数学的集合によってインデックス付けされたランダム変数の集合として定義できます。つまり、確率過程の各ランダム変数は、その集合内の要素と一意に関連付けられています。[ 4 ] [ 5 ]ランダム変数をインデックス付けするために使用される集合は、インデックス集合と呼ばれます。歴史的には、インデックス集合は、自然数などの実数直線の部分集合であり、インデックス集合に時間の解釈を与えていました。[ 1 ]集合内の各ランダム変数は、状態空間として知られる同じ数学的空間から値を取ります。この状態空間は、たとえば、整数、実数直線、または次元ユークリッド空間。[ 1 ] [ 5 ]増分とは、確率過程が2つのインデックス値の間で変化する量のことで、多くの場合、2つの時点として解釈されます。[ 48 ] [ 49 ]確率過程はランダム性のため、多くの結果を持つことができ、確率過程の単一の結果は、他の名前の中でも、サンプル関数または実現と呼ばれます。[ 28 ] [ 50 ]

確率過程は、状態空間、インデックス集合、または確率変数間の依存関係など、さまざまな方法で分類できます。一般的な分類方法の1つは、インデックス集合と状態空間の濃度によるものです。 [ 51 ] [ 52 ] [ 53 ]
確率過程のインデックス集合が有限または可算個の要素を持つ場合(例えば、有限個の数の集合、整数の集合、または自然数など)、その確率過程は離散時間であると言われます。[ 54 ] [ 55 ]インデックス集合が実数直線の何らかの区間である場合、時間は連続であると言われます。これら2種類の確率過程は、それぞれ離散時間確率過程と連続時間確率過程と呼ばれます。[ 48 ] [ 56 ] [ 57 ]連続時間過程は、特にインデックス集合が非可算であるため、より高度な数学的手法と知識を必要とするため、離散時間確率過程の方が研究しやすいと考えられています。[ 58 ] [ 59 ]インデックス集合が整数、またはその部分集合である場合、その確率過程はランダムシーケンスとも呼ばれます。[ 55 ]
状態空間が整数または自然数である場合、確率過程は離散確率過程または整数値確率過程と呼ばれます。状態空間が実数直線である場合、確率過程は実数値確率過程または連続状態空間を持つ過程と呼ばれます。状態空間が次元ユークリッド空間の場合、確率過程は-次元ベクトルプロセスまたは-ベクトルプロセス。[ 51 ] [ 52 ]
英語のstochastic という単語は、もともとは「推測に関する」という意味の形容詞として使われており、ギリシャ語で「的を狙う、推測する」という意味の言葉に由来し、オックスフォード英語辞典ではその最も古い用例として 1662 年が挙げられています。[ 60 ]ヤコブ・ベルヌーイは、1713 年にラテン語で出版された確率論に関する著作Ars Conjectandiの中で、「Ars Conjectandi sive Stochastice」というフレーズを使用しており、これは「推測の技術または確率論」と訳されています。[ 61 ]このフレーズは、ベルヌーイに言及して、ラディスラウス・ボルトキエヴィチ[ 62 ]によって使用され、彼は 1917 年にドイツ語で「ランダム」という意味でstochastikという単語を書きました。stochastic processという用語は、ジョセフ・ドゥーブによる 1934 年の論文で初めて英語に登場しました。[ 60 ]この用語と具体的な数学的定義については、ドゥーブは1934年の別の論文を引用しており、そこではアレクサンドル・ヒンチンがドイツ語でstochastischer Prozeßという用語を使用している[ 63 ] [ 64 ]が、このドイツ語の用語はそれ以前にも、例えば1931年にアンドレイ・コルモゴロフによって使用されていた[ 65 ]。
オックスフォード英語辞典によると、偶然や幸運に関連する現在の意味でのrandomという単語が英語で最初に使われたのは16世紀に遡り、それ以前の記録された使用例は14世紀に始まり、「(乗馬、ランニング、打撃などにおける)衝動性、速さ、力、または暴力」を意味する名詞として使われていた。この単語自体は中世フランス語で「速さ、急ぎ」を意味する単語に由来し、おそらく「走る」または「疾走する」を意味するフランス語の動詞から派生した。ランダム過程という用語が最初に文書に登場したのは、オックスフォード英語辞典が同義語として挙げている確率過程よりも前であり、 1888年にフランシス・エッジワースが発表した記事で使用された。[ 66 ]
確率過程の定義は様々であるが、[ 67 ]伝統的に確率過程は、何らかの集合によってインデックス付けされたランダム変数の集合として定義される。[ 68 ] [ 69 ]ランダム過程と確率過程という用語は同義語とみなされ、インデックス集合が厳密に指定されなくても互換的に使用される。[ 27 ] [ 29 ] [ 30 ] [ 70 ] [ 71 ] [ 72 ] 「集合」 [ 28 ] [ 70 ]または「ファミリー」 [ 4 ] [ 73 ]の両方が使用される一方、「インデックス集合」の代わりに、「パラメータ集合」 [ 28 ]または「パラメータ空間」[ 30 ]という用語が使用されることもある。
ランダム関数という用語は、確率過程またはランダム過程を指す場合にも使用されますが、[ 5 ] [ 74 ] [ 75 ]確率過程が実数値をとる場合にのみ使用される場合もあります。[ 28 ] [ 73 ]この用語は、インデックス集合が実数直線以外の数学的空間である場合にも使用されますが、[ 5 ] [ 76 ]確率過程およびランダム過程という用語は、インデックス集合が時間として解釈される場合に通常使用され、[ 5 ] [ 76 ] [ 77 ]インデックス集合が時間である場合には、ランダム場などの他の用語が使用されます。次元ユークリッド空間または多様体。[ 5 ] [ 28 ] [ 30 ]
確率過程は、とりわけ、次のように表すことができる。[ 56 ][ 69 ][ 78 ]または単に. 一部の著者は誤って次のように書いています関数表記の濫用ではあるが。[ 79 ]例えば、またはは、インデックスを持つ確率変数を参照するために使用されます。、そして確率過程全体ではない。[ 78 ]インデックスセットがすると、例えば次のように書くことができる。確率過程を表す。[ 29 ]
最も単純な確率過程の1つはベルヌーイ過程[ 80 ]であり、これは独立同分布(iid)の確率変数の列で、各確率変数は1または0のいずれかの値を取ります。例えば、確率1で1となります。確率ゼロこのプロセスは、コインを繰り返し投げるという理想化と関連付けることができ、表が出る確率はコイン投げの値は 1 であり、裏の値は 0 である。[ 81 ]言い換えれば、ベルヌーイ過程は iid ベルヌーイ確率変数の列であり、[ 82 ]各理想化されたコイン投げはベルヌーイ試行の例である。[ 83 ]
ランダムウォークは、通常、ユークリッド空間における独立同分布の確率変数または確率ベクトルの和として定義される確率過程であり、離散時間で変化する過程です。 [ 84 ] [ 85 ] [ 86 ] [ 87 ] [ 88 ]しかし、この用語を連続時間で変化する過程を指すために使用する人もいます。[ 89 ]特に金融モデルで使用されるウィーナー過程は、混乱を招き、批判につながっています。[ 90 ]ランダムウォークには、状態空間が格子や群などの他の数学的対象となるように定義されるさまざまな種類があり、一般的に、さまざまな分野で盛んに研究され、多くの応用があります。[ 89 ] [ 91 ]
ランダムウォークの典型的な例は単純ランダムウォークとして知られており、これは整数を状態空間とする離散時間確率過程であり、各ベルヌーイ変数が正の1または負の1のいずれかの値をとるベルヌーイ過程に基づいています。言い換えれば、単純ランダムウォークは整数上で行われ、その値は確率で1ずつ増加します。または確率で1減少するしたがって、このランダムウォークのインデックス集合は自然数であり、その状態空間は整数である。このランダムウォークは対称ランダムウォークと呼ばれます。[ 92 ] [ 93 ]
ウィーナー過程は、増分の大きさに基づいて正規分布する定常かつ独立な増分を持つ確率過程です。 [ 2 ] [ 94 ]ウィーナー過程は、その数学的存在を証明したノーバート・ウィーナーにちなんで名付けられましたが、液体中のブラウン運動のモデルとしての歴史的なつながりから、ブラウン運動過程または単にブラウン運動とも呼ばれます。[ 95 ] [ 96 ] [ 97 ]

確率論において中心的な役割を果たすウィーナー過程は、他の確率過程との関連性から、最も重要で研究されている確率過程とみなされることが多い。[ 1 ] [ 2 ] [ 3 ] [ 98 ] [ 99 ] [ 100 ] [ 101 ]そのインデックス集合と状態空間はそれぞれ非負数と実数であるため、連続的なインデックス集合と状態空間の両方を持つ。[ 102 ]しかし、この過程はより一般的に定義することができ、その状態空間は次元ユークリッド空間。[ 91 ] [ 99 ] [ 103 ]任意の増分の平均がゼロの場合、結果として得られるウィーナー運動またはブラウン運動過程はドリフトがゼロであると言われます。任意の2つの時点における増分の平均が、時間差に何らかの定数を乗じたものに等しい場合、実数であるならば、結果として得られる確率過程はドリフトを持つと言われる。[ 104 ] [ 105 ] [ 106 ]
ほぼ確実に、ウィーナー過程のサンプルパスは至るところで連続ですが、微分可能ではありません。これは、単純なランダムウォークの連続バージョンと考えることができます。[ 49 ] [ 105 ]このプロセスは、特定のランダムウォークのスケール変更などの他の確率プロセスの数学的極限として現れます。[ 107 ] [ 108 ]これは、関数中心極限定理としても知られるドンスカーの定理または不変性原理の対象です。[ 109 ] [ 110 ] [ 111 ]
ウィーナー過程は、マルコフ過程、レヴィ過程、ガウス過程など、いくつかの重要な確率過程ファミリーに属します。[ 2 ] [ 49 ]また、この過程は多くの応用があり、確率微分積分で使用される主要な確率過程です。[ 112 ] [ 113 ]定量金融では中心的な役割を果たしており、[ 114 ] [ 115 ]例えば、ブラック・ショールズ・マートン・モデルで使用されています。[ 116 ]また、この過程は、さまざまなランダム現象の数学的モデルとして、自然科学の大部分や社会科学の一部の分野を含むさまざまな分野でも使用されています。[ 3 ] [ 117 ] [ 118 ]
ポアソン過程は、さまざまな形式と定義を持つ確率過程です。[ 119 ] [ 120 ]これは、ある時点までの点またはイベントのランダムな数を表す確率過程である計数過程として定義できます。ゼロからある特定の時間までの区間にある過程の点の数は、その時間と何らかのパラメータに依存するポアソン確率変数です。この過程は、自然数を状態空間とし、非負の数をインデックス集合とします。この過程は、計数過程の例として解釈できるため、ポアソン計数過程とも呼ばれます。[ 119 ]
ポアソン過程が単一の正の定数で定義されている場合、その過程は均質ポアソン過程と呼ばれます。[ 119 ] [ 121 ]均質ポアソン過程は、マルコフ過程やレヴィ過程などの重要な確率過程のクラスに属します。[ 49 ]
同次ポアソン過程は、さまざまな方法で定義および一般化できます。インデックス集合が実数直線となるように定義することもでき、この確率過程は定常ポアソン過程とも呼ばれます。[ 122 ] [ 123 ]ポアソン過程のパラメータ定数を、ある非負の積分可能な関数に置き換えると、その結果生じるプロセスは、不均質または非均質ポアソンプロセスと呼ばれ、プロセスの点の平均密度はもはや一定ではありません。[ 124 ]待ち行列理論における基本的なプロセスとして機能するポアソンプロセスは、数学モデルにとって重要なプロセスであり、特定の時間枠内でランダムに発生するイベントのモデルに応用されています。[ 125 ] [ 126 ]
実数直線上で定義されるポアソン過程は、確率過程として解釈できる。 [ 49 ] [ 127 ]他のランダムな対象と同様に。[ 128 ] [ 129 ]しかし、その後、それは定義できる。次元ユークリッド空間またはその他の数学的空間では、[ 130 ]確率過程ではなく、ランダム集合またはランダム計数尺度として解釈されることが多い。[ 128 ] [ 129 ]この設定では、ポアソン過程(ポアソン点過程とも呼ばれる)は、応用と理論的理由の両方から、確率論で最も重要な対象の 1 つです。[ 22 ] [ 131 ]しかし、ポアソン過程は、実数直線上のみで考慮されることが多く、他の数学的空間では考慮されないため、本来受けるべきほど注目されていないことが指摘されています。[ 131 ] [ 132 ]
確率過程は、共通の確率空間上で定義された確率変数の集合として定義される。、 どこはサンプル空間です。は-代数、そしては確率測度であり、ある集合によってインデックス付けされた確率変数である。すべて同じ数学空間の値をとりますこれは何らかの基準に関して測定可能でなければならない-代数[ 28 ]
言い換えれば、与えられた確率空間に対してそして測定可能な空間確率過程とは、値をとる確率変数は、次のように書くことができます。[ 80 ]
歴史的に、自然科学の多くの問題において、時間の意味を持っていたので、は時刻 に観測された値を表す確率変数です。[ 133 ]確率過程は次のように記述することもできます。実際には2つの変数の関数であることを反映するために、そして[ 28 ] [ 134 ]
確率過程を考える方法は他にもあるが、上記の定義は伝統的なものと考えられている。[ 68 ] [ 69 ]例えば、確率過程は次のように解釈または定義することができる。値の確率変数、ここでは、集合からのすべての可能な関数の空間です。空間へ[ 27 ] [ 68 ]しかし、この代替定義を「関数値確率変数」として一般的に定義するには、追加の正則性仮定が必要となる。[ 135 ]
セットこれは確率過程のインデックス集合[ 4 ] [ 51 ]またはパラメータ集合[ 28 ] [ 136 ]と呼ばれます。多くの場合、この集合は実数直線のサブセット、例えば自然数や区間などであり、集合を与えます。時間の解釈。[ 1 ]これらの集合に加えて、インデックス集合全順序を持つ別の集合、あるいはより一般的な集合(例えばデカルト座標平面)[ 1 ] [ 54 ]などもあり得る。または次元ユークリッド空間、要素空間内の点を表すことができる。[ 48 ] [ 137 ]とはいえ、多くの結果や定理は、完全に順序付けられたインデックス集合を持つ確率過程に対してのみ可能である。[ 138 ]
数学的空間確率過程の状態空間は、その状態空間と呼ばれます。この数学的空間は、整数、実数直線、次元ユークリッド空間、複素平面、またはより抽象的な数学空間。状態空間は、確率過程が取り得るさまざまな値を反映する要素を使用して定義されます。[ 1 ] [ 5 ] [ 28 ] [ 51 ] [ 56 ]
標本関数は確率過程の単一の結果であり、確率過程の各確率変数の可能な単一の値を取ることによって形成されます。[ 28 ] [ 139 ]より正確には、は確率過程であり、任意の点に対してマッピング
はサンプル関数、実現、または特には時間、つまり確率過程のサンプルパスとして解釈される。[ 50 ]これは、固定されたインデックスセットをマッピングするサンプル関数が存在する状態空間へ[ 28 ]確率過程のサンプル関数のその他の名称には、軌跡、経路関数[ 140 ]、または経路[ 141 ]などがあります。
確率過程の増分とは、同じ確率過程の2つの確率変数の差のことです。時間として解釈できるインデックスセットを持つ確率過程の場合、増分とは、ある一定期間にわたって確率過程がどれだけ変化するかを表します。例えば、状態空間を持つ確率過程であるインデックスセットすると、任意の2つの非負の数に対してそしてそのため、 違いは増分と呼ばれる値をとる確率変数。[ 48 ] [ 49 ]増分に関心がある場合、多くの場合、状態空間実数または自然数ですが、次元ユークリッド空間、またはバナッハ空間などのより抽象的な空間。[ 49 ]
確率過程の場合確率空間上で定義される確率過程の法則はプッシュフォワード尺度として定義されます。
どこは確率尺度であり、記号は関数合成を表し、は測定可能な関数の逆像、または同等に、値をとる確率変数、 どこはすべての可能性の空間ですの -値関数したがって、確率過程の法則は確率測度である。[ 27 ] [ 68 ] [ 142 ] [ 143 ]
測定可能な部分集合の場合のの原像与える
だから、次のように書くことができます: [ 28 ]
確率過程または確率変数の法則は、確率法則、確率分布、または分布とも呼ばれます。[ 133 ] [ 142 ] [ 144 ] [ 145 ] [ 146 ]
確率過程の場合法律に従って、その有限次元分布は次のように定義されます。
この措置はランダムベクトルの同時分布であるそれは法の「投影」と見なすことができる。有限部分集合に[ 27 ] [ 147 ]
任意の測定可能な部分集合に対してのデカルト座標系のべき乗を折り畳む確率過程の有限次元分布次のように書くことができます: [ 28 ]
確率過程の有限次元分布は、一貫性条件として知られる2つの数学的条件を満たす。[ 57 ]
定常性とは、確率過程のすべての確率変数が同一の分布に従う場合に確率過程が持つ数学的性質です。言い換えれば、が定常確率過程である場合、任意のランダム変数同じ分布を持つということは、任意のセットに対してインデックスセット値対応する確率変数
すべて同じ確率分布を持つ。定常確率過程のインデックス集合は通常時間として解釈されるため、整数または実数直線になる。[ 148 ] [ 149 ]しかし、インデックス集合が時間として解釈されない点過程やランダム場にも定常性の概念が存在する。[ 148 ] [ 150 ] [ 151 ]
インデックスが設定されたとき時間と解釈できる確率過程は、その有限次元分布が時間の平行移動に対して不変である場合、定常であると言われます。このタイプの確率過程は、定常状態にあるがランダムな変動を経験する物理システムを記述するために使用できます。[ 148 ]定常性の背後にある直感は、時間が経過しても定常確率過程の分布は同じままであるということです。[ 152 ]確率変数の列が定常確率過程を形成するのは、確率変数が同一の分布を持つ場合のみです。[ 148 ]
上記の定常性の定義を満たす確率過程は、厳密に定常であると言われることがあるが、定常性には他の形態もある。例えば、離散時間または連続時間の確率過程が広い意味で定常的であると言われ、そのプロセスはすべてのそして、2つの確率変数の共分散そして数だけに依存するすべての人々のために[ 152 ] [ 153 ]ヒンチンは、共分散定常性や広義の定常性など、他の名称を持つ広義の定常性という関連概念を導入した。[ 153 ] [ 154 ]
フィルタレーションとは、ある確率空間と、ある全順序関係を持つインデックス集合(例えば、インデックス集合が実数の部分集合である場合など)に関連して定義されるシグマ代数の増加列のことである。より厳密に言えば、確率過程が全順序を持つインデックス集合を持つ場合、フィルタレーションは確率空間においては、以下の条件を満たすシグマ代数の族である。すべての人々のために、 どこそしてはインデックス集合の全順序を表します[ 51 ]フィルタリングの概念を用いることで、確率過程に含まれる情報量を研究することが可能となる。でこれは時間として解釈できる[ 51 ] [ 155 ]フィルタリングの背後にある直感それは時間としてパス、ますます多くの情報既知または利用可能であり、その結果、より細かい分割が可能になり、[ 156 ] [ 157 ]
確率過程の修正とは、元の確率過程と密接に関連する別の確率過程のことである。より正確には、確率過程同じインデックスセットを持つ状態空間、そして確率空間別の確率過程としては、すべての場合次の
が成り立つ。互いに修正された2つの確率過程は同じ有限次元法則[ 158 ]を持ち、確率的に等価または等価であると言われる。[ 159 ]
変更の代わりにバージョンという用語も使用されますが、[ 150 ] [ 160 ] [ 161 ] [ 162 ]一部の著者は、2 つの確率過程が同じ有限次元分布を持つが、異なる確率空間で定義されている場合にバージョンという用語を使用します。したがって、互いに変更である 2 つの過程は、後者の意味で互いにバージョンでもありますが、その逆ではありません。[ 163 ] [ 142 ]
連続時間実数値確率過程がその増分に関して特定のモーメント条件を満たす場合、コルモゴロフの連続性定理によれば、確率1で連続サンプルパスを持つこの過程の修正が存在するため、確率過程には連続的な修正またはバージョンが存在する。[ 161 ] [ 162 ] [ 164 ]この定理はランダム場にも一般化できるため、インデックス集合は次元ユークリッド空間[ 165 ]、および状態空間として距離空間を持つ確率過程[ 166 ]にも適用できます。
2つの確率過程そして同じ確率空間上で定義される同じインデックスセットを使用そしてスペースを設定する以下の条件を満たす場合、区別がつかないと言われます。
保持する。[ 142 ] [ 158 ] 2つそして互いに修正し合い、ほぼ確実に連続しているならば、そして区別がつかない。[ 167 ]
分離可能性は、確率測度に関連するインデックス集合に基づく確率過程の性質です。この性質は、非可算インデックス集合を持つ確率過程または確率場の関数が確率変数を形成できるように仮定されています。確率過程が分離可能であるためには、他の条件に加えて、そのインデックス集合が分離可能空間でなければなりません[ b ]。これは、インデックス集合が稠密な可算部分集合を持つことを意味します。[ 150 ] [ 168 ]
より正確には、実数値連続時間確率過程確率空間においてインデックス集合が分離可能である場合密な可算部分集合を持つそしてセットがあります確率はゼロなので、、すべての開集合に対してそしてすべての閉集合2つのイベントそして最大でサブセットで互いに異なる[ 169 ] [ 170 ] [ 171 ] 分離可能性の定義[ c ]は、他のインデックス集合や状態空間にも適用できます[ 174 ]。例えば、ランダムフィールドの場合、インデックス集合と状態空間は、次元ユークリッド空間。[ 30 ] [ 150 ]
確率過程の分離可能性の概念は、Joseph Doobによって導入されました。[ 168 ]分離可能性の基本的な考え方は、インデックス集合の可算個の点の集合によって確率過程の特性を決定することです。[ 172 ]可算個のインデックス集合を持つ任意の確率過程は既に分離可能性の条件を満たしているため、離散時間確率過程は常に分離可能です。[ 175 ] Doob の定理(Doob の分離可能性定理とも呼ばれる)は、任意の実数値連続時間確率過程には分離可能な修正が存在すると述べています。[ 168 ] [ 170 ] [ 176 ]この定理のバージョンは、インデックス集合と実数直線以外の状態空間を持つより一般的な確率過程にも存在します。[ 136 ]
2つの確率過程そして同じ確率空間上で定義される同じインデックスセットを使用すべてのそして、どの時代を選択してもランダムベクトルそして独立している。[ 177 ]: p.515
2つの確率過程そして相互共分散が無相関である場合、すべての時間においてゼロである。[ 178 ]: p.142正式には:
2つの確率過程そして独立であれば、それらは無相関でもある。[ 178 ]: p.151
2つの確率過程そして相互相関がすべての時間においてゼロである。[ 178 ]: p.142正式には:
スコロホッド空間(Skorohod spaceとも表記される)は、実数直線の何らかの区間で定義され、左極限を持つ右連続なすべての関数の数学的空間である。または、実数直線上または何らかの距離空間上に値をとる。[ 179 ] [ 180 ] [ 181 ]このような関数は、フランス語の「continue à droite, limite à gauche」の頭文字に基づいて、càdlàg または cadlag 関数として知られている。[ 179 ] [ 182 ]アナトリー・スコロホードによって導入されたスコロホード関数空間[ 181 ]は、しばしば文字で表される。, [ 179 ] [ 180 ] [ 181 ] [ 182 ]関数空間は空間とも呼ばれる[ 179 ] [ 183 ] [ 184 ]この関数空間の表記には、すべての càdlàg 関数が定義されている区間も含まれるので、例えば、は、単位区間上で定義された càdlàg 関数の空間を表す。[ 182 ] [ 184 ] [ 185 ]
スコロホッド関数空間は、連続時間確率過程の標本関数がスコロホッド空間に属すると仮定されることが多いため、確率過程の理論で頻繁に使用されます。[ 181 ] [ 183 ] このような空間には、ウィーナー過程の標本関数に対応する連続関数が含まれます。しかし、この空間には不連続な関数も含まれており、これは、ポアソン過程(実数直線上)などのジャンプのある確率過程の標本関数もこの空間の要素であることを意味します。[ 184 ] [ 186 ]
確率過程の数学的構成の文脈では、正則性という用語は、確率過程が構成上の問題解決のために特定の条件を議論したり仮定したりする際に使用されます。[ 187 ] [ 188 ]例えば、非可算インデックス集合を持つ確率過程を研究するために、確率過程はサンプル関数が連続であるなどの何らかの正則性条件に従うと仮定されます。[ 189 ] [ 190 ]
マルコフ過程は、従来は離散時間または連続時間で扱われる確率過程であり、マルコフ性を持つ。マルコフ性とは、マルコフ過程の次の値が現在の値に依存するが、確率過程の過去の値とは条件付きで独立していることを意味する。言い換えれば、過程の現在の状態が与えられた場合、将来の過程の挙動は過去の挙動とは確率的に独立している。[ 191 ] [ 192 ]
ブラウン運動過程とポアソン過程(1次元)はどちらも連続時間におけるマルコフ過程の例である[ 193 ]一方、整数上のランダムウォークとギャンブラーの破産問題は離散時間におけるマルコフ過程の例である[ 194 ] [ 195 ] 。
マルコフ連鎖は、離散状態空間または離散インデックス集合(多くの場合、時間を表す)を持つマルコフ過程の一種ですが、マルコフ連鎖の正確な定義は様々です。[ 196 ]例えば、マルコフ連鎖は、可算状態空間を持つ離散時間または連続時間のマルコフ過程として定義されるのが一般的です(したがって、時間の性質に関係なく)[ 197 ] [ 198 ] [ 199 ] [ 200 ]しかし、マルコフ連鎖は、可算状態空間または連続状態空間の離散時間を持つものとして定義されるのも一般的です(したがって、状態空間に関係なく)[ 196 ]ジョセフ・ドゥーブやカイ・ライ・チャンなどの研究者が2番目の定義を使用していたにもかかわらず、現在では離散時間を持つマルコフ連鎖の最初の定義が使用される傾向があると主張されています。[ 201 ]
マルコフ過程は重要な確率過程のクラスを形成し、多くの分野で応用されています。[ 39 ] [ 202 ]例えば、マルコフ過程は、特定の確率分布を持つランダムなオブジェクトをシミュレートするために使用されるマルコフ連鎖モンテカルロ法として知られる一般的な確率シミュレーション方法の基礎となっており、ベイズ統計学で応用されています。[ 203 ] [ 204 ]
マルコフ性の概念は元々連続時間および離散時間の確率過程に関するものでしたが、この性質は他のインデックスセットにも適用されています。次元ユークリッド空間では、マルコフ確率場として知られる確率変数の集合が得られます。[ 205 ] [ 206 ] [ 207 ]
マルチンゲールは、離散時間または連続時間の確率過程であり、任意の瞬間において、現在の値と過程のすべての過去の値が与えられたとき、将来のすべての値の条件付き期待値が現在の値に等しいという性質を持ちます。離散時間では、この性質が次の値に対して成り立つ場合、将来のすべての値に対して成り立ちます。マルチンゲールの正確な数学的定義には、時間の経過とともに利用可能な情報が増えるという直感に関連する、フィルタリングという数学的概念と結びついた他の 2 つの条件が必要です。マルチンゲールは通常、実数値として定義されますが[ 208 ] [ 209 ] [ 155 ]、複素数値[ 210 ]やさらに一般的な値[ 211 ]も考えられます。
対称ランダムウォークとウィーナー過程(ドリフトなし)は、それぞれ離散時間と連続時間におけるマルチンゲールの例である。[ 208 ] [ 209 ]独立同分布の確率変数の列の場合平均値がゼロの場合、連続する部分和から形成される確率過程は離散時間マルチンゲールである。[ 212 ]この点で、離散時間マルチンゲールは独立確率変数の部分和の概念を一般化している。[ 213 ]
マルチンゲールは、適切な変換を適用することによって確率過程から作成することもできます。これは、均質ポアソン過程(実数直線上)の場合に当てはまり、補償ポアソン過程と呼ばれるマルチンゲールになります。[ 209 ]マルチンゲールは、他のマルチンゲールから構築することもできます。[ 212 ]例えば、マルチンゲールであるウィーナー過程に基づくマルチンゲールがあり、連続時間マルチンゲールを形成します。[ 208 ] [ 214 ]
マルチンゲールは、ペイオフについて合理的な期待を形成できる「公平なゲーム」の概念を数学的に形式化したものです。[ 215 ]マルチンゲールは、そのようなゲームで「不公平な」優位性を得ることは不可能であることを示すために開発されました。[ 216 ]しかし現在では、マルチンゲールは確率の多くの分野で使用されており、それがマルチンゲールを研究する主な理由の 1 つです。[ 155 ] [ 216 ] [ 217 ]確率の多くの問題は、問題の中にマルチンゲールを見つけて研究することによって解決されています。[ 218 ]マルチンゲールは、モーメントに関するいくつかの条件が与えられれば収束するため、マルチンゲール収束定理のおかげで、収束結果を導出するためによく使用されます。[ 213 ] [ 219 ] [ 220 ]
マルチンゲールは統計学において多くの応用例があるが、特に統計的推論の分野では、その使用と応用は本来あるべきほど広まっていないと指摘されている。[ 221 ]マルチンゲールは、待ち行列理論やパーム計算[ 222 ]などの確率論の分野や、経済学[ 223 ]や金融[ 17 ]などの他の分野で応用されている。
レヴィ過程は、連続時間におけるランダムウォークの一般化とみなせる確率過程の一種です。[ 49 ] [ 224 ]これらの過程は、金融、流体力学、物理学、生物学などの分野で多くの応用があります。[ 225 ] [ 226 ]これらの過程の主な特徴は、定常性と独立性であり、そのため定常かつ独立な増分を持つ過程として知られています。言い換えれば、確率過程はの場合、レヴィ過程である。非負の数、対応する増分
これらはすべて互いに独立しており、各増分の分布は時間の差のみに依存します。[ 49 ]
レヴィ過程は、その状態空間がバナッハ空間のような抽象的な数学的空間となるように定義できますが、多くの場合、ユークリッド空間の値をとるように定義されます。インデックス集合は非負の数なので、これは時間の解釈を与える。ウィーナー過程、均質ポアソン過程(1次元)、サブオーディネーターなどの重要な確率過程はすべてレヴィ過程である。[ 49 ] [ 224 ]
ランダムフィールドは、インデックスによってインデックス付けされたランダム変数の集合です。次元ユークリッド空間または何らかの多様体。一般に、ランダムフィールドは、インデックス集合が必ずしも実数直線の部分集合ではない確率過程またはランダム過程の例とみなすことができます。[ 30 ]しかし、インデックスが2つ以上の次元を持つ場合、インデックス付きランダム変数の集合はランダムフィールドと呼ばれるという慣例があります。[ 5 ] [ 28 ] [ 227 ]確率過程の特定の定義でインデックス集合が実数直線の部分集合であることを要求する場合、ランダムフィールドは確率過程の一般化とみなすことができます。[ 228 ]
点過程とは、実数直線などの数学的空間上にランダムに配置された点の集合である。次元ユークリッド空間、またはより抽象的な空間。歴史的にプロセスという言葉は時間における何らかのシステムの進化を意味していたため、点過程という用語は好まれない場合もある。そのため、点過程はランダム点場とも呼ばれる。[ 229 ]点過程には、ランダム計数尺度やランダム集合など、さまざまな解釈がある。[ 230 ] [ 231 ]一部の著者は、点過程と確率過程を2つの異なる対象とみなしており、点過程は確率過程から生じるか、または確率過程に関連付けられるランダムな対象であると考えている。[ 232 ] [ 233 ]ただし、点過程と確率過程の違いは明確ではないと指摘されている。[ 233 ]
他の著者は、点過程を確率過程とみなしており、その過程は、実数直線や、それが定義されている基礎空間[ d ]の集合によってインデックス付けされる。次元ユークリッド空間。[ 236 ] [ 237 ]再生過程や計数過程などの他の確率過程は、点過程の理論で研究されている。[ 238 ] [ 233 ]
確率論は、長い歴史を持つ偶然のゲームに起源を持ち、中には数千年前にプレイされたゲームもあるが、[ 239 ]確率の観点から分析されたことはほとんどなかった。 [ 240 ] 1654年は、フランスの数学者ピエール・フェルマーとブレーズ・パスカルがギャンブルの問題に触発されて確率に関する書簡を交わした年であり、確率論の誕生とみなされることが多い。[ 241 ] [ 242 ]しかし、 16世紀に書かれ、後に1663年に死後出版されたジェロラモ・カルダーノの『Liber de Ludo Aleae』など、ギャンブルゲームの確率に関するそれ以前の数学的研究もあった。[ 243 ]
カルダーノの後、ヤコブ・ベルヌーイ[ e ]は『アルス・コンジェクタンディ』を著し、これは確率論の歴史において重要な出来事と考えられている。ベルヌーイの著書は、1713年に死後出版され、多くの数学者に確率論の研究を促した。[ 245 ] [ 246 ]しかし、ピエール=シモン・ラプラス、アブラハム・ド・モアブル、カール・ガウス、シメオン・ポアソン、パフヌティ・チェビシェフなど、著名な数学者が確率論に貢献したにもかかわらず、[ 247 ] [ 248 ]数学界の大半[ f ]は、20世紀になるまで確率論を数学の一部とは考えていなかった。[ 247 ] [ 249 ] [ 250 ] [ 251 ]
物理科学では、19 世紀に科学者たちが統計力学という学問分野を発展させました。この分野では、気体で満たされた容器などの物理システムは、多数の運動する粒子の集合として数学的に見なされ、扱われます。ルドルフ・クラウジウスなどの科学者によって統計物理学にランダム性を取り入れようとする試みはありましたが、ほとんどの研究にはランダム性がほとんど、あるいは全くありませんでした。[ 252 ] [ 253 ] これは 1859 年にジェームズ・クラーク・マクスウェルがこの分野、より具体的には気体の運動論に大きく貢献し、気体粒子がランダムな方向にランダムな速度で運動するとモデル化した研究を発表したことで変わりました。[ 254 ] [ 255 ]気体の運動論と統計物理学は19世紀後半に発展を続け、主にクラウジウス、ルートヴィヒ・ボルツマン、ジョサイア・ギブスらの研究によって、後にアルバート・アインシュタインのブラウン運動の数学的モデルに影響を与えることになった。[ 256 ]
1900年にパリで開催された国際数学者会議で、ダフィット・ヒルベルトは数学の問題リストを発表し、その6番目の問題で公理を含む物理学と確率の数学的扱いを求めた。[ 248 ] 20世紀初頭頃、数学者たちは数学関数の積分を研究する数学の一分野である測度論を発展させ、その創始者の2人はフランスの数学者アンリ・ルベーグとエミール・ボレルであった。1925年、別のフランスの数学者ポール・レヴィは、測度論の考え方を用いた最初の確率論の本を出版した。[ 248 ]
1920年代、ソビエト連邦では、セルゲイ・ベルンシュタイン、アレクサンドル・ヒンチン[ g ]、アンドレイ・コルモゴロフ[ 251 ]などの数学者によって確率論への基礎的な貢献がなされた。コルモゴロフは1929年に、測度論に基づく確率論の数学的基礎を提示する最初の試みを発表した[ 257 ] 。 1930年代初頭、ヒンチンとコルモゴロフは、エフゲニー・スルツキーやニコライ・スミルノフ[ 258 ]などの研究者が参加する確率セミナーを設立し、ヒンチンは実数直線でインデックス付けされた確率変数の集合として確率過程の最初の数学的定義を与えた[ 63 ] [ 259 ] [ h ] 。
1933年、アンドレイ・コルモゴロフは、確率論の基礎に関する著書『Grundbegriffe der Wahrscheinlichkeitsrechnung』[ i ]をドイツ語で出版した。この本の中でコルモゴロフは測度論を用いて確率論の公理的枠組みを構築した。この本の出版は、確率論と確率過程の理論が数学の一部となった、現代確率論の誕生と広く考えられている。[ 248 ] [ 251 ]
コルモゴロフの著書の出版後、確率論と確率過程に関するさらなる基礎研究は、ヒンチンとコルモゴロフのほか、ジョセフ・ドゥーブ、ウィリアム・フェラー、モーリス・フレシェ、ポール・レヴィ、ヴォルフガング・ドブリン、ハラルド・クラメールなどの数学者によって行われた。[ 248 ] [ 251 ] 数十年後、クラメールは1930年代を「数学的確率論の英雄時代」と呼んだ。[ 251 ]第二次世界大戦は確率論の発展を大きく中断させ、例えばフェラーがスウェーデンからアメリカ合衆国へ移住したり[ 251 ]、現在では確率過程の先駆者とみなされているドブリンが亡くなったりした。[ 261 ]

第二次世界大戦後、確率論と確率過程の研究は数学者からより注目を集め、確率と数学の多くの分野で重要な貢献がなされ、新しい分野も創出された。[ 251 ] [ 264 ] 1940年代から、伊藤清はウィーナー運動またはブラウン運動過程に基づく確率積分と確率微分方程式を含む確率微分積分の分野を発展させた論文を発表した。[ 265 ]
また、1940年代から、確率過程、特にマルチンゲールとポテンシャル理論の数学分野との関連性が、初期のアイデアとして角谷静雄によって、その後ジョセフ・ドゥーブによって研究された。[ 264 ] 1950年代には、ギルバート・ハントが先駆的とみなされる研究を行い、マルコフ過程とポテンシャル理論を結びつけ、レヴィ過程の理論に大きな影響を与え、伊藤によって開発された方法によるマルコフ過程の研究への関心を高めた。[ 21 ] [ 266 ] [ 267 ]
1953年、ドゥーブは著書『確率過程』を出版し、これは確率過程の理論に大きな影響を与え、確率論における測度論の重要性を強調した。[ 264 ] [ 263 ]ドゥーブはまた、主にマルチンゲールの理論を発展させ、後にポール=アンドレ・メイヤーが多大な貢献をした。それ以前の研究は、セルゲイ・ベルンシュタイン、ポール・レヴィ、ジャン・ヴィルによって行われ、後者は確率過程にマルチンゲールという用語を採用した。[ 268 ] [ 269 ]マルチンゲールの理論からの方法は、さまざまな確率問題を解くために普及した。マルコフ過程を研究するための技術と理論が開発され、その後マルチンゲールに適用された。逆に、マルチンゲールの理論からの方法がマルコフ過程を扱うために確立された。[ 264 ]
確率論の他の分野も開発され、確率過程の研究に用いられており、その主要なアプローチの1つが大偏差理論である。[ 264 ]この理論は、統計物理学をはじめとする多くの分野で応用されており、その中核となる考え方は少なくとも1930年代にまで遡る。その後、1960年代と1970年代には、ソビエト連邦のアレクサンダー・ウェンツェルとアメリカ合衆国のモンロー・D・ドンスカーとスリニヴァサ・ヴァラダンによって基礎的な研究が行われ、 [ 270 ]後にヴァラダンは2007年のアーベル賞を受賞するに至った。[ 271 ] 1990年代と2000年代には、シュラム・レーヴナー進化理論[ 272 ]とラフパス理論[ 142 ]が導入され、確率論における確率過程やその他の数学的対象を研究するために発展し、それぞれ2008年にウェンデリン・ヴェルナー[ 273 ] 、 2014年にマーティン・ヘアラー[ 274 ]にフィールズ賞が授与されました。
ヒンチンは1930年代に確率過程の数学的定義を与えたが、[ 63 ] [ 259 ]ブラウン運動過程やポアソン過程など、特定の確率過程はすでにさまざまな設定で発見されていた。[ 21 ] [ 24 ]点過程や再生過程などの確率過程のいくつかの族は、数世紀に遡る長く複雑な歴史を持っている。[ 275 ]
偏りのあるコインを投げる数学モデルとして使えるベルヌーイ過程は、おそらく最初に研究された確率過程である。[ 81 ]この過程は、独立したベルヌーイ試行のシーケンスであり、[ 82 ]ヤコブ・ベルヌーイがクリスティアーン・ホイヘンスが以前に提案し研究した確率問題を含む偶然のゲームを研究するために用いたことにちなんで名付けられた。 [ 276 ]ベルヌーイ過程を含むベルヌーイの研究は、 1713年に彼の著書『Ars Conjectandi』に掲載された。[ 277 ]
1905年、カール・ピアソンは、生物学への応用を動機として平面上のランダムウォークを記述する問題を提起する際に、ランダムウォークという用語を造語したが、ランダムウォークを含むこのような問題は他の分野ですでに研究されていた。数世紀前に研究されたギャンブルの問題のいくつかは、ランダムウォークを含む問題とみなすことができる。 [ 89 ] [ 277 ]例えば、ギャンブラーの破産として知られる問題は、単純なランダムウォークに基づいており、[ 195 ] [ 278 ]吸収障壁のあるランダムウォークの例である。[ 241 ] [ 279 ]パスカル、フェルマー、ユイエンスは、その方法を詳しく説明せずにこの問題の数値解を与え、[ 280 ]その後、ヤコブ・ベルヌーイとアブラハム・ド・モアブルによってより詳細な解が提示された。[ 281 ]
ランダムウォークの場合次元整数格子に関して、ジョージ・ポリアは1919年と1921年に、格子内の対称ランダムウォークが以前の位置に戻る確率を研究した論文を発表した。ポリアは、格子内のどの方向にも等しい確率で進む対称ランダムウォークは、1次元と2次元では確率1で無限回格子内の以前の位置に戻るが、3次元以上では確率0で戻ることを示した。[ 282 ] [ 283 ]
ウィーナー過程またはブラウン運動過程は、統計学、金融、物理学などさまざまな分野に起源を持つ。[ 21 ] 1880年、デンマークの天文学者 トールヴァルド・ティーレは、最小二乗法に関する論文を執筆し、その中でこの過程を用いて時系列分析におけるモデルの誤差を研究した。[ 284 ] [ 285 ] [ 286 ]この研究は現在、カルマンフィルタリングとして知られる統計的手法の初期の発見とみなされているが、この研究はほとんど見過ごされてきた。ティーレの論文のアイデアは、当時のより広範な数学および統計学コミュニティには理解するにはあまりにも先進的すぎたと考えられている。[ 286 ]

フランスの数学者ルイ・バシュリエは、 1900年の論文[ 287 ] [ 288 ]で、パリ証券取引所[ 289 ]の価格変動をモデル化するためにウィーナー過程を用いましたが、ティーレの研究[ 21 ]を知りませんでした。バシュリエはジュール・レニョーのランダムウォークモデルから着想を得たのではないかと推測されていますが、バシュリエはレニョーを引用していません[ 290 ]。バシュリエの論文は現在、金融数学の分野における先駆的なものとみなされています[ 289 ] [ 290 ] 。
バシュリエの研究はほとんど注目されず、1950年代にレナード・サベージによって再発見されるまで数十年間忘れ去られていたと一般的に考えられており、その後、1964年にバシュリエの論文が英語に翻訳されてより広く知られるようになった。しかし、数学界ではこの研究が忘れられることはなく、バシュリエは1912年に自身の考えを詳述した本を出版しており[ 290 ] 、ドゥーブ、フェラー[ 290 ] 、コルモゴロフ[ 21 ]などの数学者によって引用された。この本はその後も引用され続けたが、1960年代に入ると、経済学者がバシュリエの研究を引用し始めたため、バシュリエの元の論文が彼の本よりも多く引用されるようになった[ 290 ] 。
1905年、アルバート・アインシュタインは、ブラウン運動の物理的観察を研究した論文を発表し、気体運動論の考え方を用いて、液体中の粒子のランダムに見える動きを説明しようとした。アインシュタインは、空間のある領域で粒子を見つける確率を記述する微分方程式(拡散方程式として知られる)を導出した。アインシュタインのブラウン運動に関する最初の論文の直後、マリアン・スモルコフスキーは、アインシュタインを引用した論文を発表したが、別の方法を用いて独自に同等の結果を導出したと記した。[ 291 ]
アインシュタインの研究、およびジャン・ペランによって得られた実験結果は、後に1920年代のノーバート・ウィーナー[ 292 ]に、パーシー・ダニエルによって開発された測度論の一種とフーリエ解析を用いて、ウィーナー過程が数学的対象として存在することを証明するよう促した[ 21 ] 。
ポアソン過程は、その定義にポアソン分布が含まれていることからシメオン・ポアソンにちなんで名付けられましたが、ポアソン自身はこの過程を研究したことはありません。[ 22 ] [ 293 ]ポアソン過程の初期の使用や発見については、いくつかの主張があります。[ 22 ] [ 24 ] 20世紀初頭には、ポアソン過程はさまざまな状況で独立して発生しました。[ 22 ] [ 24 ] 1903年、スウェーデンでフィリップ・ルンドベリは、現在では基礎的かつ先駆的と考えられている研究を含む論文を発表し、その中で均質なポアソン過程を用いて保険金請求をモデル化することを提案しました。[ 294 ] [ 295 ]
もう一つの発見は1909年にデンマークで起こりました。AK Erlangが有限時間間隔における着信電話の数の数学的モデルを開発する際に、ポアソン分布を導き出したのです。Erlangは当時ポアソンの以前の研究を知らず、各時間間隔に到着する電話の数は互いに独立していると仮定しました。そして彼は極限ケースを発見し、それは実質的にポアソン分布を二項分布の極限として再定式化したものです。[ 22 ]
1910年、アーネスト・ラザフォードとハンス・ガイガーはアルファ粒子の計数に関する実験結果を発表した。彼らの研究に触発されたハリー・ベイトマンは計数問題を研究し、一連の微分方程式の解としてポアソン確率を導出し、ポアソン過程を独自に発見した。[ 22 ]この後、ポアソン過程の研究と応用が数多く行われたが、その初期の歴史は複雑で、生物学者、生態学者、エンジニア、さまざまな物理学者による多数の分野におけるこの過程のさまざまな応用によって説明されている。[ 22 ]
マルコフ過程とマルコフ連鎖は、20 世紀初頭にマルコフ連鎖を研究したアンドレイ・マルコフにちなんで名付けられました。マルコフは、独立ランダムシーケンスの拡張の研究に興味を持っていました。1906 年に発表されたマルコフ連鎖に関する最初の論文で、マルコフは、特定の条件下ではマルコフ連鎖の平均結果が固定値のベクトルに収束することを示し、独立性の仮定なしに大数の弱い法則を証明しました。 [ 296 ] [ 297 ] [ 298 ]これは、このような数学法則が成り立つための要件として一般的に考えられていたものです。[ 298 ]マルコフは後に、アレクサンドル・プーシキンが書いた『エヴゲーニー・オネーギン』の母音の分布を研究するためにマルコフ連鎖を使用し、そのような連鎖の中心極限定理を証明しました。
1912年、ポアンカレはカードシャッフルの研究を目的として有限群上のマルコフ連鎖を研究した。マルコフ連鎖のその他の初期の用途としては、1907年にポールとタチアナ・エーレンフェストによって導入された拡散モデルや、マルコフの研究に先立つ1873年にフランシス・ゴルトンとヘンリー・ウィリアム・ワトソンによって導入された分岐過程などがある。 [ 296 ] [ 297 ]ゴルトンとワトソンの研究の後、彼らの分岐過程は、約30年前にイレーネ=ジュール・ビエネメによって独立して発見され研究されていたことが後に明らかになった。[ 299 ] 1928年からモーリス・フレシェはマルコフ連鎖に興味を持ち始め、最終的に1938年にマルコフ連鎖に関する詳細な研究を発表するに至った。[ 296 ] [ 300 ]
アンドレイ・コルモゴロフは、 1931年の論文で連続時間マルコフ過程の初期理論の大部分を展開した。[ 251 ] [ 257 ]コルモゴロフは、ルイ・バシュリエの1900年の株式市場の変動に関する研究と、ノーバート・ウィーナーのアインシュタインのブラウン運動モデルに関する研究に部分的に影響を受けた。[ 257 ] [ 301 ]彼は拡散過程として知られる特定のマルコフ過程を導入して研究し、その過程を記述する一連の微分方程式を導出した。[ 257 ] [ 302 ]コルモゴロフの研究とは独立して、シドニー・チャップマンは、ブラウン運動を研究しながら、コルモゴロフよりも数学的に厳密ではない方法で、現在チャップマン・コルモゴロフ方程式と呼ばれる方程式を1928年の論文で導出した。[ 303 ]これらの微分方程式は現在、コルモゴロフ方程式[ 304 ]またはコルモゴロフ・チャップマン方程式と呼ばれています。[ 305 ]マルコフ過程の基礎に大きく貢献した他の数学者には、1930年代からウィリアム・フェラー、そして後に1950年代からユージン・ディンキンがいます。[ 251 ]
ウィーナー過程やポアソン過程(実数直線上)などのレヴィ過程は、1930年代に研究を始めたポール・レヴィにちなんで名付けられましたが、[ 225 ] 1920年代に遡る無限分割可能な分布との関連があります。 [ 224 ] 1932年の論文で、コルモゴロフはレヴィ過程に関連する確率変数の特性関数を導出しました。この結果は後に1934年にレヴィによってより一般的な条件下で導出され、その後、1937年にヒンチンが独立にこの特性関数の別の形式を与えました。[ 251 ] [ 306 ]レヴィ、ヒンチン、コルモゴロフに加えて、レヴィ過程の理論への初期の基礎的な貢献は、ブルーノ・デ・フィネッティと伊藤清によってなされました。[ 224 ]
数学では、数学的対象の構成が必要であり、確率過程についても同様で、それらが数学的に存在することを証明する必要がある。[ 57 ]確率過程を構成するには、主に2つのアプローチがある。1つのアプローチは、関数の可測空間を考慮し、確率空間からこの関数の可測空間への適切な可測写像を定義し、対応する有限次元分布を導出することである。[ 307 ]
別のアプローチとしては、特定の有限次元分布を持つ確率変数の集合を定義し、次にコルモゴロフの存在定理[ j ]を使用して対応する確率過程が存在することを証明する方法がある。[ 57 ] [ 307 ]この定理は無限積空間上の測度の存在定理であり、[ 311 ]任意の有限次元分布が整合性条件と呼ばれる2つの条件を満たす場合、それらの有限次元分布を持つ確率過程が存在すると述べている。[ 57 ]
連続時間確率過程を構築する際には、離散時間過程にはない非可算インデックス集合のために、いくつかの数学的な困難が生じます。[ 58 ] [ 59 ]一つの問題は、同じ有限次元分布を持つ確率過程が複数存在する可能性があることです。例えば、ポアソン過程の左連続修正と右連続修正は、どちらも同じ有限次元分布を持ちます。[ 312 ]これは、確率過程の分布が、必ずしも確率過程の標本関数の特性を一意に指定するわけではないことを意味します。[ 307 ] [ 313 ]
もう一つの問題は、インデックス集合の無数の点に依存する連続時間プロセスの関数は測定可能ではない可能性があり、そのため特定の事象の確率が明確に定義されない可能性があることです。[ 168 ]例えば、確率過程またはランダムフィールドの上限は、必ずしも明確に定義された確率変数ではありません。[ 30 ] [ 59 ]連続時間確率過程の場合インデックス集合の無数の点に依存するその他の特性含む: [ 168 ]
ここで、記号∈ は「集合の要素」と読むことができます。セットのメンバー。
上述の2つの困難、すなわち「複数…」と「…の関数」を克服するために、さまざまな仮定とアプローチが可能である。[ 69 ]
ジョセフ・ドゥーブが提案した、確率過程の数学的構成上の問題を回避するアプローチの 1 つは、確率過程が分離可能であると仮定することです。[ 314 ]分離可能性は、標本関数がインデックス集合内の密な可算個の点の集合上の値によって本質的に決定されることを要求することにより、無限次元分布が標本関数の特性を決定することを保証します。[ 315 ]さらに、確率過程が分離可能であれば、インデックス集合の非可算個の点の汎関数は測定可能であり、その確率を調べることができます。[ 168 ] [ 315 ]
別のアプローチとして、アナトリー・スコロホッドとアンドレイ・コルモゴロフによって開発された方法[ 316 ]があり、これは任意の距離空間を状態空間とする連続時間確率過程を対象としています。このような確率過程を構築するには、確率過程のサンプル関数が適切な関数空間に属すると仮定します。この関数空間は通常、左極限を持つすべての右連続関数からなるスコロホッド空間です。このアプローチは現在、分離可能性の仮定[ 69 ] [ 262 ]よりも多く使用されていますが、このアプローチに基づく確率過程は自動的に分離可能になります[ 317 ] 。
あまり使われてはいないが、分離可能性の仮定は、すべての確率過程には分離可能なバージョンがあるため、より一般的であると考えられている。[ 262 ]また、スコロホッド空間で確率過程を構築できない場合にも使用される。[ 173 ]例えば、ランダムフィールドを構築および研究する際には分離可能性が仮定される。ランダムフィールドでは、ランダム変数の集合は、実数直線以外の集合によってインデックス付けされる。次元ユークリッド空間。[ 30 ] [ 318 ]
金融における確率過程の最も有名な応用例の1つは、オプション価格決定のためのブラック・ショールズ・モデルです。フィッシャー・ブラック、マイロン・ショールズ、ロバート・マートン(彼らの貢献により1997年のノーベル経済学賞が授与されました)によって開発されたこのモデルは、幾何ブラウン運動という特定のタイプの確率過程を使用して、資産価格のダイナミクスを記述します。[ 319 ] [ 320 ]
このモデルは、株価が確率微分方程式(SDE)によって駆動される連続時間確率過程に従うと仮定している。 どこ:
ブラック・ショールズ・モデルの重要な前提は、株式などの金融資産の価格が対数正規分布に従い、その連続的な収益率が正規分布に従うという点です。これらの特性により、このモデルはヨーロピアン・オプションの価格設定のための閉形式解を提供します。ブラック・ショールズ式は金融市場に大きな影響を与え、現代のオプション取引の基礎を形成してきました。このモデルには、ボラティリティが一定であることや取引コストがないことを前提としているといった限界がありますが、その簡潔さと実用性の高さから、現在でも広く利用されています。
金融における確率過程のもう1つの重要な応用は、市場の変動性の時間的変化を捉えることを目的とした確率的変動性モデルです。ヘストンモデル[ 321 ]はよく知られた例で、資産価格の変動性が厳密に一定ではなく、独自の確率過程に従うことを可能にしています。
ヘストンモデルでは、資産価格とその分散は、連立確率微分方程式系としてモデル化される。 どこ:
一定のボラティリティを仮定し、ボラティリティ曲面が平坦になるブラック・ショールズ・モデルとは異なり、確率的ボラティリティ・モデルは、市場のダイナミクスをモデル化するためのより柔軟な枠組みを提供する。これらのモデルは、実際のオプション価格設定で観察される「ボラティリティ・スマイル」をうまく再現するため、不確実性が高い時期や市場が混乱している時期には特に重要となる。
生物学における確率過程の主要な応用例の1つは、個体群動態です。個体群が予測可能な方法で変化すると仮定する決定論的モデルとは対照的に、確率モデルは出生、死亡、および移動に内在するランダム性を考慮に入れます。単純な確率モデルである出生死亡過程[ 322 ]は、ランダムな出生と死亡によって個体群が時間とともにどのように変動するかを記述します。これらのモデルは、絶滅危惧種や小さな微生物集団の場合のように、ランダムな出来事が大きな影響を与える可能性がある小さな個体群を扱う場合に特に重要です。
もう1つの例は分岐過程[ 322 ]で、これは各個体が独立して繁殖する集団の成長をモデル化したものです。分岐過程は、特に疫学において、集団内での感染症の蔓延をモデル化できるため、集団の絶滅や爆発を説明するためによく使用されます。
確率過程は、コンピュータ科学、特にランダム化アルゴリズムの分析と開発において重要な役割を果たします。これらのアルゴリズムは、ランダムな入力を利用して問題解決を簡素化したり、複雑な計算タスクのパフォーマンスを向上させたりします。たとえば、マルコフ連鎖は、Google の PageRank などの検索エンジンで使用されているような、最適化やサンプリングタスクのための確率的アルゴリズムで広く使用されています。[ 323 ]これらの方法は、計算効率と精度をバランスよく保ち、大規模なデータセットの処理に非常に役立ちます。ランダム化アルゴリズムは、暗号化、大規模シミュレーション、人工知能など、不確実性を効果的に管理する必要がある分野でも広く応用されています。[ 323 ]
コンピュータサイエンスにおける確率過程のもう1つの重要な応用は、システムにおけるタスクのランダムな到着と処理をモデル化する待ち行列理論です。 [ 324 ]これは、ネットワークトラフィック分析とサーバー管理において特に重要です。たとえば、待ち行列モデルは、Webサーバーや通信ネットワークにおける遅延の予測、リソース割り当ての管理、スループットの最適化に役立ちます。確率モデルの柔軟性により、研究者は高トラフィック環境のパフォーマンスをシミュレートして改善することができます。たとえば、待ち行列理論は、効率的なデータセンターやクラウドコンピューティングインフラストラクチャの設計に不可欠です。[ 325 ]