確率変数

多くの場合、${\displaystyle X}$実数値である、つまり${\displaystyle E=\mathbb {R} }$文脈によっては、「ランダム要素」（拡張を参照）という用語は、この形式ではないランダム変数を表すために使用されます。

画像（または範囲）が${\displaystyle X}$が有限または可算無限である場合、その確率変数は離散確率変数と呼ばれ^{[ 5 ] : 399}、その分布は離散確率分布であり、すなわち、のイメージ内の各値に確率を割り当てる確率質量関数によって記述できます。${\displaystyle X}$画像が非可算無限（通常は区間）である場合、${\displaystyle X}$は連続確率変数と呼ばれます。^{[ 6 ] [ 7 ]}絶対連続である場合、その分布は確率密度関数によって記述でき、確率密度関数は区間に確率を割り当てます。特に、絶対連続確率変数では、個々の点の確率は必ずゼロになります。すべての連続確率変数が絶対連続であるとは限りません。^{[ 8 ]}

あらゆる確率変数は、累積分布関数によって記述することができ、これは確率変数がある特定の値以下になる確率を表します。

統計学における「確率変数」という用語は、伝統的に実数値の場合に限定される（${\displaystyle E=\mathbb {R} }$この場合、実数の構造により、確率変数の期待値や分散、累積分布関数、分布のモーメントなどの量を定義することが可能になります。

しかし、上記の定義はあらゆる測定可能な空間に対して有効である。${\displaystyle E}$値。したがって、他の集合のランダムな要素を考慮に入れることができる。${\displaystyle E}$例えば、ランダムなブール値、カテゴリ値、複素数、ベクトル、行列、シーケンス、ツリー、セット、シェイプ、多様体、関数など。この場合、特定のタイプのランダム変数を参照することができます。${\displaystyle E}$または${\displaystyle E}$値をとる確率変数。

このランダム要素のより一般的な概念は、グラフ理論、機械学習、自然言語処理、離散数学やコンピュータサイエンスのその他の分野など、非数値データ構造のランダムな変動をモデル化することに関心がある分野で特に有用です。ただし、場合によっては、各要素を${\displaystyle E}$1つ以上の実数を使用します。この場合、ランダム要素は、実数値のランダム変数のベクトルとして表現することもできます（すべて同じ基礎となる確率空間で定義されます）。${\displaystyle \Omega }$（これにより、異なる確率変数が共変動することが可能になります）。例：

• ランダムな単語は、可能な単語の語彙へのインデックスとして機能するランダムな整数として表現できます。あるいは、語彙のサイズに等しい長さのランダムな指示ベクトルとして表現することもできます。正の確率を持つ値は、${\displaystyle (1\ 0\ 0\ 0\ \cdots )}$、${\displaystyle (0\ 1\ 0\ 0\ \cdots )}$、${\displaystyle (0\ 0\ 1\ 0\ \cdots )}$そして、1の位置が単語を示します。
• 指定された長さのランダムな文${\displaystyle N}$ベクトルとして表現される可能性がある${\displaystyle N}$ランダムな単語。
• ランダムグラフ​${\displaystyle N}$与えられた頂点は次のように表現できます。${\displaystyle N\times N}$ランダム変数の行列。その値はランダムグラフの隣接行列を指定する。
• ランダム関数${\displaystyle F}$ランダム変数の集合として表現できる${\displaystyle F(x)}$さまざまな点における関数の値を示す${\displaystyle x}$関数の定義域内。${\displaystyle F(x)}$関数が実数値であれば、これらは通常の実数値確率変数です。たとえば、確率過程は時間の確率関数であり、確率ベクトルは、次のようなインデックス集合の確率関数です。${\displaystyle 1,2,\ldots ,n}$ランダムフィールドとは、任意の集合（通常は時間、空間、または離散集合）上のランダム関数のことである。

無作為に選ばれた人物に関する実験を考えてみましょう。確率変数の例としては、その人の身長が挙げられます。数学的には、確率変数は、その人の身長をマッピングする関数として解釈されます。確率変数には確率分布が関連付けられており、身長が可能な値の任意の部分集合に含まれる確率を計算できます。例えば、身長が180cmから190cmの間である確率 、または身長が150cm未満または200cmを超える確率などです 。

別の確率変数として、子供の数も考えられます。これは非負の整数値をとる離散確率変数です。これにより、個々の整数値（確率質量関数（PMF））または値の集合（無限集合を含む）の確率を計算できます。例えば、関心のある事象は「偶数人の子供」かもしれません。有限および無限の事象集合のいずれの場合も、その確率は要素のPMFを合計することで求められます。つまり、偶数人の子供の確率は無限和になります。${\displaystyle \operatorname {PMF} (0)+\operatorname {PMF} (2)+\operatorname {PMF} (4)+\cdots }$⁠ .

このような例では、標本空間は数学的に記述するのが難しいため、しばしば省略され、確率変数の取りうる値が標本空間として扱われます。しかし、身長と子供の数のように、同じ無作為抽出された人物から算出される2つの確率変数が同じ結果の標本空間で測定される場合、身長と子供の数が両方とも同じ無作為抽出された人物から得られたものであると認識することで、それらの関係を追跡しやすくなります。例えば、そのような確率変数が相関しているかどうかといった疑問を提起することができます。

もし${\textstyle \{a_{n}\},\{b_{n}\}}$実数の可算集合である。${\textstyle b_{n}>0}$そして​${\displaystyle \textstyle \sum _{n}b_{n}=1}$⁠、それから${\textstyle F=\sum _{n}b_{n}\delta _{a_{n}}(x)}$は離散分布関数です。${\displaystyle \delta _{t}(x)=0}$のために⁠${\displaystyle x<t}$⁠、 ⁠${\displaystyle \delta _{t}(x)=1}$⁠のために⁠${\displaystyle x\geq t}$例えば、すべての有理数を列挙すると、${\displaystyle \{a_{n}\}}$⁠ 、必ずしも階段関数（区分的定数）ではない離散関数が得られます。

サイコロを振る

サイコロを振る過程と起こりうる結果を記述するために、確率変数を用いることもできます。2つのサイコロの場合、最も分かりやすい表現方法は、 {1, 2, 3, 4, 5, 6} からn ₁とn ₂のペア（2つのサイコロの目を表す）を標本空間とすることです。振られた合計数（各ペアの目の合計）は、ペアを合計にマッピングする関数によって与えられる 確率変数Xとなります。$${\displaystyle X((n_{1},n_{2}))=n_{1}+n_{2}}$$ そして（サイコロが公平であれば）確率質量関数f _Xは次のように表される。 $${\displaystyle f_{X}(S)={\frac {\min(S-1,13-S)}{36}},{\text{ for }}S\in \{2,3,4,5,6,7,8,9,10,11,12\}}$$

形式的には、連続確率変数とは、累積分布関数がどこでも連続である確率変数のことです。^{[ 10 ]}有限の確率で発生する数値に対応する「ギャップ」は存在しません。代わりに、連続確率変数は、正確に規定された値c (形式的には、${\textstyle \forall c\in \mathbb {R}$ :\;\Pr(X=c)=0} ) ですが、その値が任意の小さな特定の区間に含まれる正の確率があります。連続確率変数は通常、その累積分布関数 (CDF) と確率測度を特徴付ける確率密度関数(PDF) を持ちます。このような分布は絶対連続とも呼ばれますが、一部の連続分布は特異であるか、絶対連続部分と特異部分の混合です。

連続型確率変数の例としては、水平方向を選択できるスピナーに基づくものが挙げられます。この場合、確率変数が取る値は方向です。これらの方向は、北、西、東、南、南東などで表すことができます。しかし、実数の値を取る確率変数に標本空間をマッピングする方が一般的に便利です。これは、例えば、方向を北から時計回りの度数で表した方位にマッピングすることで実現できます。この場合、確率変数は区間[0, 360)の実数の値を取り、範囲のすべての部分が「等確率」となります。この場合、Xはスピナーが回した角度で​​す。任意の実数が選択される確率はゼロですが、任意の値の範囲に正の確率を割り当てることができます。例えば、[0 , 180]内の数値を選択する確率は 1/2 です。確率質量関数について話す代わりに、 Xの確率密度は1/360であると言います。 [0, 360) の部分集合の確率は、その集合の測度に 1/360 を掛けることで計算できます。一般に、与えられた連続確率変数の集合の確率は、その集合上で確率密度関数を積分することで計算できます。 

より厳密には、任意の区間が与えられた場合${\textstyle I=[a,b]=\{x\in \mathbb {R} :a\leq x\leq b\}}$ランダム変数${\displaystyle X_{I}\sim \operatorname {U} (I)=\operatorname {U} [a,b]}$が部分区間内の値を取る確率が部分区間の長さのみに依存する場合、は「連続一様乱数」（CURV）と呼ばれます。これは、${\displaystyle X_{I}}$いずれかの小区間に収まる${\displaystyle [c,d]\subseteq [a,b]}$は部分区間の長さに比例する。つまり、a ≤ c ≤ d ≤ bの場合、 $${\displaystyle \Pr \left(X_{I}\in [c,d]\right)={\frac {d-c}{b-a}}}$$ ここで、最後の等式は確率のユニタリ性公理から導かれる。曲線の確率密度関数${\displaystyle X\sim \operatorname {U} [a,b]}$これは、その支持区間の指示関数を区間の長さで正規化した値によって与えられる。$${\displaystyle f_{X}(x)={\begin{cases}\displaystyle {1 \over b-a},&a\leq x\leq b\\0,&{\text{otherwise}}.\end{cases}}}$$特に興味深いのは、単位区間における一様分布である。${\displaystyle [0,1]}$任意の確率分布のサンプル${\displaystyle \operatorname {D} }$分位関数を計算することによって生成できます。${\displaystyle \operatorname {D} }$これは、単位区間上で一様に分布するランダムに生成された数値に基づいて行われます。これは、すべての確率変数を統一的に扱う枠組みである累積分布関数の特性を利用しています。

混合確率変数とは、累積分布関数が離散的でもなく、かつ全連続的でもない確率変数のことである。^{[ 10 ]}これは、離散確率変数と連続確率変数の混合として実現することができ、その場合、累積分布関数は構成要素変数の累積分布関数の加重平均となる。^{[ 10 ]}

混合型の確率変数の例としては、コインを投げ、表が出た場合のみスピナーを回す実験が挙げられます。裏が出た場合はX = -1 となり、それ以外の場合は、前述の例と同様にスピナーの値となります。この確率変数が -1 の値をとる確率は 1/2 です。その他の値の範囲では、前述の例の半分の確率となります。

最も一般的には、実数直線上のすべての確率分布は、離散部分、特異部分、および絶対連続部分の混合です。ルベーグの分解定理§ 精緻化を参照してください。離散部分は可算集合に集中していますが、この集合は稠密である可能性があります（すべての有理数の集合のように）。

この場合、観測空間は実数の集合です。 ${\displaystyle (\Omega ,{\mathcal {F}},P)}$は確率空間です。実際の観測空間の場合、関数は${\displaystyle X\colon \Omega \rightarrow \mathbb {R} }$は、実数値の確率変数である。

${\displaystyle \{\omega :X(\omega )\leq r\}\in {\mathcal {F}}\qquad \forall r\in \mathbb {R} .}$

この定義は上記の定義の特殊なケースです。なぜなら、集合は${\displaystyle \{(-\infty ,r]:r\in \mathbb {R} \}}$は実数集合上にボレルσ代数を生成し、任意の生成集合上で可測性を確認すれば十分である。ここでは、次の事実を用いて、この生成集合上での可測性を証明できる。${\displaystyle \{\omega :X(\omega )\leq r\}=X^{-1}((-\infty ,r])}$⁠ .

させて${\displaystyle X}$を実数値の連続確率変数とし、 とする。${\displaystyle Y=X^{2}}$⁠ .

${\displaystyle F_{Y}(y)=\operatorname {P} (X^{2}\leq y).}$

もし​${\displaystyle y<0}$⁠、それから⁠${\displaystyle P(X^{2}\leq y)=0}$⁠、だから

${\displaystyle F_{Y}(y)=0\qquad {\hbox{if}}\quad y<0.}$

もし​${\displaystyle y\geq 0}$⁠、それから

${\displaystyle \operatorname {P} (X^{2}\leq y)=\operatorname {P} (|X|\leq {\sqrt {y}})=\operatorname {P} (-{\sqrt {y}}\leq X\leq {\sqrt {y}}),}$

それで

${\displaystyle F_{Y}(y)=F_{X}({\sqrt {y}})-F_{X}(-{\sqrt {y}})\qquad {\hbox{if}}\quad y\geq 0.}$

仮定する${\displaystyle X}$は累積分布を持つ確率変数である

${\displaystyle F_{X}(x)=P(X\leq x)={\frac {1}{(1+e^{-x})^{\theta }}}}$

どこ${\displaystyle \theta >0}$は固定パラメータです。確率変数を考えます。${\displaystyle Y=\mathrm {log} (1+e^{-X}).}$それから、

${\displaystyle F_{Y}(y)=P(Y\leq y)=P(\mathrm {log} (1+e^{-X})\leq y)=P(X\geq -\mathrm {log} (e^{y}-1)).\,}$

最後の式は、の累積分布を用いて計算できます。${\displaystyle X}$⁠、だから

${\displaystyle {\begin{aligned}F_{Y}(y)&=1-F_{X}(-\log(e^{y}-1))\\[5pt]&=1-{\frac {1}{(1+e^{\log(e^{y}-1)})^{\theta }}}\\[5pt]&=1-{\frac {1}{(1+e^{y}-1)^{\theta }}}\\[5pt]&=1-e^{-y\theta },\end{aligned}}}$

これは指数分布の累積分布関数（CDF）です。

仮定する${\displaystyle X}$は標準正規分布に従う確率変数であり、その密度関数は

${\displaystyle f_{X}(x)={\frac {1}{\sqrt {2\pi }}}e^{-x^{2}/2}.}$

確率変数⁠を考えてみましょう${\displaystyle Y=X^{2}}$上記の式を用いて変数変換を行うことで、密度を求めることができます。

${\displaystyle f_{Y}(y)=\sum _{i}f_{X}(g_{i}^{-1}(y))\left|{\frac {dg_{i}^{-1}(y)}{dy}}\right|.}$

この場合、変化は単調ではありません。なぜなら、${\displaystyle Y}$対応する値が 2 つあります${\displaystyle X}$（正と負がそれぞれ1つずつ）。しかし、対称性のため、両方の半分が同じように変換されます。つまり、

${\displaystyle f_{Y}(y)=2f_{X}(g^{-1}(y))\left|{\frac {dg^{-1}(y)}{dy}}\right|.}$

逆変換は

${\displaystyle x=g^{-1}(y)={\sqrt {y}}}$

そしてその導関数は

${\displaystyle {\frac {dg^{-1}(y)}{dy}}={\frac {1}{2{\sqrt {y}}}}.}$

それから、

${\displaystyle f_{Y}(y)=2{\frac {1}{\sqrt {2\pi }}}e^{-y/2}{\frac {1}{2{\sqrt {y}}}}={\frac {1}{\sqrt {2\pi y}}}e^{-y/2}.}$

これは自由度1のカイ二乗分布です。

仮定する${\displaystyle X}$は正規分布に従う確率変数であり、その密度は

${\displaystyle f_{X}(x)={\frac {1}{\sqrt {2\pi \sigma ^{2}}}}e^{-(x-\mu )^{2}/(2\sigma ^{2})}.}$

確率変数を考える${\displaystyle Y=X^{2}.}$上記の式を用いて変数変換を行うことで、密度を求めることができます。

${\displaystyle f_{Y}(y)=\sum _{i}f_{X}(g_{i}^{-1}(y))\left|{\frac {dg_{i}^{-1}(y)}{dy}}\right|.}$

この場合、変化は単調ではありません。なぜなら、${\displaystyle Y}$対応する値が 2 つあります${\displaystyle X}$（正と負の1つずつ）。ただし、前の例とは異なり、この場合は対称性がないため、2つの異なる項を計算する必要があります。

${\displaystyle f_{Y}(y)=f_{X}(g_{1}^{-1}(y))\left|{\frac {dg_{1}^{-1}(y)}{dy}}\right|+f_{X}(g_{2}^{-1}(y))\left|{\frac {dg_{2}^{-1}(y)}{dy}}\right|.}$

逆変換は

${\displaystyle x=g_{1,2}^{-1}(y)=\pm {\sqrt {y}}}$

そしてその導関数は

${\displaystyle {\frac {dg_{1,2}^{-1}(y)}{dy}}=\pm {\frac {1}{2{\sqrt {y}}}}.}$

それから、

${\displaystyle f_{Y}(y)={\frac {1}{\sqrt {2\pi \sigma ^{2}}}}{\frac {1}{2{\sqrt {y}}}}(e^{-({\sqrt {y}}-\mu )^{2}/(2\sigma ^{2})}+e^{-(-{\sqrt {y}}-\mu )^{2}/(2\sigma ^{2})}).}$

これは自由度1の非心カイ二乗分布です。

標本空間が実数直線の部分集合である場合、確率変数XとY は分布が等しい（と表記される）${\displaystyle X~{\stackrel {d}{=}}~Y}$⁠ ) それらが同じ分布関数を持つ場合：

${\displaystyle \operatorname {P} (X\leq x)=\operatorname {P} (Y\leq x)\quad {\text{for all }}x.}$

分布が等しいためには、確率変数は同じ確率空間上で定義されている必要はありません。モーメント母関数が等しい2つの確率変数は同じ分布を持ちます。これは、例えば、独立同分布（IID）確率変数の特定の関数の等価性を確認するのに便利な方法となります。ただし、モーメント母関数は、ラプラス変換が定義されている分布に対してのみ存在します。

2 つの確率変数XとYはほぼ確実に等しい(表記)${\displaystyle X\;{\stackrel {\text{a.s.}}{=}}\;Y}$) それらが異なる確率がゼロである場合に限り、

${\displaystyle \operatorname {P} (X\neq Y)=0.}$

確率論における実際的な目的においては、この等価性の概念は実際の等価性と同じくらい強い意味を持つ。これは以下の距離と関連付けられる。

${\displaystyle d_{\infty }(X,Y)=\operatorname {ess} \sup _{\omega }|X(\omega )-Y(\omega )|,}$

ここで「ess sup」は測度論の意味での本質的上限を表す。

最後に、2つの確率変数XとYは、それらが可測空間上の関数として等しい場合に等しいとみなされます。

${\displaystyle X(\omega )=Y(\omega )\qquad {\hbox{for all }}\omega .}$

この概念は、確率論において一般的に最も有用性が低い。なぜなら、実際においても理論においても、実験の根底にある測度空間は明示的に特徴付けられることがほとんどなく、そもそも特徴付けられることすら稀だからである。

確率変数の根底にある確率空間を明示的に構築することは稀であるため、これらの等価性の概念の違いはやや微妙です。本質的に、2つの確率変数を単独で考えると、分布が等しい場合に「実質的に等価」となります。しかし、同じ確率空間上で定義された他の確率変数と関連付けると、それらが「実質的に等価」であり続けるのは、ほぼ確実に等しい場合に限られます。

例えば、同じ確率空間上で定義された実数確率変数A、B、C、Dを考えます。AとBがほぼ確実に等しいと仮定します (${\displaystyle A\;{\stackrel {\text{a.s.}}{=}}\;B}$)、しかしAとCは分布においてのみ等しい(${\displaystyle A~{\stackrel {d}{=}}~C}$）。 それから${\displaystyle A+D\;{\stackrel {\text{a.s.}}{=}}\;B+D}$しかし一般的に${\displaystyle A+D\neq C+D}$（分布においてもそうではない）。同様に、期待値は${\displaystyle \mathbb {E} (AD)=\mathbb {E} (BD)}$しかし一般的に${\displaystyle \mathbb {E} (AD)\neq \mathbb {E} (CD)}$したがって、分布が等しい（ただしほぼ確実には等しくない）2つの確率変数は、3つ目の確率変数との共分散が異なる可能性がある。