有限試行の確率空間

確率・統計 - 第1講

(Press ? for help, n and p for next and previous slide)

村田 昇

試行と標本空間

試行と標本点

試行 (trial)
不確定性のある現象を調べるための 実験
標本点 (sample point)
試行の結果観測される 事柄
見本,観測値 (observation),実現値 (realization) とも呼ばれる

試行の例

  • 骰子(サイコロ)振り

    “骰子を振って,どの目が出易いか調べる” という実験を考える. “骰子を振ること” が試行に対応し, “1, 2, 3, 4, 5, 6の目” が標本点となる.

  • ルーレット回し

    周長1mの円盤を中心で回るように用意し,円周上に0から1の目盛りを付ける. また円周の外側の適当な位置に印を付ける. “ルーレットを回して止まったときに印が指している目盛りを読む” という実験を考える. “ルーレットを回すこと” が試行に対応し, “\((0,1]\) の間のいずれかの値” が標本点となる.

標本空間と標本点

標本空間 (sample space)
観測される全ての標本点を集めた集合
見本空間 と呼ぶ場合もある
記法
標本空間
\(\Omega\) (オメガの大文字)のように大文字で表記
標本点
\(\omega\) (オメガの小文字)のように小文字で表記

標本空間の例

  • 骰子振り

    試行 \(T=\) “骰子を振る” の標本空間は \(\Omega=\{1,2,3,4,5,6\}\) であり, 試行 \(T\) の結果2の目が出た場合は “\(\omega=2\) が観測された” という.

  • ルーレット回し

    試行 \(T=\) “ルーレットを回す” の標本空間は \(\Omega=(0,1]\) である.

標本空間による試行の分類

有限試行
標本空間が有限集合(要素数が 有限個 )である試行
無限試行
標本空間が無限集合(要素数が 無限個 )となる試行

試行の分類の例

  • 骰子振り

    標本点は6つなので有限試行である.

  • ルーレット回し

    標本点の数は数え切れないので無限試行である.

  • “1が出るまで骰子を振り続ける” 試行

    出た目の数の列,例えば \(\langle 4,2,5,6,1\rangle\) が標本点になる.

    標本点としていくらでも長い系列,例えば \(\Omega=\{\langle 1\rangle,\langle 2,1\rangle,\langle 3,1\rangle, \dotsc,\langle 4,2,5,6,1\rangle,\dotsc\}\) が存在するので, その要素の数は無限となる.

    したがってこの試行は無限試行である.

演習

練習問題

  • “コインを10回投げる” 試行を考える.
    • 標本点の例を挙げよ.
    • 標本空間を記せ.
  • “表が出るまでコインを投げる” 試行を考える.
    • 標本点の例を挙げよ.
    • 標本空間を記せ.
  • “表が出るまでコインを投げた回数を観測する” 試行を考える.
    • 標本点の例を挙げよ.
    • 標本空間を記せ.

事象とその表現

事象

事象 (event)

標本点の集合,すなわち標本空間の部分集合

試行 \(T\) の結果として部分集合 \(A\) に属する標本点が出現することを “事象 \(A\) が起こる” と表現する.

根元事象 (elementary event)
1つの標本点だけからなる事象
全事象 (full event, whole event)
標本空間全体 \(\Omega\)

事象の例

  • 骰子振り

    事象 \(A\) として “偶数の目” \(A=\{2,4,6\}\) を考える.

    4の目が出た場合は \(A\) に属している (\(4\in A\)) ので “事象 \(A\) が起こった” ことになり, 5の目が出た場合は \(5\not\in A\) なので “事象 \(A\) は起こらなかった” ことになる.

  • ルーレット回し

    事象 \(A\) を区間 \((0,0.5]\) とする.

    止まったときに印が \(0.5\) を指していれば \(0.5\in A\) なので “事象 \(A\) が起こった” ことになり, \(\pi/4=0.785\cdots\) を指していたら \(\pi/4\not\in A\) なので “事象 \(A\) は起こらなかった” ことになる.

事象の演算 (集合の演算)

和事象 (sum event)

\(A\) または \(B\) が起こること ⇔ \(A\cup B\) (和集合; union)

交事象 (product event)

\(A\) と \(B\) が同時に起こること ⇔ \(A\cap B\) (交集合; intersection)

差事象 (difference event)

\(A\) が起こり \(B\) が起こらないこと ⇔ \(A\backslash B\) (差; difference)

余事象 (complementary event)

\(A\) が起こらないこと ⇔ \(A^c\) または \(\bar{A}\) (補集合; complement)

排反事象 (exclusive event)

\(A,B\) が同時に起こらない ⇔ \(A\cap B=\emptyset\) (互いに素; disjoint)

直和 (direct sum, disjoint union)

\(A\) と \(B\) が排反のとき \(A\cup B\) を \(A+B\) と書く

固有差

\(A\supset B\) のとき \(A\backslash B\) を \(A-B\) と書く

事象の演算の例

  • 骰子振り

    3つの事象

    • 事象 \(A\) として “偶数の目” \(A=\{2,4,6\}\)
    • 事象 \(B\) として “奇数の目” \(B=\{1,3,5\}\)
    • 事象 \(C\) として “素数の目” \(C=\{2,3,5\}\)

    を考えると,例えば

    • \(A\) の余事象は \(B=A^{c}\)
    • \(B\) と \(C\) の交事象は \(B\cap C=\{3,5\}\) ,
    • \(A\) と \(C\) の和事象は \(A\cup C=\{2,3,4,5,6\}\) ,
    • \(A\) と \(B\) の直和は全事象 \(A+B=\Omega=\{1,2,3,4,5,6\}\)

    のようになる.

条件による事象の表現

  • 事象は標本点 \(\omega\) に関する 条件 (condition) を表す式 \(\alpha(\omega)\) を用いて記述可能

    \begin{equation} A=\left\{\omega|\;\alpha(\omega)\right\} \end{equation}
  • 条件 \(\alpha\) を事象 \(A\) と同一視して 単に事象 \(\alpha\) ということもある

条件による事象の例

  • 骰子振り

    “偶数の目” という事象 \(A\):

    \begin{equation} A =\{\omega|\;\omega\text{が偶数}\} =\{2,4,6\} \end{equation}
  • ルーレット回し

    “区間 \((0,0.5]\) の値” という事象 \(A\):

    \begin{equation} A=\{\omega|\;0<\omega\le0.5\} \end{equation}

条件による事象の演算

和事象 (\(\alpha\) または \(\beta\)) : \(\alpha\vee\beta\)
\begin{equation} \{\omega|\;\alpha(\omega)\vee\beta(\omega)\} =\{\omega|\;\alpha(\omega)\}\cup\{\omega|\;\beta(\omega)\} \end{equation}
交事象 (\(\alpha\) かつ \(\beta\)) : \(\alpha\wedge\beta\)
\begin{equation} \{\omega|\;\alpha(\omega)\wedge\beta(\omega)\} =\{\omega|\;\alpha(\omega)\}\cap\{\omega|\;\beta(\omega)\} \end{equation}
余事象 (\(\alpha\) の否定) : \(\alpha^\neg\)
\begin{equation} \{\omega|\;\alpha(\omega)^\neg\} =\Omega-\{\omega|\;\alpha(\omega)\} \end{equation}

条件による事象の演算の例

  • 骰子振り

    それぞれの事象を条件で書くと

    \begin{align} &\{\omega|\;(\omega\text{が偶数})^\neg\} =\{\omega|\;\omega\text{が奇数}\}\;\text{(余事象)}\\ &\{\omega|\;(\omega\text{が奇数})\wedge(\omega\text{が素数})\} =\{3,5\}\;\text{(交事象)}\\ &\{\omega|\;(\omega\text{が偶数})\vee(\omega\text{が素数})\} =\{2,3,4,5,6\}\;\text{(和事象)}\\ &\{\omega|\;(\omega\text{が偶数})\vee(\omega\text{が奇数})\} =\{1,2,3,4,5,6\}\;\text{(直和)} \end{align}

    となる.

演習

練習問題

  • 和事象,交事象,差事象,余事象,排反事象,固有差,直和を ベン図 (Venn diagram) を描いて説明せよ.
  • ド・モルガンの法則 (de Morgan’s laws) について説明せよ.

ド・モルガンの法則

  • 一般には以下の2つの等式で表される関係を指す.

    \begin{align} (A\cap B)^{c} &=A^{c}\cup B^{c} &\big(\overline{A\cap B} &=\bar{A}\cup\bar{B}\big)\\ (A\cup B)^{c} &=A^{c}\cap B^{c} &\big(\overline{A\cup B} &=\bar{A}\cap\bar{B}\big) \end{align}
  • ベン図での表現を考えてみよ.

有限試行の確率空間

有限試行の確率測度

  • 定義

    標本空間 \(\Omega\) と任意の事象 \(A,B\subset\Omega\) に対して 以下の性質をもつ 実数値集合関数 \(P\) ( \(\Omega\) の部分集合に作用して実数を出力する関数)を 確率測度 (probability measure) という.

    \begin{align} (P.1)\quad &P(A)\ge0,%\; A\subset\Omega &&\text{(正値性; positivity)}\\ (P.2)\quad &P(A+B)=P(A)+P(B),%\; A,B\subset\Omega &&\text{(加法性; additivity)}\\ (P.3)\quad &P(\Omega)=1 &&\text{(全確率は\(1\))} \end{align}
    • 確率測度は 確率分布 (probability distribution) あるいは単に 分布 (distribution) と言うこともある

確率測度の条件の意味

(P.1)
ある事象の起こる確率は \(0\) または正の値を取る
(P.2)
排反な事象の和の確率はそれぞれの事象の確率の和となる
(P.3)
ある試行を行ったとき 標本空間の中のどれか1つの標本点は必ず観測される

確率測度の例

  • 骰子振り

    “いかさまのない骰子を1回振る” 試行 \(T\) の確率測度 \(P\) は

    \begin{align} &P(\{1\})=P\{2\}=P\{3\}=P\{4\}=P\{5\}=P\{6\} =\frac{1}{6}\\ &P(\text{素数の目が出る}) =P(\{2,3,5\})=\frac{1}{2} \end{align}

    のように, 事象を入れるとその事象の起こる確率を返してくれる関数 \(P\) である.

確率空間

  • 定義

    標本空間 \(\Omega\) と 事象の集合(集合族) \(\mathcal{F}\) と 確率測度 \(P\) の組 \((\Omega,\mathcal{F},P)\) を, 確率空間 (probability space) と呼ぶ.

  • 試行 \(T\) が定まると

    • 標本空間 \(\Omega\)
    • 考えるべき事象の集合 \(\mathcal{F}\)
    • 確率法則 \(P\)

    を考えることができる.

確率測度の演算

  • 事象の演算に関しては以下の関係が成り立つ.

    \begin{align} 1.\quad &P\Bigl(\sum_{i=1}^nA_i\Bigr)=\sum_{i=1}^nP(A_i)\\ 2.\quad &P(A-B)=P(A)-P(B)\\ 3.\quad &P(A^c)=1-P(A)\\ 4.\quad &P(A\cup B)=P(A)+P(B)-P(A\cap B)\\ 5.\quad &P(A)=\sum_{\omega\in A}P\{\omega\} \end{align}

確率測度の演算の例

  • 骰子振り

    “いかさまのない骰子を1回振る” 試行 \(T\) において 素数の目が出る確率は

    \begin{align} P(\text{素数の目}) &=P(\{2,3,5\})\\ &=P\{2\}+P\{3\}+P\{5\} =\frac{1}{6}+\frac{1}{6}+\frac{1}{6} =\frac{1}{2} \end{align}

    となる.

演習

練習問題

  • 確率測度の定義にもとづいて以下を証明せよ.

    \begin{align} &P(A^c)=1-P(A)\\ &P(A\cup B)=P(A)+P(B)-P(A\cap B) \end{align}
  • よく切ったトランプから 2枚カードを引く試行を考える. この試行の確率空間を構成せよ.

試行が有限でない場合の問題点

無限試行の例

  • “1が出るまで骰子を振り続ける” 試行

    標本点 \(\langle 6,5,4,3,2,1\rangle\) が観測される確率は, 6回骰子を振る \(6^6\) 通りの中の 等しい確率で起こる1つなので

    \begin{equation} P\left(\langle 6,5,4,3,2,1\rangle\right) =\frac{1}{6^6} \end{equation}

    となる.

  • 事象の確率も同様

    また,ちょうど6回で1が出て終わる標本点 \(\langle *,*,*,*,*,1\rangle\) (\(*\) は1以外の目) が観測される確率は, 最初の5回は1以外, 最後に1の目の \(5^5\) 通りがあるので

    \begin{equation} P\left(\langle *,*,*,*,*,1\rangle\right) =\frac{5^5}{6^6} \end{equation}

    である.

無限試行の例

  • ルーレット回し

    “ルーレット回し” の試行で, ちょうど \(0.5\) の値が出る確率はいくつか?

  • 任意の事象を考える

    事象 \(A\) を要素数が無限個の適当な数の集合として, これを \(A=\{a,b,c,\dotsc\}\) と書く. 前出の加法性に従うなら事象 \(A=\{a,b,c,\dotsc\}\) に対して, 1回の試行で例えば標本点 \(a\) と \(b\) が同時に観測されることはないので,

    \begin{equation} P(A)=P\{a\}+P\{b\}+P\{c\}+\dotsb \end{equation}

    として良い.

  • 確率の和を考える

    仮に各要素の出現確率が同じ \(\epsilon>0\) という値である場合

    \begin{equation} P\{a\}=P\{b\}=P\{c\}=\dotsb=\epsilon\quad (\not=0) \end{equation}

    を考える. このとき要素数が無限個あるので

    \begin{equation} P(A)=\epsilon+\epsilon+\epsilon+\dotsb\quad \to\infty \end{equation}

    となり,確率の値が \(1\) を越えてしまう.

    事象 \(A\) が無限集合で 各標本点が 同様に起こり易い場合には

    \begin{equation} P\{a\}=P\{b\}=P\{c\}=\dotsb=0 \end{equation}

    でなくてはならない.

  • 全確率を考える

    任意の標本点についてその確率が \(0\) なら, いくら足しても

    \begin{equation} P(A)=P\{a\}+P\{b\}+P\{c\}+\dotsb=0 \end{equation}

    である.

    標本空間全体についてこの議論を行えば \(P(\Omega)=0\) となってしまうので, 全事象の確率がうまく定義できない.

  • この問題を解決するためには 加法性 を考え直す必要がある

今回のまとめ

  • 有限試行の確率空間
    • 確率論の基本用語: 試行,標本点,標本空間,事象
    • 事象は標本空間の部分集合
    • 事象の演算は集合の演算と等価
    • 確率測度の基本的な性質(正値性,加法性,全確率)
    • 確率空間は標本空間,事象の集合,確率測度の3つ組