確率の定義
確率の定義をする。
可測空間 / σ代数
$\Omega$を集合とする。
$\mathcal{B} \subset 2^\Omega$は$\Omega$の部分集合族で、次を充たすとする。
$$ \Omega \in \mathcal{B} $$
$$ A \in \mathcal{B} \implies A^c \in \mathcal{B} $$
$$ A_1 \in \mathcal{B} \land A_2 \in \mathcal{B} \land \dots\implies \bigcup_{i=1}^{\infty}A_i \in \mathcal{B} $$
このとき、$\mathcal{B}$は$\Omega$上σ加法的(σ-additive)である、または、$\mathcal{B}$は$\Omega$上のσ代数(σ-algebra)であるという。
組$(\Omega, \mathcal{B})$を可測空間(measurable space)というが、$\mathcal{B}$が文脈上明らかなときは、単に$\Omega$を可測空間ともいう。
可測空間の基本的な性質
$(\Omega, \mathcal{B})$が可測空間であるとき、定義より、次は直ちに従う。
$$ \emptyset \in \mathcal{B} $$
$$ A_1 \in \mathcal{B} \land A_2 \in \mathcal{B} \land \dots\implies \bigcap_{i=1}^{\infty}A_i \in \mathcal{B} $$
1つ目は、$A=\Omega$に対して補集合をとることで得られ、2つ目は、$(\bigcup A_i^c)^c$に対して、ド・モルガンの法則を用いることで得られる。
以上より、σ代数を端的に表現すると、次のようになる。
σ代数は、ある集合の部分集合族であり、空集合と基の集合そのものを含み、可算個の交叉(intersection)、可算個の合併(union)、そして、補集合(complement)を取る操作に対して閉じている。
確率空間 / 確率
$(\Omega, \mathcal{B})$を可測空間とする。 $\mathcal{B}$上の実数値関数$P: \mathcal{B} \rightarrow \mathbb{R}$が次を充たすとき、$P$を確率(probability)という。
$$ \forall A \in \mathcal{B}; P(A) \ge 0 $$
$$ P(\Omega) = 1 $$
$$ P(\bigsqcup_{i=1}^{\infty}A_i) = \sum_{i=1}^{\infty}P(A_i) $$
$\bigsqcup$は非交和(disjoint union)の意味である。
組$(\Omega, \mathcal{B}, P)$を確率空間という。
この文脈では、$\Omega$は標本空間、$\mathcal{B}$の元は事象と呼ばれる。
確率の基本的性質
定義より、次は直ちに導ける。
$$ P(A^c) = 1 - P(A) $$
$$ A \subset B \implies P(A) \le P(B) $$
$$ P(A \cup B) = P(A) + P(B) - P(A \cap B) $$
証明
$$ 1 = P(\Omega) = P(A \sqcup A^c) = P(A) + P(A^c) $$
より、1つ目が成り立つ。
$A \subset B$は、$A \cap B = A$を意味するから、このとき、
$$ P(B) = P((A \cap B) \sqcup (B - A)) = P(A \sqcup (B - A)) = P(A) + P(B - A) \ge P(A) $$
よって、2つ目が成り立つ。
$$ P(A \cup B) = P((A - B) \sqcup (B - A) \sqcup (A \cap B)) = P(A - B) + P(B - A) + P(A \cap B) $$
また、
$$ P(A) = P((A - B) \sqcup (A \cap B)) = P(A - B) + P(A \cap B) $$
$$ P(B) = P((B - A) \sqcup (A \cap B)) = P(B - A) + P(A \cap B) $$
より、
$$ P(A \cup B) = (P(A) - P(A \cap B)) + (P(B) - P(A \cap B)) + P(A \cap B) = P(A) + P(B) - P(A \cap B) $$
したがって、3つ目が成り立つ。Q.E.D.