生物工学演習E -第11回- 確率過程のための統計基礎
今回の目的
確率変数，期待値，特性関数について理解する．
確率空間
確率空間は標本空間\(\Omega\)，事象\(\mathscr{B}\)，確率\(P\)で定義され\((\Omega,\mathscr{B},P)\)で表現される．
標本空間\(\Omega\)はある実験や試行の結果，起こりうると考えられる現象を集めたもの．
事象\(\mathscr{B}\)は標本空間の部分集合
確率\(P\)は事象をその事象の発生確率に写像する関数
例：コイン投げ
標本空間 \(\Omega = \{表が出る,裏が出る\}\)
事象 \(\mathscr{B}=\{\{\},\{表が出る\},\{裏が出る\},\{表が出る,裏が出る\}\}\)
確率 \(P(\{表が出る,裏が出る\})=1, P(\{表が出る\})=0.5, P(\{裏が出る\})=0.5, \)
確率変数
確率変数は標本空間\(\Omega\)の元を実数へ写像する関数であり大文字で表現する(\(X\)など)．
また具体的な実現値は小文字で表現する(\(x\)など)．
例：コイン投げ(\(X\)を確率変数とする)
\(X(\{表が出る\})=1, X(\{裏が出る\})=0\)
例：さいころ
\(X(\{1の目が出る\})=1, X(\{2の目が出る\})=2,X(\{3の目が出る\})=3,\\
X(\{4の目が出る\})=4,X(\{5の目が出る\})=5,X(\{6の目が出る\})=6\)
また確率変数を用いると事象を数学的に記述できる．
例えば，
“4以上の目が出る"は\(X \ge 4\)
“偶数の目が出る"は\(X \% 2 =0\)
また上記の事象が発生する確率を
\begin{align}
P(\omega; X(\omega) \ge 4) = P(X \ge 4) = 1/6 + 1/6 + 1/6 =1/2
\end{align}
のように記述できる．
確率変数は連続型と離散型に分けることができる．
確率密度関数
連続型確率変数がどのような値をとりやすいかを表す関数として確率密度関数がある．
例：正規分布\(N(\mu,\sigma)\)
\begin{align}
f(x) = \frac{1}{\sqrt{2\pi \sigma^2}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}
\end{align}
また確率密度関数を積分すると分布関数\(F(x)\)が得られる．
\begin{align}
F(x) = \int_{-\infty}^{x} f(x’) dx’ = P(X \le x)
\end{align}
確率質量関数
離散型確率変数の場合には確率密度関数の代わりに確率質量関数で表現する．
例：二項分布
\begin{align}
f(k) = {n \choose k}p^k(1-p)^{n-k}
\end{align}
期待値の定義と平均，分散
離散型確率変数
期待値(平均)
\begin{align}
E[x_k] &= \sum_k x_k f(x_k) \\
&= \mu
\end{align}
分散
\begin{align}
V[x_k] &=E[(x_k-\mu)^2] \\
&= \sum_k (x_k-\mu)^2 f(x_k)
\end{align}
連続型確率変数
期待値(平均)
\begin{align}
E[x] &= \int_{-\infty}^{\infty} x f(x)dx \\
&= \mu
\end{align}
分散
\begin{align}
V[x] &=E[(x-\mu)^2] \\
&= \int_{-\infty}^{\infty} (x-\mu)^2 f(x)dx
\end{align}
特性関数
特性関数\(\phi(\theta)\)は以下のように定義される．
\begin{align}
\phi(\theta) = E[e^{j\theta x}]
\end{align}
特性関数は質量関数や密度関数のフーリエ逆変換に対応している．
特性関数を用いるとE[x^k]を求めることができる．
\begin{align}
\phi(\theta) &= E[e^{j\theta x}]\\
&= E[1+j\theta x+ \frac{1}{2!} (j\theta x)^2 + \frac{1}{3!} (j\theta x)^3 + \dots]
\end{align}
これらを\(\theta\)について微分して\(\theta=0\)を代入すると
\begin{align}
\left. \frac{d}{d\theta}\phi(\theta)\right|_{\theta=0}
&= \left. \frac{d}{d\theta}E[1+j\theta x+ \frac{1}{2!} (j\theta x)^2 + \frac{1}{3!} (j\theta x)^3 + \dots]\right|_{\theta=0} \\
&= \left. E[jx+ \frac{jx}{1!} (j\theta x) + \frac{jx}{2!} (j\theta x)^2 + \dots]\right|_{\theta=0} \\
&= jE[x]
\end{align}
つまり平均値は
\begin{align}
E[x] = j^{-1}\left. \frac{d}{d\theta}\phi(\theta)\right|_{\theta=0}
\end{align}
同様に２回微分することで2次のモーメントを計算できる．
\begin{align}
E[x^2] = j^{-2}\left. \frac{d^2}{d\theta^2}\phi(\theta)\right|_{\theta=0}
\end{align}
分散は
\begin{align}
V[x] &=E[(x-\mu)^2] \\
&=E[x^2] – E[x]^2
\end{align}
で計算することができる．