数理統計：正規分布の性質

jun — Thu, 01 Nov 2018 14:45:59 +0000

$\newcommand{\lnl}{\\[8pt]}$ $\newcommand{\Lnl}{\\[18pt]}$ $\newcommand{\delt}{\mathrm{d}}$ $\newcommand{\comb}{\mathrm{C}}$ $\DeclareMathOperator*{\ssum}{\Sigma}$ $\DeclareMathOperator*{\sprod}{\Pi}$

イントロ

代表的な分布の性質を解説します。
今回は正規分布です。

定義

正規分布は2つのパラメータ$\mu,\sigma^2$をとります。
この正規分布を$N(\mu,\sigma^2)$と書いたりします。
確率密度関数は、$X \sim N(\mu,\sigma^2)$として、

\begin{align}
f_X(x) = \frac{1}{\sqrt{2\pi}\sigma}\exp\left(-\frac{(x-\mu)^2}{2\sigma^2}\right)
\end{align}

と表されます。

期待値

定義通りに計算します。

\begin{align}
E(X) &= \int_{-\infty}^{\infty} x\cdot \frac{1}{\sqrt{2\pi}\sigma}\exp\left(-\frac{(x-\mu)^2}{2\sigma^2}\right) \mathrm{d}x\\
&(\text{Put } t \text{ as } x-\mu)\\
&=\int_{-\infty}^{\infty} \frac{t + \mu}{\sqrt{2\pi}\sigma}\exp\left(-\frac{t^2}{2\sigma^2}\right) \mathrm{d}t\\
&=\int_{-\infty}^{\infty} \frac{t + \mu}{\sqrt{2\pi}\sigma}\exp\left(-\frac{t^2}{2\sigma^2}\right) \mathrm{d}t\\
&=\left[-\frac{\sigma}{\sqrt{2\pi}}\exp\left(-\frac{t^2}{2\sigma^2}\right)\right]_{-\infty}^{\infty}\\
&\qquad + \mu \underline{\int_{-\infty}^{\infty} \frac{1}{\sqrt{2\pi}\sigma}\exp\left(-\frac{t^2}{2\sigma^2}\right) \mathrm{d}t}\\
&=\mu
\end{align}

最後の式の変形は、下線部が$N(0,\sigma^2)$の二項分布の全確率$1$となることを利用しました。

分散

$V(X)=E(X^2) – E(X)^2$を用いて計算します。

\begin{align}
E(X^2) &= \int_{-\infty}^{\infty} x^2\cdot \frac{1}{\sqrt{2\pi}\sigma}\exp\left(-\frac{(x-\mu)^2}{2\sigma^2}\right) \mathrm{d}x\\
&(\text{Put } t \text{ as } x-\mu)\\
&=\int_{-\infty}^{\infty} \frac{(t + \mu)^2}{\sqrt{2\pi}\sigma}\exp\left(-\frac{t^2}{2\sigma^2}\right) \mathrm{d}t\\
&=\int_{-\infty}^{\infty} \frac{t^2 + 2\mu t + \mu^2}{\sqrt{2\pi}\sigma}\exp\left(-\frac{t^2}{2\sigma^2}\right) \mathrm{d}t\\
\end{align}

この式を3つに分けて計算します。

\begin{align}
\int_{-\infty}^{\infty}& \frac{t^2}{\sqrt{2\pi}\sigma}\exp\left(-\frac{t^2}{2\sigma^2}\right) \mathrm{d}t\\
&=\frac{\sigma}{\sqrt{2\pi}}\left\{\int_{-\infty}^{\infty}\exp\left(-\frac{t^2}{2\sigma^2}\right)\mathrm{d}t-\left[t\exp\left(-\frac{t^2}{2\sigma^2}\right)\right]_{-\infty}^{\infty}\right\}\\
&=\frac{\sigma}{\sqrt{2\pi}}\int_{-\infty}^{\infty}\exp\left(-\frac{t^2}{2\sigma^2}\right)\mathrm{d}t\\
&=\sigma^2
\end{align}

最後の積分計算はガウス積分$\int_{-\infty}^{\infty} \exp(-ax^2)\mathrm{d}x = \sqrt{\frac{\pi}{a}}$を利用しました。

下記2つの式は、$E(X)$の途中に出てきた式に帰着できるので途中計算は略します。

\begin{align}
\int_{-\infty}^{\infty} \frac{2\mu t}{\sqrt{2\pi}\sigma}\exp\left(-\frac{t^2}{2\sigma^2}\right) \mathrm{d}t &= 0\\
\int_{-\infty}^{\infty} \frac{\mu^2}{\sqrt{2\pi}\sigma}\exp\left(-\frac{t^2}{2\sigma^2}\right) \mathrm{d}t &= \mu^2\\
\end{align}

従って、$E(X^2) = \sigma^2 + \mu^2$となります。

これから、

\begin{align}
V(X) &= E(X^2) – E(X)^2\\
&= \sigma^2 + \mu^2 – \mu^2\\
&= \sigma^2
\end{align}

積率母関数

定義通りに計算します。

\begin{align}
M_X(t) &= E\left(e^{tX}\right) \\
&= \int_{-\infty}^{\infty} e^{tx}\cdot \frac{1}{\sqrt{2\pi}\sigma}\exp\left(-\frac{(x-\mu)^2}{2\sigma^2}\right)\\
&= \int_{-\infty}^{\infty} \frac{1}{\sqrt{2\pi}\sigma}\exp\left(-\frac{(x-\mu)^2}{2\sigma^2} + tx\right)\\
&= \int_{-\infty}^{\infty} \frac{1}{\sqrt{2\pi}\sigma}\exp\left(-\frac{(x-(\mu+\sigma^2t))^2}{2\sigma^2} + \mu t + \frac{\sigma^2t^2}{2}\right)\\
&= \exp\left(\mu t + \frac{\sigma^2t^2}{2}\right)\underline{\int_{-\infty}^{\infty} \frac{1}{\sqrt{2\pi}\sigma}\exp\left(-\frac{(x-(\mu+\sigma^2t))^2}{2\sigma^2}\right)}\\
&= \exp\left(\mu t + \frac{\sigma^2t^2}{2}\right)
\end{align}

最後の変形は、下線部が$N(\mu+\sigma^2t,\sigma^2)$の全確率1に等しいことを利用しました。

積率母関数を使って期待値と分散を求めると、$M_X(0)= 1$であることと、

\begin{align}
M_X'(t) &= \exp\left(\mu t + \frac{\sigma^2t^2}{2}\right)\cdot(\mu + \sigma^2 t)\\
&=M_X(t) \cdot (\mu + \sigma^2 t)\\
M_X”(t) &= M_X'(t)\cdot(\mu + \sigma^2 t) + M_X(t)\cdot \sigma^2
\end{align}

を用いると、

\begin{align}
E(X) &= M_X'(0) = \mu\\
E(X^2) &= M_X”(0) = \mu^2 + \sigma^2 \\
\end{align}

となるので、$V(X)=E(X^2)-E(X)^2=\sigma^2$です。

The post 数理統計：正規分布の性質 first appeared on My Interests.

正規分布 | My Interests

数理統計：正規分布の性質

イントロ

定義

期待値

分散

積率母関数