ex6.3.3 正規分布の分散と標準偏差の最尤推定量(MLE)

はじめに

「入門・演習 数理統計」の演習問題の自作解答を紹介します。

[商品価格に関しましては、リンクが作成された時点と現時点で情報が変更されている場合がございます。]

入門・演習数理統計 [ 野田一雄 ]
価格:3780円(税込、送料無料) (2018/4/3時点)



間違い等発見されましたらご指摘ください。
他の解答はこちらから。
なお、問題文は(必要がない限り)掲載しておりません。テキストを横に置いてご覧ください。

また、スマートフォン等では数式が画面からはみ出る場合があります。数式部分は横スクロールできます。



スポンサーリンク


$\newcommand{\lnl}{\\[8pt]}$ $\newcommand{\Lnl}{\\[18pt]}$ $\newcommand{\delt}{\mathrm{d}}$ $\newcommand{\comb}{\mathrm{C}}$ $\DeclareMathOperator*{\ssum}{\Sigma}$ $\DeclareMathOperator*{\sprod}{\Pi}$

ex6.3.3

平均$\mu$,分散$\sigma^2$の正規分布の確率密度関数$f_X(x)$は,

\begin{align}
f_X(x) &= \frac{1}{\sqrt{2\pi\sigma^2}}\exp\left(-\frac{(x-\mu)^2}{2\sigma^2}\right)
\end{align}

である.尤度関数は
\begin{align}
L(\sigma^2; \bm{x}) &= \prod_{i=1}^n\frac{1}{\sqrt{2\pi\sigma^2}}\exp\left(-\frac{(x_i-\mu)^2}{2\sigma^2}\right)\lnl
&=\left(\frac{1}{\sqrt{2\pi\sigma^2}}\right)^n\exp\left(-\sum_{i=1}^n\frac{(x_i-\mu)^2}{2\sigma^2}\right)
\end{align}

である.
尤度方程式
\begin{align}
\frac{\partial}{\partial \sigma^2} \log L(\sigma^2;\bm{x}) = 0\label{eq-le3}
\end{align}

を解く.
\begin{align}
&\log L(\sigma^2;\bm{x}) = -\frac{n}{2}\log\left(2\pi\sigma^2\right) -\frac{1}{2\sigma^2}\sum_{i=1}^n(x_i-\mu)^2\Lnl
&\frac{\partial}{\partial \sigma^2} \log L(\sigma^2;\bm{x}) = -\frac{n}{2\sigma^2} +\frac{1}{2\sigma^4}\sum_{i=1}^n(x_i – \mu)^2
\end{align}

である. これから$\eqref{eq-le3}$の解は, $\sigma^2 = \displaystyle \frac{1}{n}\ssum_{i=1}^n (x_i-\mu)^2 = T(\bm{x})$となる.これが尤度関数を最大化することを確かめるために増減表を書く.

$\begin{array}{|c|c|c|c|}
\hline
\sigma^2 & \cdots & T(\bm{x}) & \cdots \\
\hline
\frac{\partial}{\partial \sigma^2}\log L(\sigma^2;\bm{x}) & + & 0 & – \\
\hline
L(\sigma^2;\bm{x}) & \nearrow & \text{最大} & \searrow \\
\hline
\end{array} $

以上より$\sigma^2$の最尤推定量$\hat{\sigma}^2$は$T(\bm{X})$であることが示された.

テキスト(6.3.3)のNOTE(3)より,$\sigma$の最尤推定量$\hat{\sigma}$は

\begin{align}
\hat{\sigma}= \sqrt{\hat{\sigma}^2}
\end{align}

であるから,$\hat{\sigma}$は
\begin{align}
\hat{\sigma} = \sqrt{T(\bm{X})} = \sqrt{ \frac{1}{n}\sum_{i=1}^n (x_i-\mu)^2 }
\end{align}

となる.