はじめに
「入門・演習 数理統計」の演習問題の自作解答を紹介します。
|
間違い等発見されましたらご指摘ください。
他の解答はこちらから。
なお、問題文は(必要がない限り)掲載しておりません。テキストを横に置いてご覧ください。
また、スマートフォン等では数式が画面からはみ出る場合があります。数式部分は横スクロールできます。
スポンサーリンク
$\newcommand{\lnl}{\\[8pt]}$ $\newcommand{\Lnl}{\\[18pt]}$ $\newcommand{\delt}{\mathrm{d}}$ $\newcommand{\comb}{\mathrm{C}}$ $\DeclareMathOperator*{\ssum}{\Sigma}$ $\DeclareMathOperator*{\sprod}{\Pi}$
ex6.3.2
平均$\mu$,分散$\sigma^2$の正規分布の確率密度関数$f_X(x)$は,
\begin{align}
f_X(x) &= \frac{1}{\sqrt{2\pi\sigma^2}}\exp\left(-\frac{(x-\mu)^2}{2\sigma^2}\right)
\end{align}
f_X(x) &= \frac{1}{\sqrt{2\pi\sigma^2}}\exp\left(-\frac{(x-\mu)^2}{2\sigma^2}\right)
\end{align}
である.尤度関数は
\begin{align}
L(\mu; \bm{x}) &= \prod_{i=1}^n\frac{1}{\sqrt{2\pi\sigma^2}}\exp\left(-\frac{(x_i-\mu)^2}{2\sigma^2}\right)\lnl
&=\left(\frac{1}{\sqrt{2\pi\sigma^2}}\right)^n\exp\left(-\sum_{i=1}^n\frac{(x_i-\mu)^2}{2\sigma^2}\right)
\end{align}
L(\mu; \bm{x}) &= \prod_{i=1}^n\frac{1}{\sqrt{2\pi\sigma^2}}\exp\left(-\frac{(x_i-\mu)^2}{2\sigma^2}\right)\lnl
&=\left(\frac{1}{\sqrt{2\pi\sigma^2}}\right)^n\exp\left(-\sum_{i=1}^n\frac{(x_i-\mu)^2}{2\sigma^2}\right)
\end{align}
である.
尤度方程式
\begin{align}
\frac{\partial}{\partial \mu} \log L(\mu;\bm{x}) = 0\label{eq-le2}
\end{align}
\frac{\partial}{\partial \mu} \log L(\mu;\bm{x}) = 0\label{eq-le2}
\end{align}
を解く.
\begin{align}
&\log L(\mu;\bm{x}) = -\frac{n}{2}\log\left(2\pi\sigma^2\right) -\frac{1}{2\sigma^2}\sum_{i=1}^n(x_i-\mu)^2\Lnl
&\frac{\partial}{\partial \mu} \log L(\mu;\bm{x}) = \frac{1}{\sigma^2}\sum_{i=1}^n(x_i – \mu) = \frac{1}{\sigma^2}\left(n\overline{x} – n\mu\right)
\end{align}
&\log L(\mu;\bm{x}) = -\frac{n}{2}\log\left(2\pi\sigma^2\right) -\frac{1}{2\sigma^2}\sum_{i=1}^n(x_i-\mu)^2\Lnl
&\frac{\partial}{\partial \mu} \log L(\mu;\bm{x}) = \frac{1}{\sigma^2}\sum_{i=1}^n(x_i – \mu) = \frac{1}{\sigma^2}\left(n\overline{x} – n\mu\right)
\end{align}
である. ただし$\overline{x}= \displaystyle \frac{1}{n}\ssum_{i=1}^n x_i$とする. これから$\eqref{eq-le2}$の解は,$\mu = \overline{x}$となる.これが尤度関数を最大化することを確かめるために増減表を書く.
$\begin{array}{|c|c|c|c|}
\hline
\mu & \cdots & \overline{x} & \cdots \\
\hline
\frac{\partial}{\partial \mu}\log L(\mu;\bm{x}) & + & 0 & – \\
\hline
L(\mu;\bm{x}) & \nearrow & \text{最大} & \searrow \\
\hline
\end{array} $
\hline
\mu & \cdots & \overline{x} & \cdots \\
\hline
\frac{\partial}{\partial \mu}\log L(\mu;\bm{x}) & + & 0 & – \\
\hline
L(\mu;\bm{x}) & \nearrow & \text{最大} & \searrow \\
\hline
\end{array} $
以上より$\mu$の最尤推定量$\hat{\mu}$は$\overline{X}$である.