ex6.3.11 独立な分散が等しい2つの正規分布の各々の平均と分散の最尤推定量(MLE)

はじめに

「入門・演習 数理統計」の演習問題の自作解答を紹介します。

[商品価格に関しましては、リンクが作成された時点と現時点で情報が変更されている場合がございます。]

入門・演習数理統計 [ 野田一雄 ]
価格:3780円(税込、送料無料) (2018/4/3時点)



間違い等発見されましたらご指摘ください。
他の解答はこちらから。
なお、問題文は(必要がない限り)掲載しておりません。テキストを横に置いてご覧ください。

また、スマートフォン等では数式が画面からはみ出る場合があります。数式部分は横スクロールできます。



スポンサーリンク


$\newcommand{\lnl}{\\[8pt]}$ $\newcommand{\Lnl}{\\[18pt]}$ $\newcommand{\delt}{\mathrm{d}}$ $\newcommand{\comb}{\mathrm{C}}$ $\DeclareMathOperator*{\ssum}{\Sigma}$ $\DeclareMathOperator*{\sprod}{\Pi}$

ex6.3.10

尤度関数は

\begin{align}
&L(\mu_1,\mu_2,\sigma^2;\bm{x},\bm{y}) \lnl
&\quad = \left(\frac{1}{\sqrt{2\pi\sigma^2}}\right)^{n+m}\exp\left(-\frac{1}{2\sigma^2}\left(\sum_{i=1}^n(x_i-\mu_1)^2 + \sum_{i=1}^m(y_i – \mu_2)^2\right)\right)
\end{align}

対数尤度関数$l=l(\mu_1,\mu_2,\sigma^2;\bm{x},\bm{y})$は
\begin{align}
l = -\frac{n+m}{2}\log(2\pi \sigma^2) – \frac{1}{2\sigma^2}\left(\sum_{i=1}^n(x_i-\mu_1)^2 + \sum_{i=1}^m(y_i – \mu_2)^2\right)
\end{align}

$\frac{\partial}{\partial \mu_1}l = 0$を解く.
\begin{align}
\frac{\partial}{\partial \mu_1}l = \frac{n}{\sigma^2}(\overline{x}-\mu_1)=0
\Longleftrightarrow \mu_1 = \overline{x}
\end{align}

増減表は

$\begin{array}{|c|c|c|c|}
\hline
\mu_1 & \cdots & \overline{x} & \cdots \\
\hline
\frac{\partial}{\partial \mu_1}l & + & 0 & – \\
\hline
L & \nearrow & \text{最大} & \searrow \\
\hline
\end{array} $

となるので,$\mu_1$のMLEは$ \hat{\mu}_1=\overline{X}$である.
同様にして$\mu_2$のMLEは$\hat{\mu}_2=\overline{Y}$となる.

$\frac{\partial}{\partial \sigma^2}l = 0$を解く.

\begin{align}
&\frac{\partial}{\partial \sigma^2}l = -\frac{n+m}{2\sigma^2} + \frac{1}{2\sigma^4}\left( \sum_{i=1}^n (x_i-\mu_1)^2 + \sum_{i=1}^m (y_i-\mu_2)^2 \right)=0\lnl
&\Longleftrightarrow \sigma^2 = \frac{1}{n+m}\left( \sum_{i=1}^n (x_i-\mu_1)^2 + \sum_{i=1}^m (y_i-\mu_2)^2 \right)
\end{align}

この$\sigma^2$を$\hat{\sigma}^2$とおくと,増減表は

$\begin{array}{|c|c|c|c|}
\hline
\sigma^2 & \cdots & \hat{\sigma}^2 & \cdots \\
\hline
\frac{\partial}{\partial \sigma^2}l & + & 0 & – \\
\hline
L & \nearrow & \text{最大} & \searrow \\
\hline
\end{array} $

となるから,$\sigma^2$のMLEは$\hat{\sigma}^2$である.$\mu_1,\mu_2$を上記で求めたMLEに置き換えて,

\begin{align}
\hat{\sigma}^2 = \frac{1}{n+m}\left( \sum_{i=1}^n (X_i-\overline{X})^2 + \sum_{i=1}^m (Y_i-\overline{Y})^2 \right)
\end{align}