はじめに
「入門・演習 数理統計」の演習問題の自作解答を紹介します。
|
間違い等発見されましたらご指摘ください。
他の解答はこちらから。
なお、問題文は(必要がない限り)掲載しておりません。テキストを横に置いてご覧ください。
また、スマートフォン等では数式が画面からはみ出る場合があります。数式部分は横スクロールできます。
スポンサーリンク
$\newcommand{\lnl}{\\[8pt]}$ $\newcommand{\Lnl}{\\[18pt]}$ $\newcommand{\delt}{\mathrm{d}}$ $\newcommand{\comb}{\mathrm{C}}$ $\DeclareMathOperator*{\ssum}{\Sigma}$ $\DeclareMathOperator*{\sprod}{\Pi}$
ex6.3.10
尤度関数は
\begin{align}
&L(\mu_1,\mu_2,\sigma^2;\bm{x},\bm{y}) \lnl
&\quad = \left(\frac{1}{\sqrt{2\pi\sigma^2}}\right)^{n+m}\exp\left(-\frac{1}{2\sigma^2}\left(\sum_{i=1}^n(x_i-\mu_1)^2 + \sum_{i=1}^m(y_i – \mu_2)^2\right)\right)
\end{align}
&L(\mu_1,\mu_2,\sigma^2;\bm{x},\bm{y}) \lnl
&\quad = \left(\frac{1}{\sqrt{2\pi\sigma^2}}\right)^{n+m}\exp\left(-\frac{1}{2\sigma^2}\left(\sum_{i=1}^n(x_i-\mu_1)^2 + \sum_{i=1}^m(y_i – \mu_2)^2\right)\right)
\end{align}
対数尤度関数$l=l(\mu_1,\mu_2,\sigma^2;\bm{x},\bm{y})$は
\begin{align}
l = -\frac{n+m}{2}\log(2\pi \sigma^2) – \frac{1}{2\sigma^2}\left(\sum_{i=1}^n(x_i-\mu_1)^2 + \sum_{i=1}^m(y_i – \mu_2)^2\right)
\end{align}
l = -\frac{n+m}{2}\log(2\pi \sigma^2) – \frac{1}{2\sigma^2}\left(\sum_{i=1}^n(x_i-\mu_1)^2 + \sum_{i=1}^m(y_i – \mu_2)^2\right)
\end{align}
$\frac{\partial}{\partial \mu_1}l = 0$を解く.
\begin{align}
\frac{\partial}{\partial \mu_1}l = \frac{n}{\sigma^2}(\overline{x}-\mu_1)=0
\Longleftrightarrow \mu_1 = \overline{x}
\end{align}
\frac{\partial}{\partial \mu_1}l = \frac{n}{\sigma^2}(\overline{x}-\mu_1)=0
\Longleftrightarrow \mu_1 = \overline{x}
\end{align}
増減表は
$\begin{array}{|c|c|c|c|}
\hline
\mu_1 & \cdots & \overline{x} & \cdots \\
\hline
\frac{\partial}{\partial \mu_1}l & + & 0 & – \\
\hline
L & \nearrow & \text{最大} & \searrow \\
\hline
\end{array} $
\hline
\mu_1 & \cdots & \overline{x} & \cdots \\
\hline
\frac{\partial}{\partial \mu_1}l & + & 0 & – \\
\hline
L & \nearrow & \text{最大} & \searrow \\
\hline
\end{array} $
となるので,$\mu_1$のMLEは$ \hat{\mu}_1=\overline{X}$である.
同様にして$\mu_2$のMLEは$\hat{\mu}_2=\overline{Y}$となる.
$\frac{\partial}{\partial \sigma^2}l = 0$を解く.
\begin{align}
&\frac{\partial}{\partial \sigma^2}l = -\frac{n+m}{2\sigma^2} + \frac{1}{2\sigma^4}\left( \sum_{i=1}^n (x_i-\mu_1)^2 + \sum_{i=1}^m (y_i-\mu_2)^2 \right)=0\lnl
&\Longleftrightarrow \sigma^2 = \frac{1}{n+m}\left( \sum_{i=1}^n (x_i-\mu_1)^2 + \sum_{i=1}^m (y_i-\mu_2)^2 \right)
\end{align}
&\frac{\partial}{\partial \sigma^2}l = -\frac{n+m}{2\sigma^2} + \frac{1}{2\sigma^4}\left( \sum_{i=1}^n (x_i-\mu_1)^2 + \sum_{i=1}^m (y_i-\mu_2)^2 \right)=0\lnl
&\Longleftrightarrow \sigma^2 = \frac{1}{n+m}\left( \sum_{i=1}^n (x_i-\mu_1)^2 + \sum_{i=1}^m (y_i-\mu_2)^2 \right)
\end{align}
この$\sigma^2$を$\hat{\sigma}^2$とおくと,増減表は
$\begin{array}{|c|c|c|c|}
\hline
\sigma^2 & \cdots & \hat{\sigma}^2 & \cdots \\
\hline
\frac{\partial}{\partial \sigma^2}l & + & 0 & – \\
\hline
L & \nearrow & \text{最大} & \searrow \\
\hline
\end{array} $
\hline
\sigma^2 & \cdots & \hat{\sigma}^2 & \cdots \\
\hline
\frac{\partial}{\partial \sigma^2}l & + & 0 & – \\
\hline
L & \nearrow & \text{最大} & \searrow \\
\hline
\end{array} $
となるから,$\sigma^2$のMLEは$\hat{\sigma}^2$である.$\mu_1,\mu_2$を上記で求めたMLEに置き換えて,
\begin{align}
\hat{\sigma}^2 = \frac{1}{n+m}\left( \sum_{i=1}^n (X_i-\overline{X})^2 + \sum_{i=1}^m (Y_i-\overline{Y})^2 \right)
\end{align}
\hat{\sigma}^2 = \frac{1}{n+m}\left( \sum_{i=1}^n (X_i-\overline{X})^2 + \sum_{i=1}^m (Y_i-\overline{Y})^2 \right)
\end{align}