ex7.3.3 平均・分散未知の2つ正規母集団で分散が等しいとき、平均が等しいとする帰無仮説に関する尤度比検定

はじめに

「入門・演習 数理統計」の演習問題の自作解答を紹介します。

[商品価格に関しましては、リンクが作成された時点と現時点で情報が変更されている場合がございます。]

入門・演習数理統計 [ 野田一雄 ]
価格:3780円(税込、送料無料) (2018/4/3時点)



間違い等発見されましたらご指摘ください。
他の解答はこちらから。
なお、問題文は(必要がない限り)掲載しておりません。テキストを横に置いてご覧ください。

また、スマートフォン等では数式が画面からはみ出る場合があります。数式部分は横スクロールできます。



スポンサーリンク


$\newcommand{\lnl}{\\[8pt]}$ $\newcommand{\Lnl}{\\[18pt]}$ $\newcommand{\delt}{\mathrm{d}}$ $\newcommand{\comb}{\mathrm{C}}$ $\DeclareMathOperator*{\ssum}{\Sigma}$ $\DeclareMathOperator*{\sprod}{\Pi}$

ex7.3.3

(i)全パラメータ空間でのパラメータ$\mu_1,\mu_2,\sigma^2$の最尤推定量$\hat{\mu}_1, \hat{\mu}_2 , \hat{\sigma}^2$を求める

尤度関数$L=L\Big((\mu_1,\mu_2,\sigma^2);(\bm{x},\bm{y})\Big)$は,

\begin{align}
L = \prod_{i=1}^n\frac{1}{\sqrt{2\pi \sigma^2}} \exp\left(-\frac{(x_i-\mu_1)^2}{2\sigma^2}\right)\times \prod_{i=1}^m\frac{1}{\sqrt{2\pi \sigma^2}} \exp\left(-\frac{(y_i-\mu_2)^2}{2\sigma^2}\right)
\end{align}

である.対数尤度関数$l = \log L$は,
\begin{align}
l = -\frac{n+m}{2}\log\left(2\pi \sigma^2\right)-\frac{1}{2\sigma^2} \left( \sum_{i=1}^n \left(x_i – \mu_1\right)^2 + \sum_{i=1}^m \left(y_i – \mu_2\right)^2\right)
\end{align}

であるので,
\begin{align}
&\frac{\partial}{\partial \mu_1} l = \frac{\displaystyle\ssum_{i=1}^n x_i – n\mu_1 }{\sigma^2} \lnl
&\frac{\partial}{\partial \mu_2} l = \frac{\displaystyle\ssum_{i=1}^m y_i – m\mu_2 }{\sigma^2} \lnl
&\frac{\partial}{\partial \sigma^2} l = -\frac{n+m}{2\sigma^2} + \frac{1}{2\sigma^4}\left( \sum_{i=1}^n \left(x_i – \mu_1\right)^2 + \sum_{i=1}^m \left(y_i – \mu_2\right)^2\right)
\end{align}

となる.これらを$0$とおいて解くと,最尤推定量が次のように求まる.
\begin{align}
&\hat{\mu}_1 = \overline{x}\lnl
&\hat{\mu}_2 = \overline{y} \lnl
&\hat{\sigma}^2 = \frac{1}{n+m}\left( \sum_{i=1}^n \left(x_i – \overline{x}\right)^2 + \sum_{i=1}^m \left(y_i – \overline{y}\right)^2\right) \label{eq-733-1}
\end{align}

(ii)帰無仮説$H_0$のもとでのパラメータ$\mu=\mu_1=\mu_2,\sigma^2$の最尤推定量$\hat{\mu}_0, {\hat{\sigma}_0}^2$を求める

$H_0$のもと, $mu_1 = \mu_2$だからこれを$\mu$とおく.(i)と同様に計算し対数尤度関数$l_0$を求めると,

\begin{align}
l_0 = -\frac{n+m}{2}\log\left(2\pi \sigma^2\right)-\frac{1}{2\sigma^2} \left( \sum_{i=1}^n \left(x_i – \mu\right)^2 + \sum_{i=1}^m \left(y_i – \mu\right)^2\right)
\end{align}

これより,
\begin{align}
&\frac{\partial}{\partial \mu_1} l = \frac{1}{\sigma^2}\left(\sum_{i=1}^n x_i +\sum_{i=1}^m y_i – (n+m)\mu \right)\lnl
&\frac{\partial}{\partial \sigma^2} l = -\frac{n+m}{2\sigma^2} + \frac{1}{2\sigma^4}\left( \sum_{i=1}^n \left(x_i – \mu\right)^2 + \sum_{i=1}^m \left(y_i – \mu\right)^2\right)
\end{align}

これらを$0$とおいて解くと,最尤推定量が次のように求まる.
\begin{align}
&\hat{\mu}_0 = \frac{n\overline{x} + m\overline{y}}{n+m}\label{eq-733-4}\lnl
&{\hat{\sigma}_0}^2 = \frac{1}{n+m}\left( \sum_{i=1}^n \left(x_i – \hat{\mu}_0\right)^2 + \sum_{i=1}^m \left(y_i – \hat{\mu}_0\right)^2\right) \label{eq-733-2}
\end{align}

(iii)$\lambda(\bm{x},\bm{y})$を求める

全パラメータ空間の最尤推定量に対する尤度関数$L$は,

\begin{align}
L &= \prod_{i=1}^n\frac{1}{\sqrt{2\pi \hat{\sigma}^2}} \exp\left(-\frac{(x_i-\overline{x})^2}{2\hat{\sigma}^2}\right)\times \prod_{i=1}^m\frac{1}{\sqrt{2\pi \hat{\sigma}^2}} \exp\left(-\frac{(y_i-\overline{y})^2}{2\hat{\sigma}^2}\right)\lnl
&=\left(2\pi\hat{\sigma}^2\right)^{-\frac{n+m}{2}}\exp\left(-\frac{1}{2\hat{\sigma}^2}\left(\sum_{i=1}^n\left(x_i-\overline{x}\right)^2 + \sum_{i=1}^m\left(y_i-\overline{y}\right)^2 \right)\right)\lnl
&=\left(2\pi\hat{\sigma}^2\right)^{-\frac{n+m}{2}}\exp\left(-\frac{n+m}{2}\right) \qquad\left(\because \eqref{eq-733-1}\right)
\end{align}

同様にして帰無仮説$H_0$のもとの最尤推定量に対する尤度関数$L_0$は,
\begin{align}
L_0 &= \prod_{i=1}^n\frac{1}{\sqrt{2\pi {\hat{\sigma}_0}^2}} \exp\left(-\frac{(x_i-\hat{\mu}_0)^2}{2{\hat{\sigma}_0}^2}\right)\times \prod_{i=1}^m\frac{1}{\sqrt{2\pi {\hat{\sigma}_0}^2}} \exp\left(-\frac{(y_i-\hat{\mu}_0)^2}{2{\hat{\sigma}_0}^2}\right)\lnl
&=\left(2\pi{\hat{\sigma}_0}^2\right)^{-\frac{n+m}{2}}\exp\left(-\frac{1}{2{\hat{\sigma}_0}^2}\left(\sum_{i=1}^n\left(x_i-\hat{\mu}_0\right)^2 + \sum_{i=1}^m\left(y_i-\hat{\mu}_0\right)^2 \right)\right)\lnl
&=\left(2\pi{\hat{\sigma}_0}^2\right)^{-\frac{n+m}{2}}\exp\left(-\frac{n+m}{2}\right) \qquad\left(\because \eqref{eq-733-2}\right)
\end{align}

従って, 尤度比関数$\lambda(\bm{x},\bm{y})$は,
\begin{align}
\lambda(\bm{x},\bm{y}) &= \frac{L_0}{L} = \left(\frac{{\hat{\sigma}_0}^2}{\hat{\sigma}^2}\right)^{-\frac{n+m}{2}}\lnl
&=\left[ \frac{\displaystyle \frac{1}{n+m}\left( \sum_{i=1}^n \left(x_i – \hat{\mu}_0\right)^2 + \sum_{i=1}^m \left(y_i – \hat{\mu}_0\right)^2\right)}{\displaystyle \frac{1}{n+m}\left( \sum_{i=1}^n \left(x_i – \overline{x}\right)^2 + \sum_{i=1}^m \left(y_i – \overline{y}\right)^2\right)}\right]^{-\frac{n+m}{2}} \lnl
&=\left[ \frac{\displaystyle \sum_{i=1}^n \left(x_i – \hat{\mu}_0\right)^2 + \sum_{i=1}^m \left(y_i – \hat{\mu}_0\right)^2}{\displaystyle \sum_{i=1}^n \left(x_i – \overline{x}\right)^2 + \sum_{i=1}^m \left(y_i – \overline{y}\right)^2}\right]^{-\frac{n+m}{2}} \label{eq-733-3}
\end{align}

ここで,
\begin{align}
\sum_{i=1}^n \left(x_i – \hat{\mu}_0\right)^2 &= \sum_{i=1}^n\left\{ \left(x_i – \overline{x}\right)^2 + 2\left(\overline{x}-\hat{\mu}_0\right)x_i + {\hat{\mu}_0}^2 – \overline{x}^2\right\}\lnl
&=\sum_{i=1}^n\left(x_i – \overline{x}\right)^2 + n\left(\overline{x}^2-2\hat{\mu}_0\overline{x} + {\hat{\mu}_0}^2\right)\Lnl
\sum_{i=1}^m \left(y_i – \hat{\mu}_0\right)^2 &= \sum_{i=1}^m\left(y_i – \overline{y}\right)^2 + m\left(\overline{y}^2-2\hat{\mu}_0\overline{y} + {\hat{\mu}_0}^2\right)
\end{align}

を用いて, $\eqref{eq-733-3}$の分子を変形する.
\begin{align}
\sum_{i=1}^n \left(x_i – \hat{\mu}_0\right)^2 + \sum_{i=1}^m \left(y_i – \hat{\mu}_0\right)^2 &= \sum_{i=1}^n\left(x_i – \overline{x}\right)^2 + \sum_{i=1}^m\left(y_i – \overline{y}\right)^2 \\
&\qquad + \underline{n\left(\overline{x}^2-2\hat{\mu}_0\overline{x} + {\hat{\mu}_0}^2\right) + m\left(\overline{y}^2-2\hat{\mu}_0\overline{y} + {\hat{\mu}_0}^2\right)}\lnl
\text{(下線部)} &= n\overline{x}(\overline{x}- 2\hat{\mu}_0) + m\overline{y}(\overline{y}- 2\hat{\mu}_0) + (n+m){\hat{\mu}_0}^2\label{eq-733-5}
\end{align}

ここで,$\hat{\mu}_0$に$\eqref{eq-733-4}$を代入して,
\begin{align}
n\overline{x}(\overline{x}-2\hat{\mu}_0) &= \frac{1}{n+m}\left( n(m-n)\overline{x}^2 – 2nm\overline{x}\overline{y} \right) \lnl
m\overline{y}(\overline{y}-2\hat{\mu}_0) &= \frac{1}{n+m}\left( m(n-m)\overline{y}^2 – 2nm\overline{x}\overline{y} \right) \lnl
(n+m){\hat{\mu}_0}^2 &= \frac{1}{n+m}(n\overline{x}+m\overline{y})^2+
\end{align}

であるから,
\begin{align}
\eqref{eq-733-5} &= \frac{nm}{n+m}(\overline{x}-\overline{y})^2
\end{align}

となる.$\eqref{eq-733-3}$にこれを代入すると,
\begin{align}
\lambda(\bm{x},\bm{y}) &= \left[ 1 + \frac{(\overline{x}-\overline{y})^2} { \displaystyle \sum_{i=1}^n\left(x_i – \overline{x}\right)^2 + \sum_{i=1}^m\left(y_i – \overline{y}\right)^2 }\cdot \frac{1}{\displaystyle \left(\frac{1}{n}+\frac{1}{m}\right) }\right]^{-\frac{n+m}{2}}
\end{align}

(iv)$P(\lambda(\bm{x},\bm{y})< c) = \alpha$となる棄却域を求める

$\lambda(\bm{x},\bm{y}) < c$は,

\begin{align} T = \frac{\overline{X}-\overline{Y}}{\sqrt{ \frac{\displaystyle \sum_{i=1}^n\left(x_i - \overline{x}\right)^2 + \sum_{i=1}^m\left(y_i - \overline{y}\right)^2 }{\displaystyle n+m-2} \left(\cfrac{1}{n} + \cfrac{1}{m}\right)} }< c' \end{align}
と同じことである.$T \sim t_{n+m-2}$なので,$|T| > t_{n+m-2,\alpha/2}$ならば$H_0$を棄却すればよい.

(v)検出力関数を求める

全パラメータ空間では,$\mu_1 – \mu_2 \ne 0$となることから, $T$は$t$分布ではなく非心$t$分布($t_{n+m-2}(\delta)$)に従う.非心度$\delta$は,

\begin{align}
\delta = \frac{\mu_1-\mu_2}{\displaystyle \sigma\sqrt{\frac{1}{n}+\frac{1}{m}}}
\end{align}

となる.従って検出力関数$\beta(\mu_1-\mu_2)$は,
\begin{align}
\beta(\mu_1-\mu_2) = P\big(\left| t_{n+m-2}(\delta) \right| > t_{n+m-2,\alpha/2} \big)
\end{align}

である.