ex6.B.2 ずれた指数分布のパラメータの最尤推定量(MLE)(その2)

はじめに

「入門・演習 数理統計」の演習問題の自作解答を紹介します。

[商品価格に関しましては、リンクが作成された時点と現時点で情報が変更されている場合がございます。]

入門・演習数理統計 [ 野田一雄 ]
価格:3780円(税込、送料無料) (2018/4/3時点)



間違い等発見されましたらご指摘ください。
他の解答はこちらから。
なお、問題文は(必要がない限り)掲載しておりません。テキストを横に置いてご覧ください。

また、スマートフォン等では数式が画面からはみ出る場合があります。数式部分は横スクロールできます。



スポンサーリンク


$\newcommand{\lnl}{\\[8pt]}$ $\newcommand{\Lnl}{\\[18pt]}$ $\newcommand{\delt}{\mathrm{d}}$ $\newcommand{\comb}{\mathrm{C}}$ $\DeclareMathOperator*{\ssum}{\Sigma}$ $\DeclareMathOperator*{\sprod}{\Pi}$

ex6.B.2

はじめに

本問は(ex6.3.10)の$\mu$も未知バージョンであると考えられます.

解答

$\varphi(x)$を

\begin{align}
\varphi(x) = \begin{cases} 1 & x \ge 0 \\ 0 & x < 0\end{cases} \end{align}
と定義すると,与えられた密度関数は,
\begin{align} f_X(x) = \frac{1}{\lambda}\exp\left(-\frac{x-\mu}{\lambda}\right) \cdot \varphi(x-\mu) \end{align}
とかける.このとき尤度関数$L$は
\begin{align} L\big((\mu,\lambda);\bm{x}\big) &= \prod_{i=1}^n f_X(x_i)\lnl &\frac{1}{\lambda^n}\exp\left(-\frac{1}{\lambda}\sum_{i=1}^n (x_i-\mu)\right)\cdot \prod_{i=1}^n \varphi(x_i-\mu) \end{align}
ここで,$x_{(1)}$をランダム標本の中で最小のものとすると,
\begin{align} \prod_{i=1}^n \varphi(x_i-\mu) = \varphi(x_{(1)} - \mu) \end{align}
となる.従って,
\begin{align} L\big((\mu,\lambda);\bm{x}\big) &= \underline{\frac{1}{\lambda^n}\exp\left(-\frac{1}{\lambda}\sum_{i=1}^n (x_i-\mu)\right)}\cdot \varphi(x_{(1)}-\mu) \end{align}
となる.下線部は正だから,$L$を最大化するとき$\varphi(x_{(1)}-\mu) = 1$が条件となる.すなわち
\begin{align} x_{(1)} \ge \mu \label{eq-6b2-1} \end{align}
である.このとき,対数尤度関数$l$は
\begin{align} l\big((\mu,\lambda);\bm{x}\big) &= -n\log \lambda - \frac{1}{\lambda}\exp\left(-\frac{1}{\lambda}\sum_{i=1}^n(x_i-\mu)\right) \end{align}
MLEを求めるために対数尤度関数を$\mu,\lambda$で偏微分する.
\begin{align} \frac{\partial}{\partial \mu}l\big((\mu,\lambda);\bm{x}\big) &= \frac{n}{\lambda} > 0
\end{align}

従って,$l$は$\mu$に対して単調増加.$\eqref{eq-6b2-1}$の条件のもと$l$を最大化する$\mu = \hat{\mu}$は,
\begin{align}
\hat{\mu} = X_{(1)}\label{eq-6b2-2}
\end{align}

となる.
\begin{align}
\frac{\partial}{\partial \lambda}l\big((\mu,\lambda);\bm{x}\big) &= -\frac{n}{\lambda} + \frac{1}{\lambda^2}\sum_{i=1}^n (x_i – \mu)
\end{align}

これを$0$とおいて$\lambda$について解くと,
\begin{align}
\lambda = \frac{1}{n}\sum_{i=1}^n (x_i-\mu) = \overline{x} – \mu
\end{align}

簡単な計算により$0 < \lambda < \overline{x} - \mu$のとき$l > 0$であること, $ \overline{x} – \mu < \lambda $のとき$l < 0$であることから,$l$を最大化する$\lambda=\hat{\lambda}$は,
\begin{align} \hat{\lambda} = \overline{X} - \mu\label{eq-6b2-3} \end{align}
$\eqref{eq-6b2-2} , \eqref{eq-6b2-3}$を合わせて,$\mu,\lambda$の最尤推定量は
\begin{align} \hat{\mu} = X_{(1)} , \quad \hat{\lambda} = \overline{X}-X_{(1)} \end{align}
となる.