$\newcommand{\lnl}{\\[8pt]}$
$\newcommand{\Lnl}{\\[18pt]}$
$\newcommand{\delt}{\mathrm{d}}$
$\newcommand{\comb}{\mathrm{C}}$
$\DeclareMathOperator*{\ssum}{\Sigma}$
$\DeclareMathOperator*{\sprod}{\Pi}$
ある分布に従う確率変数$X$の期待値$\mu$と分散$\sigma^2$がわかっているとき,実現値が期待値の周辺に入る確率を求めたいことがあります.
分布が具体的にわからない場合でもこういう確率を求めるのに使える不等式がチェビシェフの不等式です.
チェビシェフの不等式
確率変数$X$に対して, 期待値$\mu$と分散$\sigma^2$が存在するとします.ある正の実数$a$に対して次の不等式が成り立ちます.
P(|X-\mu| \ge a) \le \frac{\sigma^2}{a^2}
\end{align}
この不等式をチェビシェフの不等式(Chebyshev’s Inequality)といいます.
図で書くと, 下図の緑で塗られた部分の確率が$\cfrac{\sigma^2}{a^2}$以下であるという意味です.
チェビシェフの不等式の別の表現
チェビシェフの不等式は次のような形で用いられることも多いです.
&P(|X-\mu|\ge a\sigma)\le\frac{1}{a^2}\lnl
&P(|X-\mu|< a\sigma) \ge 1-\frac{1}{a^2}
\end{align}
ジャンセンの不等式
確率変数$X$の期待値が存在し, 区間$I$に対して$P( X \in I) = 1$を満たすとします.$h$を区間$I$で凸な関数としたとき,
h\big(E(X)\big) \le E\big(h(X)\big)
\end{align}
が成り立ちます.これをジャンセンの不等式(Jensen’s Inequality)といいます.
ジャンセンの不等式の例
$P(X>0)=1$となる確率変数$X$があり,期待値$E(X)$が存在するとします.
$h(x) = \cfrac{1}{x}$とすると, 区間$(0,\infty)$で$h$は凸だから,
\frac{1}{E(X)} < E\left(\frac{1}{X}\right)
\end{align}
また,$g(x) = \log x$とすると,同様に区間$(0,\infty)$で$g$は凸だから,
E(\log X) < \log E(X)
\end{align}
が成り立ちます.
シュワルツの不等式
確率変数$X,Y$があり, $E\left(X^2\right) , E\left(Y^2\right)$が存在するとき,
\Big(E(XY)\Big)^2 \le E\left(X^2\right)E\left(Y^2\right)
\end{align}
が成り立ちます.等号はある実数$t$が存在し$P(X=tY)=1$となるときに成立します.
この不等式をシュワルツの不等式(Schwarz’s Inequality)といいます.