チェビシェフの不等式
マルコフの不等式
チェビシェフの不等式の前に、まず、マルコフの不等式を説明します。
定理（マルコフの不等式）
\(X\) を非負の値を取る確率変数とする。このとき、任意の \(a\gt0\) に対して
\[
P(X\ge a)\le\frac{E[X]}{a}
\]
が成り立つ。
証明
\(X\) は連続型確率変数とし、その確率密度関数を \(f(x)\) とする。
\[
\begin{align}
E[X]&=\int_0^\infty xf(x)dx\\
&=\int_0^a xf(x)dx+\int_a^\infty xf(x)dx\\
&\ge\int_a^\infty xf(x)dx \quad \left(\because \int_0^a xf(x)dx\ge0\right)\\
&\ge\int_a^\infty af(x)dx \quad (\because x\ge a)\\
&=a\int_a^\infty f(x)dx\\
&=aP(X\ge a)
\end{align}
\]
したがって
\[
E[X]\ge aP(X\ge a)
\]
\(a\gt0\) であるから
\[
P(X\ge a)\le\frac{E[X]}{a}
\]
が成り立つ。
例えば、ある非負の確率変数 \(X\) に対して、\(P(X\ge20)\) が知りたいとします。
しかし、\(X\) が従う確率分布がわかりません。
一方で、期待値 が \(E[X]=5\) とわかっていれば、マルコフの不等式より
\[
P(X\ge20)\le\frac{E[X]}{20}=\frac{5}{20}=\frac{1}{4}=0.25
\]
のように、\(X\) が \(20\) 以上の値を取る確率は \(25\%\) 以下であると評価できます。
このように、マルコフの不等式は、分布がわからなくても期待値がわかれば、確率をざっくり上から見積もることができます。
チェビシェフの不等式
定理（チェビシェフの不等式）
\(X\) を \(\mu=E[X]\) と \(\sigma^2=V[X]\) がいずれも有限な確率変数とする。このとき、任意の \(k\gt0\) に対して
\[
P(|X-\mu|\ge k\sigma)\le\frac{1}{k^2}
\]
が成り立つ。
証明
\((X-\mu)^2\ge0\) と \(k^2\sigma^2\gt0\) に対して、マルコフの不等式より
\[
\begin{align}
P((X-\mu)^2\ge k^2\sigma^2)
&\le\frac{E[(X-\mu)^2]}{k^2\sigma^2}\\
&=\frac{V[X]}{k^2\sigma^2}\\
&=\frac{\sigma^2}{k^2\sigma^2}\\
&=\frac{1}{k^2}
\end{align}
\]
したがって
\[
P(|X-\mu|\ge k\sigma)\le\frac{1}{k^2}
\]
が成り立つ。
また、\(\varepsilon=k\sigma\) とおいたもの
\[
P(|X-\mu|\ge \varepsilon)\le\frac{\sigma^2}{\varepsilon^2}
\]
の形もよく用いられます。