チェビシェフの不等式

マルコフの不等式

チェビシェフの不等式の前に、まず、マルコフの不等式を説明します。

定理（マルコフの不等式）

\(X\) を非負の値を取る確率変数とする。このとき、任意の \(a\gt0\) に対して

\[ P(X\ge a)\le\frac{E[X]}{a} \]

が成り立つ。

証明

\(X\) は連続型確率変数とし、その確率密度関数を \(f(x)\) とする。

\[ \begin{align} E[X]&=\int_0^\infty xf(x)dx\\ &=\int_0^a xf(x)dx+\int_a^\infty xf(x)dx\\ &\ge\int_a^\infty xf(x)dx \quad \left(\because \int_0^a xf(x)dx\ge0\right)\\ &\ge\int_a^\infty af(x)dx \quad (\because x\ge a)\\ &=a\int_a^\infty f(x)dx\\ &=aP(X\ge a) \end{align} \]

したがって

\[ E[X]\ge aP(X\ge a) \]

\(a\gt0\) であるから

\[ P(X\ge a)\le\frac{E[X]}{a} \]

が成り立つ。

例えば、ある非負の確率変数 \(X\) に対して、\(P(X\ge20)\) が知りたいとします。
しかし、\(X\) が従う確率分布がわかりません。
一方で、期待値が \(E[X]=5\) とわかっていれば、マルコフの不等式より

\[ P(X\ge20)\le\frac{E[X]}{20}=\frac{5}{20}=\frac{1}{4}=0.25 \]

のように、\(X\) が \(20\) 以上の値を取る確率は \(25\%\) 以下であると評価できます。

このように、マルコフの不等式は、分布はわからないが期待値がわかっているとき、確率をざっくり上から見積もることができます。

チェビシェフの不等式

定理（チェビシェフの不等式）

\(X\) を \(\mu=E[X]\) と \(\sigma^2=V[X]\) がいずれも有限な確率変数とする。このとき、任意の \(k\gt0\) に対して

\[ P(|X-\mu|\ge k\sigma)\le\frac{1}{k^2} \]

が成り立つ。

また、\(\varepsilon=k\sigma\) とおいたもの

\[ P(|X-\mu|\ge \varepsilon)\le\frac{\sigma^2}{\varepsilon^2} \]

の形もよく用いられます。