中心極限定理



このページを読む前に(積率母関数)を読んでいただき、モーメント,積率母関数,キュムラント母関数について
$理解を深めてください。$


$高校の統計で、2項分布でnが大きいときは正規分布で近似できる(ド・モアブル、ラプラスの定理)$
$ことを学びますが、これがどんな分布でも正規分布になるという、中心極限定理といわれるもの$
$であることまでは教わりません。大数の法則もそうですが、実に不思議な、感動的な定理です。$
$では、いっしょに考えていきましょう。$


$中心極限定理$
$確率変数X_1,X_2,\cdots ,X_nが互いに独立で、平均\mu,分散\sigma ^2 の同じ分布（正規分布とは限らない)にしたがうとき$

$\qquad \overline{X}=\cfrac{X_1+X_2+\cdots +X_n}{n}\quad は\ \ n \rightarrow \infty \ \ とすると\ N(\mu,\dfrac{\sigma}{\sqrt{n}})\ に近づく。$

$証明$

$X_1,X_2,\cdots ,X_nはすべての次数のモーメントをもつとする。$

$\overline{X}を規格化(基準化)した \ \ Y=\cfrac{\sqrt{n}}{\sigma}(\overline{X}-\mu)の積率母関数　\phi _Y(\theta)を考える。$
$\quad (\mu を引いておくのがうまい手,理由は最後にわかります)$
\begin{eqnarray*} \phi _Y(\theta \ ) &=&E(\ \ e^{\theta Y}\ )\\ \\ &=&E\bigl(\ e^{\dfrac{\theta \sqrt{n}}{\sigma} (\overline{X}-\mu)}\ \bigr)\\ \\ &=&E\bigl(\ e^{\dfrac{\theta}{\sigma \sqrt{n}}(X_1+X_2+\cdots +X_n)-\dfrac{\sqrt{n}\mu \theta }{\sigma}} \ \bigr)\\ \\ &=&e^{- \dfrac{\sqrt{n}\mu \theta}{\sigma}} E\bigl(e^{ \dfrac{1}{\sqrt{n}} ( \dfrac{\theta X_1}{\sigma} +\dfrac{\theta X_2}{\sigma} +\cdots +\dfrac{\theta X_n}{\sigma} ) } \ \bigr)\\ \\ &=&e^{- \dfrac{\sqrt{n}\mu \theta}{\sigma}} E\bigl( \ \ e^{\dfrac{\theta X_1}{\sqrt{n}\sigma}}\ \ \bigr) E\bigl( \ \ e^{\dfrac{\theta X_2}{\sqrt{n}\sigma}} \ \ \bigr) \cdots E\bigl( \ \ e^{\dfrac{\theta X_n}{\sqrt{n}\sigma}}\ \ \bigr)\\ \\ &=&e^{- \dfrac{\sqrt{n}\mu \theta}{\sigma}} \bigl\{\phi\bigl(\dfrac{\theta}{\sqrt{n}\sigma}\bigr)\big\}^n\\ \end{eqnarray*} $キュムラント母関数をとって$
\begin{eqnarray*} \psi _Y(\theta) &=&\log \phi_Y(\theta)\\ &=&n\log \phi\bigl(\cfrac{\theta}{\sqrt{n}\sigma}\bigr)- \cfrac{\sqrt{n}\mu \theta}{\sigma} \\ &=&n \psi \bigl(\cfrac{\theta}{\sqrt{n}\sigma}\bigr)- \cfrac{\sqrt{n}\mu \theta}{\sigma} \\ &=&n\bigl(C_0+C_1\cfrac{\theta}{\sqrt{n}\sigma}+\cfrac{C_2}{2!}\cfrac{\theta ^2}{n\sigma ^2}+ \cfrac{C_3}{3!}\cfrac{\theta ^3}{n^{\frac{3}{2}}\sigma ^3}+\cdots \bigr) -\cfrac{\sqrt{n}\mu \theta}{\sigma} \\ \end{eqnarray*} $ここで、C_0=0,\ \ C_1=\mu ,\ \ c_2=\sigma ^2 \ \ だから$
\begin{eqnarray*} \psi _Y (\theta) &=&\cfrac{\sqrt{n}\mu \theta}{\sigma} +\cfrac{\sigma ^2 \theta ^2}{2!\sigma ^2}+ \cfrac{C_3\theta ^3}{3!\sqrt{n}\sigma ^3}+\cfrac{C_4\theta ^4}{4!n\sigma ^4}+\cdots -\cfrac{\sqrt{n}\mu \theta}{\sigma} \\ \\ &=&\cfrac{\sigma ^2 \theta ^2}{2!\sigma ^2}+ \cfrac{C_3\theta ^3}{3!\sqrt{n}\sigma ^3}+\cfrac{C_4\theta ^4}{4!n\sigma ^4}+\cdots \\ \end{eqnarray*} $n \rightarrow \infty とすると　\psi _Y(\theta)　\rightarrow \ \ \cfrac{\theta ^2}{2} $

$よって \hspace{5em} \phi _Y(\theta)　\rightarrow \ \ e^{\dfrac{\theta ^2}{2}}$

$これは、\mu=0,\ \ \sigma=1 \ \ の正規分布の積率母関数だから、Yの分布は正規分布N(0,1)に近づく。$

$Yは平均 \ \mu, \ 分散 \ \cfrac{\sigma}{\sqrt{n}}\ で規格化されて \ N(0,1)\ に近づくから、\overline{X} \ は \ N(\mu,\cfrac{\sigma}{\sqrt{n}}) \ に近づくことになる。$


$まとめ$

$\overline{X}の分布は、母集団が$
(i)$\ \ \ 正規分布のときは、nの大きさによらず、正規分布となる$ (正規母集団の標本平均を参照)
(ii)$\ \ 正規分布以外の分布のときは、n が十分大きいときは正規分布で近似できる。$




　

ページの先頭へ↑




メインメニュー　に戻る