Central Limit Theorem (CLT)

简述

这里记录一些有关于中心极限定理的结论和推导

中心极限定理的简单理解

中心极限定理指的是给定一个任意分布的总体。我每次从这些总体中随机抽取$n$个抽样，一共抽$m$次。 然后把这$m$组抽样分别求出平均值。 这些平均值的分布接近正态分布。

Note: 样本均值这一统计量会服从正态分布

标准形式定义

设 $X_{1}, X_{2}, \cdots, X_{n}$ 是一组i.i.d的随机变量，每个随机变量具有有限的数学期望$E [X_{i}] = \mu$ 和有限的方差 $ Var(X_{i})=\sigma^{2}$，当样本量$n$足够大时，样本均值

$$\bar{X}_{n} = \frac{1}{n}\sum^{n}_{i=1}X_{i}$$

的标准形式

$$Z_{n} = \frac{\bar{X}_{n} - \mu}{\frac{\sigma}{\sqrt{n}}}$$

在分布上收敛于标准正态分布，即：

$$Z_{n} \stackrel{d}{\to} {\cal N}(0, 1), \quad s.t. \quad n \to \infty,$$

或者

$$\bar{X}_{n} \approx {\cal N}(\mu, \frac{\sigma^{2}}{n}), \quad s.t. \quad n \to \infty$$