Центральная предельная теорема

Форма случайных колебаний

Центральная предельная теорема описывает не исчезновение случайности, а форму колебаний суммы вокруг её среднего. В классической версии величины независимы, одинаково распределены и имеют конечную положительную дисперсию. Из суммы вычитают $n\mu$ и делят на $\sigma\sqrt n$. Распределение полученного $Z_n$ приближается к стандартному нормальному при росте $n$.

Точнее, для каждого фиксированного $z$ вероятность $P(Z_n\le z)$ стремится к $\Phi(z)$ — функции стандартного нормального распределения. Это сходимость по распределению, а не утверждение, что каждая величина в сумме становится нормальной.

Среднее и сумма

У суммы ожидание $n\mu$ и дисперсия $n\sigma^2$. У среднего ожидание $\mu$ и дисперсия $\sigma^2/n$. Поэтому для среднего стандартизация имеет вид $(\bar X-\mu)/(\sigma/\sqrt n)$. Закон больших чисел объясняет концентрацию среднего, а ЦПТ — форму и масштаб остающихся отклонений.

Три примера

1. Для независимых индикаторов с $p=0.5$ и $n=100$ число успехов имеет среднее 50 и стандартное отклонение 5. Значение 60 соответствует стандартизованному отклонению $(60-50)/5=2$.
2. Если отдельные измерения имеют среднее 10 и дисперсию 9, среднее 36 независимых одинаково распределённых измерений имеет стандартное отклонение $3/6=0.5$.
3. Если сами $X_i$ нормальны и независимы, стандартизованная сумма нормальна точно при любом $n$. Для других распределений нормальная форма в общем случае лишь приближение.

Условия и ловушки

Правило «достаточно 30 наблюдений» не является универсальной теоремой: точность зависит от формы закона, хвостов и выбранной вероятности. При бесконечной дисперсии эта версия неприменима; при зависимости нужны другие условия. Для дискретных сумм поправка на непрерывность может улучшить приближение, но не превращает его в точный ответ. Нормальное приближение не оправдывает использование смещённой выборки.