Теорема Бернулли о частоте

Частота приближается к вероятности

Теорема Бернулли — частный случай закона больших чисел для индикаторов успеха. В независимой серии с постоянной вероятностью $p$ относительная частота $S_n/n$ сходится к $p$ по вероятности. Это означает: для любого заранее выбранного положительного допуска вероятность выйти за этот допуск стремится к нулю.

Утверждение не требует, чтобы частота приближалась к $p$ монотонно, и не обещает точного равенства при конечном числе опытов. Прибавление одного результата может как уменьшить, так и увеличить текущее отклонение.

От дисперсии к оценке

Для одного индикатора ожидание $p$, дисперсия $p(1-p)$. Независимость даёт $\operatorname{Var}(S_n/n)=p(1-p)/n$. Неравенство Чебышёва ограничивает вероятность ошибки не меньше $\varepsilon$ числом $p(1-p)/(n\varepsilon^2)$. Поскольку $p(1-p)\le1/4$, существует и универсальная граница $1/(4n\varepsilon^2)$.

Три примера

1. При $p=0.5$, $n=1000$ и допуске 0.1 вероятность отклонения не менее 0.1 не больше $0.25/(1000\cdot0.01)=0.025$.
2. Не зная $p$, для допуска 0.05 и верхней границы ошибки 0.1 достаточно $n\ge1/(4\cdot0.05^2\cdot0.1)=1000$ испытаний.
3. При $p=0.2$ частота после 10 опытов может быть 0.2, а после следующего успеха — $3/11$. Она отдалилась от вероятности; это не противоречит теореме.

Границы вывода

Полученные оценки достаточны и часто консервативны: реальный необходимый объём может быть меньше. Если условия меняются или испытания зависимы, приведённое доказательство неприменимо. Сходимость по вероятности — утверждение о вероятности отклонений, а не гарантия заранее выбранной траектории. Более сильное почти наверное утверждение требует отдельной формулировки.