9  Centrálna limitná veta

Normálne rozdelenie hrá prekvapivo dôležitú úlohu v teórii pravdepodobnosti a v štatistike. Ukazuje sa, že aritmetický priemer z nezávislých, ale rovnako rozdelených náhodných premenných, pokiaľ je počítaný z dostatočne veľkého množstva premenných, sa správa ako normálne rozdelená náhodná premenná.

9.1 Konvergencia podľa distribúcie

V minulej kapitole sme si predstavili jeden zo spôsobov, ako sa môže postupnosť náhodných premenných blížiť k nejakej náhodnej premennej, konkrétne konvergenciu podľa pravdepodobnosti. Existuje aj iný spôsob. Niekedy chceme uvažovať situáciu, že pravdepodobnostné správnanie prvkov postupnosti náhodných premenných sa stále viacej a viacej podobá na pravdepodobnostné správanie akejsi limitnej náhodnej premennej.

Hovoríme, že postupnosť náhodných premenných $\{X_i{\}}_{i=1}^{\mathrm{\infty }}$ konverguje podľa distribúcie k náhodnej premennej $X$, ak platí pre všetky body $x$ spojitosti funkcie $F_X$:

$$\underset{n\to \mathrm{\infty }}{lim}{F}_{X_n}(x)=F_X(x),$$ Označujeme $X_n{\to }_{D}X.$

Platí $$X_n{\to }_{P}X⟹X_n{\to }_{D}X.$$

Dôkaz. Nakoľko platí $\{X_n\le x\}\subset \{X\le x+ϵ\}\cup \{|X-X_n|>ϵ\}$ (lebo ak platí $X_n\le x$ a $X>x+ϵ$, potom nutne aj $|X-X_n|>ϵ$), dostávame: $$\begin{array}{rcl}P(X_n\le x)& \le & P(X\le x+ϵ)+P(|X_n-X|>ϵ).\end{array}$$ Podobnou úvahou dostaneme

$$\begin{array}{rcl}P(X\le x-ϵ)& \le & P(X_n\le x)+P(|X_n-X|>ϵ).\end{array}$$

Preto platí

$$P(X\le x-ϵ)-P(|X_n-X|>ϵ)\le P(X_n\le x)\le P(X\le x+ϵ)+P(|X_n-X|>ϵ).$$

Ak aplikujeme operátor limity na tieto nerovnosti, spolu s využitím definície konvergencie podľa pravdepodobnosti dostávame

$$F_X(x-ϵ)\le \underset{n\to \mathrm{\infty }}{lim}P(X_n\le x)\le F_X(x+ϵ),$$ a tieto nerovnosti platia pre akékoľvek $ϵ.$

V bode spojitosti $F_X$ platí $\underset{ϵ\to 0}{lim}{F}_X(x-ϵ)=\underset{ϵ\to 0}{lim}{F}_X(x+ϵ)=F_X(x),$ a preto $\underset{n\to \mathrm{\infty }}{lim}P(X_n\le x)=F_X(x)$, čo sme chceli ukázať.

9.2 Centrálna limitná veta

Majme postupnosť nezávislých a rovnako rozdelených náhodných premenných $X_1,X_2,X_3,\dots$ s konečnou strednou hodnotou $\mu$ a konečnou varianciou ${\sigma }^2.$ Potom platí

$$\sqrt{n}\frac{{\overline{X}}_n-\mu }{\sigma }{\to }_{D}Z,$$

kde $Z\sim \text{N}(0,1).$

Alternatívnym zápisom je, že ak označíme $Y_n=\sqrt{n}\frac{{\overline{X}}_n-\mu }{\sigma },$ potom

$$\mathrm{\forall }x\in \mathbb{R}:\underset{n\to \mathrm{\infty }}{lim}{F}_{Y_n}(x)=\mathrm{\Phi }(x).$$

Dôkaz je nad rámec tohoto kurzu, a preto ho vynechávame.

Tu je ilustrácie pre rovnomerné rozdelenie. Ide o obrázky odhadov funkcie hustoty. Napriek veľkému množstvu simulácií nie sú úplne hladké, viacej o takýchto odhadoch hustôt sa naučíme na druhom kurze regresie.

Tu pre exponenciálne rozdelenie:

A tu pre binomické rozdelenie:

Toto má dôležité praktické dôsledky. My vôbec nemusíme vedieť, aké má nejaká náhodná pravdepodobnostné rozdelenie. Ale vieme, že priemer nezávislých náhodných premenných sa už bude správať systematicky(!). Toto je veľmi všeobecný výsledok. Na tomto poznatku je založených mnoho štatistických testov.

Príklad 9.1 Hádžeme férovou kockou 900 krát. Ideme aproximovať pravdepodobnosť, že uvidíme viacej ako 495 hláv. Každý hod mincou $X_i\sim \text{Bern}(0.5)$ a $\text{E}[X_i]=0.5,\text{Var}[X_i]=0.25.$

Preto

$$\begin{array}{rcl}P(\sum _{i=1}^{900}{X}_i>495)& =& P(\frac{\sum _{i=1}^{900}{X}_i}{900}>\frac{495}{900})\\ & =& P({\overline{X}}_n-0.5>\frac{495}{900}-0.5)\\ & =& P(\frac{{\overline{X}}_n-0.5}{0.5}>\frac{\frac{495}{900}-0.5}{0.5})\\ & =& P(\sqrt{900}\frac{{\overline{X}}_n-0.5}{0.5}>\sqrt{900}\frac{\frac{495}{900}-0.5}{0.5})\\ & =& P(\sqrt{900}\frac{{\overline{X}}_n-0.5}{0.5}>30\frac{\frac{495}{900}-0.5}{0.5})\\ & =& P(\sqrt{900}\frac{{\overline{X}}_n-0.5}{0.5}>3)\\ & \approx & 1-\mathrm{\Phi }(3)=0.0013\end{array}$$

Princíp výpočtu takýchto aproximácií je vždy rovnaký. Začneme s tým, čo chceme vypočítať a ekvivalentnými úpravami to prevedieme na formuláciu CLV.

Príklad 9.2 Majme nezávislé $X_1,X_2,\cdots X_{12}$ kde $X_i\sim \text{Unif}[0,1].$ Pomocou CLV aproximujte $P(|{\overline{X}}_n-0.5|\le 0.1).$ $$\begin{array}{rcl}P(|{\overline{X}}_n-0.5|\le 0.1)& =& P(\sqrt{12}({\overline{X}}_n-0.5)|\le \sqrt{12}\cdot 0.1)\\ & =& P(\left|\sqrt{12}\frac{{\overline{X}}_n-0.5}{\sqrt{\frac{1}{12}}}\right|\le \sqrt{12}\frac{0.1}{\sqrt{\frac{1}{12}}})\\ & =& P(\left|\sqrt{12}\frac{{\overline{X}}_n-0.5}{\sqrt{\frac{1}{12}}}\right|\le 1.2)\\ & \approx & \mathrm{\Phi }(1.2)-\mathrm{\Phi }(-1.2)=0.7698.\end{array}$$

Využili sme skutočnosť, že $\sqrt{n}\frac{{\overline{X}}_n-\mu }{\sigma }$ je približne normovane normálne rozdelená náhodná premenná ($\text{N}(0,1)$).

9.3 Cvičenia

Cvičenie 9.1 Majme postupnosť nezávislých a rovnako rozdelených náhodných premenných $X_1,X_2,X_3,\cdots$, kde $X_1\sim \text{Exp}(1).$

Aké veľké musí byť $n$ aby platilo $P(0.9\le {\overline{X}}_n\le 1.1)\ge 0.9$ ?

Cvičenie 9.2 Výťah unesie 4tony nákladu. Majme 100 krabíc, každá s priemernou váhou 39kg a so smerodajnou odchýlkou 2kg. Aproximujte pravdepodobnosť, že výťah bude preťažený.

Cvičenie 9.3 Majme postupnosť nezávislých a rovnako rozdelených náhodných premenných $X_1,X_2,X_3,\cdots$, kde $\text{E}[X_1]=200,\text{Var}[X_1]=40,n=100.$

Aproximujte pomocou CLV hodnotu $P(190\le {\overline{X}}_n\le 210)$.