3.3 Sentralgrenseteoremet og normaltilnærming

$$\hat{p} \ \approx\ N\!\left(p,\ \frac{p(1-p)}{n}\right), \qquad X \ \approx\ N\big(np,\ np(1-p)\big).$$

Andelen har altså standardfeil $\sqrt{p(1-p)/n}$. Dette lar oss regne halesannsynligheter for $\hat{p}$ med $\Phi$-tabellen i stedet for tunge binomiske summer.

$$np \ge 5 \quad \text{og} \quad n(1-p) \ge 5$$

(noen bøker bruker $\ge 10$). Skriv alltid ut denne sjekken før du tilnærmer — det er en fast del av fasiten. Er begge store nok, er normaltilnærmingen god; er én av dem liten, er fordelingen for skjev, og du bør regne eksakt binomisk i stedet.

$$X \ \approx\ N(\lambda t,\ \lambda t).$$

Dette følger av CLT fordi en Poisson over et langt intervall kan ses som en sum av mange uavhengige Poisson-bidrag over småintervaller.

$$P(X \le k) \approx \Phi\!\left(\frac{k + 0{,}5 - \mu}{\sigma}\right), \qquad P(X \ge k) \approx 1 - \Phi\!\left(\frac{k - 0{,}5 - \mu}{\sigma}\right).$$

Den betyr mest når $n$ (eller $\lambda t$) er moderat. For en andel $\hat{p}$ dropper vi den vanligvis. Sjekk hva oppgaven ber om — mange eksamensoppgaver godtar svar både med og uten korreksjonen.

For iid $X_1, \ldots, X_n$ med forventning $\mu$ og endelig varians $\sigma^2$ er gjennomsnittet tilnærmet normalt for stor $n$: $\bar{X} \approx N(\mu, \sigma^2/n)$, ekvivalent $\displaystyle \frac{\bar{X} - \mu}{\sigma/\sqrt{n}} \approx N(0,1)$. Fordelingen til de enkelte $X_i$ spiller ingen rolle — bare de tre forutsetningene.

«iid» betyr at variablene er uavhengige av hverandre og har samme fordeling (samme $\mu$ og $\sigma^2$). Dette er standardmodellen for et tilfeldig utvalg fra en populasjon, og det er nettopp iid-antagelsen CLT hviler på.

CLT krever: (1) uavhengige bidrag, (2) identisk fordeling, (3) endelig varians $\sigma^2 < \infty$. Utelater du én av dem i en formulering, er svaret ufullstendig hos sensor. Punkt (3) utelukker fordelinger med «uendelig» varians (visse tunge haler).

CLT uttrykkes oftest på standardisert form: $Z = \dfrac{\bar{X} - \mu}{\sigma/\sqrt{n}}$ er tilnærmet $N(0,1)$. Nevneren $\sigma/\sqrt{n}$ er standardfeilen. Denne formen er direkte klar for tabelloppslag og er grunnmuren i konfidensintervall for $\mu$.

En binomisk andel $\hat{p} = X/n$ er tilnærmet $N(p, p(1-p)/n)$ for stor $n$. Standardfeilen er $\sqrt{p(1-p)/n}$. Dette er grunnlaget for meningsmålinger og andelstester senere i boka.

Samme fenomen, to skalaer: antallet $X \approx N(np, np(1-p))$, mens andelen $\hat{p} = X/n \approx N(p, p(1-p)/n)$. Velg den skalaen oppgaven bruker, og pass på at standardfeilen matcher (dividert på $n$ for andelen, ikke for antallet).

Før du tilnærmer en binomisk med normal: sjekk $np \ge 5$ og $n(1-p) \ge 5$ (noen krever $\ge 10$). For Poisson: $\lambda t \ge 15$. Er kravet brutt, er fordelingen for skjev, og tilnærmingen upålitelig — regn eksakt i stedet.

For stor $\lambda t$ er $X \sim \text{Poisson}(\lambda t)$ tilnærmet $N(\lambda t, \lambda t)$ — forventning og varians er begge $\lambda t$. Nyttig når direkte oppslag i Poisson-tabellen blir upraktisk for store rater.

Når en heltallig variabel tilnærmes med en kontinuerlig normal, justeres grensen med $\pm 0{,}5$: $P(X \le k) \approx \Phi((k + 0{,}5 - \mu)/\sigma)$. Korreksjonen forbedrer tilnærmingen mest ved moderat $n$ eller $\lambda t$; for andeler droppes den vanligvis.

For store utvalg er sannsynlighetsmaksimeringsestimatorer (ML-estimatorer) tilnærmet normalfordelte rundt den sanne parameterverdien. Dette er en generalisering av CLT-ideen og gjør det mulig å lage konfidensintervall og tester for nesten hvilken som helst parameter (brukes i senere i boka (punktestimeringsdelen)).

CLT gjelder i grensen $n \to \infty$; for endelig $n$ er den upålitelig ved (i) liten $n$, (ii) sterkt skjev underliggende fordeling, eller (iii) $p$ nær 0/1. Da trengs eksakte metoder — for eksempel kjikvadrat-KI for varians (kjikvadrat-KI-et senere i boka) i stedet for normaltilnærming.