5.3 Asymptotisk normalitet og deltametoden

ML-estimatorens tilnærmede normalfordeling og feilforplantning gjennom deriverte — de nye 2024-sjangrene.

45 min

9 oppgaver

Asymptotisk normalitetdeltametoden

Din fremgang i kapitlet

0 / 9 oppgaver

Kapitlets plass i kurset

Bygger på

5.2Maximum likelihood: utledningen som alltid kommer 3.3Sentralgrenseteoremet og normaltilnærming

Brukes videre i

5.4Drill: ML-utledning med estimatorvurdering (sjanger G)9.2Monte Carlo som inferensverktøy: simulert sannsynlighet, p-verdi og styrke

De nye 2024-sjangrene i punktestimering — det som skiller en A-besvarelse.

- Asymptotisk normalitet for ML ble spurt eksplisitt i Des23 (oppgave 3b): formuler at ML-estimatoren er tilnærmet normal og bruk det.
- Deltametoden (feilforplantning gjennom en funksjon) er en ny sjanger fra 2024 — Mai24 (Darcy-Weisbach-ligningen) og Des25 (halveringstid fra en regresjonshelning). Mai24 kombinerte deltametoden med en simuleringskontroll (kobling til kap. 9.2).
- Prioritet: kjenne (nivå 3) — men det er nettopp slike punkter som differensierer toppkarakterene. Sannsynlig gjenbruk.

Dette er den avledede delen av sjanger G («sjanger G» = oppgaven der du utleder en estimator og vurderer den; her regner vi videre på en funksjon av estimatoren). Utledningen av at ML er asymptotisk normal kreves ikke — du skal kunne bruke resultatet. Deltametoden derimot brukes aktivt: identifiser funksjonen, deriver, sett inn.

Forkunnskaper: Du må ha ML-estimatorene fra kap. 5.2 (spesielt

\hat{\beta}=\bar{X}

og invariansprinsippet

\widehat{g(\theta)}=g(\hat{\theta})

) og sentralgrenseteoremet fra kap. 3.3 — det er CLT som gjør at

\bar{X}

(og dermed mange ML-estimatorer) er tilnærmet normale for stor

n

. Fra kap. 5.1 trenger du

\text{Var}(\bar{X})=\sigma^2/n

Sist du var her (oppfrisket):
$\frac{\bar{X}-\mu}{\sigma/\sqrt{n}}\ \text{tilnærmet}\ N(0,1)\quad(\text{CLT}), \qquad \hat{\beta}=\bar{X}\ \text{med}\ E(\bar{X})=\beta,\ \text{Var}(\bar{X})=\frac{\beta^2}{n}.$

Fra matematikken trenger du å derivere en funksjon $g$ i ett punkt. Et førsteordens Taylor-ledd ( $g(\hat{\theta})\approx g(\mu)+g'(\mu)(\hat{\theta}-\mu)$ ) er hele det teoretiske verktøyet. Kapitlet er forkunnskap for normaltilnærmet KI i Del 6 og for simuleringskontroll i Del 9.

To ting kan gjøres med en ferdig ML-estimator. For det første: hvordan er den fordelt? For stor $n$ er svaret nesten alltid «tilnærmet normal» — det gir oss et raskt, normaltilnærmet konfidensintervall (løkke 1). For det andre: hva om vi egentlig er interessert i en funksjon av parameteren — halveringstiden $\ln 2/k$ i stedet for raten $k$ , eller strømningen som avhenger av flere målte størrelser? Da forplanter usikkerheten seg gjennom funksjonen, og deltametoden gir en tilnærmet varians for den avledede størrelsen (løkke 2 for én variabel, løkke 3 for flere).

Hverdagsanker: måler du en rate med litt usikkerhet og regner ut halveringstiden fra den, arver halveringstiden usikkerhet — men hvor mye? Deltametoden svarer ved å gange variansen med kvadratet av stigningstallet til funksjonen i punktet.

Samlet kjernetid ≈ 45 min. Naturlige pausepunkter er markert mellom løkkene.

Løkke 1 — Asymptotisk normalitet og normaltilnærmet KI (~16 min)

ML-estimatoren er asymptotisk normal

n

Normaltilnærmet konfidensintervall

\hat{\theta}

✏️Eksempel 1: normaltilnærmet KI for $\beta$

Levetiden til $n=20$ pumper er eksponensialfordelt med ukjent forventning $\beta$ , og gjennomsnittet er $\bar{x}=8$ år. Bruk at $\hat{\beta}=\bar{X}$ er tilnærmet $N(\beta,\beta^2/n)$ til å lage et tilnærmet 95 % konfidensintervall for $\beta$ .

ML-estimatet er

\hat{\beta}=\bar{x}=8

. Standardfeilen (med

\hat{\beta}

satt inn for

\beta

\text{SE}(\hat{\beta})=\frac{\hat{\beta}}{\sqrt{n}}=\frac{8}{\sqrt{20}}=\frac{8}{4{,}472}=1{,}789.

95 %-intervallet bruker $z_{0{,}025}=1{,}96$ :
$8\ \pm\ 1{,}96\cdot 1{,}789 = 8\ \pm\ 3{,}506,$
altså tilnærmet $[4{,}49,\ 11{,}51]$ år.

Kommentar: intervallet er bredt fordi $n=20$ er relativt lite; da er det eksakte $\chi^2_{40}$ -intervallet (kap. 6.2) å foretrekke. Med større $n$ blir normaltilnærmingen god og de to intervallene nærmer seg hverandre.

📝Oppgave 1

(Innstegsoppgave.) En ML-estimator $\hat{\theta}$ har $\hat{\theta}=50$ og standardfeil $\text{SE}(\hat{\theta})=4$ , og er tilnærmet normalfordelt.

a) Hvilken $z$ -kvantil bruker du til et 95 % konfidensintervall?

b) Sett opp det tilnærmede 95 %-intervallet.

📝Oppgave 2

Ventetider mellom feil på et kretskort er eksponensialfordelte med forventning $\beta$ . Med $n=25$ målinger er $\bar{x}=12$ timer.

a) Oppgi den tilnærmede fordelingen til $\hat{\beta}=\bar{X}$ .

b) Lag et tilnærmet 90 % konfidensintervall for $\beta$ (bruk $z_{0{,}05}=1{,}645$ ).

— naturlig pausepunkt —

Løkke 2 — Deltametoden for én variabel (~17 min)

Deltametoden (én variabel)

g(\theta)

Arbeidsflyten (fire steg)

1. Identifiser $g$ — hvilken funksjon av parameteren spør oppgaven om? (halveringstid, hale-sannsynlighet, areal, …)

2. Deriver $g'(\theta)$ .

3. Sett inn i formelen: $[g'(\mu)]^2\,\text{Var}(\hat{\theta})$ , evaluert i forventningen (bruk estimatet hvis den sanne verdien er ukjent).

4. Tolk usikkerheten — oppgi standardfeilen $\sqrt{\text{Var}(g(\hat{\theta}))}$ og eventuelt et tilnærmet intervall.

Kobling: en Monte Carlo-simulering (kap. 9.2) kan kontrollere delta-svaret — trekk mange $\hat{\theta}$ -verdier, regn $g(\hat{\theta})$ og sammenlign den empiriske variansen med delta-formelen.

✏️Eksempel 2: halveringstid fra en estimert rate

En nedbrytningsrate $k$ (per døgn) estimeres med $\hat{k}$ , som har forventning $E(\hat{k})=k=0{,}03$ og varians $\text{Var}(\hat{k})=v=0{,}0001$ . Halveringstiden er $T=\dfrac{\ln 2}{k}$ . Bruk deltametoden til å finne en tilnærmet varians (og standardfeil) for $\hat{T}=\dfrac{\ln 2}{\hat{k}}$ .

Steg 1 — identifiser $g$ .

g(k)=\dfrac{\ln 2}{k}=\ln 2\cdot k^{-1}

Steg 2 — deriver. $g'(k)=-\ln 2\cdot k^{-2}=-\dfrac{\ln 2}{k^2}$ .

Steg 3 — sett inn (evaluert i $k=0{,}03$ ):
$\text{Var}(\hat{T})\approx [g'(k)]^2\,v = \left(\frac{\ln 2}{k^2}\right)^2 v = \frac{(\ln 2)^2}{k^4}\,v.$
Tallverdier: $(\ln 2)^2=0{,}4805$ , $k^4=(0{,}03)^4=8{,}1\cdot 10^{-7}$ , så
$\text{Var}(\hat{T})\approx \frac{0{,}4805\cdot 0{,}0001}{8{,}1\cdot 10^{-7}} \approx 59{,}3.$

Steg 4 — tolk. Standardfeilen er $\sqrt{59{,}3}\approx 7{,}70$ døgn. Til sammenligning er selve halveringstiden $T=\ln 2/0{,}03\approx 23{,}1$ døgn, så usikkerheten er betydelig (≈ 33 % av verdien). Fortegnet på $g'$ spiller ingen rolle — det kvadreres bort.

📝Oppgave 3

En rate $\theta$ estimeres med $\hat{\theta}$ , som har forventning $\mu=5$ og varians $\text{Var}(\hat{\theta})=0{,}04$ . Vi er interessert i $g(\theta)=\theta^2$ .

a) Finn $g'(\theta)$ .

b) Bruk deltametoden til å finne den tilnærmede variansen til $\hat{\theta}^2$ .

c) Oppgi standardfeilen.

📝Oppgave 4

Levetiden til en komponent er eksponensialfordelt med forventning $\beta$ , og $\hat{\beta}=\bar{X}$ har $\text{Var}(\hat{\beta})=\beta^2/n$ . Vi vil estimere pålitelighetstallet $R=P(X>t)=e^{-t/\beta}$ for en fast tid $t$ .

a) Skriv $R$ som en funksjon $g(\beta)$ og finn $g'(\beta)$ .

b) Bruk deltametoden til å finne $\text{Var}(\hat{R})$ uttrykt ved $\beta$ , $t$ og $n$ .

c) Regn ut $\hat{R}$ og standardfeilen når $t=10$ , $\hat{\beta}=8$ og $n=20$ .

— naturlig pausepunkt —

Løkke 3 — Deltametoden for flere variable (~12 min)

Deltametoden for flere uavhengige variable

g(X,Y)

✏️Eksempel 3: areal fra to uavhengige målinger

Et rektangulært panel har målt bredde $X$ og høyde $Y$ , uavhengige, med $\mu_X=8$ , $\text{Var}(X)=0{,}25$ , $\mu_Y=5$ , $\text{Var}(Y)=0{,}16$ (alt i cm og cm $^2$ ). Arealet er $A=XY$ . Finn en tilnærmet varians og standardfeil for $\hat{A}=XY$ .

Identifiser $g$ og deriver.

g(x,y)=xy

, så

\dfrac{\partial g}{\partial x}=y

\dfrac{\partial g}{\partial y}=x

Sett inn i forventningene $(\mu_X,\mu_Y)=(8,5)$ : $g_x=\mu_Y=5$ og $g_y=\mu_X=8$ . Da
$\text{Var}(\hat{A})\approx \mu_Y^2\,\text{Var}(X)+\mu_X^2\,\text{Var}(Y)=5^2\cdot 0{,}25 + 8^2\cdot 0{,}16 = 6{,}25 + 10{,}24 = 16{,}49.$

Tolk. Standardfeilen er $\sqrt{16{,}49}\approx 4{,}06$ cm $^2$ , mens selve arealet er $A=8\cdot 5=40$ cm $^2$ — en relativ usikkerhet på ≈ 10 %. Merk hvordan begge målingene bidrar: høydens usikkerhet ( $10{,}24$ ) veier tyngst her fordi bredden $\mu_X=8$ forsterker den.

📝Oppgave 5

En strømningsrate estimeres som forholdet $R=\dfrac{V}{T}$ mellom målt volum $V$ og målt tid $T$ , uavhengige, med $\mu_V=100$ , $\text{Var}(V)=4$ , $\mu_T=20$ , $\text{Var}(T)=1$ .

a) Finn de partiellderiverte av $g(v,t)=v/t$ .

b) Bruk deltametoden til å finne $\text{Var}(\hat{R})$ .

c) Oppgi $\hat{R}$ og standardfeilen.

Typiske feil

- Glemme kvadratet på den deriverte. Deltametoden er $\text{Var}(g(\hat{\theta}))\approx[g'(\mu)]^2\text{Var}(\hat{\theta})$ — den deriverte kvadreres. Uten kvadrat får du feil enhet og feil tall.
- Evaluere $g'$ i en observasjon i stedet for i forventningen. $g'$ settes inn i parameterverdien $\mu=E(\hat{\theta})$ (eller estimatet hvis den er ukjent), ikke i en enkelt $x_i$ .
- Derivere med hensyn på feil variabel. Sjekk hva funksjonen faktisk avhenger av — deriver mhp. parameteren, ikke mhp. tiden $t$ eller en annen konstant.
- Bruke deltametoden når en eksakt fordeling finnes og etterspørres. Deltametoden er en tilnærming. Ber oppgaven om et eksakt intervall (f.eks. via $\chi^2_{2n}$ ), bruk det — ikke delta.
- Glemme å legge sammen leddene i flervariabel-formen. For uavhengige $X,Y$ summeres $g_x^2\text{Var}(X)$ og $g_y^2\text{Var}(Y)$ ; hopp ikke over det ene bidraget.
- Tro at et bredt normaltilnærmet KI er «feil». Ved liten $n$ er det bare mindre presist enn det eksakte $\chi^2$ -intervallet; det er en tilnærming, ikke en feil.

Begrepsbank til eksamen

Asymptotisk normalitet og deltametodens formler, i kortform.

Begrepsbanken er flashcard-/repetisjonsstoff — den gjentar det du nettopp har lest. Hopp trygt over ved førstegangslesing; tidsanslaget gjelder kjernestoffet.

Resultatkort: ML asymptotisk normal

n

Formelkort: normaltilnærmet KI

\hat{\theta}\pm z_{\alpha/2}\,\text{SE}(\hat{\theta})

Formelkort: deltametoden (én variabel)

\text{Var}(g(\hat{\theta}))\approx[g'(\mu)]^2\text{Var}(\hat{\theta})

Formelkort: deltametoden (flere variable)

X,Y

Oppskriftskort: deltametodens arbeidsflyt

g

Feilkort: de to delta-fellene

g'

Repetisjonsoppgaver

Din fremgang

0 / 4 oppgaver

Symbol- og formelliste

Dette kapitlet er skrevet av Anthropics toppmodeller (Claude Opus og Claude Fable) og er foreløpig ikke manuelt gjennomgått — kvalitetskontrollen gjøres av uavhengige KI-agenter, og innmeldte feil rettes fortløpende. Funnet en feil? Meld fra, så retter vi den. Les mer om hvordan innholdet lages.

Skolesaga er en uavhengig læringsressurs og er ikke tilknyttet eller godkjent av Norges teknisk-naturvitenskapelige universitet. Dette er ikke offisielt studiemateriell. Les mer.