Tilbake
5.1
Alle fag for Høyskole

5.1 Estimatorer og egenskaper: forventningsretthet, varians og skjevhet

Hva som gjør en estimator god — forventningsretthet, varians og standardfeil — og hvordan skjevhet kvantifiseres og korrigeres.

55 min
12 oppgaver
Estimatoreregenskaperforventningsretthetvariansskjevhet
Din fremgang i kapitlet
0 / 12 oppgaver
Kapitlets plass i kurset
Forkunnskaper: Dette kapitlet bygger på momentregnereglene fra kap. 1.2 og gamma-/Γ-verktøyet fra kap. 2.2.

Sist du var her — de tre grepene du bruker mest:
- Momentregnereglene (kap. 1.2, må sitte utenat): E(aX+bY)=aE(X)+bE(Y)E(aX + bY) = aE(X) + bE(Y) og, for uavhengige XiX_i, Var ⁣(∑aiXi)=∑ai2 Var(Xi)\text{Var}\!\left(\sum a_i X_i\right) = \sum a_i^2\,\text{Var}(X_i). Disse er motoren når vi regner E(θ^)E(\hat\theta) og Var(θ^)\text{Var}(\hat\theta).
- E(Vʳ)-formelen (kap. 2.2): for V∼gamma(α,β)V \sim \text{gamma}(\alpha, \beta) og r>−αr > -\alpha er E(Vr)=βr Γ(α+r)Γ(α)E(V^r) = \beta^r\,\dfrac{\Gamma(\alpha + r)}{\Gamma(\alpha)}. Den kvantifiserer skjevheten til rot- og potensestimatorer.
- Γ-reglene (kap. 2.2): Γ(α+1)=α Γ(α)\Gamma(\alpha + 1) = \alpha\,\Gamma(\alpha), Γ(1)=1\Gamma(1) = 1, Γ(12)=π\Gamma(\tfrac12) = \sqrt{\pi}.

Trenger du å friske opp derivasjon (til variansregning), se R1 4.1 Derivasjonsregler.

Tenk deg at du skal anslå gjennomsnittshøyden i en befolkning. Du kan ikke måle alle, så du trekker et utvalg og regner ut utvalgets gjennomsnitt. Men to forskere som trekker hvert sitt utvalg får to litt ulike tall — anslaget er selv tilfeldig. Spørsmålet i dette kapitlet er: hva gjør et slikt anslag godt? Treffer regelen «riktig i snitt» (forventningsrett)? Hvor mye spriker den fra gang til gang (varians/standardfeil)? Og hvis den systematisk bommer — kan vi korrigere den?

Vi bygger kapitlet som fem korte læringsløkker, hver på formen teori → gjennomregnet eksempel → øvingsoppgaver: (1) estimator vs. estimat og forventningsretthet, (2) varians og standardfeil, (3) skjevhet og skjevhetskorreksjon, (4) den viktige fella E[V]≠E[V]E[\sqrt V] \ne \sqrt{E[V]} med Γ-faktoren, og (5) å sammenligne to estimatorer og velge. Kapitlet er på 55 minutter — ta gjerne en pause etter løkke 3.

Løkke 1 — Estimator, estimat og forventningsretthet (~12 min)

Vi observerer X1,…,XnX_1, \dots, X_n — uavhengige og identisk fordelte (iid) stokastiske variable fra en fordeling som avhenger av en ukjent parameter θ\theta (for eksempel forventningen μ\mu, variansen σ2\sigma^2 eller en skala β\beta). En estimator er en regel som gjør observasjonene om til et anslag på θ\theta. Fordi observasjonene er stokastiske, er estimatoren selv en stokastisk variabel — og skrives derfor med stor bokstav og hatt: θ^\hat\theta. Når vi setter inn de konkrete måletallene, får vi ett tall — estimatet. Dette skillet er sensorkrav 6, og vi holder det strengt gjennom hele boka.

Estimator (stokastisk regel)
En estimator er en funksjon av observasjonene X1,…,XnX_1, \dots, X_n som brukes til å anslå en ukjent parameter. Fordi observasjonene er stokastiske, er estimatoren selv en stokastisk variabel — den har en fordeling, en forventning og en varians.

θ^=θ^(X1,…,Xn).\hat\theta = \hat\theta(X_1, \dots, X_n).

Skrives med stor bokstav og hatt (f.eks. μ^=Xˉ\hat\mu = \bar X, β^\hat\beta). Eksempel: Xˉ=1n∑i=1nXi\displaystyle \bar X = \frac{1}{n}\sum_{i=1}^n X_i er en estimator for forventningen μ\mu.

Estimat (tallverdi)
Et estimat er tallet du får når de konkrete observerte verdiene x1,…,xnx_1, \dots, x_n settes inn i estimatoren:

θ^(x1,…,xn)=ett tall.\hat\theta(x_1, \dots, x_n) = \text{ett tall}.

Skrives med små bokstaver (xˉ\bar x). Estimatoren Xˉ\bar X er en regel (stokastisk); estimatet xˉ=4,2\bar x = 4{,}2 er resultatet av å bruke regelen på dine data. Sensor trekker for å blande de to — «Xˉ\bar X er forventningsrett» gir mening, «xˉ=4,2\bar x = 4{,}2 er forventningsrett» gjør det ikke.

Forventningsretthet (forventningsrett estimator)
En estimator θ^\hat\theta er forventningsrett (engelsk: unbiased) for θ\theta dersom den treffer riktig i gjennomsnitt over alle mulige utvalg:

E(θ^)=θfor alle verdier av θ.E(\hat\theta) = \theta \quad \text{for alle verdier av } \theta.

Dette betyr ikke at et enkelt estimat treffer θ\theta — bare at estimatoren ikke bommer systematisk i én retning. Sensorkrav: forventningsrettheten skal regnes ut ved å ta EE av estimatoren med momentregnereglene, ikke bare påstås.

✏️Eksempel 1: $\bar X$ er forventningsrett for $\mu$

La X1,…,XnX_1, \dots, X_n være iid med E(Xi)=μE(X_i) = \mu. Vis at Xˉ=1n∑i=1nXi\displaystyle \bar X = \frac{1}{n}\sum_{i=1}^n X_i er forventningsrett for μ\mu.

Bruk lineariteten til forventning (kap. 1.2):

E(Xˉ)=E ⁣(1n∑i=1nXi)=1n∑i=1nE(Xi)=1n⋅nμ=μ.E(\bar X) = E\!\left(\frac{1}{n}\sum_{i=1}^n X_i\right) = \frac{1}{n}\sum_{i=1}^n E(X_i) = \frac{1}{n}\cdot n\mu = \mu.

Siden E(Xˉ)=μE(\bar X) = \mu for enhver μ\mu, er Xˉ\bar X forventningsrett for μ\mu. Legg merke til at vi regnet E(Xˉ)E(\bar X) — vi antok det ikke.

📝Oppgave 1

Forklar med egne ord forskjellen på en estimator og et estimat, og gi ett eksempel på hver.

📝Oppgave 2

La X1,…,XnX_1, \dots, X_n være iid med forventning μ\mu. En forsker foreslår estimatoren μ^=X1\hat\mu = X_1 (bruk bare den første observasjonen). Er den forventningsrett for μ\mu?

Løkke 2 — Varians og standardfeil (~10 min)

Forventningsretthet forteller om estimatoren treffer i snitt — men ikke hvor mye den spriker fra utvalg til utvalg. Det måler variansen Var(θ^)\text{Var}(\hat\theta), og kvadratroten er estimatorens standardfeil. To forventningsrette estimatorer kan ha svært ulik varians; den med lavest varians er den skarpeste. Variansen regnes med varians-regelen for lineærkombinasjoner av uavhengige variable (kap. 1.2).

Variansen til en estimator
Variansen Var(θ^)\text{Var}(\hat\theta) måler hvor mye estimatoren varierer rundt sin egen forventning fra utvalg til utvalg — altså presisjonen. For en lineærkombinasjon av uavhengige observasjoner regnes den med

Var ⁣(∑iaiXi)=∑iai2 Var(Xi)\text{Var}\!\left(\sum_i a_i X_i\right) = \sum_i a_i^2\,\text{Var}(X_i)

(ingen kovariansledd fordi observasjonene er uavhengige). Jo mindre varians, desto skarpere estimator.

Var(Xˉ)=σ2/n\text{Var}(\bar X) = \sigma^2/n
Er X1,…,XnX_1, \dots, X_n iid med Var(Xi)=σ2\text{Var}(X_i) = \sigma^2, er variansen til gjennomsnittet

Var(Xˉ)=σ2n.\text{Var}(\bar X) = \frac{\sigma^2}{n}.

Sentralt: variansen synker som 1/n1/n — dobler du utvalget, halveres variansen. Dette er grunnen til at Xˉ\bar X slår X1X_1: begge er forventningsrette, men Xˉ\bar X har nn ganger mindre varians.

Standardfeil (SE)
Standardfeilen til en estimator er standardavviket til estimatoren:

SE(θ^)=Var(θ^).\text{SE}(\hat\theta) = \sqrt{\text{Var}(\hat\theta)}.

For gjennomsnittet: SE(Xˉ)=σ/n\text{SE}(\bar X) = \sigma/\sqrt{n}. Når σ\sigma er ukjent, brukes den estimerte standardfeilen SE^(Xˉ)=S/n\widehat{\text{SE}}(\bar X) = S/\sqrt{n} der S=S2S = \sqrt{S^2} er utvalgsstandardavviket. Standardfeilen er «pluss-minus»-tallet i konfidensintervallet (Del 6).

✏️Eksempel 2: Varians og standardfeil for $\bar X$

Levetiden til en komponent har standardavvik σ=40\sigma = 40 timer. Du måler n=25n = 25 komponenter. Finn Var(Xˉ)\text{Var}(\bar X) og standardfeilen SE(Xˉ)\text{SE}(\bar X).

Var(Xˉ)=σ2n=40225=160025=64 timer2.\text{Var}(\bar X) = \frac{\sigma^2}{n} = \frac{40^2}{25} = \frac{1600}{25} = 64 \text{ timer}^2.

SE(Xˉ)=σn=4025=405=8 timer.\text{SE}(\bar X) = \frac{\sigma}{\sqrt n} = \frac{40}{\sqrt{25}} = \frac{40}{5} = 8 \text{ timer}.

Gjennomsnittet av 25 målinger sprer seg altså med standardavvik 8 timer — fem ganger skarpere enn én enkelt måling (σ=40\sigma = 40).

📝Oppgave 3

Konsentrasjonen av et stoff har standardavvik σ=6\sigma = 6 mg/l. Et laboratorium tar n=9n = 9 målinger.

a) Finn Var(Xˉ)\text{Var}(\bar X) og SE(Xˉ)\text{SE}(\bar X).

b) Hvor mange målinger trengs for at standardfeilen skal bli 1 mg/l?

📝Oppgave 4

To forventningsrette estimatorer for μ\mu er μ^1=X1\hat\mu_1 = X_1 (kun første observasjon) og μ^2=Xˉ\hat\mu_2 = \bar X (gjennomsnittet av n=16n = 16). Observasjonene er iid med varians σ2\sigma^2. Finn variansen til hver, og avgjør hvilken som er best.

Løkke 3 — Skjevhet og skjevhetskorreksjon (~12 min)

Ikke alle estimatorer er forventningsrette. Skjevheten (engelsk: bias) måler den systematiske bommen: E(θ^)−θE(\hat\theta) - \theta. En estimator er forventningsrett nettopp når skjevheten er 0. Det viktige poenget: hvis vi regner ut E(θ^)E(\hat\theta) og finner E(θ^)=c θE(\hat\theta) = c\,\theta med en kjent konstant c≠1c \ne 1, kan vi lage en forventningsrett estimator ved å dele på cc. Dette er «skjevhetskorreksjon» og er A-stoff.

Skjevhet (bias)
Skjevheten til en estimator er den systematiske forskjellen mellom det den treffer i snitt og den sanne verdien:

bias(θ^)=E(θ^)−θ.\text{bias}(\hat\theta) = E(\hat\theta) - \theta.

Er bias(θ^)=0\text{bias}(\hat\theta) = 0, er estimatoren forventningsrett. Positiv skjevhet betyr systematisk overestimering, negativ betyr underestimering. Skjevhet skal kvantifiseres (regnes ut), ikke bare konstateres.

Skjevhetskorreksjon ved multiplikativ skjevhet
Regner du ut forventningen og finner at estimatoren er skjev med en kjent multiplikativ faktor,

E(θ^)=c θ(c≠1 kjent),E(\hat\theta) = c\,\theta \quad (c \ne 1 \text{ kjent}),

så er den korrigerte estimatoren θ^/c\hat\theta/c forventningsrett:

E ⁣(θ^c)=1c E(θ^)=1c⋅cθ=θ.E\!\left(\frac{\hat\theta}{c}\right) = \frac{1}{c}\,E(\hat\theta) = \frac{1}{c}\cdot c\theta = \theta.

Grepet virker bare når cc ikke selv avhenger av den ukjente θ\theta (den må kunne regnes ut fra kjente størrelser som nn og en kjent formparameter).

Utvalgsvariansen S2S^2 (forventningsrett for σ2\sigma^2)
Utvalgsvariansen med n−1n-1 i nevneren,

S2=1n−1∑i=1n(Xi−Xˉ)2,S^2 = \frac{1}{n-1}\sum_{i=1}^n (X_i - \bar X)^2,

er forventningsrett for σ2\sigma^2: E(S2)=σ2E(S^2) = \sigma^2. Nettopp derfor deler vi på n−1n-1 og ikke på nn. Tallet n−1n-1 kalles frihetsgrader (kap. 2.2) — én er «brukt opp» av at Xˉ\bar X er estimert fra de samme dataene.

Hvorfor nn-varianten er skjev
nn-varianten σ^2=1n∑i=1n(Xi−Xˉ)2\displaystyle \hat\sigma^2 = \frac{1}{n}\sum_{i=1}^n (X_i - \bar X)^2 er skjev — den underestimerer systematisk:

E(σ^2)=n−1n σ2<σ2.E(\hat\sigma^2) = \frac{n-1}{n}\,\sigma^2 < \sigma^2.

Skjevheten er multiplikativ med kjent faktor c=(n−1)/nc = (n-1)/n, så korreksjonen er å dele på cc: σ^2⋅nn−1=S2\displaystyle \hat\sigma^2 \cdot \frac{n}{n-1} = S^2. Slik gjenfinner vi S2S^2 som den skjevhetskorrigerte nn-varianten.

✏️Eksempel 3: Skjevhetskorreksjon av $n$-varianten

En student regner ut σ^2=1n∑(Xi−Xˉ)2\displaystyle \hat\sigma^2 = \frac{1}{n}\sum (X_i - \bar X)^2 og lurer på om den er forventningsrett for σ2\sigma^2. Det er kjent at E(σ^2)=n−1nσ2\displaystyle E(\hat\sigma^2) = \frac{n-1}{n}\sigma^2. Er σ^2\hat\sigma^2 forventningsrett? Hvis ikke, lag en forventningsrett estimator.

E(σ^2)=n−1nσ2≠σ2\displaystyle E(\hat\sigma^2) = \frac{n-1}{n}\sigma^2 \ne \sigma^2, så σ^2\hat\sigma^2 er skjev — den bommer med faktoren c=(n−1)/n<1c = (n-1)/n < 1 og underestimerer σ2\sigma^2 systematisk.

Skjevhetskorreksjon: siden E(σ^2)=c σ2E(\hat\sigma^2) = c\,\sigma^2 med kjent cc, deler vi på cc:

σ^2c=nn−1⋅1n∑(Xi−Xˉ)2=1n−1∑(Xi−Xˉ)2=S2.\frac{\hat\sigma^2}{c} = \frac{n}{n-1}\cdot\frac{1}{n}\sum (X_i - \bar X)^2 = \frac{1}{n-1}\sum (X_i - \bar X)^2 = S^2.

Den korrigerte estimatoren er nettopp utvalgsvariansen S2S^2, som er forventningsrett. Dette forklarer n−1n-1-nevneren.

📝Oppgave 5

En estimator θ^\hat\theta for en skalaparameter θ\theta har E(θ^)=nn+2θ\displaystyle E(\hat\theta) = \frac{n}{n+2}\theta.

a) Finn skjevheten.

b) Lag en forventningsrett estimator basert på θ^\hat\theta.

Løkke 4 — Fella E[V]≠E[V]E[\sqrt V] \ne \sqrt{E[V]} og Γ-faktoren (~11 min)

Her kommer den viktigste fella i hele kapitlet — og en fast A-differensiator. Anta at σ^2\hat\sigma^2 er forventningsrett for σ2\sigma^2. Er da σ^2\sqrt{\hat\sigma^2} forventningsrett for σ\sigma? Nei. Grunnen er en generell regel: for en krum funksjon gg er E[g(V)]≠g(E[V])E[g(V)] \ne g(E[V]). For kvadratrot (som er konkav) gjelder E[V]<E[V]E[\sqrt V] < \sqrt{E[V]}, så rot-estimatoren underestimerer systematisk. Når VV er gammafordelt, kan vi kvantifisere skjevheten eksakt med E(Vʳ)-formelen fra kap. 2.2 — og korrigere med en Γ-faktor.

Nøkkelinnsikt: E[V]≠E[V]E[\sqrt V] \ne \sqrt{E[V]}
At en estimator VV er forventningsrett for en størrelse betyr ikke at V\sqrt V (eller en annen potens) er forventningsrett for kvadratroten av størrelsen. For kvadratrot, som er en konkav funksjon, gjelder

E[V]<E[V].E[\sqrt V] < \sqrt{E[V]}.

Alment: å ta rot eller potens av en forventningsrett estimator innfører skjevhet. Derfor er S=S2S = \sqrt{S^2} skjev for σ\sigma selv om S2S^2 er forventningsrett for σ2\sigma^2.

Γ-faktoren for rot-/potensestimatorer
Er V∼gamma(α,β)V \sim \text{gamma}(\alpha, \beta), gir E(Vʳ)-formelen (kap. 2.2) den eksakte forventningen til enhver potens:

E(Vr)=βr Γ(α+r)Γ(α),r>−α.E(V^r) = \beta^r\,\frac{\Gamma(\alpha + r)}{\Gamma(\alpha)}, \qquad r > -\alpha.

Forholdet Γ(α+r)/Γ(α)\Gamma(\alpha + r)/\Gamma(\alpha) er Γ-faktoren som kvantifiserer skjevheten. Med r=12r = \tfrac12 får du forventningen til V\sqrt V; den avviker fra E(V)\sqrt{E(V)} med nettopp denne faktoren, og deling på faktoren gir en forventningsrett rot-estimator.

✏️Eksempel 4: $S$ underestimerer $\sigma$ — og korreksjonen

For et normalfordelt utvalg er (n−1)S2/σ2∼χn−12(n-1)S^2/\sigma^2 \sim \chi^2_{n-1}, slik at S2∼gamma ⁣(n−12, 2σ2n−1)S^2 \sim \text{gamma}\!\left(\tfrac{n-1}{2},\ \tfrac{2\sigma^2}{n-1}\right). Vis at S=S2S = \sqrt{S^2} er skjev for σ\sigma, og finn en forventningsrett korreksjon. Regn ut korreksjonsfaktoren for n=10n = 10.

Bruk E(Vʳ)-formelen med V=S2V = S^2, α=n−12\alpha = \tfrac{n-1}{2}, β=2σ2n−1\beta = \tfrac{2\sigma^2}{n-1} og r=12r = \tfrac12:

E(S)=E ⁣(S2)=β1/2Γ(α+12)Γ(α)=2σ2n−1⋅Γ ⁣(n2)Γ ⁣(n−12)=σ2n−1 Γ(n/2)Γ((n−1)/2)⏟cn.E(S) = E\!\left(\sqrt{S^2}\right) = \beta^{1/2}\frac{\Gamma(\alpha + \tfrac12)}{\Gamma(\alpha)} = \sqrt{\frac{2\sigma^2}{n-1}}\cdot\frac{\Gamma\!\left(\tfrac{n}{2}\right)}{\Gamma\!\left(\tfrac{n-1}{2}\right)} = \sigma\underbrace{\sqrt{\frac{2}{n-1}}\,\frac{\Gamma(n/2)}{\Gamma((n-1)/2)}}_{c_n}.

Siden cn<1c_n < 1 er E(S)=cn σ<σE(S) = c_n\,\sigma < \sigma: SS underestimerer σ\sigma. Fordi E(S)=cnσE(S) = c_n\sigma med kjent cnc_n, er S/cnS/c_n forventningsrett for σ\sigma.

For n=10n = 10: c10=29⋅Γ(5)Γ(4,5)=0,4714⋅2411,632=0,9727c_{10} = \sqrt{\tfrac{2}{9}}\cdot\dfrac{\Gamma(5)}{\Gamma(4{,}5)} = 0{,}4714\cdot\dfrac{24}{11{,}632} = 0{,}9727. Altså treffer SS i snitt bare 97,3 %97{,}3\,\% av σ\sigma — en korreksjon på ca. 2,7 %2{,}7\,\%. Den forventningsrette estimatoren er S/0,9727S/0{,}9727.

📝Oppgave 6

La V∼gamma(α,β)V \sim \text{gamma}(\alpha, \beta) med kjent formparameter α=4\alpha = 4. Det er kjent at β^=V/α\hat\beta = V/\alpha er forventningsrett for β\beta.

a) Er β^\sqrt{\hat\beta} forventningsrett for β\sqrt\beta?

b) Finn E(V)E(\sqrt V) når β=3\beta = 3, og sammenlign med E(V)\sqrt{E(V)}. (Bruk Γ(4)=6\Gamma(4) = 6, Γ(4,5)≈11,632\Gamma(4{,}5) \approx 11{,}632.)

Løkke 5 — Sammenligne to estimatorer og velge (~10 min)

En vanlig eksamensdeloppgave gir to (eller tre) foreslåtte estimatorer for samme parameter og ber deg velge. Fremgangsmåten er fast: (1) sjekk forventningsretthet for hver, (2) regn variansen for hver, (3) velg den forventningsrette med lavest varians — og begrunn i begge kriterier. Er begge forventningsrette, avgjør variansen; er bare den ene forventningsrett, veier det tungt (men se også skjevhet mot varians samlet).

Å sammenligne estimatorer

Skal du velge mellom to estimatorer θ^1\hat\theta_1 og θ^2\hat\theta_2 for samme θ\theta:

1. Forventningsretthet: regn E(θ^1)E(\hat\theta_1) og E(θ^2)E(\hat\theta_2) — er de lik θ\theta?
2. Varians: regn Var(θ^1)\text{Var}(\hat\theta_1) og Var(θ^2)\text{Var}(\hat\theta_2).
3. Velg: blant forventningsrette estimatorer velges den med lavest varians (mest presis). Begrunn valget i begge kriterier — et svar «jeg velger θ^1\hat\theta_1» uten variansregning gir ikke full uttelling.

Konsistens (bør kjenne til)

En estimator er konsistent hvis den nærmer seg den sanne verdien når utvalget vokser — presist: Var(θ^)→0\text{Var}(\hat\theta) \to 0 og bias(θ^)→0\text{bias}(\hat\theta) \to 0 når n→∞n \to \infty. Xˉ\bar X er konsistent fordi Var(Xˉ)=σ2/n→0\text{Var}(\bar X) = \sigma^2/n \to 0. En estimator som X1X_1 er forventningsrett, men ikke konsistent (variansen σ2\sigma^2 krymper aldri). På STK1100 holder intuisjonen «variansen går mot 0».

✏️Eksempel 5: To estimatorer for $\mu$ (sjanger G)

To estimatorer for forventningen μ\mu foreslås ut fra iid-observasjonene X1,…,XnX_1, \dots, X_n (varians σ2\sigma^2): μ^1=Xˉ\hat\mu_1 = \bar X og μ^2=12(X1+Xn)\hat\mu_2 = \tfrac12(X_1 + X_n). Vis at begge er forventningsrette, finn variansene, og avgjør hvilken som bør brukes (for n>2n > 2).

Forventningsretthet: E(μ^1)=E(Xˉ)=μE(\hat\mu_1) = E(\bar X) = \mu. E(μ^2)=12(E(X1)+E(Xn))=12(μ+μ)=μE(\hat\mu_2) = \tfrac12(E(X_1) + E(X_n)) = \tfrac12(\mu + \mu) = \mu. Begge forventningsrette.

Varians: Var(μ^1)=σ2/n\text{Var}(\hat\mu_1) = \sigma^2/n. For μ^2\hat\mu_2, uavhengige X1,XnX_1, X_n: Var(μ^2)=14(Var(X1)+Var(Xn))=14(σ2+σ2)=σ2/2\text{Var}(\hat\mu_2) = \tfrac14(\text{Var}(X_1) + \text{Var}(X_n)) = \tfrac14(\sigma^2 + \sigma^2) = \sigma^2/2.

Valg: for n>2n > 2 er σ2/n<σ2/2\sigma^2/n < \sigma^2/2, så μ^1=Xˉ\hat\mu_1 = \bar X har lavest varians og bør velges. Begge treffer i snitt, men Xˉ\bar X er skarpest fordi den utnytter alle nn observasjonene (mens μ^2\hat\mu_2 bruker bare to). Sensorpoeng: begrunn i begge kriterier.

📝Oppgave 7

For iid-observasjoner X1,…,X3X_1, \dots, X_3 (varians σ2\sigma^2) foreslås μ^1=Xˉ=13(X1+X2+X3)\hat\mu_1 = \bar X = \tfrac13(X_1 + X_2 + X_3) og den vektede μ^2=14X1+12X2+14X3\hat\mu_2 = \tfrac14 X_1 + \tfrac12 X_2 + \tfrac14 X_3.

a) Vis at begge er forventningsrette.

b) Finn variansene og avgjør hvilken som bør brukes.

📝Oppgave 8

Levetidene X1,…,XnX_1, \dots, X_n er eksponensialfordelte i forventningsform (f(x)=1μe−x/μf(x) = \tfrac1\mu e^{-x/\mu}, E(Xi)=μE(X_i) = \mu, Var(Xi)=μ2\text{Var}(X_i) = \mu^2). Vis at Xˉ\bar X er forventningsrett for μ\mu, og finn Var(Xˉ)\text{Var}(\bar X) og standardfeilen uttrykt ved μ\mu og nn.

Begrepsbank — flashcards

Flashcard-/repetisjonsstoff — hopp trygt over ved førstegangslesing; tidsanslaget gjelder kjernestoffet. Kortene under oppsummerer estimator-egenskapene til rask repetisjon.

Estimator vs. estimat — kortet
Estimator θ^=θ^(X1,…,Xn)\hat\theta = \hat\theta(X_1, \dots, X_n): stokastisk regel, stor bokstav, har fordeling. Estimat: tallet θ^(x1,…,xn)\hat\theta(x_1, \dots, x_n), liten bokstav. Egenskaper (forventningsretthet, varians) tilhører estimatoren, aldri estimatet.
Bias-formelen — kortet
bias(θ^)=E(θ^)−θ\text{bias}(\hat\theta) = E(\hat\theta) - \theta. Null ⇔\Leftrightarrow forventningsrett. Positiv = systematisk overestimering, negativ = underestimering. Skal kvantifiseres.
Xˉ\bar X-egenskapene — kortet
E(Xˉ)=μE(\bar X) = \mu (forventningsrett), Var(Xˉ)=σ2/n\text{Var}(\bar X) = \sigma^2/n, SE(Xˉ)=σ/n\text{SE}(\bar X) = \sigma/\sqrt n. Variansen synker som 1/n1/n; Xˉ\bar X er konsistent.
S2S^2-egenskapene — kortet
S2=1n−1∑(Xi−Xˉ)2\displaystyle S^2 = \frac{1}{n-1}\sum (X_i - \bar X)^2 er forventningsrett for σ2\sigma^2. nn-varianten 1n∑(Xi−Xˉ)2\displaystyle \frac1n\sum(X_i-\bar X)^2 er skjev: E=n−1nσ2\displaystyle E = \frac{n-1}{n}\sigma^2. Deling på n−1n\displaystyle \frac{n-1}{n} gir tilbake S2S^2.
SE vs. varians — kortet
SE(θ^)=Var(θ^)\text{SE}(\hat\theta) = \sqrt{\text{Var}(\hat\theta)} — standardavviket til estimatoren, «pluss-minus»-tallet i KI. Estimert SE bruker SS i stedet for ukjent σ\sigma: S/nS/\sqrt n.
Rot underestimerer — kortet
E[V]<E[V]E[\sqrt V] < \sqrt{E[V]} (kvadratrot konkav). Derfor er SS skjev for σ\sigma selv om S2S^2 er forventningsrett for σ2\sigma^2. Generelt: rot/potens av forventningsrett estimator er skjev.
Γ-faktoren — kortet

For V∼gamma(α,β)V \sim \text{gamma}(\alpha, \beta): E(Vr)=βrΓ(α+r)/Γ(α)E(V^r) = \beta^r\Gamma(\alpha+r)/\Gamma(\alpha). Γ-faktoren Γ(α+r)/Γ(α)\Gamma(\alpha+r)/\Gamma(\alpha) kvantifiserer rot-/potens-skjevheten; deling på den gir forventningsrett.

cnc_n-korreksjonen for SS — kortet
E(S)=cn σE(S) = c_n\,\sigma med cn=2n−1 Γ(n/2)/Γ((n−1)/2)<1c_n = \sqrt{\tfrac{2}{n-1}}\,\Gamma(n/2)/\Gamma((n-1)/2) < 1. F.eks. c10=0,9727c_{10} = 0{,}9727. Forventningsrett estimator for σ\sigma: S/cnS/c_n.
Effektivitet — kortet

Blant to forventningsrette estimatorer er den med lavest varians mest effektiv (skarpest). Like vekter 1/n1/n gir lavest varians blant forventningsrette lineærkombinasjoner av iid-observasjoner.

MSE = varians + skjevhet² (bør kjenne)

Samlet feil måles av middelkvadratfeilen MSE(θ^)=E[(θ^−θ)2]=Var(θ^)+[bias(θ^)]2\text{MSE}(\hat\theta) = E[(\hat\theta - \theta)^2] = \text{Var}(\hat\theta) + [\text{bias}(\hat\theta)]^2. For forventningsrette estimatorer er MSE = varians. En litt skjev estimator med mye mindre varians kan ha lavere MSE.

Momentreglene (repetisjon fra 1.2) — kortet
E(∑aiXi)=∑aiE(Xi)E(\sum a_i X_i) = \sum a_i E(X_i) (alltid). For uavhengige XiX_i: Var(∑aiXi)=∑ai2Var(Xi)\text{Var}(\sum a_i X_i) = \sum a_i^2 \text{Var}(X_i) (ingen kovariansledd). Motoren i all forventnings- og variansregning på estimatorer.
Repetisjonsoppgaver
Din fremgang
0 / 4 oppgaver
Symbol- og formelliste

Dette kapitlet er skrevet av Anthropics toppmodeller (Claude Opus og Claude Fable) og er foreløpig ikke manuelt gjennomgått — kvalitetskontrollen gjøres av uavhengige KI-agenter, og innmeldte feil rettes fortløpende. Funnet en feil? Meld fra, så retter vi den. Les mer om hvordan innholdet lages.

Skolesaga er en uavhengig læringsressurs og er ikke tilknyttet eller godkjent av Universitetet i Oslo. Dette er ikke offisielt studiemateriell. Les mer.