5.4 Drill: ML-utledning med estimatorvurdering (sjanger G)

Sjangerdrill på storoppgavens første halvdel: utled ML, vis egenskaper, sammenlign kandidater — i alle arkivets varianter.

90 min

11 oppgaver

DrillML-utledning med estimatorvurdering (sjanger G)

Din fremgang i kapitlet

0 / 11 oppgaver

Kapitlets plass i kurset

Bygger på

5.3Asymptotisk normalitet og deltametoden

Brukes videre i

5.PPrøver til del 5: Punktestimering 7.4Drill: den store kjeden — ML → egenskaper → pivotal-KI → test → styrke

Dette er sjangerdrillen på storoppgavens første halvdel — «sjanger G» betyr en oppgave der du utleder en estimator (som regel med maximum likelihood) og deretter vurderer egenskapene (forventningsrett? varians? best?). Det er den vanligste storoppgave-inngangen i hele emnet.

- Sjanger G dekker: standard-ML med vurdering (over halvparten av settene siste ti år), estimator-sammenligning (Nov20, Aug21, Mai22, Aug22, Des23, Jun23), to-kilders likelihood (Des22, Aug23, Mai24), bibetingelse (Aug24) og det numeriske tilfellet (Des24). Prioritet: høyeste (det øverste nivået).

Her trener du ikke ny teori — den står i kap. 5.1–5.3. Her trener du tempo og fullstendighet på den samme åtte-trinns-oppskriften, over alle arkivets varianter. Sensor gir poeng trinn for trinn: maksimumskontrollen, estimator/estimat-skillet og MSE-argumentet er der besvarelsene skiller lag.

Formelsamlingen (hjelpemiddelkode C) gir tettheter og $E$ /Var, men ML-utledningen og vurderingen må gjøres for hånd.

Forkunnskaper: Dette drillkapitlet forutsetter hele Del 5: estimatorvurdering (kap. 5.1 — forventningsretthet, varians, MSE, sammenligningsprotokollen), ML-ritualet (kap. 5.2 — inkludert kombinert likelihood, bibetingelse og tilfellet uten lukket løsning) og eventuelt asymptotisk normalitet/deltametoden (kap. 5.3). Tetthetene hentes fra kap. 2.2–2.3.

Matematisk må du kunne derivere logaritmer og enkle uttrykk, bruke logaritmeregler ( $\ln(ab)=\ln a+\ln b$ , $\ln(a^b)=b\ln a$ ), og regne forventning og varians av veide summer. Ingen ny teknikk introduseres — bare drill på eksamensnivå.

Løsningsoppskriften (åtte trinn)

Enhver sjanger G-oppgave følger samme åtte trinn. De fem første er ML-ritualet fra kap. 5.2; de tre siste er vurderingen fra kap. 5.1. Lær rekkefølgen utenat.

1. Likelihood over ALLE observasjoner. $L(\theta)=\prod f(x_i;\theta)$ — og ved to kilder produktet over begge utvalg. Ved bibetingelse: substituer bindingen inn nå, før derivasjon.

2. Log. $l(\theta)=\ln L(\theta)=\sum\ln f(x_i;\theta)$ — produkt blir sum.

3. Deriver. $l'(\theta)$ , sett lik 0 (likelihoodligningen).

4. Løs fullstendig. Kom helt frem til $\hat{\theta}=\ldots$ . Er ligningen transcendental, sett den opp ryddig og si at den løses numerisk.

5. Maksimumskontroll. $l''(\hat{\theta})<0$ eller monotoni — trinnet de fleste hopper over.

6. Forventningsrett? Regn $E(\hat{\theta})$ og sjekk om den blir $\theta$ .

7. Varians. Regn $\text{Var}(\hat{\theta})$ .

8. Ved flere kandidater: MSE-protokollen. Sjekk forventningsretthet for alle, regn varianser (eller MSE ved skjevhet), og velg med begrunnelse.

Samlet tid ≈ 90 min. Ta gjerne pause etter den gjennomregnede casen — den viser alle åtte trinnene på ett sted.

✏️Gjennomregnet eksamenscase (med sensornotater)

Levetidene $x_1,\ldots,x_n$ (i år) til $n$ pumper er uavhengige og eksponensialfordelte med ukjent forventning $\beta$ , $\displaystyle f(x;\beta)=\frac{1}{\beta}e^{-x/\beta}$ .

a) Utled ML-estimatoren $\hat{\beta}$ og kontroller at det er et maksimum.

b) Er $\hat{\beta}$ forventningsrett? Finn variansen.

c) En kollega foreslår i stedet $\tilde{\beta}=X_1$ (bruk kun den første målingen). Sammenlign de to estimatorene og velg med begrunnelse.

a) Trinn 1–4 (ML).

L(\beta)=\beta^{-n}\exp\!\Big(-\tfrac{1}{\beta}\sum x_i\Big),\quad l(\beta)=-n\ln\beta-\tfrac{1}{\beta}\sum x_i,\quad l'(\beta)=-\tfrac{n}{\beta}+\tfrac{1}{\beta^2}\sum x_i=0.

Løsning:

\displaystyle \hat{\beta}=\frac{1}{n}\sum x_i=\bar{X}

> Sensornotat (2 p): likelihooden må stå som produkt over alle $n$ observasjoner, og ligningen løses helt frem til $\hat{\beta}=\bar{X}$ .

Trinn 5 (maksimumskontroll). $\displaystyle l''(\beta)=\frac{n}{\beta^2}-\frac{2}{\beta^3}\sum x_i$ ; med $\sum x_i=n\hat{\beta}$ blir $\displaystyle l''(\hat{\beta})=-\frac{n}{\hat{\beta}^2}<0$ . Maksimum.

> Sensornotat (1 p): dette trinnet skiller toppbesvarelsen. Én linje holder.

b) Trinn 6–7. $E(\hat{\beta})=E(\bar{X})=\beta$ (siden $E(X_i)=\beta$ ), så forventningsrett. Varians: $\displaystyle \text{Var}(\hat{\beta})=\text{Var}(\bar{X})=\frac{\text{Var}(X)}{n}=\frac{\beta^2}{n}$ .

> Sensornotat (1 p): skriv estimatoren med stor bokstav ( $\hat{\beta}=\bar{X}$ ) — det er estimatoren (stokastisk) som har varians, ikke tallet.

c) Trinn 8 (MSE-protokollen). Begge kandidater er forventningsrette: $E(\tilde{\beta})=E(X_1)=\beta$ . Da avgjør variansen. $\text{Var}(\hat{\beta})=\beta^2/n$ , mens $\text{Var}(\tilde{\beta})=\text{Var}(X_1)=\beta^2$ . For $n>1$ er $\beta^2/n<\beta^2$ , så $\hat{\beta}=\bar{X}$ velges — den bruker all informasjonen i utvalget, mens $\tilde{\beta}$ kaster $n-1$ målinger.

> Sensornotat (2 p): begge forventningsrette → sammenlign varians; begrunn valget. Hadde én vært skjev, måtte du regnet MSE $=\text{Var}+\text{bias}^2$ for begge.

— naturlig pausepunkt — nå driller du selv, på alle variantene.

📝Oppgave 1

(Innstegsoppgave.) Antall $x_1,\ldots,x_n$ hendelser i uavhengige intervaller er Poisson-fordelt med forventning $\lambda$ .

a) Skriv opp log-likelihooden $l(\lambda)$ (dropp konstantledd).

b) Utled $\hat{\lambda}$ og gjør maksimumskontrollen.

📝Oppgave 2

Bruddstyrken til $n$ prøver er eksponensialfordelt med forventning $\beta$ . Utled ML-estimatoren og oppgi $E(\hat{\beta})$ og $\text{Var}(\hat{\beta})$ .

📝Oppgave 3

En kvalitetstest på $n$ enheter finner $x$ defekte; andelen defekte er $p$ (binomisk).

a) Utled ML-estimatoren $\hat{p}$ .

b) Vis at $\hat{p}$ er forventningsrett og finn $\text{Var}(\hat{p})$ .

📝Oppgave 4

Bruddstyrken til $n$ fiberprøver er gammafordelt med kjent formparameter $\alpha=3$ og ukjent skala $\theta$ : $\displaystyle f(x)=\frac{1}{\Gamma(3)\theta^3}x^2 e^{-x/\theta}$ , med $E(X)=3\theta$ .

a) Utled ML-estimatoren $\hat{\theta}$ .

b) Er den forventningsrett?

📝Oppgave 5

En «oppskriftsfordeling» (Pareto-type) har tetthet $f(x;\theta)=\theta\,x^{-(\theta+1)}$ for $x>1$ , $\theta>0$ . Du har uavhengige observasjoner $x_1,\ldots,x_n$ .

a) Skriv opp log-likelihooden $l(\theta)$ .

b) Utled ML-estimatoren $\hat{\theta}$ og gjør maksimumskontrollen.

📝Oppgave 6

Antall mikrosprekker per prøve er Poisson-fordelt med forventning $\lambda$ . Ett laboratorium har talt sprekker i $n$ prøver ( $x_1,\ldots,x_n$ ), et annet i $m$ prøver med dobbel prøvestørrelse, så disse har forventning $2\lambda$ ( $y_1,\ldots,y_m$ ). Alt uavhengig.

a) Skriv opp den kombinerte log-likelihooden $l(\lambda)$ .

b) Utled ML-estimatoren $\hat{\lambda}$ basert på begge datasettene.

c) Vis at $\hat{\lambda}$ er forventningsrett.

📝Oppgave 7

To måleserier av feilmellomrom er eksponensialfordelte. Serie A har forventning $\mu_A$ , serie B har forventning $\mu_B$ , og det er kjent at $\mu_A=3\mu_B$ (A-utstyret er tregere). Vi har $p$ observasjoner $a_1,\ldots,a_p$ fra A og $q$ observasjoner $b_1,\ldots,b_q$ fra B.

a) Substituer bibetingelsen og skriv opp log-likelihooden i den frie parameteren.

b) Utled ML-estimatoren og oppgi $\hat{\mu}_A$ og $\hat{\mu}_B$ .

📝Oppgave 8

Antall defekter per produksjonsbatch modelleres med null-trunkert Poisson (hver batch har minst én defekt), $p(x)=\dfrac{e^{-\lambda}\lambda^x}{x!(1-e^{-\lambda})}$ for $x\ge 1$ .

a) Skriv opp log-likelihooden $l(\lambda)$ for $n$ batcher.

b) Deriver og reduser likelihoodligningen til en ligning i $\lambda$ og $\bar{x}$ .

c) Kan den løses eksplisitt? Hva gjør du?

📝Oppgave 9

To estimatorer for forventningen

\mu

til

n=5

uavhengige, likt fordelte målinger (varians

\sigma^2

) vurderes:

\hat{\mu}_1=\bar{X},\qquad \hat{\mu}_2=\tfrac{1}{4}X_1+\tfrac{1}{4}X_2+\tfrac{1}{4}X_3+\tfrac{1}{4}X_4.

a) Vis at begge er forventningsrette.

b) Regn variansene og velg med begrunnelse.

📝Oppgave 10

(Regresjons-forberedelse.) I en modell uten konstantledd er

Y_i=\beta x_i+\varepsilon_i

, der

x_i

er kjente tall og

\varepsilon_i

er uavhengige med forventning 0 og varians

\sigma^2

. To forventningsrette estimatorer for

\beta

vurderes:

\hat{\beta}=\frac{\sum x_iY_i}{\sum x_i^2}\qquad(\text{minste kvadrater}),\qquad \tilde{\beta}=\frac{1}{n}\sum\frac{Y_i}{x_i}.

a) Vis at begge er forventningsrette.

b) Finn variansen til hver.

c) For $x=(1,2,3,4,5)$ og $\sigma^2=1$ : regn ut begge variansene og velg.

📝Oppgave 11

Levetider $x_1,\ldots,x_n$ er eksponensialfordelte med forventning $\beta$ . Vi vil estimere medianlevetiden $m=\beta\ln 2$ .

a) Bruk invariansprinsippet til å finne ML-estimatoren $\hat{m}$ .

b) Bruk deltametoden til å finne en tilnærmet varians for $\hat{m}$ , gitt at $\text{Var}(\hat{\beta})=\beta^2/n$ .

Typiske feil

- Glemme kilde to i den kombinerte likelihooden. Produktet må gå over alle observasjoner fra begge kilder — og husk ulik forventning (nevner $n+2m$ , ikke $n+m$ , når kilde 2 har forventning $2\lambda$ ).
- Substituere bibetingelsen etter derivasjon. Sett bindingen ( $\mu_A=3\mu_B$ ) inn i likelihooden før du deriverer, så du har én fri parameter.
- Hoppe over maksimumskontrollen. $l'(\hat{\theta})=0$ gir bare et kritisk punkt; vis $l''(\hat{\theta})<0$ . Ett poeng, én linje.
- Løse ligningen ufullstendig. Kom helt frem til $\hat{\theta}=\ldots$ . Er den transcendental (null-trunkert Poisson), sett den opp ryddig og si numerisk løsning.
- Sammenligne på varians alene når en kandidat er skjev. Da kreves MSE $=\text{Var}+\text{bias}^2$ for alle kandidatene — ikke bare variansen.
- Forveksle estimator og estimat. Den ferdige estimatoren har stor bokstav og hatt ( $\hat{\beta}=\bar{X}$ ); tallet etter innsetting er estimatet.
- Ikke begrunne valget i trinn 8. Å skrive « $\hat{\beta}$ er best» uten å vise at variansen (eller MSE) er minst gir ikke full uttelling.

Oppskrifts- og formelkort

De fem kortene du bør kunne på autopilot før eksamen — selve algoritmen for sjanger G.

Kortene er flashcard-/repetisjonsstoff — de gjentar oppskriften. Hopp trygt over ved førstegangslesing; tidsanslaget gjelder drillen.

Oppskriftskort: de åtte trinnene

l''<0

Formelkort: standard-ML-resultater

\hat{\beta}=\bar{X}

Teknikkort: to kilder og bibetingelse

L=\prod f(x_i)\cdot\prod g(y_j)

Oppskriftskort: MSE-protokollen (trinn 8)

E(\hat{\theta})

Feilkort: transcendental likelihoodligning

l'(\theta)=0

Symbol- og formelliste

Dette kapitlet er skrevet av Anthropics toppmodeller (Claude Opus og Claude Fable) og er foreløpig ikke manuelt gjennomgått — kvalitetskontrollen gjøres av uavhengige KI-agenter, og innmeldte feil rettes fortløpende. Funnet en feil? Meld fra, så retter vi den. Les mer om hvordan innholdet lages.

Skolesaga er en uavhengig læringsressurs og er ikke tilknyttet eller godkjent av Norges teknisk-naturvitenskapelige universitet. Dette er ikke offisielt studiemateriell. Les mer.