5.3 Regresjon — prediksjon, minste kvadrater og r²
«Regresjon som videreføring av korrelasjon» — resonnementet som har stått i minst ti sett — pluss Ŷ = a + bX ledd for ledd, prediksjon med tall, minste kvadraters metode og r² som delt/forklart varians. Hvert regnestykke ender i prosatolkning.
- Regresjon dukker opp i 14 av 29 sett (2008–2025). Delen om (forklart varians) var fast d-ledd til og med 2020 og finnes i 11 sett.
- To ferdigheter honoreres: (1) tolke i ord (hva betyr og her?), og (2) regne en prediksjon og gjøre om til . Begge tall er «snille», og formelen oppgis alltid.
Sensorregelen: vis regningen (usynlig utregning = feil #13), og la hvert tall ende i en prosatolkning — «modellen forklarer 9 % av variasjonen; 91 % skyldes annet». Regresjon predikerer, men gir fortsatt ikke kausalitet (feil #3 lurer også her).
Sist du var her (oppfrisket):
- måler styrke og retning på en lineær sammenheng, mellom og .
- sier ingenting om hvor mye Y endrer seg per enhet X — bare hvor tett de følger hverandre.
- Korrelasjon er samvariasjon, ikke kausalitet — det gjelder også regresjonen vi bygger her.
Du trenger ingen ny statistikk-formel utover det som oppgis; men her regner vi (i motsetning til 5.1). Ha en enkel kalkulator klar.
Dette er grunnen til at regresjon kalles «en videreføring av korrelasjon»: samme data, samme sammenheng — men nå med en linje du kan sette tall inn i. Vi tolker linjen i ord, predikerer med tall, og regner delt varians . ~60 min.
Løkke 1 — Fra korrelasjon til linje: hva a og b betyr (~15 min)
- («Y-hatt») er den predikerte verdien av Y — modellens beste gjett, ikke en observert verdi.
- (intercept/konstantledd) er når : der linjen krysser Y-aksen.
- (regresjonsvekt/stigningstall) er endringen i per én enhets økning i X. Fortegnet på følger fortegnet på .
Regresjon gir altså mer enn korrelasjonen: ikke bare at X og Y henger sammen, men hvor mye Y ventes å endre seg. Men den gir fortsatt ikke kausalitet — det er samme naturlige variasjon som i kap. 5.1.
I regresjon er variabelrollene ikke vilkårlige (i motsetning til korrelasjon):
- Prediktorvariabel (): den vi predikerer fra.
- Kriterievariabel (): den vi predikerer.
Bytter du om X og Y i en regresjon, får du en annen linje — fordi minimerer feilen i Y, ikke i X. Dette er en viktig kontrast til korrelasjonen, der er symmetrisk og rollene er et fritt valg.
> Feilkode #13 (glosset her ved første bruk): «usynlig utregning» — å skrive svaret uten mellomregning. I regnedeler kan sensor da ikke gi «riktig metode»-uttelling. Feilkode #3 (fra kap. 5.2): kausal tolkning av en (korrelasjons)sammenheng — lurer også i regresjon.
En regresjon av eksamensskår (, poeng) på antall studietimer () gir ligningen . Tolk og i ord.
Regresjonsvekt : for hver ekstra studietime øker den predikerte skåren med 2,5 poeng. Det positive fortegnet betyr at sammenhengen er positiv (samsvarer med et positivt ).
Prosatolkning: modellen sier at studenter som ikke studerer ventes å få 20 poeng, og at hver studietime i snitt henger sammen med 2,5 poeng høyere skår. Dette er en prediksjon, ikke et bevis på at timene forårsaker poengene — det er fortsatt korrelasjonsdata.
Figuren under viser regresjonslinja lagt gjennom en punktsky: linja starter ved på Y-aksen (X = 0) og stiger med poeng per studietime.
En regresjon gir , der er trivselsskår og er antall timer fysisk aktivitet per uke.
a) Hva betyr ?
b) Hva betyr ?
Løkke 2 — Prediksjon: sett inn og regn Ŷ (~14 min)
1. Skriv opp ligningen med de oppgitte og .
2. Sett inn X-verdien.
3. Regn ut — vis mellomregningen ().
4. Tolk resultatet i ord, og sjekk om X ligger innenfor det observerte området (ellers ekstrapolerer du — se advarselen under).
Med (studietimer → eksamensskår): hva predikeres skåren for en student som studerer timer? Og hva er residualen hvis studenten faktisk fikk 52 poeng?
Residual: residualen er den faktiske verdien minus den predikerte:
Prosatolkning: modellen gjettet 50 poeng for 12 timer; studenten fikk faktisk 52 — altså 2 poeng bedre enn modellen forutsa. Residualen på er modellens «bomavstand» for denne personen. Studenter over linjen har positive residualer (gjorde det bedre enn ventet), de under har negative.
En regresjon av søvnkvalitet (, skala 0–100) på minutter skjermtid før leggetid () gir (der måles i ti-minutters bolker: betyr 30 min).
a) Predikér søvnkvaliteten for (30 minutter skjermtid).
b) En person med rapporterer faktisk 82. Regn residualen og tolk den.
c) Hva betyr det negative ?
En regresjonslinje er bare pålitelig innenfor det X-området dataene dekker. Predikerer du langt utenfor (f.eks. for 40 studietimer når ingen i utvalget studerte mer enn 20), ekstrapolerer du — og sammenhengen kan bryte sammen der ute. Linjen «vet» ingenting om områder den aldri så data fra. Oppgi alltid forbeholdet når en oppgitt X ligger utenfor det rimelige/observerte området.
Løkke 3 — r² som delt varians: fra rangering til andel (~16 min)
— naturlig pausepunkt før det faste d-leddet —
Et eksempel: . Det betyr at 9 % av variasjonen i Y henger sammen med X — og de resterende 91 % skyldes andre faktorer (og tilfeldig variasjon).
Hvorfor er dette nyttig? Fordi selv bare kan rangeres: er sterkere enn , men ikke «dobbelt så sterk». gir derimot andeler som kan sammenlignes direkte: deler , mens deler bare — altså fire ganger så mye forklart varians. Det er dette målenivåskiftet (fra rangering til andel) som gjør verdt et eget svarledd.
En studie rapporterer mellom motivasjon og prestasjon. Regn og tolk det. Sammenlign så med en annen sammenheng der .
Prosatolkning: 16 % av variasjonen i prestasjon henger sammen med motivasjon; de resterende 84 % skyldes andre faktorer (evner, undervisning, tilfeldig variasjon m.m.). En «moderat» korrelasjon forklarer altså en ganske beskjeden andel — et nyttig realitetssjekk.
Sammenligning: for er . Selv om tallmessig bare er dobbelt så stor som , forklarer den fire ganger så mye varians ( mot ). Det er nettopp poenget: kan ikke ganges/sammenlignes lineært — men kan.
En studie finner mellom en ny konsentrasjonstest og karaktersnitt.
a) Regn og tolk det i prosa.
b) En kollega sier: «, så testen forklarer halvparten av karakterene.» Hva er feil?
c) Hvor mye mer forklart varians gir enn ?
Løkke 4 — Minste kvadrater og regresjonslinjen i diagrammet (~13 min)
Hvordan velges den linjen blant alle mulige? Ved minste kvadraters metode: man velger og slik at summen av de kvadrerte residualene (de kvadrerte avstandene fra hvert punkt ned til linjen) blir minst mulig.
Konseptuelt: linjen legges der den samlet ligger nærmest alle punktene, med ekstra straff for store bom (fordi avstandene kvadreres). Du regner aldri dette for hånd på eksamen — men du skal kunne forklare hva linjen minimerer: de kvadrerte prediksjonsfeilene.
En residual er avstanden fra en faktisk observert verdi til linjen: . Den forteller hvor mye modellen bommet for den enkelte personen.
Figuren under viser dette: noen punkter ligger over linja, andre under.
- Positiv residual: punktet ligger over linjen (skåren var høyere enn predikert).
- Negativ residual: punktet ligger under linjen.
Residualene er modellens ærlighet: store residualer betyr at linjen forklarer lite (lav ), små residualer betyr god tilpasning (høy ). Minste kvadrater gjør nettopp den samlede kvadrerte residualsummen minst mulig.
Å skissere regresjonslinjen
I et spredningsdiagram (hvert punkt = én person, med X vannrett og Y loddrett) er regresjonslinjen den rette linjen som best følger punktskyen:
- Den krysser Y-aksen i (der ).
- Den stiger med (opp hvis , ned hvis ).
- Punktene sprer seg rundt linjen; jo tettere de ligger, jo høyere .
Å plassere to punkter fra ligningen (f.eks. ved en lav og en høy X) og trekke linjen mellom dem er nok til en skisse. En sky uten tydelig stigning () gir en nesten flat linje.
En studie av 60 studenter gir regresjonen , der er eksamensskår (poeng) og er antall gjennomførte øvingsoppgaver (observert område: 0–20 oppgaver). Korrelasjonen er .
a) Tolk og i ord.
b) Predikér skåren for en student med oppgaver, og for én med . Kommentér den siste.
c) Regn og tolk det.
d) Forklar med denne oppgaven hvorfor «regresjon er en videreføring av korrelasjon» er en presis beskrivelse — og hva regresjonen ikke legger til.
Feil #13 — usynlig -regning. Vis -mellomregningen. Bare et sluttall kan ikke reddes av «riktig metode».
Å tolke som «effekten av X». er når — utgangspunktet, ikke en effekt. Effekten (endring per X) er .
Å forveksle og . er ikke «50 % forklart». Den forklarte andelen er . Kvadrer alltid før du snakker prosent.
Ekstrapolering. Å predikere langt utenfor det observerte X-området gir upålitelige (noen ganger absurde) tall. Sjekk om X ligger innenfor dataene.
Begrepsbank — regresjon
Flashcard-/repetisjonsstoff — hopp trygt over ved førstegangslesing; tidsanslaget over gjelder kjernestoffet.
«Y-hatt»: modellens beste gjett for Y gitt en X, lest av regresjonslinjen. Til forskjell fra (den faktisk observerte verdien). Regnes ved å sette X inn i .
Konstantleddet: når — der linjen krysser Y-aksen. Utgangspunktet, ikke «effekten av X». Gir bare mening hvis er innenfor det observerte området.
Stigningstallet: endringen i predikert Y per én enhets økning i X. Fortegnet følger (positivt → positiv ). Dette er «hvor mye», som korrelasjonen alene ikke gir.
Variabelen vi predikerer fra i en regresjon. Til forskjell fra korrelasjon er X/Y-rollene her ikke vilkårlige: bytter du prediktor og kriterium, får du en annen linje.
Variabelen vi predikerer til i en regresjon. Minste kvadraters metode minimerer feilen i Y (ikke i X) — derfor er regresjonen asymmetrisk.
Kvadratet av korrelasjonen: andelen av variasjonen i Y som deles med X. ; resten skyldes andre faktorer. Gir andeler som kan sammenlignes.
Linjen velges så summen av kvadrerte residualer () blir minst mulig — nærmest alle punkter, med ekstra straff for store bom. Regnes aldri for hånd; skal kunne forklares.
Avstanden fra en faktisk verdi til linjen: hvor mye modellen bommet for den personen. Positiv = over linjen, negativ = under. Store residualer = lav ; små = god tilpasning.
Å predikere for X-verdier utenfor det observerte området. Upålitelig — linjen «kjenner» ikke terrenget der ute, og sammenhengen kan bryte sammen. Oppgi forbeholdet.
Figuren regresjonslinjen tegnes i: hvert punkt = én person (X vannrett, Y loddrett). Linjen krysser Y-aksen i og stiger med ; tett punktsky = høy .
Det ferdig innøvde resonnementet (10+ sett): regresjon bruker samme sammenheng som , men legger til en prediksjonslinje (hvor mye Y endrer seg per X). Den legger ikke til kausalitet.
Dette kapitlet er skrevet av Anthropics toppmodeller (Claude Opus og Claude Fable) og er foreløpig ikke manuelt gjennomgått — kvalitetskontrollen gjøres av uavhengige KI-agenter, og innmeldte feil rettes fortløpende. Funnet en feil? Meld fra, så retter vi den. Les mer om hvordan innholdet lages.
Skolesaga er en uavhengig læringsressurs og er ikke tilknyttet eller godkjent av Universitetet i Oslo. Dette er ikke offisielt studiemateriell. Innholdet er læringsstoff, ikke helse- eller medisinske råd. Les mer.