Pearsons r, lineær regresjon, R² og prediksjon.
Korrelasjon og regresjon
Mens t-tester og kjikvadratstester sammenligner grupper, handler korrelasjon og regresjon om å undersøke sammenhengen mellom to kvantitative variabler. Er det en sammenheng mellom studietid og eksamensresultat? Mellom temperatur og energiforbruk? Mellom alder og reaksjonstid?
Læringsmål:
- Beregne og tolke Pearsons korrelasjonskoeffisient
- Forstå forskjellen mellom korrelasjon og kausalitet
- Utføre enkel lineær regresjon og tolke regresjonsligningen
- Forklare og tolke forklaringsgraden
- Bruke regresjonsmodellen til prediksjon og forstå begrensningene
Pearsons korrelasjonskoeffisient
Pearsons korrelasjonskoeffisient er et mål på styrken og retningen av den lineære sammenhengen mellom to kvantitative variabler.
Verdien av ligger alltid mellom og :
- : Perfekt positiv lineær sammenheng (begge variablene øker sammen)
- : Ingen lineær sammenheng
- : Perfekt negativ lineær sammenheng (den ene øker mens den andre synker)
Tolkning av styrke
| Styrke | |
|---|---|
| 0,00 – 0,19 | Svak eller ingen |
| 0,20 – 0,39 | Svak |
| 0,40 – 0,59 | Moderat |
| 0,60 – 0,79 | Sterk |
| 0,80 – 1,00 | Svært sterk |
Beregning
Pearsons beregnes med formelen:
Formelen måler i hvilken grad og varierer sammen (teller) i forhold til hvor mye de varierer hver for seg (nevner).
Egenskaper:
-
- : positiv sammenheng (begge øker)
- : negativ sammenheng (en øker, den andre synker)
- måler bare lineær sammenheng — en sterk kurvilineær sammenheng kan gi
- er enhetsfri — den påvirkes ikke av måleskala
Fem elever har følgende studietid (timer/uke) og eksamenspoeng:
| Elev | Studietid | Poeng |
|---|---|---|
| 1 | 5 | 50 |
| 2 | 10 | 65 |
| 3 | 15 | 72 |
| 4 | 20 | 80 |
| 5 | 25 | 88 |
Beregn og tolk resultatet.
Steg 2: Beregn avviksprodukter og kvadrater
| Elev | |||||
|---|---|---|---|---|---|
| 1 | |||||
| 2 | |||||
| 3 | |||||
| 4 | |||||
| 5 | |||||
| Sum | 455 | 250 | 848 |
Steg 3: Beregn
Tolkning: indikerer en svært sterk positiv lineær sammenheng mellom studietid og eksamenspoeng. Elever som studerer mer, får konsistent høyere poeng. Men husk: korrelasjon beviser ikke kausalitet — det kan finnes konfunderende variabler.
En studie finner mellom antall timer skjermtid og antall timer søvn per natt. Hva betyr dette?
Lineær regresjon
Mens korrelasjon bare måler styrken av sammenhengen, gir lineær regresjon oss en matematisk modell for sammenhengen. Den gir oss en ligning vi kan bruke til å predikere verdien av basert på verdien av .
Den lineære regresjonsmodellen er:
der:
- er den predikerte verdien av
- er konstantleddet (skjæringspunkt med -aksen) — verdien av når
- er stigningstallet (regresjonskoeffisienten) — hvor mye endrer seg per enhet økning i
Minste kvadraters metode
Regresjonslinjen beregnes ved å minimere summen av kvadrerte avvik mellom observerte og predikerte verdier (residualene). Stigningstallet er:
Konstantleddet er:
Legg merke til sammenhengen: stigningstallet er knyttet til korrelasjonskoeffisienten , men skalert med forholdet mellom standardavvikene. Mens er enhetsfri, har enheter (-enheter per -enhet).
Stigningstall:
Konstantledd:
Residual: (avviket mellom observert og predikert verdi)
Regresjonslinjen går alltid gjennom punktet og minimerer summen av kvadrerte residualer .
Bruk dataene fra forrige eksempel (studietid og poeng) til å finne regresjonslinjen, og prediker poengsummen for en elev som studerer 18 timer per uke.
Steg 1: Beregn stigningstallet
For hver time ekstra studietid per uke øker predikert poengsum med 1,82 poeng.
Steg 2: Beregn konstantleddet
Steg 3: Regresjonslinjen
Steg 4: Prediksjon for
En elev som studerer 18 timer per uke predikeres å få ca. 76,5 poeng. Men dette er bare en prediksjon — den faktiske poengsummen vil avvike noe fra dette.
En regresjonsligning er . Hva er den beste tolkningen av stigningstallet ?
Forklaringsgrad og prediksjon
Determinasjonskoeffisienten angir hvor stor andel av variasjonen i som forklares av den lineære sammenhengen med . Den beregnes enkelt som:
For eksempel: dersom , er . Det betyr at 64 % av variasjonen i kan forklares av variasjonen i gjennom den lineære modellen. De resterende 36 % skyldes andre faktorer eller tilfeldig variasjon.
Tolkning av
- : Modellen forklarer ingenting — gir ingen informasjon om
- : Modellen forklarer alt — alle punkter ligger nøyaktig på regresjonslinjen
- I praksis: regnes ofte som god forklaringsgrad i samfunnsvitenskap, mens naturvitenskap ofte krever høyere
Begrensninger ved prediksjon
Ekstrapolering: Å predikere for -verdier utenfor det observerte dataområdet er risikabelt. Sammenhengen vi observerer innenfor dataområdet trenger ikke gjelde utenfor.
Korrelasjon kausalitet: En regresjonsmodell beskriver en statistisk sammenheng. Den sier ikke at endringer i forårsaker endringer i . Konfunderende variabler kan forklare hele sammenhengen.
Innflytelsesrike observasjoner: Enkeltpunkter langt fra de andre (uteliggere) kan ha uforholdsmessig stor innflytelse på regresjonslinjen. Det er viktig å sjekke for slike punkter.
der:
- er residualvariasjonen (uforklart variasjon)
- er totalvariasjonen
ligger alltid mellom 0 og 1 (0 % og 100 %). En høy betyr at modellen passer godt til dataene, men garanterer ikke at modellen er riktig eller kausal.
For studietid-eksempelet fant vi . (a) Beregn og tolk verdien. (b) Drøft om vi kan konkludere med at mer studietid forårsaker bedre eksamensresultater.
Tolkning: 97,6 % av variasjonen i eksamenspoeng kan forklares av variasjonen i studietid gjennom den lineære modellen. Bare 2,4 % skyldes andre faktorer. Dette er en svært høy forklaringsgrad.
(b) Selv med kan vi ikke konkludere med kausalitet basert på korrelasjon/regresjon alene. Mulige konfunderende variabler:
- Motivasjon: Motiverte elever studerer mer og gjør det bedre på eksamen — men det er motivasjonen som driver begge deler.
- Forkunnskaper: Elever med gode forkunnskaper trenger kanskje mindre studietid for å gjøre det bra, men velger likevel å studere mye fordi de liker faget.
- Sosioøkonomisk bakgrunn: Kan påvirke både studievaner og prestasjoner.
For å påvise kausalitet trenger vi et eksperiment der studietid randomiseres — noe som er vanskelig i praksis. Regresjonsmodellen viser en sterk sammenheng, men ikke en årsakssammenheng.
En forsker finner mellom antall treningsøkter per uke og VO2-maks. Hva er , og hva betyr det?
Oppsummering
- Pearsons måler styrken og retningen av lineær sammenheng mellom to kvantitative variabler ().
- Lineær regresjon gir oss modellen der er endringen i per enhet og er -verdien når .
- angir andelen av variasjonen i som forklares av den lineære sammenhengen med .
- Stigningstallet beregnes som og konstantleddet som .
- Korrelasjon beviser ikke kausalitet — konfunderende variabler kan forklare en observert sammenheng.
- Ekstrapolering (prediksjon utenfor dataområdet) er risikabelt og bør unngås.
- Sjekk alltid for uteliggere og vurder om forutsetningene for lineær regresjon er oppfylt.
En forsker samler inn data om temperatur (, i °C) og strømforbruk (, i kWh) for 6 vinterdager:
| Temperatur | ||||||
|---|---|---|---|---|---|---|
| Strømforbruk | 48 | 42 | 35 | 30 | 22 | 18 |
(a) Beregn Pearsons og tolk verdien. (b) Finn regresjonslinjen . (c) Prediker strømforbruket ved °C. (d) Ville det vært fornuftig å bruke modellen til å predikere strømforbruket ved °C? Begrunn.
En avisartikkel skriver: «Forskning viser sterk sammenheng mellom iskremsalg og drukningsulykker (, ). Jo mer iskrem som selges, desto flere drukner.» (a) Tolk og med korrekte statistiske begreper. (b) Forklar hvorfor det er feil å konkludere med at iskrem forårsaker drukning. (c) Hva er den sannsynlige konfunderende variabelen? (d) Foreslå et forskningsdesign som kunne teste kausalitet.
Dette kapitlet er skrevet av Anthropics toppmodeller (Claude Opus og Claude Fable) og er foreløpig ikke manuelt gjennomgått — kvalitetskontrollen gjøres av uavhengige KI-agenter, og innmeldte feil rettes fortløpende. Funnet en feil? Meld fra, så retter vi den. Les mer om hvordan innholdet lages.