2.5 Korrelasjon og regresjon

Henger de to tingene sammen?

Leser du mer, får du bedre karakterer? Stiger temperaturen, selges det mer is? Helt siden vi begynte å samle data, har mennesker villet vite om to ting henger sammen -- og hvor sterkt.

Til nå har vi beskrevet én variabel om gangen, med gjennomsnitt, standardavvik og diagrammer. Men i forskning er vi ofte ute etter sammenhengen mellom to variabler. I dette kapittelet lærer du å måle slike sammenhenger med korrelasjon og regresjon -- og minst like viktig, å unngå den vanligste fellen av alle: å tro at sammenheng beviser årsak.

Korrelasjon: styrke og retning

Korrelasjon er et mål på styrken og retningen av en lineær sammenheng mellom to variabler. Vi bruker korrelasjonskoeffisienten $r$, som alltid ligger mellom $-1$ og $1$. Er $r = 1$, har vi en perfekt positiv sammenheng: når den ene variabelen øker, øker den andre proporsjonalt. Er $r = -1$, er sammenhengen perfekt negativ: den ene øker mens den andre synker. Og er $r = 0$, finnes det ingen lineær sammenheng.

Styrken vurderer vi etter tallets størrelse: $|r|$ mellom 0 og 0,3 er svak, mellom 0,3 og 0,7 moderat, og mellom 0,7 og 1,0 sterk. Finner en forsker at studietid og eksamenspoeng har $r = 0{,}82$, vet vi to ting: sammenhengen er positiv (mer studietid henger sammen med høyere poeng), og den er sterk.

Men her kommer det aller viktigste forbeholdet: korrelasjon betyr ikke årsakssammenheng. At to ting følger hverandre, betyr ikke at den ene forårsaker den andre. Det klassiske eksempelet er iskremsalg og drukningsulykker, som korrelerer sterkt med $r = 0{,}87$. Det betyr ikke at iskrem fører til drukning. En bakenforliggende variabel -- varmt vær -- får både iskremsalget og badingen til å øke. Slike skjulte fellesårsaker lurer bak mange tilsynelatende sammenhenger, og en god forsker leter alltid etter dem.

Regresjon: linjen gjennom skyen av punkter

Korrelasjonen forteller hvor sterk sammenhengen er, men ikke hvordan vi kan bruke den til å forutsi. Det er her lineær regresjon kommer inn. Den finner den rette linjen som best beskriver sammenhengen mellom to variabler, kalt regresjonslinjen:

$$\hat{y} = ax + b$$

her er $\hat{y}$ den predikerte verdien, $a$ er stigningstallet -- hvor mye $y$ endres når $x$ øker med 1 -- og $b$ er konstantleddet, verdien av $\hat{y}$ når $x = 0$. Linjen finnes ved minste kvadraters metode, som velger den linjen der summen av de kvadrerte avstandene til punktene er minst.

Si at sammenhengen mellom studietid og eksamenspoeng gir ligningen $\hat{y} = 3{,}5x + 42$. Stigningstallet 3,5 betyr at hver ekstra time studietid i snitt gir 3,5 flere poeng. Konstantleddet 42 betyr at en som studerer 0 timer, forventes å få 42 poeng. Vil vi forutsi poengsummen for en som studerer 12 timer, setter vi inn: $\hat{y} = 3{,}5 \cdot 12 + 42 = 84$ poeng.

Men vær på vakt mot ekstrapolering -- å bruke modellen utenfor det dataområdet den bygger på. Setter vi inn 30 timer i samme modell, får vi 147 poeng, noe som er umulig når maks er 100. Modellen gjelder bare innenfor det området vi faktisk har målt.

Hvor god er modellen? Bestemmelseskoeffisienten

En regresjonslinje kan tegnes gjennom hvilken som helst sky av punkter, men hvor godt passer den egentlig? Det måler vi med bestemmelseskoeffisienten $R^2$, som forteller hvor stor andel av variasjonen i $y$ som forklares av modellen. Praktisk nok er $R^2$ ganske enkelt kvadratet av korrelasjonskoeffisienten: $R^2 = r^2$.

Er $R^2 = 1$, ligger alle punktene nøyaktig på linjen -- modellen forklarer all variasjon. Er $R^2 = 0$, forklarer den ingenting. Med $r = 0{,}82$ blir $R^2 = 0{,}82^2 \approx 0{,}67$, altså forklarer modellen 67 prosent av variasjonen, mens de resterende 33 prosent skyldes andre faktorer eller tilfeldigheter. Som tommelfingerregel er $R^2$ over 0,7 en god modell, mellom 0,4 og 0,7 moderat, og under 0,4 svak.

Tenk på et eksempel: en undersøkelse av skjermtid og søvnkvalitet gir $\hat{y} = -0{,}6x + 8{,}2$ med $R^2 = 0{,}45$. Stigningstallet $-0{,}6$ betyr at hver ekstra time skjermtid senker søvnkvaliteten med 0,6 poeng -- en negativ sammenheng. $R^2 = 0{,}45$ forteller at skjermtid forklarer 45 prosent av variasjonen i søvnkvalitet, mens de øvrige 55 prosent skyldes ting modellen ikke fanger, som stress, koffein eller soveromsmiljø. Modellen er altså moderat: skjermtid betyr noe, men er langt fra hele historien. Og nettopp her ligger faren i overskrifter som «Studien beviser: mer sjokolade gir bedre karakterer» -- med en moderat korrelasjon og uten å skille årsak fra sammenheng, lover en slik påstand langt mer enn dataene kan holde.

Oppsummering

Vi har sett at korrelasjon ($r$) måler styrken og retningen av en lineær sammenheng, med verdier mellom $-1$ og $1$ -- men at korrelasjon aldri beviser årsak, fordi bakenforliggende variabler kan ligge bak. Lineær regresjon finner linjen $\hat{y} = ax + b$ som best beskriver sammenhengen, der stigningstallet $a$ sier hvor mye $y$ endres per enhet $x$.

Bestemmelseskoeffisienten $R^2 = r^2$ forteller hvor stor andel av variasjonen modellen forklarer. Og to advarsler følger oss videre: pass deg for ekstrapolering utenfor måleområdet, og fall aldri for fristelsen til å lese en sterk korrelasjon som et bevis på årsak.