Tilbake
7.1
Lineær regresjon

7.1 Lineær regresjon

Spredningsplott, minste kvadraters metode, regresjonslinje, residualer og determinasjonskoeffisienten R².

55 min
19 oppgaver
RegresjonslinjenMinste kvadraters metodeResidualer
Du leser den tradisjonelle versjonen
Din fremgang i kapitlet
0 / 19 oppgaver

Spredningsplott og sammenheng mellom variabler

I statistikk er vi ofte interessert i å undersøke om det er en sammenheng mellom to variabler. For eksempel:
- Er det sammenheng mellom studietimer og eksamensresultat?
- Henger mengden gjødsel sammen med avling?
- Påvirker temperatur salget av is?

Vi starter med å lage et spredningsplott (eller punktdiagram), der vi plotter datapunktene (xi,yi)(x_i, y_i) i et koordinatsystem. Variabelen xx kalles forklaringsvariabelen (uavhengig variabel) og yy kalles responsvariabelen (avhengig variabel).

Spredningsplott

Et spredningsplott viser datapunktene (x1,y1),(x2,y2),,(xn,yn)(x_1, y_1), (x_2, y_2), \ldots, (x_n, y_n) i et koordinatsystem.

Fra spredningsplottet kan vi vurdere:
- Retning: Positiv (oppover), negativ (nedover) eller ingen sammenheng
- Form: Lineær, krummet eller ingen klar form
- Styrke: Hvor tett punktene ligger langs en linje/kurve
- Uteliggere: Punkter som skiller seg markant fra resten

Minste kvadraters metode

Dersom spredningsplottet antyder en lineær sammenheng, ønsker vi å finne den rette linjen som best tilpasser dataene. Denne linjen kalles regresjonslinjen.

Idé: Vi vil minimere summen av de kvadrerte avstandene mellom de observerte yy-verdiene og de tilsvarende verdiene på linjen. Disse avstandene kalles residualer.

Regresjonslinjen
Regresjonslinjen er den linjen y^=ax+b\hat{y} = ax + b som minimerer summen av kvadrerte residualer:

S=i=1n(yiy^i)2=i=1n(yiaxib)2S = \sum_{i=1}^{n}(y_i - \hat{y}_i)^2 = \sum_{i=1}^{n}(y_i - ax_i - b)^2

Koeffisientene er:
a=nxiyixiyinxi2(xi)2=SxySxxa = \frac{n\sum x_i y_i - \sum x_i \sum y_i}{n\sum x_i^2 - (\sum x_i)^2} = \frac{S_{xy}}{S_{xx}}

b=yˉaxˉb = \bar{y} - a\bar{x}

der xˉ=1nxi\displaystyle \bar{x} = \frac{1}{n}\sum x_i og yˉ=1nyi\displaystyle \bar{y} = \frac{1}{n}\sum y_i er gjennomsnittene.

✏️Eksempel 1: Finne regresjonslinjen

En lærer registrerer antall studietimer (xx) og poeng på prøve (yy) for 6 elever:

Elev123456
xx (timer)2356810
yy (poeng)455560727890

Finn regresjonslinjen y^=ax+b\hat{y} = ax + b.

Løsning:

n=6n = 6, xi=34\sum x_i = 34, yi=400\sum y_i = 400

xˉ=3465,667\displaystyle \bar{x} = \frac{34}{6} \approx 5{,}667, yˉ=400666,667\displaystyle \bar{y} = \frac{400}{6} \approx 66{,}667

xi2=4+9+25+36+64+100=238\sum x_i^2 = 4+9+25+36+64+100 = 238

xiyi=90+165+300+432+624+900=2511\sum x_i y_i = 90+165+300+432+624+900 = 2511

a=62511344006238342=150661360014281156=14662725,39a = \frac{6 \cdot 2511 - 34 \cdot 400}{6 \cdot 238 - 34^2} = \frac{15066 - 13600}{1428 - 1156} = \frac{1466}{272} \approx 5{,}39

b=66,6675,395,667=66,66730,5536,12b = 66{,}667 - 5{,}39 \cdot 5{,}667 = 66{,}667 - 30{,}55 \approx 36{,}12

Regresjonslinje: y^=5,39x+36,12\hat{y} = 5{,}39x + 36{,}12

Tolkning: For hver ekstra studietime øker poengsummen i gjennomsnitt med ca. 5,4 poeng. En elev som ikke studerer, forventes å få ca. 36 poeng.

📊Utforsk: Lineær regresjon med minste kvadraters metode

Fem datapunkter og regresjonslinjen funnet med RegLin-kommandoen. Linjen er valgt slik at summen av de kvadrerte avstandene (residualene) blir minst mulig. Dra i punktene og se linjen tilpasse seg.

📝Oppgave 1

Gitt datapunktene (1,3)(1, 3), (2,5)(2, 5), (3,7)(3, 7), (4,9)(4, 9), (5,11)(5, 11). Finn regresjonslinjen y^=ax+b\hat{y} = ax + b.

📝Oppgave 2

Løs oppgavene:

a

Hva forteller stigningstallet aa i en regresjonslinje?

b

Hva forteller konstantleddet bb?

c

Hvorfor er det viktig at regresjonslinjen går gjennom (xˉ,yˉ)(\bar{x}, \bar{y})?

📝Oppgave 3

Gjødslingsmengde (xx kg/dekar) og avling (yy kg/dekar):

xx1020304050
yy250300380420470

Finn regresjonslinjen og estimer avlingen ved 35 kg gjødsel per dekar.

📝Oppgave 4

Bruk regresjonslinjen fra eksempel 1 (y^=5,39x+36,12\hat{y} = 5{,}39x + 36{,}12) til å predikere poengsummen for en elev som studerer 7 timer. Er det rimelig å bruke modellen for å predikere resultatet til en elev som studerer 25 timer?

Residualer

Residualet for et datapunkt er differansen mellom den observerte verdien og den predikerte verdien fra regresjonslinjen.

Residual
Residualet for datapunkt ii er:
ei=yiy^i=yi(axi+b)e_i = y_i - \hat{y}_i = y_i - (ax_i + b)

Egenskaper:
- ei>0e_i > 0: Observert verdi er over regresjonslinjen
- ei<0e_i < 0: Observert verdi er under regresjonslinjen
- ei=0e_i = 0: Observert verdi er regresjonslinjen
- Summen av residualene er alltid 0: ei=0\sum e_i = 0

Residualplott: Plot residualene eie_i mot xix_i (eller y^i\hat{y}_i). Hvis den lineære modellen passer godt, bør residualplottet vise tilfeldig spredning uten mønster.

Determinasjonskoeffisienten R2R^2

For å vurdere hvor god regresjonsmodellen er, bruker vi determinasjonskoeffisienten R2R^2.

Determinasjonskoeffisienten R2R^2
R2=1SSresSStot=1(yiy^i)2(yiyˉ)2R^2 = 1 - \frac{\text{SS}_{\text{res}}}{\text{SS}_{\text{tot}}} = 1 - \frac{\sum(y_i - \hat{y}_i)^2}{\sum(y_i - \bar{y})^2}

der:
- SSres=(yiy^i)2\text{SS}_{\text{res}} = \sum(y_i - \hat{y}_i)^2 er residualkvadratsummen (uforklart variasjon)
- SStot=(yiyˉ)2\text{SS}_{\text{tot}} = \sum(y_i - \bar{y})^2 er totalkvadratsummen (total variasjon)

Tolkning:
- R2R^2 angir andelen av variasjonen i yy som forklares av den lineære modellen
- 0R210 \leq R^2 \leq 1
- R2=1R^2 = 1: Alle punkter ligger eksakt på linjen (perfekt tilpasning)
- R2=0R^2 = 0: Modellen forklarer ingenting av variasjonen
- R2=0,85R^2 = 0{,}85 betyr at 85 % av variasjonen i yy forklares av xx

✏️Eksempel 2: Beregning av residualer og $R^2$

Bruk dataene og regresjonslinjen y^=5,39x+36,12\hat{y} = 5{,}39x + 36{,}12 fra eksempel 1. Beregn residualene og R2R^2.

Residualer:

xxyyy^\hat{y}e=yy^e = y - \hat{y}
24546,901,90-1{,}90
35552,292,71
56063,073,07-3{,}07
67268,463,54
87879,241,24-1{,}24
109090,020,02-0{,}02

Kontroll: ei0\sum e_i \approx 0
SSres=1,902+2,712+3,072+3,542+1,242+0,02232,4\text{SS}_{\text{res}} = 1{,}90^2 + 2{,}71^2 + 3{,}07^2 + 3{,}54^2 + 1{,}24^2 + 0{,}02^2 \approx 32{,}4
SStot=(4566,7)2+(5566,7)2++(9066,7)21333,3\text{SS}_{\text{tot}} = (45-66{,}7)^2 + (55-66{,}7)^2 + \cdots + (90-66{,}7)^2 \approx 1333{,}3
R2=132,41333,310,024=0,976\displaystyle R^2 = 1 - \frac{32{,}4}{1333{,}3} \approx 1 - 0{,}024 = 0{,}976
R20,976R^2 \approx 0{,}976: Studietimer forklarer ca. 97,6 % av variasjonen i poengsum. Svært god tilpasning.
📝Oppgave 5

Gitt regresjonslinjen y^=3x+10\hat{y} = 3x + 10 og datapunktene (2,17)(2, 17), (4,21)(4, 21), (6,29)(6, 29), (8,33)(8, 33). Beregn residualene og SSres\text{SS}_{\text{res}}.

📝Oppgave 6

Løs oppgavene:

a

Hva betyr det at et residualplott viser et krummet mønster?

b

Hva betyr det at residualplottet viser en vifteform (spredningen øker)?

📝Oppgave 7

Temperatur (xx, °C) og issalg (yy, antall):

xx15182023252830
yy304550658090100

Bruk kalkulator/regneark til å finne regresjonslinjen og R2R^2. Tolk resultatene.

📝Oppgave 8

En bedrift har følgende data for annonsering (xx, tusen kr) og salg (yy, tusen kr):

xx510152025
yy80120150180220

Finn regresjonslinjen og bruk den til å predikere salget ved et annonsebudsjett på 18 tusen kr.

📝Oppgave 9

Vis at i=1nei=0\sum_{i=1}^{n} e_i = 0 for regresjonslinjen y^=ax+b\hat{y} = ax + b der b=yˉaxˉb = \bar{y} - a\bar{x}.

📝Oppgave 10

Beregn R2R^2 for oppgave 5 (y^=3x+10\hat{y} = 3x + 10, data: (2,17),(4,21),(6,29),(8,33)(2,17), (4,21), (6,29), (8,33)).

📝Oppgave 11

En forsker samler data om alder (xx) og blodtrykk (yy) for 8 personer:

xx2530354045505560
yy115120118125130128138140

Finn regresjonslinjen med kalkulator, beregn R2R^2 og diskuter om alder er en god prediktor for blodtrykk.

📝Oppgave 12

Løs oppgavene:

a

Hva er forskjellen på interpolasjon og ekstrapolasjon?

b

Gi et eksempel der ekstrapolasjon gir meningsløse resultater.

📝Oppgave 13

To regresjonsmodeller for sammenheng mellom CO2_2-utslipp (xx) og temperaturavvik (yy):

Modell A: y^=0,005x+0,2\hat{y} = 0{,}005x + 0{,}2, R2=0,88R^2 = 0{,}88
Modell B: y^=0,004x+0,5\hat{y} = 0{,}004x + 0{,}5, R2=0,72R^2 = 0{,}72

Hvilken modell vil du foretrekke, og hvorfor?

📝Oppgave 14

For datasettet i oppgave 3 (gjødsel og avling), beregn alle residualene og tegn et residualplott. Vurder om den lineære modellen passer godt.

Oppsummering

I dette kapittelet har du lært:

- Spredningsplott viser sammenhengen mellom to variabler; regresjonslinja y^=ax+b\hat{y} = ax + b er linja som passer dataene best.
- Minste kvadraters metode: Regresjonslinja minimerer summen av kvadrerte residualer, og residualene summerer seg til null.
- Residual: ei=yiy^ie_i = y_i - \hat{y}_i — avviket mellom observert og predikert verdi.
- Determinasjonskoeffisienten R2R^2: Andelen av variasjonen i yy som modellen forklarer (0R210 \leq R^2 \leq 1).

Nøkkelbegreper


BegrepForklaring
RegresjonslinjeBeste rette linje gjennom dataene
ResidualObservert minus predikert verdi
R2R^2Forklart andel av variasjonen
PrediksjonModellens anslag for en gitt xx

Viktige formler


- y^=ax+b\hat{y} = ax + b
- ei=yiy^ie_i = y_i - \hat{y}_i
- R2=1R^2 = 1: perfekt lineær tilpasning
Repetisjonsoppgaver
Din fremgang
0deloppgaver0 / 5 oppgaver

Dette kapitlet er skrevet av Anthropics toppmodeller (Claude Opus og Claude Fable) og er foreløpig ikke manuelt gjennomgått — kvalitetskontrollen gjøres av uavhengige KI-agenter, og innmeldte feil rettes fortløpende. Funnet en feil? Meld fra, så retter vi den. Les mer om hvordan innholdet lages.