Tilbake
7.1
Lineær regresjon

7.1 Lineær regresjon

Spredningsplott, minste kvadraters metode, regresjonslinje, residualer og determinasjonskoeffisienten R².

55 min
19 oppgaver
RegresjonslinjenMinste kvadraters metodeResidualer
Du leser den tradisjonelle versjonen
Din fremgang i kapitlet
0 / 19 oppgaver

Spreiingsplott og samanheng mellom variablar

I statistikk er vi ofte interesserte i å undersøkje om det er ein samanheng mellom to variablar. Til dømes:
- Er det samanheng mellom studietimar og eksamensresultat?
- Heng mengda gjødsel saman med avling?
- Påverkar temperatur salet av is?

Vi startar med å lage eit spreiingsplott (eller punktdiagram), der vi plottar datapunkta (xi,yi)(x_i, y_i) i eit koordinatsystem. Variabelen xx blir kalla forklaringsvariabelen (uavhengig variabel) og yy blir kalla responsvariabelen (avhengig variabel).

Spreiingsplott

Eit spreiingsplott viser datapunkta (x1,y1),(x2,y2),,(xn,yn)(x_1, y_1), (x_2, y_2), \ldots, (x_n, y_n) i eit koordinatsystem.

Frå spreiingsplottet kan vi vurdere:
- Retning: Positiv (oppover), negativ (nedover) eller ingen samanheng
- Form: Lineær, krumma eller ingen klar form
- Styrke: Kor tett punkta ligg langs ei linje/kurve
- Uteliggjarar: Punkt som skil seg markant frå resten

Minste kvadraters metode

Dersom spreiingsplottet antydar ein lineær samanheng, ønskjer vi å finne den rette linja som best tilpassar dataene. Denne linja blir kalla regresjonslinja.

Idé: Vi vil minimere summen av dei kvadrerte avstandane mellom dei observerte yy-verdiane og dei tilsvarande verdiane på linja. Desse avstandane blir kalla residual.

Regresjonslinja
Regresjonslinja er den linja y^=ax+b\hat{y} = ax + b som minimerer summen av kvadrerte residual:

S=i=1n(yiy^i)2=i=1n(yiaxib)2S = \sum_{i=1}^{n}(y_i - \hat{y}_i)^2 = \sum_{i=1}^{n}(y_i - ax_i - b)^2

Koeffisientane er:
a=nxiyixiyinxi2(xi)2=SxySxxa = \frac{n\sum x_i y_i - \sum x_i \sum y_i}{n\sum x_i^2 - (\sum x_i)^2} = \frac{S_{xy}}{S_{xx}}

b=yˉaxˉb = \bar{y} - a\bar{x}

der xˉ=1nxi\displaystyle \bar{x} = \frac{1}{n}\sum x_i og yˉ=1nyi\displaystyle \bar{y} = \frac{1}{n}\sum y_i er gjennomsnitta.

✏️Eksempel 1: Finne regresjonslinja

Ein lærar registrerer talet på studietimar (xx) og poeng på prøve (yy) for 6 elevar:

Elev123456
xx (timar)2356810
yy (poeng)455560727890

Finn regresjonslinja y^=ax+b\hat{y} = ax + b.

Løysing:

n=6n = 6, xi=34\sum x_i = 34, yi=400\sum y_i = 400

xˉ=3465,667\displaystyle \bar{x} = \frac{34}{6} \approx 5{,}667, yˉ=400666,667\displaystyle \bar{y} = \frac{400}{6} \approx 66{,}667

xi2=4+9+25+36+64+100=238\sum x_i^2 = 4+9+25+36+64+100 = 238

xiyi=90+165+300+432+624+900=2511\sum x_i y_i = 90+165+300+432+624+900 = 2511

a=62511344006238342=150661360014281156=14662725,39a = \frac{6 \cdot 2511 - 34 \cdot 400}{6 \cdot 238 - 34^2} = \frac{15066 - 13600}{1428 - 1156} = \frac{1466}{272} \approx 5{,}39

b=66,6675,395,667=66,66730,5536,12b = 66{,}667 - 5{,}39 \cdot 5{,}667 = 66{,}667 - 30{,}55 \approx 36{,}12

Regresjonslinje: y^=5,39x+36,12\hat{y} = 5{,}39x + 36{,}12

Tolking: For kvar ekstra studietime aukar poengsummen i gjennomsnitt med ca. 5,4 poeng. Ein elev som ikkje studerer, blir venta å få ca. 36 poeng.

📊Utforsk: Lineær regresjon med minste kvadraters metode

Fem datapunkt og regresjonslinja funnen med RegLin-kommandoen. Linja er vald slik at summen av dei kvadrerte avstandane (residuala) blir minst mogleg. Dra i punkta og sjå linja tilpasse seg.

📝Oppgave 1

Gitt datapunkta (1,3)(1, 3), (2,5)(2, 5), (3,7)(3, 7), (4,9)(4, 9), (5,11)(5, 11). Finn regresjonslinja y^=ax+b\hat{y} = ax + b.

📝Oppgave 2

Løys oppgåvene:

a

Kva fortel stigingstalet aa i ei regresjonslinje?

b

Kva fortel konstantleddet bb?

c

Kvifor er det viktig at regresjonslinja går gjennom (xˉ,yˉ)(\bar{x}, \bar{y})?

📝Oppgave 3

Gjødslingsmengd (xx kg/dekar) og avling (yy kg/dekar):

xx1020304050
yy250300380420470

Finn regresjonslinja og estimer avlinga ved 35 kg gjødsel per dekar.

📝Oppgave 4

Bruk regresjonslinja frå eksempel 1 (y^=5,39x+36,12\hat{y} = 5{,}39x + 36{,}12) til å predikere poengsummen for ein elev som studerer 7 timar. Er det rimeleg å bruke modellen for å predikere resultatet til ein elev som studerer 25 timar?

Residual

Residualet for eit datapunkt er differansen mellom den observerte verdien og den predikerte verdien frå regresjonslinja.

Residual
Residualet for datapunkt ii er:
ei=yiy^i=yi(axi+b)e_i = y_i - \hat{y}_i = y_i - (ax_i + b)

Eigenskapar:
- ei>0e_i > 0: Observert verdi er over regresjonslinja
- ei<0e_i < 0: Observert verdi er under regresjonslinja
- ei=0e_i = 0: Observert verdi er regresjonslinja
- Summen av residuala er alltid 0: ei=0\sum e_i = 0

Residualplott: Plott residuala eie_i mot xix_i (eller y^i\hat{y}_i). Viss den lineære modellen passar godt, bør residualplottet vise tilfeldig spreiing utan mønster.

Determinasjonskoeffisienten R2R^2

For å vurdere kor god regresjonsmodellen er, bruker vi determinasjonskoeffisienten R2R^2.

Determinasjonskoeffisienten R2R^2
R2=1SSresSStot=1(yiy^i)2(yiyˉ)2R^2 = 1 - \frac{\text{SS}_{\text{res}}}{\text{SS}_{\text{tot}}} = 1 - \frac{\sum(y_i - \hat{y}_i)^2}{\sum(y_i - \bar{y})^2}

der:
- SSres=(yiy^i)2\text{SS}_{\text{res}} = \sum(y_i - \hat{y}_i)^2 er residualkvadratsummen (uforklart variasjon)
- SStot=(yiyˉ)2\text{SS}_{\text{tot}} = \sum(y_i - \bar{y})^2 er totalkvadratsummen (total variasjon)

Tolking:
- R2R^2 angir delen av variasjonen i yy som blir forklart av den lineære modellen
- 0R210 \leq R^2 \leq 1
- R2=1R^2 = 1: Alle punkt ligg eksakt på linja (perfekt tilpassing)
- R2=0R^2 = 0: Modellen forklarer ingenting av variasjonen
- R2=0,85R^2 = 0{,}85 tyder at 85 % av variasjonen i yy blir forklart av xx

✏️Eksempel 2: Utrekning av residual og $R^2$

Bruk dataene og regresjonslinja y^=5,39x+36,12\hat{y} = 5{,}39x + 36{,}12 frå eksempel 1. Rekn ut residuala og R2R^2.

Residual:

xxyyy^\hat{y}e=yy^e = y - \hat{y}
24546,901,90-1{,}90
35552,292,71
56063,073,07-3{,}07
67268,463,54
87879,241,24-1{,}24
109090,020,02-0{,}02

Kontroll: ei0\sum e_i \approx 0
SSres=1,902+2,712+3,072+3,542+1,242+0,02232,4\text{SS}_{\text{res}} = 1{,}90^2 + 2{,}71^2 + 3{,}07^2 + 3{,}54^2 + 1{,}24^2 + 0{,}02^2 \approx 32{,}4
SStot=(4566,7)2+(5566,7)2++(9066,7)21333,3\text{SS}_{\text{tot}} = (45-66{,}7)^2 + (55-66{,}7)^2 + \cdots + (90-66{,}7)^2 \approx 1333{,}3
R2=132,41333,310,024=0,976\displaystyle R^2 = 1 - \frac{32{,}4}{1333{,}3} \approx 1 - 0{,}024 = 0{,}976
R20,976R^2 \approx 0{,}976: Studietimar forklarer ca. 97,6 % av variasjonen i poengsum. Svært god tilpassing.
📝Oppgave 5

Gitt regresjonslinja y^=3x+10\hat{y} = 3x + 10 og datapunkta (2,17)(2, 17), (4,21)(4, 21), (6,29)(6, 29), (8,33)(8, 33). Rekn ut residuala og SSres\text{SS}_{\text{res}}.

📝Oppgave 6

Løys oppgåvene:

a

Kva tyder det at eit residualplott viser eit krumma mønster?

b

Kva tyder det at residualplottet viser ei vifteform (spreiinga aukar)?

📝Oppgave 7

Temperatur (xx, °C) og issal (yy, tal):

xx15182023252830
yy304550658090100

Bruk kalkulator/rekneark til å finne regresjonslinja og R2R^2. Tolk resultata.

📝Oppgave 8

Ei bedrift har følgjande data for annonsering (xx, tusen kr) og sal (yy, tusen kr):

xx510152025
yy80120150180220

Finn regresjonslinja og bruk henne til å predikere salet ved eit annonsebudsjett på 18 tusen kr.

📝Oppgave 9

Vis at i=1nei=0\sum_{i=1}^{n} e_i = 0 for regresjonslinja y^=ax+b\hat{y} = ax + b der b=yˉaxˉb = \bar{y} - a\bar{x}.

📝Oppgave 10

Rekn ut R2R^2 for oppgåve 5 (y^=3x+10\hat{y} = 3x + 10, data: (2,17),(4,21),(6,29),(8,33)(2,17), (4,21), (6,29), (8,33)).

📝Oppgave 11

Ein forskar samlar data om alder (xx) og blodtrykk (yy) for 8 personar:

xx2530354045505560
yy115120118125130128138140

Finn regresjonslinja med kalkulator, rekn ut R2R^2 og diskuter om alder er ein god prediktor for blodtrykk.

📝Oppgave 12

Løys oppgåvene:

a

Kva er skilnaden på interpolasjon og ekstrapolasjon?

b

Gi eit eksempel der ekstrapolasjon gir meiningslause resultat.

📝Oppgave 13

To regresjonsmodellar for samanheng mellom CO2_2-utslepp (xx) og temperaturavvik (yy):

Modell A: y^=0,005x+0,2\hat{y} = 0{,}005x + 0{,}2, R2=0,88R^2 = 0{,}88
Modell B: y^=0,004x+0,5\hat{y} = 0{,}004x + 0{,}5, R2=0,72R^2 = 0{,}72

Kva for ein modell vil du føretrekkje, og kvifor?

📝Oppgave 14

For datasettet i oppgåve 3 (gjødsel og avling), rekn ut alle residuala og teikn eit residualplott. Vurder om den lineære modellen passar godt.

Oppsummering

I dette kapittelet har du lært:

- Spreiingsplott viser samanhengen mellom to variablar; regresjonslinja y^=ax+b\hat{y} = ax + b er linja som passar dataene best.
- Minste kvadraters metode: Regresjonslinja minimerer summen av kvadrerte residual, og residuala summerer seg til null.
- Residual: ei=yiy^ie_i = y_i - \hat{y}_i — avviket mellom observert og predikert verdi.
- Determinasjonskoeffisienten R2R^2: Delen av variasjonen i yy som modellen forklarer (0R210 \leq R^2 \leq 1).

Nøkkelomgrep


OmgrepForklaring
RegresjonslinjeBeste rette linje gjennom dataene
ResidualObservert minus predikert verdi
R2R^2Forklart del av variasjonen
PrediksjonAnslaget til modellen for ein gitt xx

Viktige formlar


- y^=ax+b\hat{y} = ax + b
- ei=yiy^ie_i = y_i - \hat{y}_i
- R2=1R^2 = 1: perfekt lineær tilpassing
Repetisjonsoppgåver
Din fremgang
0deloppgaver0 / 5 oppgaver

Dette kapitlet er skrevet av Anthropics toppmodeller (Claude Opus og Claude Fable) og er foreløpig ikke manuelt gjennomgått — kvalitetskontrollen gjøres av uavhengige KI-agenter, og innmeldte feil rettes fortløpende. Funnet en feil? Meld fra, så retter vi den. Les mer om hvordan innholdet lages.