Tilbake
6.1
Lineær regresjon

6.1 Lineær regresjon

Minste kvadraters metode og regresjonsanalyse.

55 min
21 oppgaver
Lineær regresjonMinste kvadratRegresjonslinjePrediksjon
Du leser den tradisjonelle versjonen
Din fremgang i kapitlet
0 / 21 oppgaver

Kva er lineær regresjon?

Lineær regresjon er ein statistisk metode for å finne den rette linja som best skildrar samanhengen mellom to variablar.

Forklaringsvariabel xx (uavhengig variabel): den vi brukar til å forklare eller predikere.
Responsvariabel yy (avhengig variabel): den vi ønskjer å forklare eller predikere.

Når vi har nn observasjonspar (x1,y1),(x2,y2),,(xn,yn)(x_1, y_1), (x_2, y_2), \ldots, (x_n, y_n), ønskjer vi å finne den rette linja:
y^=ax+b\hat{y} = ax + b

som passar best til dataa. Her er y^\hat{y} den predikerte verdien av yy for ein gitt xx.

Minste kvadraters metode (MKM)
Minste kvadraters metode finn koeffisientane aa og bb som minimerer summen av kvadrerte avvik mellom observerte og predikerte verdiar:

SSE=i=1n(yiy^i)2=i=1n(yiaxib)2\text{SSE} = \sum_{i=1}^{n} (y_i - \hat{y}_i)^2 = \sum_{i=1}^{n} (y_i - ax_i - b)^2

SSE = Sum of Squared Errors (sum av kvadratavvik).

Metoden sikrar at den totale «avstanden» mellom datapunkta og linja er så liten som mogleg.

📜Regresjonskoeffisientar
Stigingstalet (helninga) og konstantleddet i regresjonslinja y^=ax+b\hat{y} = ax + b er:

a=nxiyixiyinxi2(xi)2=SxySxxa = \frac{n\sum x_i y_i - \sum x_i \sum y_i}{n\sum x_i^2 - (\sum x_i)^2} = \frac{S_{xy}}{S_{xx}}

b=yˉaxˉb = \bar{y} - a\bar{x}

der:
- Sxy=(xixˉ)(yiyˉ)S_{xy} = \sum(x_i - \bar{x})(y_i - \bar{y})
- Sxx=(xixˉ)2S_{xx} = \sum(x_i - \bar{x})^2
- xˉ\bar{x} og yˉ\bar{y} er gjennomsnitta

Regresjonslinja går alltid gjennom punktet (xˉ,yˉ)(\bar{x}, \bar{y}).

✏️Rekne ut regresjonslinje

Ei bedrift måler samanhengen mellom annonsering (xx, i tusen kroner) og sal (yy, i tusen einingar):

xx12345
yy35689

Finn regresjonslinja y^=ax+b\hat{y} = ax + b.

Rekn ut hjelpestorleikar:
n=5n = 5, xˉ=3\bar{x} = 3, yˉ=6,2\bar{y} = 6{,}2

xiyi=13+25+36+48+59=3+10+18+32+45=108\sum x_i y_i = 1 \cdot 3 + 2 \cdot 5 + 3 \cdot 6 + 4 \cdot 8 + 5 \cdot 9 = 3 + 10 + 18 + 32 + 45 = 108

xi=15\sum x_i = 15, yi=31\sum y_i = 31, xi2=1+4+9+16+25=55\sum x_i^2 = 1 + 4 + 9 + 16 + 25 = 55

Stigingstal:
a=51081531555152=540465275225=7550=1,5a = \frac{5 \cdot 108 - 15 \cdot 31}{5 \cdot 55 - 15^2} = \frac{540 - 465}{275 - 225} = \frac{75}{50} = 1{,}5

Konstantledd:
b=6,21,53=6,24,5=1,7b = 6{,}2 - 1{,}5 \cdot 3 = 6{,}2 - 4{,}5 = 1{,}7

Regresjonslinje: y^=1,5x+1,7\hat{y} = 1{,}5x + 1{,}7

Tolking: For kvar ekstra tusen kroner i annonsering aukar salet med ca. 1500 einingar.

📊Utforsk: Regresjonslinja

Datapunkt med regresjonslinja frå RegLin-kommandoen. Linja minimerer summen av dei kvadrerte residuala. Dra eitt punkt langt vekk frå dei andre og sjå kor mykje eit avvikande punkt påverkar linja.

Residual

Eit residual er forskjellen mellom observert og predikert verdi:
ei=yiy^ie_i = y_i - \hat{y}_i

Residuala fortel oss kor godt modellen passar til kvart datapunkt.

Residualplott er eit diagram der residuala eie_i blir plotta mot xix_i (eller y^i\hat{y}_i). Eit godt residualplott viser:
- Ingen systematisk mønster (tilfeldig spreiing rundt null)
- Omtrent lik spreiing over heile xx-området

Problematiske mønster:
- Krumming: Lineær modell passar ikkje, prøv ikkje-lineær regresjon
- Vifte: Aukande variasjon, føresetnaden om konstant varians er broten
- Klynger: Mogleg gruppering i dataa

✏️Rekne ut residual

Med regresjonslinja y^=1,5x+1,7\hat{y} = 1{,}5x + 1{,}7 frå førre eksempel, rekn ut residuala for alle datapunkta.

xix_iyiy_iy^i=1,5xi+1,7\hat{y}_i = 1{,}5x_i + 1{,}7ei=yiy^ie_i = y_i - \hat{y}_i
133,20,2-0{,}2
254,70,30{,}3
366,20,2-0{,}2
487,70,30{,}3
599,20,2-0{,}2

Kontroll: ei=0,2+0,30,2+0,30,2=0\sum e_i = -0{,}2 + 0{,}3 - 0{,}2 + 0{,}3 - 0{,}2 = 0
Residuala er små og vekslar i forteikn, noko som tyder på ei god tilpassing.
Forklaringsgraden R2R^2
Forklaringsgraden R2R^2 (R-kvadrat) måler kor stor del av variasjonen i yy som modellen forklarer:

R2=1SSESST=1(yiy^i)2(yiyˉ)2R^2 = 1 - \frac{\text{SSE}}{\text{SST}} = 1 - \frac{\sum(y_i - \hat{y}_i)^2}{\sum(y_i - \bar{y})^2}

der:
- SSE=(yiy^i)2\text{SSE} = \sum(y_i - \hat{y}_i)^2 er uforklart variasjon
- SST=(yiyˉ)2\text{SST} = \sum(y_i - \bar{y})^2 er total variasjon

Tolking:
- R2=0R^2 = 0: Modellen forklarer ingenting
- R2=1R^2 = 1: Modellen forklarer alt (perfekt tilpassing)
- R2=0,85R^2 = 0{,}85: 85 % av variasjonen i yy blir forklart av xx

For enkel lineær regresjon: R2=r2R^2 = r^2 (kvadratet av korrelasjonskoeffisienten).

✏️Rekne ut $R^2$

Rekn ut R2R^2 for eksempelet med annonsering og sal.

SSE (uforklart variasjon):
SSE=(0,2)2+0,32+(0,2)2+0,32+(0,2)2=0,04+0,09+0,04+0,09+0,04=0,30\text{SSE} = (-0{,}2)^2 + 0{,}3^2 + (-0{,}2)^2 + 0{,}3^2 + (-0{,}2)^2 = 0{,}04 + 0{,}09 + 0{,}04 + 0{,}09 + 0{,}04 = 0{,}30

SST (total variasjon): yˉ=6,2\bar{y} = 6{,}2
SST=(36,2)2+(56,2)2+(66,2)2+(86,2)2+(96,2)2\text{SST} = (3-6{,}2)^2 + (5-6{,}2)^2 + (6-6{,}2)^2 + (8-6{,}2)^2 + (9-6{,}2)^2
=10,24+1,44+0,04+3,24+7,84=22,80= 10{,}24 + 1{,}44 + 0{,}04 + 3{,}24 + 7{,}84 = 22{,}80

Forklaringsgrad:
R2=10,3022,80=10,0132=0,987R^2 = 1 - \frac{0{,}30}{22{,}80} = 1 - 0{,}0132 = 0{,}987

Heile 98,7 % av variasjonen i sal blir forklart av annonsering. Svært god tilpassing!

Prediksjon og ekstrapolering

Prediksjon betyr å bruke regresjonsmodellen til å anslå yy for ein gitt xx-verdi.

Interpolering: Prediksjon for xx-verdiar innanfor området til observerte data. Vanlegvis påliteleg.

Ekstrapolering: Prediksjon for xx-verdiar utanfor det observerte området. Kan vere svært upåliteleg fordi vi ikkje veit om det lineære mønsteret held fram.

Eksempel: Viss vi har data for annonsering mellom 1 og 5 tusen kroner, er det rimeleg å predikere sal for x=3,5x = 3{,}5 (interpolering), men risikabelt for x=20x = 20 (ekstrapolering). Ved x=20x = 20 ville modellen gi y^=1,520+1,7=31,7\hat{y} = 1{,}5 \cdot 20 + 1{,}7 = 31{,}7, men i røyndommen kan det finnast ein metningseffekt.

📝Oppgave 1

Løys oppgåvene:

a

Kva betyr aa og bb i regresjonslinja y^=ax+b\hat{y} = ax + b?

b

Regresjonslinja er y^=2,3x+5\hat{y} = 2{,}3x + 5. Kva er predikert yy for x=4x = 4?

📝Oppgave 2

Løys oppgåvene:

a

Kva er eit residual, og kva betyr det at residualet er positivt?

b

Kva er alltid ei\sum e_i for ei regresjonslinje funne med MKM?

📝Oppgave 3

Løys oppgåvene:

a

Kva fortel R2=0,72R^2 = 0{,}72 oss?

b

Kva er forskjellen mellom interpolering og ekstrapolering?

📝Oppgave 4

Løys oppgåvene:

a

Gitt xˉ=5\bar{x} = 5, yˉ=12\bar{y} = 12, a=1,8a = 1{,}8. Finn bb.

📝Oppgave 5

Løys oppgåvene:

a

Data: (1,2)(1, 2), (2,4)(2, 4), (3,5)(3, 5), (4,7)(4, 7). Finn regresjonslinja.

📝Oppgave 6

Løys oppgåvene:

a

Bruk regresjonslinja frå oppgåve 5 til å rekne ut residuala for alle fire datapunkta.

📝Oppgave 7

Løys oppgåvene:

a

Rekn ut R2R^2 for modellen frå oppgåve 5.

📝Oppgave 8

Løys oppgåvene:

a

Studietid (xx, timar) og testresultat (yy, poeng): (2,50)(2, 50), (3,60)(3, 60), (5,75)(5, 75), (6,80)(6, 80), (8,90)(8, 90). Finn regresjonslinja og tolk stigingstalet.

📝Oppgave 9

Løys oppgåvene:

a

Bruk regresjonsmodellen y^=6,62x+39,2\hat{y} = 6{,}62x + 39{,}2 til å predikere poengsummen for ein elev som studerer 7 timar. Er dette interpolering eller ekstrapolering?

📝Oppgave 10

Løys oppgåvene:

a

Forklar kva det betyr dersom residualplottet viser eit bua mønster.

📝Oppgave 11

Løys oppgåvene:

a

Vis at regresjonslinja alltid går gjennom punktet (xˉ,yˉ)(\bar{x}, \bar{y}).

📝Oppgave 12

Løys oppgåvene:

a

Alder (xx, år) og blodtrykk (yy, mmHg): (25,118)(25, 118), (30,120)(30, 120), (40,128)(40, 128), (50,135)(50, 135), (60,142)(60, 142), (65,148)(65, 148). Finn regresjonslinja, rekn ut R2R^2, og prediker blodtrykket for ein 45-åring.

📝Oppgave 13

Løys oppgåvene:

a

I oppgåve 12 fekk vi ein modell for blodtrykk. Ville du brukt modellen til å predikere blodtrykket for ein 5-åring? For ein 90-åring? Grunngi svaret.

📝Oppgave 14

Løys oppgåvene:

a

Vis at SST = SSR + SSE, der SSR =(y^iyˉ)2= \sum(\hat{y}_i - \bar{y})^2 er variasjonen forklart av modellen. Forklar kva dette betyr.

📝Oppgave 15

Løys oppgåvene:

a

Temperatur (xx, °C) og iskremsal (yy, einingar): (15,200)(15, 200), (20,350)(20, 350), (22,400)(22, 400), (25,500)(25, 500), (28,620)(28, 620), (30,700)(30, 700). Finn regresjonslinja og gi eit 95 % prediksjonsintervall for sal ved 24°C (du kan anta at R2R^2 er svært høg).

📝Oppgave 16

Løys oppgåvene:

a

Forklar kvifor R2R^2 åleine ikkje er tilstrekkeleg for å vurdere ein regresjonsmodell. Kva andre verktøy bør brukast?

Oppsummering

Læringspunkt:
- Regresjonslinja y^=ax+b\hat{y} = ax + b blir funnen med minste kvadraters metode (MKM): ho minimerer summen av kvadrerte residual.
- Stigingstalet aa angir endringa i y^\hat{y} per eining auke i xx; konstantleddet bb er predikert verdi når x=0x = 0.
- Residualet ei=yiy^ie_i = y_i - \hat{y}_i er avviket mellom observert og predikert verdi; for MKM er ei=0\sum e_i = 0.
- Forklaringsgraden R2=1SSESST\displaystyle R^2 = 1 - \frac{SS_E}{SS_T} angir delen av variasjonen i yy som modellen forklarer.
- Linja går alltid gjennom tyngdepunktet (xˉ,yˉ)(\bar{x}, \bar{y}), og b=yˉaxˉb = \bar{y} - a\bar{x}.
- Ver varsam med ekstrapolering — prediksjonar utanfor dataområdet kan vere misvisande.

NøkkelomgrepForklaring
Regresjonslinjey^=ax+b\hat{y} = ax + b, beste lineære tilpassing
Residualei=yiy^ie_i = y_i - \hat{y}_i
MKMMinimerer ei2\sum e_i^2
R2R^2Del forklart variasjon
EkstrapoleringPrediksjon utanfor observert xx-område

Viktige formlar:
a=(xixˉ)(yiyˉ)(xixˉ)2,b=yˉaxˉ,R2=1SSESSTa = \frac{\sum(x_i - \bar{x})(y_i - \bar{y})}{\sum(x_i - \bar{x})^2}, \qquad b = \bar{y} - a\bar{x}, \qquad R^2 = 1 - \frac{SS_E}{SS_T}
Repetisjonsoppgåver
Din fremgang
0deloppgaver0 / 5 oppgaver

Dette kapitlet er skrevet av Anthropics toppmodeller (Claude Opus og Claude Fable) og er foreløpig ikke manuelt gjennomgått — kvalitetskontrollen gjøres av uavhengige KI-agenter, og innmeldte feil rettes fortløpende. Funnet en feil? Meld fra, så retter vi den. Les mer om hvordan innholdet lages.