6.4 Residualanalyse og modellvalidering

Ballen, bakteriene og jakten på riktig kurve

Du står i gymsalen og filmer en basketball som kastes mot kurven. Etterpå leser du av høyden fra videoen: ved $t = 0$ er ballen 1,0 meter over gulvet, ved 0,5 sekunder 4,6 meter, ved 1,0 sekund 6,8 meter, ved 1,5 sekunder 7,2 meter, ved 2,0 sekunder 5,9 meter og ved 2,5 sekunder 3,1 meter. Opp, så ned — ingen rett linje i verden kan beskrive dette.

Lineær regresjon fungerer når sammenhengen er tilnærmet lineær, men mange fenomener følger andre mønstre. Eksponentiell vekst beskriver befolkningsvekst og renters rente. Logaritmiske sammenhenger ligger bak desibelskalaen og Richter-skalaen. Og polynomiske kurver beskriver kastebaner og kostnadsoptimering.

I dette kapittelet utvider vi regresjonsverktøyene i to retninger: polynomisk regresjon, som bøyer kurven med ledd som $x^2$ og $x^3$, og eksponentiell regresjon på formen $y = a \cdot e^{kx}$, som vi temmer med logaritmer. Til slutt lager vi en feltguide for å gjenkjenne hvilken modell et datasett ber om.

Polynomisk regresjon — kurver som bøyer seg

Polynomisk regresjon tilpasser et polynom til dataene:

$$y = a_0 + a_1 x + a_2 x^2 + \cdots + a_k x^k$$

De vanligste variantene er grad 2 (kvadratisk), $y = a + bx + cx^2$, og grad 3 (kubisk), $y = a + bx + cx^2 + dx^3$. Koeffisientene bestemmes med minste kvadraters metode, akkurat som for den rette linjen — verktøyet ditt (GeoGebra, CAS eller Python) gjør regnearbeidet.

Tilbake til basketballen. En kvadratisk regresjon på måledataene gir

$$h = 0{,}95 + 7{,}62t - 3{,}18t^2 \qquad \text{med } R^2 = 0{,}995$$

Nå kan vi lese fysikken rett ut av koeffisientene. Starthøyden er $h(0) = 0{,}95$ meter — omtrent hoftehøyde, der ballen slapp hånden. Toppunktet finner vi der den deriverte er null: $\displaystyle t = \frac{7{,}62}{2 \cdot 3{,}18} = 1{,}20$ sekunder. Og $R^2 = 0{,}995$ betyr at 99,5 % av variasjonen i høyden forklares av modellen — en svært god tilpasning, som forventet for et kast som følger tyngdekraftens parabel.

Polynomer er fleksible: jo høyere grad, desto mer kan kurven bukte seg. Men fleksibilitet er ikke gratis — et polynom av høy grad kan tilpasse seg støy i stedet for mønster. Velg derfor lavest mulig grad som fanger formen i dataene.

Eksponentiell regresjon med $e$ som base

Mens ballen fløy i gymsalen, har bakteriekulturen på naturfagslaben vokst videre: 100, 150, 220, 340, 500 bakterier time for time. Her bruker vi en eksponentiell modell skrevet med den naturlige basen:

$$y = a \cdot e^{kx}$$

Lineariseringstrikset er det samme som før: $\ln y = \ln a + kx$ er lineær i $(x, \ln y)$. Oppskriften har tre steg. Først beregner vi $\ln y_i$ for alle datapunktene. Så kjører vi lineær regresjon på $(x_i, \ln y_i)$. Til slutt leser vi av: konstantleddet er $\ln a$ og stigningstallet er $k$.

For bakteriene gir regresjonen $\ln N = 4{,}61 + 0{,}403t$ med $R^2 = 0{,}999$. Dermed er $a = e^{4{,}61} \approx 100{,}5$ og $k = 0{,}403$, og modellen blir

$$N(t) = 100{,}5 \cdot e^{0{,}403t}$$

Med $e$-formen får vi en bonus: doblingstiden kommer nesten gratis. Kulturen dobler seg når $e^{0{,}403t} = 2$, altså etter $\displaystyle t = \frac{\ln 2}{0{,}403} \approx 1{,}72$ timer.

Hva med de andre kurvetypene? Potensregresjon $y = ax^b$ lineariseres med $\ln y = \ln a + b\ln x$ (plott $\ln x$ mot $\ln y$), og den logaritmiske modellen $y = a + b\ln x$ er allerede lineær i $\ln x$. Dermed har du en komplett feltguide: jevn stigning peker mot lineær modell, krumning mot polynomisk, rask akselererende vekst mot eksponentiell, avtagende vekst mot logaritmisk, og et lineært log-log-plott mot potensmodell. I tvilstilfeller lar du $R^2$ og residualplottet felle dommen.

Oppsummering: en kurve for ethvert fenomen

Basketballkastet og bakteriekulturen trengte hver sin kurve, og nå har du begge i verktøykassen. Polynomisk regresjon $y = a_0 + a_1x + a_2x^2 + \cdots$ bøyer kurven og fanger kastebaner og optimeringsproblemer; for ballen ga den kvadratiske modellen $h = 0{,}95 + 7{,}62t - 3{,}18t^2$ både starthøyde, toppunkt ved $t = 1{,}20$ s og $R^2 = 0{,}995$.

Eksponentiell regresjon $y = ae^{kx}$ lineariseres med $\ln y = \ln a + kx$: regresjon på $(x, \ln y)$ gir $\ln a$ som konstantledd og $k$ som stigningstall, og doblingstiden følger som $\ln 2 / k$. Potensmodellen $y = ax^b$ lineariseres tilsvarende med $\ln y = \ln a + b\ln x$, mens den logaritmiske $y = a + b\ln x$ allerede er lineær i $\ln x$.

Og feltguiden til slutt: jevn stigning → lineær, krumning → polynomisk, akselererende vekst → eksponentiell, avtagende vekst → logaritmisk, lineært log-log-plott → potens. Når formen alene ikke avgjør, sammenligner du $R^2$ og residualplott. Slik blir regresjon mindre som å gjette og mer som å lytte: dataene forteller deg selv hvilken form de har — du må bare kjenne språket.