6.3 Ikke-lineær regresjon

Når den rette linjen ikke strekker til

På naturfagslaben dyrker klassen din bakterier. Dere teller hver time: 100, 150, 220, 340, 500. Du prøver pliktskyldigst å legge en rett linje gjennom punktene, men residualplottet viser et tydelig buet mønster — linjen undervurderer veksten i begge endene og overvurderer den på midten. Det er naturens måte å si: «dette er ikke lineært».

Mange fenomener i virkeligheten følger andre mønstre enn den rette linjen. Bakterievekst er eksponentiell, planetbaner og skaleringslover i biologien er potensielle, og avtakende avkastning i økonomien er ofte logaritmisk. Når residualplottet fra en lineær modell viser systematisk krumning, er det på tide å vurdere en ikke-lineær modell.

De tre vanligste ikke-lineære modellene i S2 er den eksponentielle $y = a \cdot b^x$, den potensielle $y = a \cdot x^b$ og den logaritmiske $y = a + b \cdot \ln x$. Det fine er at vi ikke trenger ny matematikk for å tilpasse dem: med et smart logaritmetriks — linearisering — kan vi gjenbruke hele verktøykassen fra lineær regresjon. Det er denne fortellingen handler om.

Eksponentiell regresjon og lineariseringstrikset

En eksponentiell modell har formen $y = a \cdot b^x$ der $a > 0$, $b > 0$ og $b \neq 1$. Trikset for å tilpasse den er å ta logaritmen på begge sider:

$$\ln y = \ln a + x \cdot \ln b$$

Setter vi $Y = \ln y$, $A = \ln a$ og $B = \ln b$, står vi igjen med $Y = A + Bx$ — en rett linje i $x$ og $Y$! Vi kan altså kjøre helt vanlig lineær regresjon på de transformerte dataene $(x_i, \ln y_i)$, og etterpå hente tilbake de opprinnelige parametrene med $b = e^B$ og $a = e^A$.

La oss gjøre det med bakteriene. Vi beregner $\ln y$ for hvert punkt: $\ln 100 = 4{,}605$, $\ln 150 = 5{,}011$, $\ln 220 = 5{,}394$, $\ln 340 = 5{,}829$ og $\ln 500 = 6{,}215$. Ser du hvor jevnt disse stiger? Lineær regresjon på $(x, \ln y)$ gir stigningstall $B \approx 0{,}403$ og konstantledd $A \approx 4{,}605$. Tilbake til de opprinnelige parametrene: $b = e^{0{,}403} \approx 1{,}50$ og $a = e^{4{,}605} \approx 100$.

Modellen blir $y = 100 \cdot 1{,}50^x$: kulturen startet på 100 bakterier og vokser med omtrent 50 % per time. Det stemmer påfallende godt med tellingene — og nå forstår vi tallene i stedet for bare å se på dem.

Potensmodellen og den logaritmiske modellen

Neste oppdrag: biologilæreren viser en tabell med kroppsvekt og hjertefrekvens for pattedyr. En mus på 0,03 kg har puls 600, en kanin på 2 kg har 200, en hund på 20 kg har 100, et menneske på 70 kg har 72, og en hest på 500 kg har 38. Her hjelper det ikke å ta logaritmen bare av $y$ — men en potensiell modell (power model) $y = a \cdot x^b$ med $a > 0$ og $x > 0$ passer som hånd i hanske. Logaritmen gir

$$\ln y = \ln a + b \cdot \ln x$$

som er lineær i $X = \ln x$ og $Y = \ln y$. Vi kjører altså lineær regresjon på $(\ln x_i, \ln y_i)$. For pattedyrene gir det $b \approx -0{,}27$ og $a = e^{5{,}295} \approx 200$, altså modellen $y \approx 200 \cdot x^{-0{,}27}$. Større dyr har lavere hjertefrekvens, og sammenhengen kalles allometrisk skalering. Potensmodeller er nettopp skaleringslover: når $x$ dobles, mangedobles $y$ med faktoren $2^b$.

Den tredje modellen er den logaritmiske: $y = a + b \cdot \ln x$ for $x > 0$. Den er allerede lineær i $X = \ln x$, så vi bruker lineær regresjon direkte på $(\ln x_i, y_i)$. Kjennetegnet er rask vekst i begynnelsen og deretter avtakende vekst — perfekt for situasjoner med metning eller avtakende grensenytte. Et eksempel: erfaring og lønn for en gruppe ansatte (1 år: 400 tusen, 2 år: 450, 5 år: 520, 10 år: 570, 20 år: 620) gir modellen $y = 401{,}6 + 72{,}6 \cdot \ln x$. Tolkningen er tankevekkende: fra 1 til 2 års erfaring stiger lønnen ca. 50 tusen — men du må gå fra 10 til 20 år for å få den samme økningen igjen. Det trengs stadig flere år for samme lønnshopp.

Hvilken modell vinner?

Tilbake på laben har du nå to kandidater for bakteriedataene: den lineære $\hat{y} = 98x + 72$ og den eksponentielle $\hat{y} = 100 \cdot 1{,}50^x$. Hvordan velger du? Fire kriterier hjelper deg.

Først $R^2$-sammenligning: beregn forklaringsgraden for hver modell — høyest $R^2$ gir best tilpasning. Her vinner den eksponentielle med $R^2 \approx 0{,}998$ mot den lineæres $0{,}970$. En viktig detalj: sammenlign $R^2$ beregnet for $y$ mot $\hat{y}$ i originale enheter, ikke for de lineariserte variablene — det siste gir bare en tilnærmelse.

Deretter residualplottet: den lineære modellens residualer veksler systematisk (negativ–positiv–negativ–positiv–negativ), et buet mønster, mens den eksponentielle modellens residualer ligger jevnt rundt null. Velg modellen med minst systematikk.

Så den faglige vurderingen: hvilken modell gir mening i konteksten? Bakterier deler seg med konstant rate, så eksponentiell vekst er biologisk begrunnet. Motsatt er eksponentiell vekst ikke rimelig for for eksempel befolkningsvekst over lang tid. Og til slutt prediksjon: gir modellen rimelige svar for de $x$-verdiene du faktisk bryr deg om?

Alt dette kan samles i en huskeliste for linearisering: eksponentiell $y = a \cdot b^x$ blir lineær i plottet $(x, \ln y)$, potensiell $y = a \cdot x^b$ i plottet $(\ln x, \ln y)$, og logaritmisk $y = a + b\ln x$ i plottet $(\ln x, y)$. Hvorfor gjør vi alt dette? Fordi lineær regresjon med minste kvadraters metode er enkel, veletablert og har gode statistiske egenskaper — ved å transformere dataene gjenbruker vi de samme verktøyene overalt.

Oppsummering: logaritmen som nøkkel

Fortellingen begynte med en rett linje som ikke passet til bakterieveksten, og endte med en hel verktøykasse. De tre sentrale ikke-lineære modellene i S2 er den eksponentielle $y = a \cdot b^x$, den potensielle $y = a \cdot x^b$ og den logaritmiske $y = a + b \ln x$. Felles for dem alle er at logaritmen forvandler dem til rette linjer: eksponentiell blir lineær i $(x, \ln y)$ med $b = e^B$ og $a = e^A$, potensiell blir lineær i $(\ln x, \ln y)$, og logaritmisk er allerede lineær i $(\ln x, y)$.

Dermed kan minste kvadraters metode fra lineær regresjon gjenbrukes på transformerte data — det er hele poenget med linearisering. Bakteriene fulgte $y = 100 \cdot 1{,}50^x$ (50 % vekst per time), pattedyrenes puls fulgte skaleringsloven $y \approx 200 \cdot x^{-0{,}27}$, og lønnsutviklingen fulgte $y = 401{,}6 + 72{,}6 \ln x$ med stadig mindre igjen for hvert ekstra år.

Når flere modeller konkurrerer, velger vi med fire kriterier: høyest $R^2$ (beregnet i originale enheter), minst systematikk i residualplottet, faglig rimelighet og fornuftige prediksjoner. En modell er ikke bare en kurve som treffer punktene — den er en påstand om hvordan verden fungerer, og den beste modellen er den som både passer dataene og gir mening.