Tilbake
5.3
Alle fag for Høyskole

5.3 Drill: projeksjon og minste kvadrater kjedet

Hele oppgave 1-halen drillet kjedet: fra samme matrise — ortogonal basis (Gram–Schmidt) → projeksjon → minste kvadrater (begge veier) → avstand → W⊥ — inkludert ikke-standard indreprodukt og affin løsning.

85 min
13 oppgaver
Drillprojeksjonminste kvadrater kjedet
Din fremgang i kapitlet
0 / 13 oppgaver
Kapitlets plass i kurset
Forkunnskaper:

- Kap. 5.1 — ortogonal projeksjon, dekomposisjon, W⊥W^{\perp} og avstand
- Kap. 5.2 — minste kvadrater: normallikninger, projeksjonssnarvei, affin løsning
- Kap. 4.2 — ortogonal basis / Gram–Schmidt

Alle metodene er innført der; her kjeder vi dem på eksamensnivå.

Løsningsoppskrift — projeksjon og minste kvadrater kjedet

Samme fem steg dekker hele oppgave 1-halen. Følg dem i rekkefølge:

1. Identifiser indreproduktet. Standard, vektet, integral eller evaluering? Alt som følger regnes med dette indreproduktet — også norm og Gram–Schmidt. (Felle nr. 1.)

2. Skaff en ortogonal basis for WW — men bare hvis du skal bruke projeksjonsformelen. Er den utleverte basisen ikke ortogonal, kjør Gram–Schmidt (skalér til heltall). (Felle nr. 4.)

3. Velg vei til minste kvadrater:
- Normallikninger CTCx^=CTbC^{T}C\hat{\mathbf{x}}=C^{T}\mathbf{b} — les den lille RREF-en fra vedlegget.
- Projeksjonssnarvei — regn p=proj⁡Wb\mathbf{p}=\operatorname{proj}_W\mathbf{b} og løs Cx=pC\mathbf{x}=\mathbf{p}. Bruk denne hvis du allerede har projisert.

4. Sjekk full kolonnerang. Uavhengige kolonner ⇒ entydig x^\hat{\mathbf{x}}. Avhengige kolonner (rangdefekt) ⇒ affin løsning x^p+Nul⁡C\hat{\mathbf{x}}_p+\operatorname{Nul}C. Si det eksplisitt. (Felle nr. 5.)

5. Avstand og W⊥W^{\perp}. Avstand =∥b−Cx^∥=∥z∥=\|\mathbf{b}-C\hat{\mathbf{x}}\|=\|\mathbf{z}\| (residualets norm, ikke ∥Cx^∥\|C\hat{\mathbf{x}}\|). W⊥W^{\perp}-basis via Nul⁡(AT)\operatorname{Nul}(A^{T}) (husk dim⁡W+dim⁡W⊥=dim⁡(rom)\dim W+\dim W^{\perp}=\dim(\text{rom})).

Koblingen du gjenbruker hele veien: proj⁡Wb=Cx^\operatorname{proj}_W\mathbf{b}=C\hat{\mathbf{x}} — projeksjon og minste kvadrater er to sider av samme sak.

Regel 1: Identifiser indreproduktet først

Før noe regnes: er indreproduktet standard, vektet, integral eller evaluering? Alle skalarprodukt, normer og Gram–Schmidt-ledd i hele oppgaven bruker den oppgitte definisjonen. Å falle tilbake på standardprikkproduktet ett sted er felle nr. 1.

Regel 2: Ortogonal basis før projeksjon

Projeksjonsformelen proj⁡Wy=∑⟨y,vi⟩⟨vi,vi⟩vi\displaystyle \operatorname{proj}_W\mathbf{y}=\sum\frac{\langle\mathbf{y},\mathbf{v}_i\rangle}{\langle\mathbf{v}_i,\mathbf{v}_i\rangle}\mathbf{v}_i krever en ortogonal basis. Er den utleverte basisen ikke ortogonal, kjør Gram–Schmidt (skalér til heltall) først. Felle nr. 4.

Regel 3a: Normallikningene
CTCx^=CTbC^{T}C\hat{\mathbf{x}}=C^{T}\mathbf{b} — sett opp CTCC^{T}C (kvadratisk) og CTbC^{T}\mathbf{b} for hånd, og les RREF-en av det lille systemet fra vedlegget. Radreduser aldri normallikningene for hånd hvis vedlegget gir dem.
Regel 3b: Projeksjonssnarveien

Regn p=proj⁡Wb\mathbf{p}=\operatorname{proj}_W\mathbf{b} direkte og løs det konsistente Cx=pC\mathbf{x}=\mathbf{p}. Belønnes særlig når projeksjonen allerede er regnet i en tidligere deloppgave. Gir samme Cx^C\hat{\mathbf{x}} som normallikningene.

Regel 4: Full kolonnerang eller affin

Uavhengige kolonner (CTCC^{T}C invertibel) ⇒ entydig x^\hat{\mathbf{x}}. Avhengige kolonner (rangdefekt) ⇒ affin løsning x^p+Nul⁡C\hat{\mathbf{x}}_p+\operatorname{Nul}C. Skriv eksplisitt hvilket tilfelle det er. Felle nr. 5.

Regel 5a: Avstand = residualets norm
d(b,W)=∥b−Cx^∥=∥z∥d(\mathbf{b},W)=\|\mathbf{b}-C\hat{\mathbf{x}}\|=\|\mathbf{z}\| — normen av resten, ikke ∥Cx^∥\|C\hat{\mathbf{x}}\| og ikke ∥x^∥\|\hat{\mathbf{x}}\|. Regnes i det oppgitte indreproduktet.
Regel 5b: W⊥W^{\perp}-basis

Basis for W⊥=(Col⁡A)⊥=Nul⁡(AT)W^{\perp}=(\operatorname{Col}A)^{\perp}=\operatorname{Nul}(A^{T}). Antall vektorer er dim⁡(rom)−dim⁡W\dim(\text{rom})-\dim W — oppgi ikke bare restvektoren z\mathbf{z} hvis dim⁡W⊥>1\dim W^{\perp}>1.

Regel: Koblingen proj⁡Wb=Cx^\operatorname{proj}_W\mathbf{b}=C\hat{\mathbf{x}}

Projeksjon og minste kvadrater er samme sak: Cx^C\hat{\mathbf{x}} er projeksjonen av b\mathbf{b} på Col⁡C\operatorname{Col}C, samme for alle (evt. affine) løsninger. Bruk den til gratis kontroll og til å hoppe mellom de to veiene.

✏️Gjennomregnet O1-hale-case (sensor-kommentert)
Samme matrise gjennom hele oppgaven (standardprikkprodukt):
C=[10111213],b=[3155],W=Col⁡C.C=\begin{bmatrix}1&0\\1&1\\1&2\\1&3\end{bmatrix},\qquad \mathbf{b}=\begin{bmatrix}3\\1\\5\\5\end{bmatrix},\qquad W=\operatorname{Col}C.
Vedlegget gir rref⁡[ CTC∣CTb ]=[102011].\operatorname{rref}\big[\,C^{T}C\mid C^{T}\mathbf{b}\,\big]=\begin{bmatrix}1&0&2\\0&1&1\end{bmatrix}.

a) Finn en ortogonal basis for WW.
b) Projiser b\mathbf{b} ned på WW og finn avstanden d(b,W)d(\mathbf{b},W).
c) Finn en minste kvadraters løsning av Cx=bC\mathbf{x}=\mathbf{b}, og kontroller koblingen proj⁡Wb=Cx^\operatorname{proj}_W\mathbf{b}=C\hat{\mathbf{x}}.
d) Oppgi en basis for W⊥W^{\perp}.

a) Ortogonal basis (Gram–Schmidt). Kolonnene c1=(1,1,1,1)\mathbf{c}_1=(1,1,1,1), c2=(0,1,2,3)\mathbf{c}_2=(0,1,2,3) er ikke ortogonale (⟨c1,c2⟩=6≠0\langle\mathbf{c}_1,\mathbf{c}_2\rangle=6\ne0). (Sensormerknad: her sitter felle nr. 4 — du kan ikke projisere på c1,c2\mathbf{c}_1,\mathbf{c}_2 direkte.)
v1=(1,1,1,1),v2=c2−64v1=(−32,−12,12,32)→×2(−3,−1,1,3).\mathbf{v}_1=(1,1,1,1),\quad \mathbf{v}_2=\mathbf{c}_2-\tfrac{6}{4}\mathbf{v}_1=\left(-\tfrac32,-\tfrac12,\tfrac12,\tfrac32\right)\xrightarrow{\times2}(-3,-1,1,3).
Ortogonal basis: {(1,1,1,1),(−3,−1,1,3)}\{(1,1,1,1),(-3,-1,1,3)\}, med ⟨v1,v1⟩=4\langle\mathbf{v}_1,\mathbf{v}_1\rangle=4, ⟨v2,v2⟩=20\langle\mathbf{v}_2,\mathbf{v}_2\rangle=20.

b) Projeksjon og avstand.
c1=⟨b,v1⟩4=3+1+5+54=144=72,c2=⟨b,v2⟩20=−9−1+5+1520=1020=12.c_1=\frac{\langle\mathbf{b},\mathbf{v}_1\rangle}{4}=\frac{3+1+5+5}{4}=\frac{14}{4}=\frac72,\quad c_2=\frac{\langle\mathbf{b},\mathbf{v}_2\rangle}{20}=\frac{-9-1+5+15}{20}=\frac{10}{20}=\frac12.
b^=72(1,1,1,1)+12(−3,−1,1,3)=(2,3,4,5).\hat{\mathbf{b}}=\tfrac72(1,1,1,1)+\tfrac12(-3,-1,1,3)=(2,3,4,5).
Residual z=b−b^=(3,1,5,5)−(2,3,4,5)=(1,−2,1,0)\mathbf{z}=\mathbf{b}-\hat{\mathbf{b}}=(3,1,5,5)-(2,3,4,5)=(1,-2,1,0), så
d(b,W)=∥z∥=1+4+1+0=6.d(\mathbf{b},W)=\|\mathbf{z}\|=\sqrt{1+4+1+0}=\sqrt6.
(Sensormerknad: avstanden er ∥z∥\|\mathbf{z}\|, ikke ∥b^∥\|\hat{\mathbf{b}}\|.)

c) Minste kvadrater. Normallikningene: CTC=[46614]C^{T}C=\begin{bmatrix}4&6\\6&14\end{bmatrix}, CTb=[1426]C^{T}\mathbf{b}=\begin{bmatrix}14\\26\end{bmatrix}. Fra vedleggets RREF: x^=(2,1)\hat{\mathbf{x}}=(2,1). Kolonnene er uavhengige (full kolonnerang), så løsningen er entydig. Kobling: Cx^=2(1,1,1,1)+1(0,1,2,3)=(2,3,4,5)=b^.C\hat{\mathbf{x}}=2(1,1,1,1)+1(0,1,2,3)=(2,3,4,5)=\hat{\mathbf{b}}. ✓ (Sensormerknad: koblingen proj⁡Wb=Cx^\operatorname{proj}_W\mathbf{b}=C\hat{\mathbf{x}} bekrefter begge deler i ett.)

d) W⊥W^{\perp}-basis. dim⁡W⊥=4−2=2\dim W^{\perp}=4-2=2, så z\mathbf{z} alene er ikke nok. Løs ATn=0A^{T}\mathbf{n}=\mathbf{0} med A=CA=C: en basis er {(1,−2,1,0),(2,−3,0,1)}\{(1,-2,1,0),(2,-3,0,1)\}. Konklusjon: projeksjonen er (2,3,4,5)(2,3,4,5), avstanden 6\sqrt6, minste kvadraters løsning (2,1)(2,1) (entydig).

Oppgavebank — stigende vanskegrad

Oppgavene dekker hele variantkatalogen: projeksjon + avstand, normallikninger, projeksjonssnarvei, affin løsning ved rangdefekt, W⊥W^{\perp}-basis og ikke-standard indreprodukt. Signalboksene etter hver oppgave sier hva den tester.

📝Oppgave 1

(Standardprikkprodukt) Projiser y=(4,1,2)\mathbf{y}=(4,1,2) ned på W=Span⁡{(1,2,1),(1,−1,1)}W=\operatorname{Span}\{(1,2,1),(1,-1,1)\} (basisen er ortogonal). Oppgi y^\hat{\mathbf{y}} og resten z\mathbf{z}.

Tester: ren projeksjon med ferdig ortogonal basis (steg 2 unødvendig) — grunntilfellet.
📝Oppgave 2

(Standardprikkprodukt) Basisen a1=(1,1,0)\mathbf{a}_1=(1,1,0), a2=(2,0,1)\mathbf{a}_2=(2,0,1) for WW er ikke ortogonal. Projiser b=(3,1,4)\mathbf{b}=(3,1,4) ned på WW, og finn avstanden.

Tester: ortogonal basis FØR projeksjon (Gram–Schmidt-forsteget) + avstand.
📝Oppgave 3

(Standardprikkprodukt) Finn minste kvadraters løsning av Cx=bC\mathbf{x}=\mathbf{b} med C=[1−1101112]C=\begin{bmatrix}1&-1\\1&0\\1&1\\1&2\end{bmatrix}, b=(1,−1,3,3)\mathbf{b}=(1,-1,3,3). Vedlegget gir rref⁡[ CTC∣CTb ]=[101011]\operatorname{rref}[\,C^{T}C\mid C^{T}\mathbf{b}\,]=\begin{bmatrix}1&0&1\\0&1&1\end{bmatrix}. Oppgi også avstanden.

Tester: normallikninger med vedleggslesing + avstand + entydighet (full kolonnerang).
📝Oppgave 4

(Standardprikkprodukt) La C=[112101011]C=\begin{bmatrix}1&1&2\\1&0&1\\0&1&1\end{bmatrix} (tredje kolonne == sum av de to første) og b=(4,1,0)\mathbf{b}=(4,1,0). Finn alle minste kvadraters løsninger, projeksjonen proj⁡Wb\operatorname{proj}_W\mathbf{b} og avstanden. Vedlegget gir rref⁡[ CTC∣CTb ]=[101201110000]\operatorname{rref}[\,C^{T}C\mid C^{T}\mathbf{b}\,]=\begin{bmatrix}1&0&1&2\\0&1&1&1\\0&0&0&0\end{bmatrix}.

Tester: affin løsning ved rangdefekt (partikulær + Nul C) + entydig projeksjon.
📝Oppgave 5

(Standardprikkprodukt) For C=[10111213]C=\begin{bmatrix}1&0\\1&1\\1&2\\1&3\end{bmatrix} og b=(3,1,5,5)\mathbf{b}=(3,1,5,5) er x^=(2,1)\hat{\mathbf{x}}=(2,1) (fra casen). Bruk projeksjonssnarveien: bruk x^\hat{\mathbf{x}} til å oppgi proj⁡Wb\operatorname{proj}_W\mathbf{b}, og forklar hvorfor du slipper å regne projeksjonen på nytt.

Tester: koblingen proj_W b = Cx̂ som snarvei mellom de to veiene.
📝Oppgave 6

(Integralindreprodukt) På P⁡2\operatorname{P}_2 med ⟨p,q⟩=∫−11pq dt\langle p,q\rangle=\int_{-1}^1 pq\,dt: projiser y=t2y=t^2 ned på W=Span⁡{1,t}W=\operatorname{Span}\{1,t\}, og finn avstanden fra t2t^2 til WW.

Tester: projeksjon i ikke-standard (integral) indreprodukt + avstand — felle nr. 1.
📝Oppgave 7

(Standardprikkprodukt) La W=Span⁡{(1,1,0,0),(1,−1,1,1)}W=\operatorname{Span}\{(1,1,0,0),(1,-1,1,1)\} i R4\mathbb{R}^4. Finn en basis for W⊥W^{\perp} ved (Col⁡A)⊥=Nul⁡(AT)(\operatorname{Col}A)^{\perp}=\operatorname{Nul}(A^{T}).

Tester: W⊥W^{\perp}-basis via Nul(Aᵀ) + riktig dimensjon (ikke bare én vektor).
📝Oppgave 8

(Standardprikkprodukt, kjedet) Med C=[11121314]C=\begin{bmatrix}1&1\\1&2\\1&3\\1&4\end{bmatrix} og b=(3,2,3,6)\mathbf{b}=(3,2,3,6): a) finn minste kvadraters løsning via normallikningene (rref⁡[ CTC∣CTb ]=[101011]\operatorname{rref}[\,C^{T}C\mid C^{T}\mathbf{b}\,]=\begin{bmatrix}1&0&1\\0&1&1\end{bmatrix}), b) bruk koblingen til å oppgi proj⁡Wb\operatorname{proj}_W\mathbf{b}, c) finn avstanden.

Tester: hele kjeden normallikninger → projeksjon (kobling) → avstand på samme matrise.
📝Oppgave 9

(Standardprikkprodukt) Projiser b=(3,3,0)\mathbf{b}=(3,3,0) ned på linjen W=Span⁡{(1,2,2)}W=\operatorname{Span}\{(1,2,2)\}, og oppgi avstanden fra b\mathbf{b} til WW.

Tester: projeksjon på en linje + avstand (grunntilfellet i Gram–Schmidt).
📝Oppgave 10

(Vektet indreprodukt) I R3\mathbb{R}^3 med ⟨x,y⟩=2x1y1+x2y2+x3y3\langle\mathbf{x},\mathbf{y}\rangle=2x_1y_1+x_2y_2+x_3y_3: projiser y=(1,2,2)\mathbf{y}=(1,2,2) ned på W=Span⁡{v}W=\operatorname{Span}\{\mathbf{v}\} med v=(1,0,1)\mathbf{v}=(1,0,1).

Tester: projeksjon i vektet indreprodukt — nevneren ⟨v,v⟩\langle\mathbf{v},\mathbf{v}\rangle må også være vektet (felle nr. 1).
📝Oppgave 11

(Standardprikkprodukt) La C=[112101011112]C=\begin{bmatrix}1&1&2\\1&0&1\\0&1&1\\1&1&2\end{bmatrix} (kolonne 3 == kolonne 1 ++ kolonne 2) og b=(3,0,0,2)\mathbf{b}=(3,0,0,2). Avgjør om minste kvadraters løsning er entydig, og oppgi projeksjonen proj⁡Wb\operatorname{proj}_W\mathbf{b}. Vedlegget gir rref⁡[ CTC∣CTb ]=[101101110000]\operatorname{rref}[\,C^{T}C\mid C^{T}\mathbf{b}\,]=\begin{bmatrix}1&0&1&1\\0&1&1&1\\0&0&0&0\end{bmatrix}.

Tester: «entydig eller affin?»-vurderingen + at projeksjonen er entydig selv ved rangdefekt.
📝Oppgave 12

(Standardprikkprodukt) y=(1,1,4,4)\mathbf{y}=(1,1,4,4) projiseres på W=Span⁡{(1,1,0,0),(1,−1,1,1)}W=\operatorname{Span}\{(1,1,0,0),(1,-1,1,1)\} og gir y^=(3,−1,2,2)\hat{\mathbf{y}}=(3,-1,2,2). Skriv dekomposisjonen y=y^+z\mathbf{y}=\hat{\mathbf{y}}+\mathbf{z} og verifiser at z∈W⊥\mathbf{z}\in W^{\perp}.

Tester: dekomposisjonen y = ŷ + z og verifikasjon av at resten ligger i W⊥.
📝Oppgave 13

(Evalueringsindreprodukt) På P⁡2\operatorname{P}_2 svarer indreproduktet ⟨p,q⟩=p(−1)q(−1)+p(0)q(0)+p(1)q(1)\langle p,q\rangle=p(-1)q(-1)+p(0)q(0)+p(1)q(1) til standardprikkproduktet av verdivektorene (p(−1),p(0),p(1))(p(-1),p(0),p(1)). Projiser t2t^2 (verdivektor (1,0,1)(1,0,1)) ned på W=Span⁡{1,t}W=\operatorname{Span}\{1,t\}, som svarer til Span⁡{(1,1,1),(−1,0,1)}\operatorname{Span}\{(1,1,1),(-1,0,1)\}. Oppgi projeksjonen og resten z\mathbf{z}.

Tester: projeksjon i evalueringsindreprodukt oversatt til verdivektorer — beste lineære tilnærming.
Symbol- og formelliste

Dette kapitlet er skrevet av Anthropics toppmodeller (Claude Opus og Claude Fable) og er foreløpig ikke manuelt gjennomgått — kvalitetskontrollen gjøres av uavhengige KI-agenter, og innmeldte feil rettes fortløpende. Funnet en feil? Meld fra, så retter vi den. Les mer om hvordan innholdet lages.

Skolesaga er en uavhengig læringsressurs og er ikke tilknyttet eller godkjent av Universitetet i Oslo. Dette er ikke offisielt studiemateriell. Les mer.