Tilbake
5.1
Alle fag for Høyskole

5.1 Ortogonal projeksjon, dekomposisjon, W⊥ og avstand

Ortogonal projeksjon proj_W y på et underrom med ortogonal basis, dekomposisjonsteoremet y=ŷ+z, ortogonalkomplementet W⊥ og avstanden ‖y−ŷ‖ til underrommet — hele projeksjonsapparatet, også i ikke-standard indreprodukt.

55 min
7 oppgaver
Ortogonal projeksjondekomposisjonavstand
Din fremgang i kapitlet
0 / 7 oppgaver
Kapitlets plass i kurset
Forkunnskaper:

- Kap. 4.2 — ortogonal basis og Gram–Schmidt; projeksjonsformelen krever en ortogonal basis, så Gram–Schmidt er ofte forsteget
- Kap. 1.2 — Nul⁡A\operatorname{Nul}A og Col⁡A\operatorname{Col}A, siden ortogonalkomplementet til et kolonnerom er et nullrom
- Kap. 4.1 — indreprodukt, norm og ortogonalitet (også i ikke-standard indreprodukt)
- Skalarprodukt — vektorprojeksjon på VGS-nivå

Selve projeksjonsapparatet bygges fra grunnen her.

En ortogonal projeksjon svarer på et helt konkret spørsmål: hvilket punkt i underrommet WW ligger nærmest en gitt vektor y\mathbf{y}? Svaret y^=proj⁡Wy\hat{\mathbf{y}}=\operatorname{proj}_W\mathbf{y} er skyggen av y\mathbf{y} rett ned på WW, og resten z=y−y^\mathbf{z}=\mathbf{y}-\hat{\mathbf{y}} står vinkelrett på hele WW. Denne oppdelingen — y=y^+z\mathbf{y}=\hat{\mathbf{y}}+\mathbf{z} — er motoren bak både avstandsberegning og minste kvadrater i neste kapittel.

Vi jobber i tre løkker: (1) ortogonalkomplementet W⊥W^{\perp} og den viktige identiteten (Col⁡A)⊥=Nul⁡(AT)(\operatorname{Col}A)^{\perp}=\operatorname{Nul}(A^{T}); (2) selve projeksjonen og dekomposisjonsteoremet y=y^+z\mathbf{y}=\hat{\mathbf{y}}+\mathbf{z}; (3) avstand til et underrom og projeksjon i ikke-standard indreprodukt. Hver løkke går teori → eksempel → oppgave.

Tidsanslaget (~55 min) gjelder kjernestoffet — begrepsbanken til slutt er repetisjon du kan hoppe over ved førstegangslesing.

Løkke 1 — Ortogonalkomplementet W⊥W^{\perp} (~15 min)

Ortogonalkomplement W⊥W^{\perp}
La WW være et underrom av et indreproduktrom. Ortogonalkomplementet W⊥W^{\perp} (leses «WW perp») er mengden av alle vektorer som står vinkelrett på hele WW:

W⊥={z:⟨z,w⟩=0 for alle w∈W}.W^{\perp}=\{\mathbf{z}:\langle\mathbf{z},\mathbf{w}\rangle=0\ \text{for alle }\mathbf{w}\in W\}.

I ord: z\mathbf{z} ligger i W⊥W^{\perp} dersom den er ortogonal på hver eneste vektor i WW. Det holder faktisk å sjekke ortogonalitet mot en basis for WW — er z\mathbf{z} vinkelrett på hver basisvektor, er den vinkelrett på hele WW. W⊥W^{\perp} er selv et underrom, og dim⁡W+dim⁡W⊥=dim⁡(hele rommet)\dim W+\dim W^{\perp}=\dim(\text{hele rommet}).

📜(Col⁡A)⊥=Nul⁡(AT)(\operatorname{Col}A)^{\perp}=\operatorname{Nul}(A^{T})
For en matrise AA gjelder (i standardprikkproduktet):

(Col⁡A)⊥=Nul⁡(AT),(Row⁡A)⊥=Nul⁡(A).(\operatorname{Col}A)^{\perp}=\operatorname{Nul}(A^{T}),\qquad (\operatorname{Row}A)^{\perp}=\operatorname{Nul}(A).

Hvorfor: en vektor z\mathbf{z} er ortogonal på alle kolonnene i AA nøyaktig når ATz=0A^{T}\mathbf{z}=\mathbf{0} (hver komponent i ATzA^{T}\mathbf{z} er prikkproduktet av en kolonne med z\mathbf{z}). Å være ortogonal på kolonnene er det samme som å være ortogonal på hele Col⁡A\operatorname{Col}A. Dette gir en snarvei: en basis for W⊥=(Col⁡A)⊥W^{\perp}=(\operatorname{Col}A)^{\perp} finner du som Nul⁡(AT)\operatorname{Nul}(A^{T}) — samme vedleggsteknikk som i kap. 1.2, bare på ATA^{T}.

✏️Eksempel 1: Basis for $W^{\perp}$

La W=Col⁡AW=\operatorname{Col}A med A=[111−10101]A=\begin{bmatrix}1&1\\1&-1\\0&1\\0&1\end{bmatrix}, altså W=Span⁡{(1,1,0,0),(1,−1,1,1)}W=\operatorname{Span}\{(1,1,0,0),(1,-1,1,1)\} i R4\mathbb{R}^4 (standardprikkprodukt). Finn en basis for W⊥W^{\perp}.

Etter teoremet er W⊥=(Col⁡A)⊥=Nul⁡(AT)W^{\perp}=(\operatorname{Col}A)^{\perp}=\operatorname{Nul}(A^{T}). Vi løser ATz=0A^{T}\mathbf{z}=\mathbf{0}:

AT=[11001−111].A^{T}=\begin{bmatrix}1&1&0&0\\1&-1&1&1\end{bmatrix}.

Radreduksjon (liten 2×42\times4, gjøres for hånd) — nærmere bestemt løser vi likningene fra de to radene:

z1+z2=0,z1−z2+z3+z4=0.z_1+z_2=0,\qquad z_1-z_2+z_3+z_4=0.

Fra første likning z2=−z1z_2=-z_1; innsatt i andre: 2z1+z3+z4=02z_1+z_3+z_4=0, så z1=−12(z3+z4)z_1=-\tfrac12(z_3+z_4). Med z3,z4z_3,z_4 frie får vi (skalert til heltall) de to spesielle løsningene

n1=(−1,1,2,0),n2=(−1,1,0,2).\mathbf{n}_1=(-1,1,2,0),\qquad \mathbf{n}_2=(-1,1,0,2).

Basis for W⊥W^{\perp}: {(−1,1,2,0),(−1,1,0,2)}\{(-1,1,2,0),(-1,1,0,2)\}. Kontroll: ⟨n1,(1,1,0,0)⟩=−1+1=0\langle\mathbf{n}_1,(1,1,0,0)\rangle=-1+1=0 og ⟨n1,(1,−1,1,1)⟩=−1−1+2+0=0\langle\mathbf{n}_1,(1,-1,1,1)\rangle=-1-1+2+0=0 ✓ (tilsvarende for n2\mathbf{n}_2). Legg merke til dim⁡W+dim⁡W⊥=2+2=4=dim⁡R4\dim W+\dim W^{\perp}=2+2=4=\dim\mathbb{R}^4. ✓

📝Oppgave 1

(Innstegsoppgave — ren gjengivelse.) Forklar med ord hva ortogonalkomplementet W⊥W^{\perp} er, og hva dimensjonsrelasjonen mellom WW og W⊥W^{\perp} sier når rommet er Rn\mathbb{R}^n.

📝Oppgave 2

La W=Span⁡{(1,0,1,0),(0,1,1,0)}W=\operatorname{Span}\{(1,0,1,0),(0,1,1,0)\} i R4\mathbb{R}^4 (standardprikkprodukt). Finn en basis for W⊥W^{\perp} ved å bruke (Col⁡A)⊥=Nul⁡(AT)(\operatorname{Col}A)^{\perp}=\operatorname{Nul}(A^{T}).

Løkke 2 — Ortogonal projeksjon og dekomposisjonsteoremet (~25 min)

Ortogonal projeksjon proj⁡Wy\operatorname{proj}_W\mathbf{y}
La {v1,…,vk}\{\mathbf{v}_1,\dots,\mathbf{v}_k\} være en ortogonal basis for underrommet WW. Den ortogonale projeksjonen av y\mathbf{y} ned på WW er summen av Fourier-leddene:

y^=proj⁡Wy=∑i=1k⟨y,vi⟩⟨vi,vi⟩ vi.\hat{\mathbf{y}}=\operatorname{proj}_W\mathbf{y}=\sum_{i=1}^{k}\frac{\langle\mathbf{y},\mathbf{v}_i\rangle}{\langle\mathbf{v}_i,\mathbf{v}_i\rangle}\,\mathbf{v}_i.

I ord: for hver ortogonale retning vi\mathbf{v}_i regner du «hvor mye av y\mathbf{y} som peker langs vi\mathbf{v}_i» og legger sammen. Resultatet y^\hat{\mathbf{y}} ligger i WW og er uavhengig av hvilken ortogonal basis du bruker. (Er basisen ortonormal, faller nevnerne bort: y^=∑⟨y,ui⟩ui\hat{\mathbf{y}}=\sum\langle\mathbf{y},\mathbf{u}_i\rangle\mathbf{u}_i.)

📜Dekomposisjonsteoremet y=y^+z\mathbf{y}=\hat{\mathbf{y}}+\mathbf{z}
For ethvert underrom WW og enhver vektor y\mathbf{y} finnes en entydig oppdeling

y=y^+z,y^=proj⁡Wy∈W,z=y−y^∈W⊥.\mathbf{y}=\hat{\mathbf{y}}+\mathbf{z},\qquad \hat{\mathbf{y}}=\operatorname{proj}_W\mathbf{y}\in W,\quad \mathbf{z}=\mathbf{y}-\hat{\mathbf{y}}\in W^{\perp}.

Projeksjonen y^\hat{\mathbf{y}} er komponenten i WW, og resten z\mathbf{z} er komponenten vinkelrett på WW. At z∈W⊥\mathbf{z}\in W^{\perp} er ingen tilfeldighet: Fourier-leddene er nettopp konstruert slik at det som blir igjen står vinkelrett på hver vi\mathbf{v}_i, altså på hele WW. Entydigheten betyr at uansett hvordan du regner, får du samme y^\hat{\mathbf{y}} og samme z\mathbf{z}.

📜Beste tilnærming
Projeksjonen y^=proj⁡Wy\hat{\mathbf{y}}=\operatorname{proj}_W\mathbf{y} er det punktet i WW som ligger nærmest y\mathbf{y}: for enhver annen w∈W\mathbf{w}\in W er

∥y−y^∥<∥y−w∥.\|\mathbf{y}-\hat{\mathbf{y}}\|<\|\mathbf{y}-\mathbf{w}\|.

Dette er hele grunnen til at projeksjon er kjernen i minste kvadrater (kap. 5.2): når y\mathbf{y} ikke ligger i WW, er y^\hat{\mathbf{y}} den beste tilnærmingen vi kan få innenfor WW.

✏️Eksempel 2: Projeksjon med ortogonal basis

I R4\mathbb{R}^4 (standardprikkprodukt): projiser y=(1,1,4,4)\mathbf{y}=(1,1,4,4) ned på W=Span⁡{v1,v2}W=\operatorname{Span}\{\mathbf{v}_1,\mathbf{v}_2\} med v1=(1,1,0,0)\mathbf{v}_1=(1,1,0,0), v2=(1,−1,1,1)\mathbf{v}_2=(1,-1,1,1). Skriv dekomposisjonen y=y^+z\mathbf{y}=\hat{\mathbf{y}}+\mathbf{z}.

Sjekk først at basisen er ortogonal: ⟨v1,v2⟩=1−1+0+0=0.\langle\mathbf{v}_1,\mathbf{v}_2\rangle=1-1+0+0=0. ✓ Da kan vi bruke projeksjonsformelen direkte.

Fourier-koeffisientene:
c1=⟨y,v1⟩⟨v1,v1⟩=1+1+0+01+1+0+0=22=1,c_1=\frac{\langle\mathbf{y},\mathbf{v}_1\rangle}{\langle\mathbf{v}_1,\mathbf{v}_1\rangle}=\frac{1+1+0+0}{1+1+0+0}=\frac{2}{2}=1,
c2=⟨y,v2⟩⟨v2,v2⟩=1−1+4+41+1+1+1=84=2.c_2=\frac{\langle\mathbf{y},\mathbf{v}_2\rangle}{\langle\mathbf{v}_2,\mathbf{v}_2\rangle}=\frac{1-1+4+4}{1+1+1+1}=\frac{8}{4}=2.

Projeksjonen:
y^=1⋅(1,1,0,0)+2⋅(1,−1,1,1)=(3,−1,2,2).\hat{\mathbf{y}}=1\cdot(1,1,0,0)+2\cdot(1,-1,1,1)=(3,-1,2,2).

Resten:
z=y−y^=(1,1,4,4)−(3,−1,2,2)=(−2,2,2,2).\mathbf{z}=\mathbf{y}-\hat{\mathbf{y}}=(1,1,4,4)-(3,-1,2,2)=(-2,2,2,2).

Dekomposisjon: (1,1,4,4)=(3,−1,2,2)⏟∈W+(−2,2,2,2)⏟∈W⊥(1,1,4,4)=\underbrace{(3,-1,2,2)}_{\in W}+\underbrace{(-2,2,2,2)}_{\in W^{\perp}}. Kontroll: ⟨z,v1⟩=−2+2=0\langle\mathbf{z},\mathbf{v}_1\rangle=-2+2=0 og ⟨z,v2⟩=−2−2+2+2=0.\langle\mathbf{z},\mathbf{v}_2\rangle=-2-2+2+2=0. ✓ z\mathbf{z} står vinkelrett på WW.

📝Oppgave 3

I R3\mathbb{R}^3 (standardprikkprodukt): projiser y=(6,0,0)\mathbf{y}=(6,0,0) ned på W=Span⁡{u1,u2}W=\operatorname{Span}\{\mathbf{u}_1,\mathbf{u}_2\} med u1=(1,1,1)\mathbf{u}_1=(1,1,1), u2=(1,−2,1)\mathbf{u}_2=(1,-2,1). Oppgi dekomposisjonen y=y^+z\mathbf{y}=\hat{\mathbf{y}}+\mathbf{z}.

✏️Eksempel 3: Gram–Schmidt FØRST, så projiser

I R3\mathbb{R}^3: projiser b=(2,2,3)\mathbf{b}=(2,2,3) ned på W=Span⁡{a1,a2}W=\operatorname{Span}\{\mathbf{a}_1,\mathbf{a}_2\} med a1=(1,1,0)\mathbf{a}_1=(1,1,0), a2=(1,0,1)\mathbf{a}_2=(1,0,1) (standardprikkprodukt).

Advarsel: ⟨a1,a2⟩=1+0+0=1≠0\langle\mathbf{a}_1,\mathbf{a}_2\rangle=1+0+0=1\ne0 — basisen er ikke ortogonal. Vi må kjøre Gram–Schmidt først (kan ikke sette ai\mathbf{a}_i rett inn i projeksjonsformelen).

Gram–Schmidt: v1=a1=(1,1,0)\mathbf{v}_1=\mathbf{a}_1=(1,1,0), ⟨v1,v1⟩=2\langle\mathbf{v}_1,\mathbf{v}_1\rangle=2.
v2=a2−⟨a2,v1⟩⟨v1,v1⟩v1=(1,0,1)−12(1,1,0)=(12,−12,1).\mathbf{v}_2=\mathbf{a}_2-\frac{\langle\mathbf{a}_2,\mathbf{v}_1\rangle}{\langle\mathbf{v}_1,\mathbf{v}_1\rangle}\mathbf{v}_1=(1,0,1)-\tfrac12(1,1,0)=\left(\tfrac12,-\tfrac12,1\right).
Skalér opp med 22: v2=(1,−1,2)\mathbf{v}_2=(1,-1,2), ⟨v2,v2⟩=6\langle\mathbf{v}_2,\mathbf{v}_2\rangle=6.

Projeksjon (nå med ortogonal basis {v1,v2}\{\mathbf{v}_1,\mathbf{v}_2\}):
c1=⟨(2,2,3),(1,1,0)⟩2=42=2,c2=⟨(2,2,3),(1,−1,2)⟩6=2−2+66=1.c_1=\frac{\langle(2,2,3),(1,1,0)\rangle}{2}=\frac{4}{2}=2,\qquad c_2=\frac{\langle(2,2,3),(1,-1,2)\rangle}{6}=\frac{2-2+6}{6}=1.
b^=2(1,1,0)+1(1,−1,2)=(3,1,2).\hat{\mathbf{b}}=2(1,1,0)+1(1,-1,2)=(3,1,2).
z=(2,2,3)−(3,1,2)=(−1,1,1)\mathbf{z}=(2,2,3)-(3,1,2)=(-1,1,1). Kontroll: ⟨z,v1⟩=−1+1=0\langle\mathbf{z},\mathbf{v}_1\rangle=-1+1=0, ⟨z,v2⟩=−1−1+2=0.\langle\mathbf{z},\mathbf{v}_2\rangle=-1-1+2=0. ✓ Merk: hadde vi brukt a1,a2\mathbf{a}_1,\mathbf{a}_2 direkte (uten Gram–Schmidt), ville svaret blitt feil.

📝Oppgave 4

I R3\mathbb{R}^3: projiser b=(3,3,0)\mathbf{b}=(3,3,0) ned på linjen W=Span⁡{(1,2,2)}W=\operatorname{Span}\{(1,2,2)\}, og finn resten z\mathbf{z}. (En linje har allerede en «ortogonal basis» — én vektor.)

Løkke 3 — Avstand til et underrom og ikke-standard indreprodukt (~15 min)

Avstand til et underrom
Avstanden fra en vektor y\mathbf{y} til et underrom WW er lengden av resten z\mathbf{z}:

d(y,W)=∥y−y^∥=∥z∥=⟨z,z⟩.d(\mathbf{y},W)=\|\mathbf{y}-\hat{\mathbf{y}}\|=\|\mathbf{z}\|=\sqrt{\langle\mathbf{z},\mathbf{z}\rangle}.

Siden y^\hat{\mathbf{y}} er punktet i WW nærmest y\mathbf{y} (beste tilnærming), er dette den korteste avstanden fra y\mathbf{y} til noe punkt i WW. Merk: avstanden er ∥y−y^∥\|\mathbf{y}-\hat{\mathbf{y}}\|, altså normen av z\mathbf{z} — ikke ∥y^∥\|\hat{\mathbf{y}}\|. Å regne ∥y^∥\|\hat{\mathbf{y}}\| er en klassisk felle. Normen regnes alltid i det oppgitte indreproduktet.

✏️Eksempel 4: Avstand og $W^{\perp}$-basis

For y=(1,1,4,4)\mathbf{y}=(1,1,4,4) og W=Span⁡{(1,1,0,0),(1,−1,1,1)}W=\operatorname{Span}\{(1,1,0,0),(1,-1,1,1)\} fra Eksempel 2: finn avstanden d(y,W)d(\mathbf{y},W) og en basis for W⊥W^{\perp} som inneholder z\mathbf{z}.

Fra Eksempel 2 er z=y−y^=(−2,2,2,2)\mathbf{z}=\mathbf{y}-\hat{\mathbf{y}}=(-2,2,2,2).

Avstand:
d(y,W)=∥z∥=(−2)2+22+22+22=4+4+4+4=16=4.d(\mathbf{y},W)=\|\mathbf{z}\|=\sqrt{(-2)^2+2^2+2^2+2^2}=\sqrt{4+4+4+4}=\sqrt{16}=4.

W⊥W^{\perp}-basis: z=(−2,2,2,2)\mathbf{z}=(-2,2,2,2) ligger i W⊥W^{\perp} (den er ortogonal på WW). Men dim⁡W⊥=4−2=2\dim W^{\perp}=4-2=2, så z\mathbf{z} alene er ikke nok — vi trenger to vektorer. Fra Eksempel 1 er W⊥=Span⁡{(−1,1,2,0),(−1,1,0,2)}W^{\perp}=\operatorname{Span}\{(-1,1,2,0),(-1,1,0,2)\}, og z=(−2,2,2,2)=(−1,1,2,0)+(−1,1,0,2)\mathbf{z}=(-2,2,2,2)=(-1,1,2,0)+(-1,1,0,2) ligger i dette spennet. En basis for W⊥W^{\perp} er altså {(−1,1,2,0),(−1,1,0,2)}\{(-1,1,2,0),(-1,1,0,2)\}.

Merk fellen: ∥y^∥=9+1+4+4=18\|\hat{\mathbf{y}}\|=\sqrt{9+1+4+4}=\sqrt{18} er ikke avstanden — avstanden er ∥z∥=4\|\mathbf{z}\|=4.

✏️Eksempel 5: Projeksjon i integralindreprodukt

På P⁡2\operatorname{P}_2 med ⟨p,q⟩=∫−11p(t)q(t) dt\langle p,q\rangle=\int_{-1}^1 p(t)q(t)\,dt: finn den ortogonale projeksjonen av y=t2y=t^2 ned på W=Span⁡{1,t}W=\operatorname{Span}\{1,t\}, og avstanden fra t2t^2 til WW.

Basisen {1,t}\{1,t\} er ortogonal i dette indreproduktet: ⟨1,t⟩=∫−11t dt=0.\langle 1,t\rangle=\int_{-1}^1 t\,dt=0. ✓ (Alle indreprodukt er integraler over [−1,1][-1,1].)

Nevnere: ⟨1,1⟩=∫−111 dt=2\langle 1,1\rangle=\int_{-1}^1 1\,dt=2 og ⟨t,t⟩=∫−11t2 dt=23.\langle t,t\rangle=\int_{-1}^1 t^2\,dt=\tfrac23.

Tellere: ⟨t2,1⟩=∫−11t2 dt=23\langle t^2,1\rangle=\int_{-1}^1 t^2\,dt=\tfrac23 og ⟨t2,t⟩=∫−11t3 dt=0.\langle t^2,t\rangle=\int_{-1}^1 t^3\,dt=0.

Projeksjon:
y^=2/32⋅1+02/3⋅t=13.\hat{y}=\frac{2/3}{2}\cdot 1+\frac{0}{2/3}\cdot t=\tfrac13.

Rest: z=t2−13z=t^2-\tfrac13. Avstand:
⟨z,z⟩=∫−11(t2−13)2dt=∫−11(t4−23t2+19)dt=25−23⋅23+19⋅2=25−49+29=845.\langle z,z\rangle=\int_{-1}^1\left(t^2-\tfrac13\right)^2 dt=\int_{-1}^1\left(t^4-\tfrac23 t^2+\tfrac19\right)dt=\tfrac25-\tfrac23\cdot\tfrac23+\tfrac19\cdot2=\tfrac25-\tfrac49+\tfrac29=\tfrac{8}{45}.
Avstand =8/45=21015=\sqrt{8/45}=\dfrac{2\sqrt{10}}{15} (eksakt). Legg merke til at projeksjonen 13\tfrac13 er «den konstante-pluss-lineære» delen av t2t^2 målt med integralindreproduktet.

📝Oppgave 5

På P⁡2\operatorname{P}_2 med ⟨p,q⟩=∫−11pq dt\langle p,q\rangle=\int_{-1}^1 pq\,dt: projiser y=t2+ty=t^2+t ned på W=Span⁡{1,t}W=\operatorname{Span}\{1,t\}. (Hint: bruk lineariteten — du kjenner allerede projeksjonen av t2t^2 og av tt.)

Begrepsbank til eksamen

Kjernebegrepene fra kapitlet i eksamensrettet kortform — projeksjonsapparatet bak sjanger B.

Begrepsbanken er flashcard-/repetisjonsstoff — den gjentar det du nettopp har lest. Hopp trygt over ved førstegangslesing; tidsanslaget for kapitlet gjelder kjernestoffet.

Ortogonal projeksjon
y^=proj⁡Wy=∑i⟨y,vi⟩⟨vi,vi⟩vi\displaystyle \hat{\mathbf{y}}=\operatorname{proj}_W\mathbf{y}=\sum_i\frac{\langle\mathbf{y},\mathbf{v}_i\rangle}{\langle\mathbf{v}_i,\mathbf{v}_i\rangle}\mathbf{v}_i — skyggen av y\mathbf{y} rett ned på WW. Krever en ortogonal basis {vi}\{\mathbf{v}_i\} for WW.
Fourier-ledd

Enkeltleddet ⟨y,vi⟩⟨vi,vi⟩vi\displaystyle \frac{\langle\mathbf{y},\mathbf{v}_i\rangle}{\langle\mathbf{v}_i,\mathbf{v}_i\rangle}\mathbf{v}_i i projeksjonssummen — «den delen av y\mathbf{y} som peker langs vi\mathbf{v}_i». Regnes uavhengig av de andre leddene.

Dekomposisjon y=y^+z\mathbf{y}=\hat{\mathbf{y}}+\mathbf{z}

Entydig oppdeling der y^∈W\hat{\mathbf{y}}\in W er projeksjonen og z=y−y^∈W⊥\mathbf{z}=\mathbf{y}-\hat{\mathbf{y}}\in W^{\perp} er resten vinkelrett på WW.

Restvektor z\mathbf{z}

Komponenten z=y−y^\mathbf{z}=\mathbf{y}-\hat{\mathbf{y}} som ligger i W⊥W^{\perp}. Lengden ∥z∥\|\mathbf{z}\| er avstanden fra y\mathbf{y} til WW. Sjekk alltid ⟨z,vi⟩=0\langle\mathbf{z},\mathbf{v}_i\rangle=0.

Beste tilnærming
y^\hat{\mathbf{y}} er punktet i WW nærmest y\mathbf{y}: ∥y−y^∥≤∥y−w∥\|\mathbf{y}-\hat{\mathbf{y}}\|\le\|\mathbf{y}-\mathbf{w}\| for alle w∈W\mathbf{w}\in W. Grunnlaget for minste kvadrater.
Avstand til underrom
d(y,W)=∥y−y^∥=∥z∥d(\mathbf{y},W)=\|\mathbf{y}-\hat{\mathbf{y}}\|=\|\mathbf{z}\| — normen av resten, ikke ∥y^∥\|\hat{\mathbf{y}}\|.
Ortogonalkomplement W⊥W^{\perp}

Alle vektorer vinkelrett på hele WW: {z:⟨z,w⟩=0 ∀w∈W}\{\mathbf{z}:\langle\mathbf{z},\mathbf{w}\rangle=0\ \forall\mathbf{w}\in W\}. Selv et underrom.

Dimensjonsrelasjon
dim⁡W+dim⁡W⊥=dim⁡(hele rommet)\dim W+\dim W^{\perp}=\dim(\text{hele rommet}). Brukes til å vite hvor mange vektorer W⊥W^{\perp}-basisen skal ha.
(Col⁡A)⊥=Nul⁡(AT)(\operatorname{Col}A)^{\perp}=\operatorname{Nul}(A^{T})

En basis for komplementet til et kolonnerom er nullrommet til den transponerte — samme vedleggsteknikk som i kap. 1.2, brukt på ATA^{T}.

(Row⁡A)⊥=Nul⁡(A)(\operatorname{Row}A)^{\perp}=\operatorname{Nul}(A)

Radrommets komplement er nullrommet til AA selv. Følger av at Ax=0A\mathbf{x}=\mathbf{0} betyr x\mathbf{x} ortogonal på hver rad.

Ortogonal basis kreves

Projeksjonsformelen forutsetter parvis ortogonale vi\mathbf{v}_i. Er basisen ikke ortogonal, kjør Gram–Schmidt (kap. 4.2) først — ellers blir svaret feil.

Uavhengig av basisvalg
proj⁡Wy\operatorname{proj}_W\mathbf{y} er den samme uansett hvilken ortogonal basis for WW du bruker — projeksjonen avhenger bare av WW og indreproduktet.
Ortonormal forenkling

Er basisen ortonormal (∥vi∥=1\|\mathbf{v}_i\|=1), faller nevnerne bort: y^=∑⟨y,ui⟩ui\hat{\mathbf{y}}=\sum\langle\mathbf{y},\mathbf{u}_i\rangle\mathbf{u}_i.

Projeksjon på én linje

På W=Span⁡{v}W=\operatorname{Span}\{\mathbf{v}\} er y^=⟨y,v⟩⟨v,v⟩v\displaystyle \hat{\mathbf{y}}=\frac{\langle\mathbf{y},\mathbf{v}\rangle}{\langle\mathbf{v},\mathbf{v}\rangle}\mathbf{v} — ett Fourier-ledd. Grunntilfellet Gram–Schmidt bygger på.

Projeksjon er lineær
proj⁡W(y1+y2)=proj⁡Wy1+proj⁡Wy2\operatorname{proj}_W(\mathbf{y}_1+\mathbf{y}_2)=\operatorname{proj}_W\mathbf{y}_1+\operatorname{proj}_W\mathbf{y}_2 og proj⁡W(cy)=cproj⁡Wy\operatorname{proj}_W(c\mathbf{y})=c\operatorname{proj}_W\mathbf{y}. Nyttig snarvei i polynomrom.
Ligger y\mathbf{y} allerede i WW?

Da er y^=y\hat{\mathbf{y}}=\mathbf{y}, z=0\mathbf{z}=\mathbf{0} og avstanden 00. En del av y\mathbf{y} som allerede ligger i WW projiseres på seg selv.

Ikke-standard indreprodukt

Vektet/integral/evaluering: hvert ⟨⋅,⋅⟩\langle\cdot,\cdot\rangle i projeksjon, norm og Gram–Schmidt bruker den oppgitte definisjonen. Felle nr. 1.

Avstand i integralindreprodukt
d(y,W)=∫abz(t)2 dtd(y,W)=\sqrt{\int_a^b z(t)^2\,dt} der z=y−y^z=y-\hat{y} — normen er selve integralet, ikke en vektorlengde.
Kontrollsjekk ⟨z,vi⟩=0\langle\mathbf{z},\mathbf{v}_i\rangle=0

Billig verifisering: regner du resten z\mathbf{z} og finner at den er ortogonal på hver basisvektor, er projeksjonen sannsynligvis riktig.

W⊥W^{\perp}-basis inneholder z\mathbf{z}
z∈W⊥\mathbf{z}\in W^{\perp}, men er dim⁡W⊥>1\dim W^{\perp}>1 trengs flere vektorer — suppler via Nul⁡(AT)\operatorname{Nul}(A^{T}).
Projeksjonsmatrise (forvarsel)

For en ortonormal basis UU er y^=UUTy\hat{\mathbf{y}}=UU^{T}\mathbf{y}; matrisen UUTUU^{T} projiserer ned på Col⁡U=W\operatorname{Col}U=W. Bro til minste kvadrater og SVD.

Sjekk ortogonalitet før du starter

Før projeksjonsformelen brukes: regn ⟨vi,vj⟩\langle\mathbf{v}_i,\mathbf{v}_j\rangle for i≠ji \ne j i det oppgitte indreproduktet. Er de 00, er basisen ortogonal og formelen gyldig; ellers må Gram–Schmidt kjøres først.

Pytagoras for projeksjon

Siden y^⊥z\hat{\mathbf{y}}\perp\mathbf{z} gjelder ∥y∥2=∥y^∥2+∥z∥2\|\mathbf{y}\|^2=\|\hat{\mathbf{y}}\|^2+\|\mathbf{z}\|^2. En rask kontroll på at dekomposisjonen y=y^+z\mathbf{y}=\hat{\mathbf{y}}+\mathbf{z} er riktig regnet.

Repetisjonsoppgaver
Din fremgang
0 / 2 oppgaver
Symbol- og formelliste

Dette kapitlet er skrevet av Anthropics toppmodeller (Claude Opus og Claude Fable) og er foreløpig ikke manuelt gjennomgått — kvalitetskontrollen gjøres av uavhengige KI-agenter, og innmeldte feil rettes fortløpende. Funnet en feil? Meld fra, så retter vi den. Les mer om hvordan innholdet lages.

Skolesaga er en uavhengig læringsressurs og er ikke tilknyttet eller godkjent av Universitetet i Oslo. Dette er ikke offisielt studiemateriell. Les mer.