Tilbake
6.3

6.3 Ortogonal projeksjon og ortogonalt komplement

Ortogonal projeksjon proj_W y på et underrom, dekomposisjonen y=ŷ+z, ortogonalt komplement W⊥ og korteste-avstand-egenskapen — kjernen i minste kvadrater.

55 min
9 oppgaver
Ortogonal projeksjonortogonalt komplement
Din fremgang i kapitlet
0 / 9 oppgaver
Forkunnskaper — dette bygger kapitlet på:

- kap. 6.2 — ortogonale basiser og Gram–Schmidt. Projeksjonsleddet y,vv,vv\displaystyle \frac{\langle\mathbf y,\mathbf v\rangle}{\langle\mathbf v,\mathbf v\rangle}\mathbf v er nøyaktig den samme byggeklossen som brukes her.
- kap. 6.1 — indreprodukt, norm, avstand og ortogonalitet.

Kan du ortogonalisere en basis og regne norm, er du klar.

Hva er nærmeste punkt i et underrom?

Gitt en vektor y\mathbf y og et underrom WW: hvilket punkt i WW ligger nærmest y\mathbf y? Svaret er den ortogonale projeksjonen projWy\operatorname{proj}_W\mathbf y — «skyggen» av y\mathbf y rett ned på WW. Differansen z=yprojWy\mathbf z=\mathbf y-\operatorname{proj}_W\mathbf y står vinkelrett på hele WW, og lengden z\|\mathbf z\| er avstanden fra y\mathbf y til WW.

Dette er hele idéen bak minste kvadraters metode (neste kapittel): når et ligningssystem ikke har løsning, projiserer vi ned på det som er oppnåelig. Vi bygger i fem løkker: (1) projeksjon på en linje, (2) projeksjon på et underrom og dekomposisjonen, (3) beste tilnærming og avstand, (4) ortogonalt komplement, (5) en kjedet oppgave der basisen må ortogonaliseres først.

Løkke 1 — Ortogonal projeksjon på en linje (~9 min)

Ortogonal projeksjon på en linje
Projeksjonen av y\mathbf y på linja utspent av v0\mathbf v\ne\mathbf 0 er
projvy=y,vv,vv.\operatorname{proj}_{\mathbf v}\mathbf y=\frac{\langle\mathbf y,\mathbf v\rangle}{\langle\mathbf v,\mathbf v\rangle}\,\mathbf v.
Det er «skyggen» av y\mathbf y langs retningen v\mathbf v. Differansen yprojvy\mathbf y-\operatorname{proj}_{\mathbf v}\mathbf y står vinkelrett på v\mathbf v — dette er nøyaktig projeksjonsleddet fra Gram–Schmidt.
✏️Eksempel 1: Projeksjon på en linje

Finn projeksjonen av y=(5,0)\mathbf y=(5,0) på linja utspent av v=(3,4)\mathbf v=(3,4), og avstanden fra y\mathbf y til linja.

y,v=53+04=15\langle\mathbf y,\mathbf v\rangle=5\cdot3+0\cdot4=15 og v,v=9+16=25\langle\mathbf v,\mathbf v\rangle=9+16=25, så
projvy=1525(3,4)=35(3,4)=(95,125).\operatorname{proj}_{\mathbf v}\mathbf y=\frac{15}{25}(3,4)=\frac35(3,4)=\left(\tfrac95,\tfrac{12}{5}\right).
Feilvektoren: z=yprojvy=(595, 125)=(165,125)\mathbf z=\mathbf y-\operatorname{proj}_{\mathbf v}\mathbf y=\left(5-\tfrac95,\ -\tfrac{12}{5}\right)=\left(\tfrac{16}{5},-\tfrac{12}{5}\right). Avstanden:
z=25625+14425=40025=16=4.\|\mathbf z\|=\sqrt{\tfrac{256}{25}+\tfrac{144}{25}}=\sqrt{\tfrac{400}{25}}=\sqrt{16}=4.
Kontroll: z,v=16531254=48485=0\langle\mathbf z,\mathbf v\rangle=\tfrac{16}{5}\cdot3-\tfrac{12}{5}\cdot4=\tfrac{48-48}{5}=0 ✓ — z\mathbf z står vinkelrett på linja.
📝Oppgave 1

(Innøving.) Finn projeksjonen av y=(0,5)\mathbf y=(0,5) på linja utspent av v=(1,2)\mathbf v=(1,2).

Løkke 2 — Projeksjon på et underrom og dekomposisjonen (~13 min)

Ortogonal projeksjon på et underrom
La {v1,,vk}\{\mathbf v_1,\dots,\mathbf v_k\} være en ortogonal basis for underrommet WW. Projeksjonen av y\mathbf yWW er summen av projeksjonene på hver basisvektor:
projWy=i=1ky,vivi,vivi.\operatorname{proj}_W\mathbf y=\sum_{i=1}^{k}\frac{\langle\mathbf y,\mathbf v_i\rangle}{\langle\mathbf v_i,\mathbf v_i\rangle}\,\mathbf v_i.
Formelen krever at basisen er ortogonal — ellers gjelder den ikke. Er basisen skjev, kjør Gram–Schmidt (kap. 6.2) først.
Ortogonal dekomposisjon
Enhver y\mathbf y kan skrives entydig som
y=y^+z,y^=projWyW,z=yy^W.\mathbf y=\hat{\mathbf y}+\mathbf z,\qquad \hat{\mathbf y}=\operatorname{proj}_W\mathbf y\in W,\quad \mathbf z=\mathbf y-\hat{\mathbf y}\in W^{\perp}.
Her er y^\hat{\mathbf y} komponenten i WW og z\mathbf z komponenten vinkelrett på WW. Delingen er entydig: det finnes bare én måte å splitte y\mathbf y i en WW-del og en WW^{\perp}-del.
✏️Eksempel 2 (eksamensnivå): Projeksjon og dekomposisjon

La W=Span{(1,1,0),(1,1,0)}W=\operatorname{Span}\{(1,1,0),(1,-1,0)\}. Finn projWy\operatorname{proj}_W\mathbf y for y=(2,3,4)\mathbf y=(2,3,4), og dekomposisjonen y=y^+z\mathbf y=\hat{\mathbf y}+\mathbf z.

Basisen er ortogonal: (1,1,0),(1,1,0)=11+0=0\langle(1,1,0),(1,-1,0)\rangle=1-1+0=0 ✓ — formelen kan brukes direkte. Med v1=(1,1,0)\mathbf v_1=(1,1,0), v2=(1,1,0)\mathbf v_2=(1,-1,0) (begge vi,vi=2\langle\mathbf v_i,\mathbf v_i\rangle=2):
y,v12=2+32=52,y,v22=232=12.\frac{\langle\mathbf y,\mathbf v_1\rangle}{2}=\frac{2+3}{2}=\frac52,\qquad \frac{\langle\mathbf y,\mathbf v_2\rangle}{2}=\frac{2-3}{2}=-\frac12.
y^=projWy=52(1,1,0)12(1,1,0)=(5212, 52+12, 0)=(2,3,0).\hat{\mathbf y}=\operatorname{proj}_W\mathbf y=\tfrac52(1,1,0)-\tfrac12(1,-1,0)=\left(\tfrac52-\tfrac12,\ \tfrac52+\tfrac12,\ 0\right)=(2,3,0).
Da er z=yy^=(2,3,4)(2,3,0)=(0,0,4)\mathbf z=\mathbf y-\hat{\mathbf y}=(2,3,4)-(2,3,0)=(0,0,4). Kontroll: z\mathbf z er ortogonal på begge basisvektorene ((0,0,4),(1,1,0)=0\langle(0,0,4),(1,1,0)\rangle=0, likeså for den andre) ✓. Altså y^=(2,3,0)W\hat{\mathbf y}=(2,3,0)\in W og z=(0,0,4)W\mathbf z=(0,0,4)\in W^{\perp}.
📝Oppgave 2
Sjanger H

Med W=Span{(1,1,0),(1,1,0)}W=\operatorname{Span}\{(1,1,0),(1,-1,0)\}: finn dekomposisjonen y=y^+z\mathbf y=\hat{\mathbf y}+\mathbf z for y=(4,0,2)\mathbf y=(4,0,2).

Løkke 3 — Beste tilnærming og avstand (~9 min)

📜Beste tilnærmingssetning
For et underrom WW og en vektor y\mathbf y er y^=projWy\hat{\mathbf y}=\operatorname{proj}_W\mathbf y det punktet i WW som ligger nærmest y\mathbf y:
yy^<ywfor alle wW, wy^.\|\mathbf y-\hat{\mathbf y}\|<\|\mathbf y-\mathbf w\|\quad\text{for alle }\mathbf w\in W,\ \mathbf w\ne\hat{\mathbf y}.
Hvorfor: for ethvert wW\mathbf w\in W er yw=(yy^)+(y^w)\mathbf y-\mathbf w=(\mathbf y-\hat{\mathbf y})+(\hat{\mathbf y}-\mathbf w), der yy^=zW\mathbf y-\hat{\mathbf y}=\mathbf z\in W^{\perp} og y^wW\hat{\mathbf y}-\mathbf w\in W er ortogonale. Pytagoras gir yw2=z2+y^w2z2\|\mathbf y-\mathbf w\|^2=\|\mathbf z\|^2+\|\hat{\mathbf y}-\mathbf w\|^2\ge\|\mathbf z\|^2, med likhet bare når w=y^\mathbf w=\hat{\mathbf y}.
Avstand fra punkt til underrom
Avstanden fra y\mathbf y til underrommet WW er lengden av feilvektoren:
dist(y,W)=yprojWy=z.\operatorname{dist}(\mathbf y,W)=\|\mathbf y-\operatorname{proj}_W\mathbf y\|=\|\mathbf z\|.
Det er den korteste avstanden fra y\mathbf y til noe punkt i WW (nettopp fordi y^\hat{\mathbf y} er nærmest). Glem aldri kvadratrota: avstanden er z\|\mathbf z\|, ikke z2\|\mathbf z\|^2.
✏️Eksempel 3: Avstand til underrommet

Bruk dekomposisjonen fra eksempel 2 (y=(2,3,4)\mathbf y=(2,3,4), W=Span{(1,1,0),(1,1,0)}W=\operatorname{Span}\{(1,1,0),(1,-1,0)\}) til å finne avstanden fra y\mathbf y til WW.

Der fant vi z=(0,0,4)\mathbf z=(0,0,4), så
dist(y,W)=z=(0,0,4)=0+0+16=4.\operatorname{dist}(\mathbf y,W)=\|\mathbf z\|=\|(0,0,4)\|=\sqrt{0+0+16}=4.
WW er xyxy-planet, og y=(2,3,4)\mathbf y=(2,3,4) ligger 44 enheter over det — helt som geometrien tilsier. Ethvert annet punkt i WW ville ligget lengre unna y\mathbf y (beste tilnærmingssetningen).
📝Oppgave 3
Sjanger H

La W=Span{(2,1)}W=\operatorname{Span}\{(2,1)\} i R2\mathbb R^2. Finn dekomposisjonen y=y^+z\mathbf y=\hat{\mathbf y}+\mathbf z for y=(4,3)\mathbf y=(4,3), og avstanden fra y\mathbf y til WW.

Løkke 4 — Ortogonalt komplement (~11 min)

Ortogonalt komplement
Det ortogonale komplementet WW^{\perp} («W-perp») til et underrom WW er mengden av alle vektorer som er ortogonale på hele WW:
W={z: z,w=0 for alle wW}.W^{\perp}=\{\mathbf z:\ \langle\mathbf z,\mathbf w\rangle=0\text{ for alle }\mathbf w\in W\}.
Det holder å sjekke ortogonalitet mot en basis for WW. WW^{\perp} er selv et underrom, og z\mathbf z-delen i dekomposisjonen ligger nettopp her.
Dimensjonsformelen for komplement
For et underrom WW av Rn\mathbb R^n gjelder
dimW+dimW=n.\dim W+\dim W^{\perp}=n.
De to komplementene fyller sammen hele rommet uten overlapp (WW={0}W\cap W^{\perp}=\{\mathbf 0\}). F.eks. har en linje (dim1\dim1) i R3\mathbb R^3 et plan (dim2\dim2) som komplement.
(ColA)=NulAT(\operatorname{Col}A)^{\perp}=\operatorname{Nul}A^{T}
En sentral sammenheng: det ortogonale komplementet til kolonnerommet er nullrommet til den transponerte,
(ColA)=NulAT.(\operatorname{Col}A)^{\perp}=\operatorname{Nul}A^{T}.
Hvorfor: zColA\mathbf z\perp\operatorname{Col}A betyr at z\mathbf z er ortogonal på hver kolonne i AA, altså ATz=0A^{T}\mathbf z=\mathbf 0. Denne identiteten er selve broen til normallikningene i minste kvadraters metode.
✏️Eksempel 4: Ortogonalt komplement til en linje

Finn WW^{\perp} når W=Span{(1,1,1)}W=\operatorname{Span}\{(1,1,1)\} i R3\mathbb R^3, og bekreft dimensjonsformelen.

WW^{\perp} er alle (x,y,z)(x,y,z) med (x,y,z),(1,1,1)=0\langle(x,y,z),(1,1,1)\rangle=0, altså planet
x+y+z=0.x+y+z=0.
Dette er et 22-dimensjonalt underrom med basis f.eks. {(1,1,0),(1,0,1)}\{(1,-1,0),(1,0,-1)\} (begge oppfyller likningen). Dimensjonsformelen: dimW+dimW=1+2=3=n\dim W+\dim W^{\perp}=1+2=3=n ✓.
📝Oppgave 4
Sjanger H

Finn en basis for WW^{\perp} når W=Span{(1,0,1)}W=\operatorname{Span}\{(1,0,1)\} i R3\mathbb R^3, og oppgi dimW\dim W^{\perp}.

Løkke 5 — Kjedet oppgave: ortogonaliser først (~13 min)

På eksamen er WW ofte oppgitt med en basis som ikke er ortogonal. Da må du kjøre Gram–Schmidt (kap. 6.2) før du bruker projeksjonsformelen — å hoppe over dette er den vanligste feilen. Den ortogonale projeksjonen projWy\operatorname{proj}_W\mathbf y er den samme uansett hvilken ortogonal basis du bruker for WW.

✏️Eksempel 5 (eksamensnivå): Gram–Schmidt så projeksjon

La W=Span{(1,1,1),(1,2,0)}W=\operatorname{Span}\{(1,1,1),(1,2,0)\}. Finn projWy\operatorname{proj}_W\mathbf y og avstanden fra y=(2,0,0)\mathbf y=(2,0,0) til WW.

Sjekk basis: (1,1,1),(1,2,0)=1+2+0=30\langle(1,1,1),(1,2,0)\rangle=1+2+0=3\ne0 — basisen er ikke ortogonal. Kjør Gram–Schmidt:
v1=(1,1,1),v2=(1,2,0)33(1,1,1)=(0,1,1).\mathbf v_1=(1,1,1),\quad \mathbf v_2=(1,2,0)-\tfrac33(1,1,1)=(0,1,-1).
Nå er {v1,v2}\{\mathbf v_1,\mathbf v_2\} ortogonal (v1,v2=0\langle\mathbf v_1,\mathbf v_2\rangle=0), med v1,v1=3\langle\mathbf v_1,\mathbf v_1\rangle=3, v2,v2=2\langle\mathbf v_2,\mathbf v_2\rangle=2.

Projiser: y,v1=2+0+0=2\langle\mathbf y,\mathbf v_1\rangle=2+0+0=2 og y,v2=0+00=0\langle\mathbf y,\mathbf v_2\rangle=0+0-0=0, så
projWy=23(1,1,1)+02(0,1,1)=(23,23,23).\operatorname{proj}_W\mathbf y=\tfrac23(1,1,1)+\tfrac02(0,1,-1)=\left(\tfrac23,\tfrac23,\tfrac23\right).
Avstand: z=(2,0,0)(23,23,23)=(43,23,23)\mathbf z=(2,0,0)-\left(\tfrac23,\tfrac23,\tfrac23\right)=\left(\tfrac43,-\tfrac23,-\tfrac23\right), så
z=169+49+49=249=263.\|\mathbf z\|=\sqrt{\tfrac{16}{9}+\tfrac49+\tfrac49}=\sqrt{\tfrac{24}{9}}=\frac{2\sqrt6}{3}.
Kontroll: z,v1=432323=0\langle\mathbf z,\mathbf v_1\rangle=\tfrac43-\tfrac23-\tfrac23=0 og z,v2=23+23=0\langle\mathbf z,\mathbf v_2\rangle=-\tfrac23+\tfrac23=0 ✓.

📝Oppgave 5

(Eksamensklone, sjanger H.) La W=Span{(1,2,2),(2,2,1)}W=\operatorname{Span}\{(1,2,2),(2,-2,1)\}. Finn projW(1,0,0)\operatorname{proj}_W(1,0,0) og avstanden fra (1,0,0)(1,0,0) til WW.

📝Oppgave 6

(Eksamensklone, sjanger H/N.) La AA ha kolonnene (1,1,0)(1,1,0) og (0,1,1)(0,1,1). Finn en basis for (ColA)(\operatorname{Col}A)^{\perp}, og bekreft at den er ortogonal på begge kolonnene.

Begrepsbank til eksamen

Kjernebegrepene fra kapitlet samlet i kortform for pugging (kode E — intet formelark).

Begrepsbanken er flashcard-/repetisjonsstoff — det gjentar det du nettopp har lest. Hopp trygt over ved førstegangslesing; tidsanslaget for kapitlet gjelder kjernestoffet.

y^W\hat{\mathbf y}\in W, zW\mathbf z\in W^{\perp}

I dekomposisjonen y=y^+z\mathbf y=\hat{\mathbf y}+\mathbf z ligger y^=projWy\hat{\mathbf y}=\operatorname{proj}_W\mathbf y i WW og z=yy^\mathbf z=\mathbf y-\hat{\mathbf y} i WW^{\perp}. Én kontroll som alltid virker: z\mathbf z skal være ortogonal på hver basisvektor for WW.

Entydig dekomposisjon

Splittingen y=y^+z\mathbf y=\hat{\mathbf y}+\mathbf z med y^W\hat{\mathbf y}\in W, zW\mathbf z\in W^{\perp} er entydig — det finnes bare én slik oppdeling. Dette gjør projeksjonen veldefinert, uavhengig av hvilken ortogonal basis du regner med.

WW^{\perp} er et underrom

Det ortogonale komplementet WW^{\perp} er selv et underrom: det inneholder 0\mathbf 0, og er lukket under addisjon og skalering (summen av to vektorer ortogonale på WW er igjen ortogonal på WW).

(W)=W(W^{\perp})^{\perp}=W

Å ta komplementet to ganger gir rommet tilbake: (W)=W(W^{\perp})^{\perp}=W. WW og WW^{\perp} er gjensidige komplementer i Rn\mathbb R^n.

WW={0}W\cap W^{\perp}=\{\mathbf 0\}

Den eneste vektoren som ligger både i WW og i WW^{\perp} er nullvektoren: en vektor ortogonal på seg selv har v,v=0\langle\mathbf v,\mathbf v\rangle=0, altså v=0\mathbf v=\mathbf 0. Derfor overlapper de to komplementene ikke.

Projeksjon krever ortogonal basis

Projeksjonsformelen y,vivi,vivi\displaystyle \sum\frac{\langle\mathbf y,\mathbf v_i\rangle}{\langle\mathbf v_i,\mathbf v_i\rangle}\mathbf v_i er bare gyldig for en ortogonal basis. Er basisen skjev, gir formelen feil svar — ortogonaliser med Gram–Schmidt først.

Projeksjon er lineær og idempotent

Avbildningen yprojWy\mathbf y\mapsto\operatorname{proj}_W\mathbf y er lineær, og å projisere to ganger endrer ingenting: projW(projWy)=projWy\operatorname{proj}_W(\operatorname{proj}_W\mathbf y)=\operatorname{proj}_W\mathbf y. Som matrise PP betyr det P2=PP^2=P (idempotent).

Projeksjon av noe som allerede ligger i WW

Hvis yW\mathbf y\in W, er projWy=y\operatorname{proj}_W\mathbf y=\mathbf y (avstanden er 00). Hvis yW\mathbf y\in W^{\perp}, er projWy=0\operatorname{proj}_W\mathbf y=\mathbf 0. Projeksjonen «plukker ut» WW-delen av vektoren.

Feilvektoren z\mathbf z
z=yprojWy\mathbf z=\mathbf y-\operatorname{proj}_W\mathbf y kalles feil- eller residualvektoren. Den står vinkelrett på hele WW og har lengde lik avstanden fra y\mathbf y til WW. I minste kvadrater er den residualet som minimeres.
Avstand = lengden av feilvektoren
dist(y,W)=z=yprojWy\operatorname{dist}(\mathbf y,W)=\|\mathbf z\|=\|\mathbf y-\operatorname{proj}_W\mathbf y\|. Dette er den korteste avstanden fra y\mathbf y til WW (beste tilnærmingssetningen) — ethvert annet punkt i WW ligger lengre unna.
(RowA)=NulA(\operatorname{Row}A)^{\perp}=\operatorname{Nul}A

Sammen med (ColA)=NulAT(\operatorname{Col}A)^{\perp}=\operatorname{Nul}A^{T} har vi at radrommet og nullrommet er ortogonale komplementer: (RowA)=NulA(\operatorname{Row}A)^{\perp}=\operatorname{Nul}A. Løsningene av Ax=0A\mathbf x=\mathbf 0 står vinkelrett på alle radene i AA.

Projeksjonsmatrise (ortonormal basis)

Har WW en ortonormal basis samlet som kolonner i UU, er projWy=UUTy\operatorname{proj}_W\mathbf y=UU^{T}\mathbf y. Matrisen P=UUTP=UU^{T} er symmetrisk og idempotent. (Kjennskap — praktisk når basisen allerede er ortonormal.)

Skalar- vs. vektorprojeksjon
y,vv\displaystyle \frac{\langle\mathbf y,\mathbf v\rangle}{\|\mathbf v\|} er skalarprojeksjonen (et tall — komponenten langs v\mathbf v), mens y,vv,vv\displaystyle \frac{\langle\mathbf y,\mathbf v\rangle}{\langle\mathbf v,\mathbf v\rangle}\mathbf v er vektorprojeksjonen (selve skyggevektoren). Ikke bland de to nevnerne v\|\mathbf v\| og v,v\langle\mathbf v,\mathbf v\rangle.
Projeksjon med ortonormal basis

Er basisen ortonormal (ui,ui=1\langle\mathbf u_i,\mathbf u_i\rangle=1), forenkles formelen til projWy=iy,uiui\operatorname{proj}_W\mathbf y=\sum_i\langle\mathbf y,\mathbf u_i\rangle\,\mathbf u_i — ingen nevnere. Derfor lønner det seg noen ganger å normalisere først.

Beste tilnærming
projWy\operatorname{proj}_W\mathbf y er punktet i WW som minimerer avstanden til y\mathbf y. Denne minimeringsegenskapen er hele grunnen til at projeksjon brukes til å «løse» ligningssystem som egentlig ikke har løsning.
Slik finner du WW^{\perp}

Skriv basisvektorene for WW som rader i en matrise BB og løs det homogene systemet Bz=0B\mathbf z=\mathbf 0: løsningsrommet er WW^{\perp}. Det er nettopp NulB\operatorname{Nul}B, og siden radene utspenner WW blir (RowB)=NulB=W(\operatorname{Row}B)^{\perp}=\operatorname{Nul}B=W^{\perp}.

Bro til minste kvadrater

Når Ax=bA\mathbf x=\mathbf b ikke har løsning (overbestemt), er det beste vi kan gjøre å projisere b\mathbf b ned på ColA\operatorname{Col}A: den nærmeste oppnåelige høyresiden er b^=projColAb\hat{\mathbf b}=\operatorname{proj}_{\operatorname{Col}A}\mathbf b, og Ax^=b^A\hat{\mathbf x}=\hat{\mathbf b}. Nettopp dette leder til normallikningene i minste kvadraters metode (neste kapittel).

Repetisjonsoppgaver
Din fremgang
0 / 3 oppgaver
Symbol- og formelliste

Dette kapitlet er skrevet av Anthropics toppmodeller (Claude Opus og Claude Fable) og er foreløpig ikke manuelt gjennomgått — kvalitetskontrollen gjøres av uavhengige KI-agenter, og innmeldte feil rettes fortløpende. Funnet en feil? Meld fra, så retter vi den. Les mer om hvordan innholdet lages.

Skolesaga er en uavhengig læringsressurs og er ikke tilknyttet eller godkjent av Norges teknisk-naturvitenskapelige universitet. Dette er ikke offisielt studiemateriell. Les mer.