6.5 Drill: Gram–Schmidt, projeksjon og minste kvadrater

Ortogonalitetsapparatet drillet som én kjede: identifiser indreproduktet → Gram–Schmidt → ortogonal projeksjon/avstand → minste kvadrater via normallikningene, ofte på samme matrise.

85 min

13 oppgaver

DrillGram–Schmidtprojeksjonminste kvadrater

Din fremgang i kapitlet

0 / 13 oppgaver

Kapitlets plass i kurset

Bygger på

6.4Minste kvadraters metode og normallikningene

Brukes videre i

6.PPrøver til del 6: Indreprodukt, ortogonalitet og minste kvadrater

Ortogonalitetsapparatet er den tyngst vektede sjangeren i lineær algebra-delen: Gram–Schmidt, projeksjon og avstand (sjanger H) forekommer i om lag 80 % av settene, minste kvadrater (sjanger I) i om lag 47 %. Ofte kommer de som én kjedet oppgave på samme matrise. Dette drillkapitlet trener hele kjeden til automatikk.

Varianter som har forekommet:
- indreprodukt/norm/vinkel/ortogonalitet i standard og integral-indreprodukt;
- Gram–Schmidt til ortogonal basis (med heltalls-oppskalering) + normalisering;
- ortogonal projeksjon $\operatorname{proj}_W\mathbf y$ , dekomposisjon $\mathbf y=\hat{\mathbf y}+\mathbf z$ og avstand;
- minste kvadrater via normallikningene + kurvetilpasning;
- kjedet: Gram–Schmidt $\to$ projeksjon $\to$ minste kvadrater på samme $A$ .

Karakterskilleren: bruk alltid en ortogonal basis før projeksjonsformelen, og navngi normallikningene. Regn i det oppgitte indreproduktet — ikke standard prikkprodukt når oppgaven har gitt et annet.

Dette er en drilløkt på ~85 min. Ta den gjennomregnede casen først (~20 min), så oppgavesettet i to bolker med en kort pause imellom.

Løsningsoppskrift — ortogonalitetskjeden

Hver oppgave i sjanger H/I løses med samme faste kjede. Lær den utenat (kode E — ingen formelsamling på eksamen):

1. Identifiser indreproduktet. Er det standard prikkprodukt $\mathbf u\cdot\mathbf v=\sum u_iv_i$ , et vektet $\sum w_iu_iv_i$ , eller et integral $\langle p,q\rangle=\int_a^b p(t)q(t)\,dt$ ? Alle skalarprodukt, normer og vinkler skal regnes i dette produktet.

2. Gram–Schmidt til ortogonal basis:
$\mathbf v_1=\mathbf a_1,\qquad \mathbf v_k=\mathbf a_k-\sum_{i<k}\frac{\langle\mathbf a_k,\mathbf v_i\rangle}{\langle\mathbf v_i,\mathbf v_i\rangle}\mathbf v_i.$
Skalér gjerne hver $\mathbf v_k$ til heltall underveis (det endrer ikke retningen). Normaliser til slutt hvis oppgaven ber om ortonormal basis: $\mathbf u_i=\mathbf v_i/\|\mathbf v_i\|$ .

3. Projeksjon og avstand med den ortogonale basisen:
$\operatorname{proj}_W\mathbf y=\sum_i\frac{\langle\mathbf y,\mathbf v_i\rangle}{\langle\mathbf v_i,\mathbf v_i\rangle}\mathbf v_i,\qquad \mathbf y=\hat{\mathbf y}+\mathbf z,\qquad \text{avstand}=\|\mathbf z\|=\|\mathbf y-\operatorname{proj}_W\mathbf y\|.$

4. Minste kvadrater via normallikningene:
$A^{T}A\hat{\mathbf x}=A^{T}\mathbf b.$
Entydig når kolonnene i $A$ er uavhengige; affin løsningsmengde ved rangdefekt. Prediksjonen er $A\hat{\mathbf x}=\operatorname{proj}_{\operatorname{Col}A}\mathbf b$ — samme projeksjon som i steg 3.

Under følger en gjennomregnet case der samme matrise går gjennom Gram–Schmidt, projeksjon og minste kvadrater, med sensor-margnotater, så et oppgavesett på eksamensnivå.

Forkunnskaper — drillen forutsetter hele Del 6:

- kap. 6.1 — indreprodukt, norm og ortogonalitet (standard og integral).
- kap. 6.2 — Gram–Schmidt og ortonormalisering.
- kap. 6.3 — ortogonal projeksjon, dekomposisjon, avstand og komplement.
- kap. 6.4 — minste kvadrater og normallikningene.
- kap. 3.3 — kolonnerom og lineær uavhengighet.

Sist du var her (nøkkelformler):
$\mathbf v_k=\mathbf a_k-\sum_{i<k}\frac{\langle\mathbf a_k,\mathbf v_i\rangle}{\langle\mathbf v_i,\mathbf v_i\rangle}\mathbf v_i,\quad \operatorname{proj}_W\mathbf y=\sum_i\frac{\langle\mathbf y,\mathbf v_i\rangle}{\langle\mathbf v_i,\mathbf v_i\rangle}\mathbf v_i,\quad A^{T}A\hat{\mathbf x}=A^{T}\mathbf b.$

✏️Gjennomregnet eksamenscase (med sensor-margnotater)

La $A=\begin{bmatrix}1&0\\1&1\\1&2\\1&3\end{bmatrix}$ og $\mathbf b=\begin{bmatrix}1\\3\\3\\5\end{bmatrix}$ (standard prikkprodukt i $\mathbb R^4$ ).

a) Bruk Gram–Schmidt på kolonnene i $A$ og finn en ortogonal basis for $\operatorname{Col}A$ .
b) Finn $\operatorname{proj}_{\operatorname{Col}A}\mathbf b$ og avstanden fra $\mathbf b$ til $\operatorname{Col}A$ .
c) Finn minste kvadraters løsningen av $A\mathbf x=\mathbf b$ via normallikningene, og bekreft at $A\hat{\mathbf x}$ er lik projeksjonen fra (b).

a) Gram–Schmidt. Kolonnene er

\mathbf a_1=(1,1,1,1)

\mathbf a_2=(0,1,2,3)

\mathbf v_1=\mathbf a_1=(1,1,1,1).

\mathbf v_2=\mathbf a_2-\frac{\mathbf a_2\cdot\mathbf v_1}{\mathbf v_1\cdot\mathbf v_1}\mathbf v_1=(0,1,2,3)-\frac{6}{4}(1,1,1,1)=\left(-\tfrac32,-\tfrac12,\tfrac12,\tfrac32\right).

Skalér med

2

til heltall:

\mathbf v_2=(-3,-1,1,3)

. Ortogonal basis:

\{(1,1,1,1),(-3,-1,1,3)\}

.
> Sensor: heltalls-oppskalering endrer ikke retningen og gir renere regning videre — men si eksplisitt at du skalerer.

b) Projeksjon og avstand. Med den ortogonale basisen:
$\operatorname{proj}_{\operatorname{Col}A}\mathbf b=\frac{\mathbf b\cdot\mathbf v_1}{\mathbf v_1\cdot\mathbf v_1}\mathbf v_1+\frac{\mathbf b\cdot\mathbf v_2}{\mathbf v_2\cdot\mathbf v_2}\mathbf v_2.$
Her er $\mathbf b\cdot\mathbf v_1=1+3+3+5=12$ , $\mathbf v_1\cdot\mathbf v_1=4$ ; $\mathbf b\cdot\mathbf v_2=-3-3+3+15=12$ , $\mathbf v_2\cdot\mathbf v_2=9+1+1+9=20$ . Da
$\operatorname{proj}_{\operatorname{Col}A}\mathbf b=\frac{12}{4}(1,1,1,1)+\frac{12}{20}(-3,-1,1,3)=3(1,1,1,1)+\tfrac35(-3,-1,1,3)=\left(\tfrac65,\tfrac{12}{5},\tfrac{18}{5},\tfrac{24}{5}\right).$
> Sensor: bruk ortogonal basis FØR projeksjonsformelen. Bruker du $\mathbf a$ -vektorene direkte (de er ikke ortogonale), blir formelen feil.

Dekomposisjon $\mathbf b=\hat{\mathbf b}+\mathbf z$ med $\mathbf z=\mathbf b-\hat{\mathbf b}=\left(-\tfrac15,\tfrac35,-\tfrac35,\tfrac15\right)$ . Avstand:
$\|\mathbf z\|=\sqrt{\tfrac{1+9+9+1}{25}}=\sqrt{\tfrac{20}{25}}=\sqrt{\tfrac45}=\tfrac{2}{\sqrt5}.$

c) Minste kvadrater. Normallikningene $A^{T}A\hat{\mathbf x}=A^{T}\mathbf b$ :
$A^{T}A=\begin{bmatrix}4&6\\6&14\end{bmatrix},\qquad A^{T}\mathbf b=\begin{bmatrix}12\\24\end{bmatrix}.$
Løsning: $\det=56-36=20$ , $\displaystyle \hat{\mathbf x}=\frac{1}{20}\begin{bmatrix}14&-6\\-6&4\end{bmatrix}\begin{bmatrix}12\\24\end{bmatrix}=\frac{1}{20}\begin{bmatrix}24\\24\end{bmatrix}=\left(\tfrac65,\tfrac65\right).$
> Sensor: navngi normallikningene. Her tilsvarer $\hat{\mathbf x}=(c_0,c_1)$ regresjonslinja $y=\tfrac65+\tfrac65x$ for punktene $(0,1),(1,3),(2,3),(3,5)$ .

Bekreftelse: $A\hat{\mathbf x}=\tfrac65(1,1,1,1)+\tfrac65(0,1,2,3)=\left(\tfrac65,\tfrac{12}{5},\tfrac{18}{5},\tfrac{24}{5}\right)=\operatorname{proj}_{\operatorname{Col}A}\mathbf b$ ✓. Kjeden lukker seg: minste kvadrater er projeksjon. $\blacksquare$

Oppgavesett (eksamensnivå, stigende)

Blandet drill av hele kjeden. Gjør oppgavene uten fasit først; alle svar er eksakte.

📝Oppgave 1

Sjanger H

I $\mathbb R^3$ med standard prikkprodukt: la $\mathbf u=(2,1,2)$ og $\mathbf v=(1,-2,0)$ . a) Regn $\|\mathbf u\|$ . b) Er $\mathbf u$ og $\mathbf v$ ortogonale? c) Finn vinkelen mellom dem hvis de ikke er det.

📝Oppgave 2

Sjanger H

Finn en ortogonal basis for $\operatorname{Span}\{(1,1,1),(2,0,1)\}$ ved Gram–Schmidt.

📝Oppgave 3

Sjanger H

Bruk Gram–Schmidt på $\mathbf a_1=(1,0,1)$ , $\mathbf a_2=(1,1,0)$ , $\mathbf a_3=(0,1,1)$ , og oppgi en ortogonal basis (skalert til heltall).

📝Oppgave 4

Sjanger H

Den ortogonale basisen $\{(1,1,1),(1,-1,0)\}$ skal gjøres ortonormal. Finn den ortonormale basisen.

📝Oppgave 5

Sjanger H

La $W=\operatorname{Span}\{(1,2,1),(1,0,-1)\}$ og $\mathbf y=(1,2,4)$ . Finn $\operatorname{proj}_W\mathbf y$ , dekomposisjonen $\mathbf y=\hat{\mathbf y}+\mathbf z$ , og avstanden fra $\mathbf y$ til $W$ .

📝Oppgave 6

Sjanger H

La $W=\operatorname{Span}\{(1,1,1),(1,-1,1)\}$ og $\mathbf y=(4,1,3)$ . Finn $\operatorname{proj}_W\mathbf y$ og avstanden fra $\mathbf y$ til $W$ .

📝Oppgave 7

Sjanger I

Finn minste kvadraters løsningen av $A\mathbf x=\mathbf b$ med $A=\begin{bmatrix}1&0\\1&1\\1&2\end{bmatrix}$ , $\mathbf b=\begin{bmatrix}3\\1\\2\end{bmatrix}$ , og minste-kvadraters-feilen.

📝Oppgave 8

Sjanger I

Finn den rette linja $y=c_0+c_1x$ som best tilpasser $(0,1),(1,1),(2,2),(3,2)$ .

📝Oppgave 9

Sjanger I

Finn parabelen $y=c_0+c_1x+c_2x^2$ som best tilpasser $(-2,0),(-1,1),(0,0),(1,4),(2,6)$ .

📝Oppgave 10

Sjanger H

På $\operatorname{P}_2$ med indreproduktet $\langle p,q\rangle=\int_{-1}^{1}p(t)q(t)\,dt$ : bruk Gram–Schmidt på $\{1,t,t^2\}$ og finn en ortogonal basis.

📝Oppgave 11

Sjanger H

Med samme indreprodukt $\langle p,q\rangle=\int_{-1}^{1}pq\,dt$ : finn projeksjonen av $f(t)=t^2$ ned på $W=\operatorname{Span}\{1,t\}$ , og avstanden $\|f-\operatorname{proj}_W f\|$ .

📝Oppgave 12

(Kjedet — sjanger H + I.) La $A=\begin{bmatrix}1&1\\1&2\\1&3\\1&4\end{bmatrix}$ og $\mathbf b=\begin{bmatrix}1\\3\\4\\5\end{bmatrix}$ . a) Gram–Schmidt på kolonnene i $A$ . b) $\operatorname{proj}_{\operatorname{Col}A}\mathbf b$ . c) Minste kvadraters løsningen av $A\mathbf x=\mathbf b$ , og bekreft $A\hat{\mathbf x}=\operatorname{proj}_{\operatorname{Col}A}\mathbf b$ .

📝Oppgave 13

(Kald bank — rangdefekt.) La $A=\begin{bmatrix}1&2&0\\1&2&1\\1&2&2\\1&2&3\end{bmatrix}$ (kolonne 2 $=2\,\times$ kolonne 1) og $\mathbf b=(1,2,2,5)$ . Finn alle minste kvadraters løsninger av $A\mathbf x=\mathbf b$ .

Typiske feil (drill)

Fellene som stjeler poeng i Gram–Schmidt- og minste-kvadraters-drill:

- Projeksjon uten ortogonal basis — projeksjonsformelen $\displaystyle \sum\frac{\langle\mathbf y,\mathbf v_i\rangle}{\langle\mathbf v_i,\mathbf v_i\rangle}\mathbf v_i$ gjelder BARE når $\{\mathbf v_i\}$ er ortogonal. Kjør Gram–Schmidt først.
- Standard prikkprodukt i integral-indreprodukt — er indreproduktet definert som $\int f g\,dx$ , må ALLE skalarprodukt og normer regnes med integralet, ikke med vanlig prikkprodukt.
- Normallikningene satt opp feil — minste kvadrater løses av $A^{T}A\hat{\mathbf x}=A^{T}\mathbf b$ ; en vanlig feil er å løse $A\mathbf x=\mathbf b$ direkte (som er inkonsistent) eller å glemme transponeringen.
- Glemt normalisering ved ortonormal basis — etter Gram–Schmidt har du en ortogonal basis; skal den være ortonormal, må hver vektor deles på sin egen norm.

Symbol- og formelliste

Formelkort for kjeden — repetisjon

Flashcard-/repetisjonsstoff — hopp trygt over ved førstegangslesing; tidsanslaget over gjelder kjernestoffet. Kortene under komprimerer kjeden.

Løsningsoppskriften for ortogonalitetskjeden

Den faste rekkefølgen for sjanger H/I: (1) identifiser indreproduktet; (2) Gram-Schmidt til ortogonal basis; (3) projeksjon/dekomposisjon/avstand med den ortogonale basisen; (4) minste kvadrater via normallikningene. Samme matrise går ofte gjennom hele kjeden.

Steg 1 — identifiser indreproduktet

\mathbf u\cdot\mathbf v=\sum u_iv_i

Gram–Schmidt-formelen

\{\mathbf a_1,\dots,\mathbf a_n\}

Heltalls-oppskalering

\mathbf v_k

Ortogonal projeksjon med ortogonal basis

\{\mathbf v_1,\dots,\mathbf v_p\}

Ortogonal dekomposisjon og avstand

\mathbf y

Normallikningene

\hat{\mathbf x}

Affin løsning ved rangdefekt

A

Dette kapitlet er skrevet av Anthropics toppmodeller (Claude Opus og Claude Fable) og er foreløpig ikke manuelt gjennomgått — kvalitetskontrollen gjøres av uavhengige KI-agenter, og innmeldte feil rettes fortløpende. Funnet en feil? Meld fra, så retter vi den. Les mer om hvordan innholdet lages.

Skolesaga er en uavhengig læringsressurs og er ikke tilknyttet eller godkjent av Norges teknisk-naturvitenskapelige universitet. Dette er ikke offisielt studiemateriell. Les mer.