Skjevhet, frafall, ledende spørsmål og målefeil, og hvordan de påvirker konklusjonene.
To slags feil
Alle undersøkelser bommer. Det som avgjør hvor mye de er verdt, er hvilken
type bom.
Tilfeldig feil kommer av at vi har trukket ett utvalg og ikke et annet. Den
peker like ofte oppover som nedover, den blir mindre når vokser, og den kan
regnes ut. Det er den feilmarginen dekker.
Systematisk feil — også kalt skjevhet — kommer av at metoden peker i én
bestemt retning. Den blir ikke mindre av at utvalget vokser, den kan ikke
regnes ut av dataene, og feilmarginen sier ingenting om den.
| Tilfeldig feil | Systematisk feil (skjevhet) | |
|---|---|---|
| Årsak | Vi trakk akkurat dette utvalget | Metoden favoriserer noen |
| Retning | Tilfeldig opp eller ned | Alltid samme vei |
| Effekt av større | Blir mindre | Uendret |
| Kan den regnes ut? | Ja | Nei — den må unngås |
Nesten alt som går galt med en undersøkelse, hører til i høyre kolonne.
som trekker fra et mobilregister, mangler dem uten mobil; en som trekker fra
kommunens e-postliste, mangler dem som ikke har registrert seg. Enhetene som
mangler, har sannsynlighet null for å bli med, og de ligner sjelden dem som
er med.
2. Frafall. Noen av de trukne svarer ikke. Dette er den største feilkilden i
moderne undersøkelser, fordi svarprosentene har falt kraftig. Frafallet er
farlig når de som ikke svarer, skiller seg fra dem som svarer — og det gjør de
nesten alltid.
3. Målefeil. Svaret måler noe annet enn det vi tror:
- ledende spørsmål («Synes du ikke at …»)
- hvilket alternativ som nevnes først
- hukommelse («Hvor mange ganger syklet du i fjor?»)
- sosialt ønskelige svar (folk oppgir mer trening og mindre snacks enn de
har)
- uklare ord («ofte», «regelmessig», «god økonomi»)
4. Behandlingsfeil. Tastefeil, feil koding, feil sammenslåing av kategorier
— feil som oppstår etter at dataene er samlet inn.
Bare den tilfeldige variasjonen dekkes av feilmarginen. Alle fire punktene
over ligger utenfor.
En kommune sendte en undersøkelse til tilfeldig trukne innbyggere.
svarte. Av dem sa at de er fornøyde med renovasjonen.
a) Hva er svarprosenten?
b) Anta at de som ikke svarte, i virkeligheten er fornøyde. Hva er da
den sanne andelen, og hvor mye bommer anslaget?
c) Hvor mye kan anslaget i verste fall bomme, når vi ikke vet noe om dem som
ikke svarte?
d) Sammenlign med feilmarginen fra tilfeldig variasjon.
Svar a): Svarprosenten er , og frafallet er personer,
altså .
b) Den sanne andelen er et vektet gjennomsnitt av de to gruppene:
Svar b): Den sanne andelen ville vært (),
mens undersøkelsen rapporterer . Anslaget bommer med
NB: vi regner differansen av de eksakte tallene og runder til slutt.
Runder vi til først, får vi — og det er en
annen avrunding enn den riktige.
c) Vi vet ingenting om de . De to ytterpunktene er:
Ingen av dem er fornøyde:
Alle er fornøyde:
Svar c): Uten kunnskap om frafallet kan vi bare si at den sanne andelen
ligger mellom og — et spenn på prosentpoeng, altså
nøyaktig like stort som frafallet.
d) Feilmarginen fra tilfeldig variasjon med er omtrent
prosentpoeng (vi regner den ut i eksempel 3).

Feilmarginen måler bare den tilfeldige variasjonen. Det frafallet alene tillater, er over sytten ganger så bredt — og den usikkerheten står ikke i noen feilmargin.
Svar d): Den tilfeldige feilen er rundt prosentpoeng. Usikkerheten fra
frafallet er i verste fall prosentpoeng — over sytten ganger så stor.
Her ser vi at en rapport som oppgir « er fornøyde, feilmargin
prosentpoeng» sier noe sant om det minste problemet og tier om det
største.
Slik leser du kritisk: Se etter svarprosenten før du ser på
feilmarginen. Står den ikke der, er det i seg selv en opplysning.
Andre muligheter: Frafallet kan undersøkes ved å purre, og så sammenligne
dem som svarte først med dem som svarte etter purring. Skiller de to gruppene
seg, er det et varsel om at de som aldri svarte, skiller seg enda mer.
En brukerundersøkelse ble sendt til personer. svarte, og av dem
sa at de var fornøyde.
Finn svarprosenten og antall frafall.
Hva er den sanne andelen hvis de som ikke svarte, er fornøyde?
Og hvis de er fornøyde?
Hvorfor er det rimelig å tro at de som ikke svarte, er mindre fornøyde?
Hva bør stå i rapporten ved siden av tallet ?
En kommune delte tilfeldig trukne innbyggere i to like store grupper
og stilte det samme spørsmålet på to måter.
| Ordlyd | Ja | |
|---|---|---|
| «Bør kommunen bruke mer penger på eldreomsorg?» | 412 | 500 |
| «Bør kommunen bruke mer penger på eldreomsorg, selv om det betyr høyere eiendomsskatt?» | 238 | 500 |
a) Finn de to andelene.
b) Hvor stor er forskjellen, og kan den skyldes tilfeldigheter?
c) Hvilken ordlyd er den «riktige»?
Svar a): og .
b) Forskjellen er
Feilmarginen for en forskjell mellom to uavhengige utvalg er
Vi setter inn:
altså prosentpoeng.
Svar b): Forskjellen på prosentpoeng er over seks ganger så stor
som feilmarginen. Den kan ikke forklares med tilfeldig utvalgsvariasjon.
c) Ingen av dem — og begge.
Den første måler om folk ønsker seg bedre eldreomsorg. Den andre måler om
de er villige til å betale for den. Det er to forskjellige spørsmål, og
begge svarene er sanne om sitt eget spørsmål.
Feilen ville vært å stille det ene og rapportere svaret som om det gjaldt det
andre: « av innbyggerne støtter satsingen» når ingen er spurt hva den
koster.
Svar c): Ordlyden er spørsmålet. Derfor skal den alltid oppgis ordrett
sammen med resultatet.
NB: Dette er ikke et argument mot spørreundersøkelser. Det er et argument
for at spørsmålsteksten hører med til tallet, på samme måte som og
svarprosenten.
Vurder hver spørsmålsformulering. Hvilken feilkilde er i spill, og hvordan ville
du skrevet om?
«Synes du ikke at kommunen burde prioritert skolene høyere?»
«Hvor mange ganger har du vært på biblioteket det siste året?»
«Trener du regelmessig?»
«Hvor mye alkohol drakk du forrige uke?», stilt ansikt til ansikt av en intervjuer.
«Er du enig i at det nye tiltaket er både rettferdig og effektivt?»
andelen med omtrent sikkerhet innenfor
Leddet etter kalles feilmarginen. Formelen begrunnes i kapittel 7;
her bruker vi den.
Tre ting å legge merke til:
1. står under en kvadratrot. Firedobler vi , halveres marginen.
2. Marginen er størst når . Da er
, og formelen blir
— som er
tommelfingerregelen fra kapittel 3.1. For små andeler
er den ekte marginen mye mindre.
3. Populasjonens størrelse står ikke i formelen.
I regneark:
=1,96*ROT(B1*(1-B1)/B2)der B1 er og B2 er .
En måling med gir et parti oppslutning og et annet
parti .
a) Finn feilmarginen for hvert av de to partiene.
b) Hvilket intervall bør oppgis?
c) Hvorfor er marginen minst for det lille partiet?
Det store partiet, :
Det lille partiet, :
Svar a): prosentpoeng for det store partiet og
prosentpoeng for det lille.
b)
Svar b): og .
c) Fordi produktet er størst i midten og minst mot
ytterkantene:
Er nesten alle enige om noe, spriker svarene lite, og da spriker også anslaget
lite.
Svar c): Fordi variasjonen i svarene er minst når andelen er nær eller
nær .
NB: Tommelfingerregelen prosentpoeng er
altfor forsiktig for det lille partiet, der den ekte marginen er . For
små partier betyr det mye: forskjellen mellom og prosent er
forskjellen på under og over sperregrensen.
| Parti | A | B | C | D |
|---|---|---|---|---|
| Oppslutning | 27,1 % | 19,8 % | 8,9 % | 4,1 % |
Regn ut feilmarginen for hvert parti med =1,96*ROT(B1*(1-B1)/950).
Oppgi et intervall for hvert parti.
Sperregrensen for utjevningsmandater er . Hva kan vi si om parti D?
Hvorfor har partiene ulik feilmargin i den samme målingen?
Hvilken feilkilde dekker disse marginene ikke?
En oppgitt feilmargin bygger på at
1. utvalget er et sannsynlighetsutvalg,
2. alle de trukne har svart,
3. spørsmålet måler det vi tror, og
4. svarene er riktig registrert.
I virkeligheten svikter punkt 2 alltid, og ofte punkt 1 og 3 også.
Feilmarginen svarer derfor bare på ett spørsmål: hvor mye ville tallet
variert hvis vi trakk et nytt utvalg på samme måte? Den sier ingenting om
hvorvidt metoden peker riktig vei.
Et tall med liten feilmargin kan være helt feil. Feilmarginen måler
presisjon, ikke treffsikkerhet.
:
| Måned | Oppslutning |
|---|---|
| Forrige måned | 27,1 % |
| Denne måneden | 29,8 % |
Feilmarginen for hver enkelt måling er omtrent prosentpoeng, og
feilmarginen for endringen er omtrent prosentpoeng.
Hvor stor er endringen i prosentpoeng?
Er endringen større enn feilmarginen for endringen?
Hvorfor er feilmarginen for endringen større enn for hver enkelt måling?
En avis skriver: «Partiet i solid framgang.» Vurder overskriften.
Hva ville gjort deg tryggere på at framgangen er reell?
Et byrå skal planlegge en måling.
a) Hvor stort må være for at feilmarginen skal bli høyst prosentpoeng
i verste tilfelle?
b) Hva om kravet er prosentpoeng?
c) Byrået vet at andelen de er ute etter, ligger rundt . Hvordan
endrer det svaret i a)?
Vi setter feilmarginen lik kravet:
Vi kvadrerer begge sider:
Svar a): — vi runder opp, siden ville gitt en
litt for stor margin.
(Nå ser du hvorfor så mange målinger har rundt svar.)
b) Samme regning med :
Svar b): — mer enn dobbelt så mange for én prosentpoeng
bedre margin.
c) Med er i stedet for :
Svar c): holder — litt over en tredel av (en
tredel er ). Forholdet er , altså
.
Her ser vi at kunnskap om hvor svaret omtrent ligger, er verdt penger. Vet
vi ingenting, må vi regne med og betale for det største utvalget.
Andre muligheter: Skal flere spørsmål med ulike andeler besvares i samme
undersøkelse, dimensjoneres etter det spørsmålet der andelen ligger
nærmest .
Formelen for nødvendig utvalgsstørrelse er
der er den ønskede feilmarginen.
Finn for når .
Finn for når .
Sammenlign a) og b). Hvor mange ganger større er utvalget, og hvor mange ganger bedre er marginen?
Undersøkelsen skal også brytes ned på fem aldersgrupper med i hver. Hvor mange trengs da til sammen?
Byrået regner med frafall. Hvor mange må inviteres for å få svar, og hva er problemet med å løse frafall på denne måten?
vurder den.
Hvilke av disse opplysningene finner du: , svarprosent, utvalgsmetode, spørsmålets ordlyd, hvem som har betalt, og når den ble gjennomført?
Er utvalget et sannsynlighetsutvalg? Hvordan vet du det?
Regn ut feilmarginen for hovedtallet, og sammenlign med den oppgitte.
Hvilken av de fire feilkildene tror du er størst her, og hvorfor?
Skriv om nyhetssakens hovedsetning slik at den er dekkende.
Oppsummering
I dette kapittelet har du lært:
| Begrep | Innhold |
|---|---|
| Tilfeldig feil | Varierer fra utvalg til utvalg, avtar med , kan regnes ut |
| Systematisk feil | Peker alltid samme vei, uendret av større , kan ikke regnes ut |
| Dekningsfeil | Utvalgsrammen mangler deler av populasjonen |
| Frafall | De trukne som ikke svarte — den største feilkilden i dag |
| Målefeil | Spørsmålet måler noe annet enn det vi tror |
| Feilmargin | |
| Nødvendig |
Husk
- Feilmarginen dekker bare den tilfeldige variasjonen.
- Se etter svarprosenten før du ser på feilmarginen.
- Frafallets mulige skjevhet er like stor som frafallet selv.
- Marginen er størst når er nær , minst nær og .
- Ordlyden er en del av resultatet og skal oppgis.
- Et presist tall kan være et galt tall.
Dette kapitlet er skrevet av Anthropics toppmodeller (Claude Opus og Claude Fable) og er foreløpig ikke manuelt gjennomgått — kvalitetskontrollen gjøres av uavhengige KI-agenter, og innmeldte feil rettes fortløpende. Funnet en feil? Meld fra, så retter vi den. Les mer om hvordan innholdet lages.
