Å planleggje, gjennomføre og tolke ein test på ekte data; feil av type I og II.
Hypotesetesting i reelle datasett
I dei tre førre kapitla kom tala ferdig serverte: «eit utval på 40 gir ». På ekte data er det ikkje slik. Då må vi sjølve bestemme kva vi lurer på, kvar tala skal kome frå, og kva vi gjer med dei — før vi byrjar å rekne.
Heile arbeidet har seks steg:
| steg | kva du gjer | når |
|---|---|---|
| 1 | formuler problemstillinga i ord | før data |
| 2 | set opp og | før data |
| 3 | vel og utvalsstorleik | før data |
| 4 | samle inn dataa | — |
| 5 | rekn ut testobservator og p-verdi | etter data |
| 6 | konkluder i kontekst, med atterhald | etter data |
Dei tre første stega er dei viktigaste, og dei er dei einaste som ikkje kan gjerast om igjen. Har du sett dataa først, kan du ikkje lenger late som om du ikkje har det.
I dette kapittelet gjer vi heile løpet på eit datasett, og ser deretter på dei to feila ein test kan gjere — for ein test tek av og til feil, og det er ein del av metoden, ikkje ein veikskap ved han.
På landsbasis bur det i gjennomsnitt 2,12 personar i eit hushald. Ein kommune med mange barnefamiliar trur at talet er høgare hos dei. Dei trekkjer 40 tilfeldige hushald frå folkeregisteret og noterer kor mange som bur der:
| tal på personar | 1 | 2 | 3 | 4 | 5 | 6 |
|---|---|---|---|---|---|---|
| tal på hushald | 7 | 15 | 8 | 6 | 3 | 1 |
a) Formuler problemstillinga og set opp hypotesar.
b) Finn og .
c) Gjennomfør testen på 5 %-nivå.
d) Skriv konklusjonen med dei atterhalda som høyrer heime.
a) Problemstilling: Er den gjennomsnittlege hushaldsstorleiken i kommunen høgare enn landsgjennomsnittet på 2,12?
Kommunen har ei klar retning i tankane, så testen er einsidig:
Signifikansnivå: , vald på førehand.
b) Vi reknar frå frekvenstabellen. Summen av alle hushaldsstorleikane:
rekneark: =SUMMERPRODUKT(A2:F2;A3:F3)/SUMMER(A3:F3) gir 2,65
=STDAV.S(...) på dei 40 einskildverdiane gir 1,29
Først skildrar vi dataa. Dei 40 hushalda fordeler seg med toppen ved to personar og ein hale mot høgre.
Gjennomsnittet 2,65 ligg til høgre for typetalet, slik det som regel gjer i ei høgreskeiv fordeling — og skeivskapen er nettopp atterhaldet som må drøftast når testen byggjer på normaltilnærming.
c) Standardfeilen:
Testobservatoren:
p-verdien:
blir forkasta.
d) Konklusjon med atterhald:
Undersøkinga gir grunnlag for å seie at hushalda i kommunen i gjennomsnitt er større enn landsgjennomsnittet på 2,12 personar (). Anslaget vårt er 2,65 personar, med 95 % konfidensintervall .Atterhald: (1) Konklusjonen gjeld berre dersom dei 40 hushalda verkeleg er trekte tilfeldig — er dei henta frå eitt bustadfelt, måler vi bustadfeltet og ikkje kommunen. (2) Einskildmålingane er langt frå normalfordelte (dei er heile tal frå 1 til 6, og fordelinga er skeiv), men det går fint: det er som skal vere tilnærma normalfordelt, og med syter sentralgrensesetninga for det. (3) Testen seier ingenting om kvifor hushalda er større.
Svar: a) mot , . b) og . c) , — blir forkasta. d) Sjå konklusjonen over.
NB — atterhald nummer 2 er det viktigaste å forstå. Mange trur normalfordeling er eit krav til dataa. Det er det ikkje. Kravet gjeld fordelinga til gjennomsnittet, og ho blir normal av seg sjølv når er stor nok.
Gjer den same utrekninga som i døme 1. Ei bilverkstadkjede oppgir at gjennomsnittleg reparasjonstid er 20 minutt for ein bestemd type service. Ein kunde mistenkjer at det tek lengre tid, og får tilgang til 28 tilfeldige registrerte tider. Utvalet gir minutt og minutt.
Set opp og .
Finn standardfeilen.
Rekn ut .
Finn p-verdien og konkluder.
Kva atterhald bør nemnast om ?
| er sann | er usann | |
|---|---|---|
| vi forkastar | type I-feil (falsk alarm) | rett |
| vi beheld | rett | type II-feil (bom) |
Type I-feil: vi slår alarm om noko som ikkje er der. Sannsynet for dette er nøyaktig signifikansnivået:
Type II-feil: det er ein verkeleg effekt, men testen oppdagar han ikkje. Sannsynet blir kalla :
Styrken til testen er sannsynet for å oppdage ein effekt som verkeleg er der:
NB: vel vi sjølve. kan vi ikkje velje — han er avhengig av kor stor den verkelege effekten er, kor mange vi måler, og kva vi valde. Og han kan berre reknast ut dersom vi seier kva alternativ verdi vi tenkjer på.
Ein maskin skal fylle 500 ml. Standardavviket er ml. Kvalitetskontrollen testar mot med flasker og .
a) Finn forkastingsområdet i ml.
b) Kva er sannsynet for type I-feil?
c) Gå ut frå at maskinen i røynda fyller ml. Finn og styrken.
d) Gjer det same for ml.
a) Standardfeilen:
Venstresidig test på 5 %-nivå gir kritisk :
Vi forkastar dersom ml.
b) . Er maskinen rett innstilt, vil kontrollen likevel slå alarm i 5 % av tilfella — omtrent kvar tjuande gong.
c) No går vi ut frå at er sann. Då er normalfordelt om 495, framleis med standardavvik 2. Type II-feil tyder at vi ikkje forkastar, altså at hamnar over grensa:
Vi standardiserer — no med 495 i midten:
Fyller maskinen 495 ml, oppdagar kontrollen det altså i omtrent 80 % av tilfella — og overser det i 20 %.
d) Med :
Eit avvik på 2 ml blir altså berre oppdaga i omtrent kvart fjerde tilfelle.

Dei to feiltypane i same bilete. Aksen måler standardfeil frå 500 ml, så forkastingsgrensa 496,7 ml står som . Gult areal er : sannsynet for å slå alarm når maskinen er rett innstilt. Turkist areal er : sannsynet for å oversjå at maskinen fyller 495 ml. Flyttar vi linja mot venstre, krympar og veks — dei to kan ikkje reduserast samtidig utan å måle fleire flasker.
Svar: a) ml. b) 0,05. c) , styrke . d) , styrke .
Kva dette tyder i praksis: testen er god til å oppdage store avvik og nesten blind for små. Det er difor «testen fann ingen feil» aldri tyder «maskinen er rett innstilt» — det kan like gjerne tyde at avviket var for lite for denne testen å sjå.
Ein pakkemaskin skal fylle 250 gram. Standardavviket er gram. Kontrollen testar mot med pakkar og .
Finn standardfeilen og forkastingsområdet i gram.
Kva er sannsynet for type I-feil?
Finn og styrken dersom maskinen i røynda fyller 252 gram.
Finn styrken dersom maskinen fyller 253 gram.
Forklar kvifor styrken veks når det verkelege avviket veks.
Vi held fram med fyllmaskinen (, , einsidig test, ).
a) Set opp ein tabell over styrken for , 100 og 400, mot dei sanne verdiane , 497, 496 og 495.
b) Kva skjer med dersom vi set i staden, med og sann ?
c) Oppsummer kva styrken er avhengig av.
a) For kvar reknar vi først grensa , og deretter for kvar sanne :
| grense | |||||
|---|---|---|---|---|---|
| 36 | 496,71 | 0,26 | 0,44 | 0,64 | 0,80 |
| 100 | 498,03 | 0,51 | 0,80 | 0,95 | 0,99 |
| 400 | 499,01 | 0,95 | 1,00 | 1,00 | 1,00 |
Les tabellen på to måtar. Bortover: med fast veks styrken når avviket veks. Nedover: med fast avvik veks styrken når veks.
b) Med blir kritisk lik 2,326, og grensa blir flytt til
Med sann :
Styrken fell frå 0,64 til 0,37. Å gjere mindre gjer større.
c) Styrken er avhengig av tre ting:
- Effektstorleiken — kor langt den sanne verdien er frå . Store avvik er lette å sjå.
- Utvalsstorleiken — fleire målingar krympar og skil fordelingane betre.
- Signifikansnivået — strengare krav mot falsk alarm gir fleire oversette effektar.

Styrken mot den sanne . Styrken veks når avviket frå 500 blir større (til venstre), og han veks med .
Alle tre kurvene endar i når faktisk er 500. Punkta på den blå kurva er tala i tabellen over.
Kurvene for og er teikna frå det punktet der dei skil seg frå 1,00 — lenger til venstre ligg dei pikselvis oppå kvarandre.
Svar: a) Sjå tabellen. b) veks frå 0,36 til 0,63, styrken fell frå 0,64 til 0,37. c) Effektstorleik, utvalsstorleik og .
NB: Berre éin av dei tre gir forbetring utan motyting, og det er . og er ein bytehandel; fleire målingar er den einaste måten å redusere begge på samtidig.
Vi held fram med pakkemaskinen frå oppgåve 2: , , einsidig test på 5 %-nivå, og vi er interesserte i å oppdage eit avvik til gram.
Finn styrken med .
Finn styrken med .
Kor mange pakkar trengst for styrke minst 0,80?
Kor mange pakkar trengst for styrke minst 0,90?
Bedrifta vil ha «rimeleg tryggleik» for å oppdage eit avvik på 2 gram, men kan berre kontrollere 25 pakkar. Kva bør dei få vite?
Valet av er ikkje eit matematisk spørsmål, men eit spørsmål om konsekvensar. Vurder kva type I- og type II-feil tyder i desse tre situasjonane, og kva signifikansnivå du ville valt.
a) Ein brannalarm.
b) Godkjenning av eit nytt legemiddel.
c) Ein nettbutikk testar om ein ny knappefarge gir fleire kjøp.
a) Brannalarm. : det brenn ikkje.
- Type I-feil: alarmen går utan brann. Irriterande, men ufarleg.
- Type II-feil: det brenn, og alarmen teier. Katastrofalt.
Her vil vi ha svært liten , og godtek ein stor . Difor er brannalarmar stilte inn så følsamt at dei går av når nokon brenn brødskiver.
b) Legemiddel. : medisinen verkar ikkje betre enn dagens behandling.
- Type I-feil: vi godkjenner ein medisin som ikkje verkar. Pasientar får biverknader utan nytte, og ei verksam behandling kan bli erstatta.
- Type II-feil: vi avviser ein medisin som faktisk verkar. Òg alvorleg, men han kan prøvast på nytt seinare.
Her blir sett lågt, ofte 0,01 eller lågare, og ein kompenserer for den auka ved å krevje store studiar.
c) Knappefarge. : fargen har ingen effekt.
- Type I-feil: dei byter farge utan grunn. Kostar nesten ingenting.
- Type II-feil: dei beheld ein dårlegare farge. Kostar òg lite.
Her kan vere heilt forsvarleg. Ingen kjem til skade av ein knapp.
Svar: a) Type II er verst — vel stor (følsam alarm). b) Type I er alvorlegast — vel liten , og kompenser med stort utval. c) Begge feila er billege — er greitt.
Regelen bak alle tre: set lågt når falsk alarm er dyrt, og syt for stort nok utval når det å oversjå noko er dyrt. Statistikken gir deg tala; kva dei er verde, må du avgjere sjølv.
Ein siste ting å leggje merke til: i alle tre tilfella er sett til «det skjer ingenting». Det er ikkje tilfeldig. Testen er bygd slik at det krevst haldepunkt for å påstå at noko skjer — den som hevdar noko nytt, har provbyrda.
Skildre kva type I-feil og type II-feil tyder i kvar situasjon, og sei kva for ein som er mest alvorleg.
Ein kvalitetskontroll testar : «partiet held krava» mot : «partiet held ikkje krava».
Ei rettssak, med : «tiltalte er uskuldig».
Ein screeningtest for sjukdom, med : «pasienten er frisk».
Ein skole testar om eit nytt leseopplegg verkar, med : «ingen effekt».
I kva for nokre av tilfella a)–d) bør setjast lågare enn 0,05, og i kva for nokre bør ein heller auke utvalet?
2. Mange testar, eitt funn. Testar du 20 ting på 5 %-nivå, får du i gjennomsnitt éi forkasting sjølv om ingenting er sant — og sannsynet for minst éi er . Fortel kor mange testar du gjorde.
3. Utvalet er ikkje tilfeldig. Dei som svarer på ei undersøking, er sjeldan eit tverrsnitt. Feilmarginar og p-verdiar måler berre tilfeldig variasjon — dei rettar ikkje opp skeivt utval, same kor stort det er.
4. Signifikant blir forveksla med viktig. Med stor nok blir kva ørliten skilnad som helst signifikant. Oppgi alltid storleiken på effekten, med konfidensintervall.
5. «Ingen signifikans» blir tolka som «ingen effekt». Var styrken låg, ville testen ikkje funne effekten sjølv om han fanst. Rekn ut styrken før du konkluderer med at noko ikkje verkar.
Alle fem er lette å unngå med éin vane: skriv ned problemstilling, hypotesar, og utvalsstorleik før du ser på dataa — og hald deg til det du skreiv.
Les dei fem korte skildringane, og peik på kva for ei av fellene frå ramma over som gjer seg gjeldande.
«Vi undersøkte 18 ulike samanhengar i datasettet, og fann éin signifikant på 5 %-nivå.»
«Med 50 000 svar fann vi at gruppe A svarte 0,03 poeng høgare enn gruppe B ().»
«Vi la ut spørjeskjemaet på nettsida vår, og 4200 svarte.»
«Testen gav med 14 deltakarar, så metoden har ingen effekt.»
«Då vi såg at gutane skåra høgast, sette vi opp : gutar skårar høgare enn jenter.»
Oppsummering
- På ekte data er dei tre første stega dei avgjerande: problemstilling, hypotesar og blir bestemte før dataa er sette.
- Type I-feil: forkaste ein sann (falsk alarm). Sannsynet er — som vi vel sjølve.
- Type II-feil: behalde ein usann (oversett effekt). Sannsynet er , og det blir rekna mot ein bestemd alternativ verdi.
- Styrken er sannsynet for å oppdage ein effekt som verkeleg er der. Han veks med effektstorleiken, med , og med .
- blir rekna ved å standardisere forkastingsgrensa med den sanne i midten.
- og dreg mot kvar sin kant. Berre fleire målingar reduserer begge.
- Valet av er eit spørsmål om konsekvensar, ikkje om matematikk.
- Normalfordeling er eit krav til gjennomsnittet, ikkje til dataa. Sentralgrensesetninga ordnar resten når er stor nok.
- Konklusjonen blir skriven i kontekst, med p-verdi, konfidensintervall og atterhald om korleis dataa vart samla inn.
Dette er siste kapittel i seksjon 7. I seksjon 8 skal du planleggje og gjennomføre di eiga undersøking — og då er nettopp rekkjefølgja i dette kapittelet arbeidsplanen din.
| 15 200 | 17 800 | 14 300 | 19 100 | 16 500 |
| 13 900 | 18 400 | 15 700 | 20 200 | 14 800 |
| 17 200 | 16 100 | 12 700 | 18 900 | 15 400 |
| 19 600 | 13 400 | 17 500 | 16 800 | 14 100 |
| 20 800 | 15 900 | 18 200 | 13 100 | 17 900 |
| 16 300 | 14 600 | 19 300 | 15 100 | 18 700 |
| 12 900 | 17 100 | 16 600 | 14 400 | 19 800 |
| 15 600 | 18 000 | 13 700 | 17 400 | 16 000 |
| 21 300 | 14 900 | 18 600 | 15 300 | 17 700 |
Gjennomfør heile undersøkinga i rekneark.
Set opp problemstilling, hypotesar og signifikansnivå — før du reknar.
Finn , og standardfeilen.
Rekn ut og den einsidige p-verdien, og konkluder på 5 %-nivå.
Rekn òg den tosidige p-verdien og 95 %-intervallet. Kva legg du merke til?
Finn forkastingsgrensa i kWh, og rekn styrken mot ein sann på 17 000 kWh. Skriv til slutt ein kort konklusjon med atterhald.
Tjue forskargrupper undersøkjer same påstand uavhengig av kvarandre. Påstanden er usann. Kor mange grupper får signifikant resultat på 5 %-nivå, og kva for nokre av dei blir publiserte?
Korleis kan ein gardere seg mot problemet i a) når ein sjølv gjer mange testar? Rekn ut det justerte nivået for 20 testar med samla risiko 5 %.
«Undersøkinga vår hadde 5 000 deltakarar, så resultatet er sikkert.» Drøft kva eit stort utval gir og ikkje gir.
Ein kommune testar kvar månad om nøgdskapen blant innbyggjarane har endra seg, på 5 %-nivå. Kva vil skje over nokre år, sjølv om nøgdskapen er heilt stabil?
Ein elev skriv: «Vi beheldt , så vi har vist at det ikkje er nokon skilnad.» Skriv om til ein rett konklusjon, og forklar kva eleven må rekne ut for å kunne seie noko meir.
Dette kapitlet er skrevet av Anthropics toppmodeller (Claude Opus og Claude Fable) og er foreløpig ikke manuelt gjennomgått — kvalitetskontrollen gjøres av uavhengige KI-agenter, og innmeldte feil rettes fortløpende. Funnet en feil? Meld fra, så retter vi den. Les mer om hvordan innholdet lages.
