8.6 Betinget sannsynlighet og uavhengighet

Den positive testen

Du tar en medisinsk test for en sjelden sykdom. Testen er god: den fanger opp 99 % av alle syke og frikjenner 95 % av alle friske. Svaret kommer – positivt. Hvor redd bør du være?

De fleste – inkludert mange leger, viser studier – svarer «rundt 95–99 % sannsynlig syk». Det riktige svaret, med tallene vi skal bruke, er omtrent 17 %. Du leste riktig: etter en positiv test fra en svært treffsikker test er sjansen fortsatt mer enn fire av fem for at du er helt frisk.

Hvordan kan det stemme? Svaret heter Bayes' setning – formelen for å oppdatere sannsynligheter når ny informasjon kommer, og kanskje den mest praktisk viktige formelen i hele sannsynlighetslæren. I dette kapittelet lærer du den, regner gjennom testparadokset i detalj, løser sammensatte problemer som kombinerer alle verktøyene fra kapittel 8, og møter Monte Carlo-simulering – metoden for å eksperimentere seg fram til sannsynligheter datamaskinen kan finne raskere enn teorien.

Bayes' setning – å snu betingelsen

Problemet med testen er et retningsproblem. Det du kjenner, er $P(\text{positiv} \mid \text{syk})$ – testens treffsikkerhet, målt i laboratoriet. Det du vil vite, er det omvendte: $P(\text{syk} \mid \text{positiv})$. Og som du lærte i kapittel 8.4: de to retningene kan være vidt forskjellige tall.

Bayes' setning snur betingelsen. I sin enkleste form, med to alternativer $B$ og $B^c$:

$$P(B \mid A) = \frac{P(B) \cdot P(A \mid B)}{P(B) \cdot P(A \mid B) + P(B^c) \cdot P(A \mid B^c)}$$

Telleren er sannsynligheten for veien «$B$, og deretter $A$» (produktsetningen). Nevneren er totalsannsynligheten for $A$ – summen over alle veier som fører til $A$ (totalsetningen fra 8.4). Brøken spør altså: av alle måtene $A$ kunne skje på, hvor stor andel gikk via $B$? Generelt, for en partisjon $B_1, \ldots, B_n$: $\displaystyle P(B_j \mid A) = \frac{P(B_j)P(A \mid B_j)}{\sum_i P(B_i)P(A \mid B_i)}$.

Begrepene rundt formelen er verdt å lære, for de brukes overalt fra medisin til maskinlæring: $P(B)$ kalles prior – troen din før evidensen. $P(A \mid B)$ er likelihood – hvor godt evidensen passer med hypotesen. Og $P(B \mid A)$ er posterior – den oppdaterte troen etter at evidensen er lagt på bordet. Bayes' setning er rett og slett en presis oppskrift for å lære av erfaring: typiske bruksområder er testen som er positiv (er pasienten syk?), produktet som er defekt (hvilken maskin lagde det?) og e-posten som inneholder ordet «gevinst» (er det spam?).

Testparadokset – regnet ut i detalj

La oss legge tallene på bordet. Sykdommen har prevalens 1 %: $P(S) = 0{,}01$. Testens sensitivitet er $P(T^+ \mid S) = 0{,}99$, og spesifisiteten er $P(T^- \mid S^c) = 0{,}95$ – altså er falsk positiv-raten $P(T^+ \mid S^c) = 0{,}05$.

Først totalsannsynligheten for å teste positivt, via totalsetningen:

$$P(T^+) = 0{,}01 \cdot 0{,}99 + 0{,}99 \cdot 0{,}05 = 0{,}0099 + 0{,}0495 = 0{,}0594$$

Så Bayes:

$$P(S \mid T^+) = \frac{0{,}01 \cdot 0{,}99}{0{,}0594} = \frac{0{,}0099}{0{,}0594} \approx 0{,}167$$

Bare 17 %! For å se hvorfor, bytt ut prosentene med mennesker. Tenk deg 10 000 testede. Av dem er 100 syke (1 %), og testen fanger 99 av dem. Men 9 900 er friske, og 5 % av dem – 495 personer – får falsk positiv. Blant de $99 + 495 = 594$ positive er bare 99 faktisk syke: $\displaystyle \frac{99}{594} \approx 17\%$. De falske positive drukner de ekte, rett og slett fordi de friske er så mange flere.

Dette er base rate fallacy – feilslutningen der man stirrer på testens kvalitet og glemmer grunnfrekvensen (prioren). Lærdommen er dyp og praktisk: en positiv test for noe sjeldent beviser lite alene; det den gjør, er å oppdatere sannsynligheten – her fra 1 % til 17 %. Det er derfor leger følger opp med nye, uavhengige tester: enda en positiv test ville løftet sannsynligheten dramatisk videre.

Sammensatte problemer – verktøyene i samspill

Virkelige problemer kommer sjelden med merkelapp. De krever at du velger og kombinerer verktøy: betinget sannsynlighet, binomisk fordeling, komplement, totalsetning, Bayes. Strategien er alltid: identifiser hendelsene og relasjonene (uavhengige? betingede?), velg modell for hvert delsteg, og sjekk til slutt at svaret gir mening.

Et eksempel som kombinerer to store verktøy. En forhandler mottar varepartier: 80 % av partiene er «gode» med 5 % defektrate, 20 % er «dårlige» med 15 %. Fra hvert parti testes 5 tilfeldige varer, og partiet aksepteres hvis ingen er defekte. Hvor stor andel av partiene aksepteres?

Først det binomiske laget – aksept gitt partitype: For et godt parti er antall defekte i stikkprøven $X \sim \text{Bin}(5;\, 0{,}05)$, så $P(A \mid G) = 0{,}95^5 \approx 0{,}774$. For et dårlig parti: $P(A \mid D) = 0{,}85^5 \approx 0{,}444$.

Så totalsetningens lag – vektet over partitypene:

$$P(A) = 0{,}80 \cdot 0{,}774 + 0{,}20 \cdot 0{,}444 \approx 0{,}619 + 0{,}089 = 0{,}708$$

Cirka 71 % av partiene slipper gjennom. Og legg merke til at du nå kunne fortsette med Bayes: gitt at et parti ble akseptert, hva er sannsynligheten for at det faktisk var dårlig? ($\displaystyle \frac{0{,}089}{0{,}708} \approx 12{,}5\%$ – kontrollen siler, men ikke perfekt.) Slik bygger de store analysene seg opp: lag på lag av verktøyene du allerede kan.

Monte Carlo – når simulering slår teori

Noen sannsynligheter er vonde å regne ut eksakt, men lette å eksperimentere seg fram til. Ideen kalles Monte Carlo-simulering, oppkalt etter kasinobyen: la datamaskinen gjenta forsøket tusenvis av ganger og tell hvor ofte hendelsen inntreffer. Oppskriften er tre linjer: simuler forsøket $N$ ganger (gjerne $N = 10\,000$ eller mer), tell antall ganger $n_A$ hendelsen $A$ inntreffer, og estimer $\displaystyle P(A) \approx \frac{n_A}{N}$. Jo større $N$, jo bedre estimat – det er store talls lov i arbeid.

Klassikeren er bursdagsproblemet: hva er sannsynligheten for at minst to av 23 personer deler fødselsdag? Intuisjonen sier «liten» – 23 personer, 365 dager. Simuleringen sier noe annet. I pseudokode:

antall_treff = 0
for i = 1 til 100000:
    trekk 23 tilfeldige tall fra 1 til 365
    hvis to er like: antall_treff += 1
estimat = antall_treff / 100000

Kjør dette, og estimatet lander rundt $0{,}507$ – over femti prosent! (Den eksakte verdien, som kan regnes med komplement og produktsetningen, er $\approx 0{,}5073$ – simuleringen treffer godt.) Intuisjonen feiler fordi det ikke er 23 muligheter for sammenfall, men $\binom{23}{2} = 253$ par av personer.

Monte Carlo er ikke juks – det er et fullverdig verktøy som brukes i alt fra finans til partikkelfysikk, nettopp i situasjoner der modellene blir for kompliserte for blyant og papir. Og det fine er at metoden samtidig er en test av teorien din: stemmer ikke simuleringen med formelen, har en av dem feil.

Oppsummering: å oppdatere det du tror

Den positive testen lærte oss kapittelets store lekse: evidens skal ikke erstatte det du visste fra før – den skal oppdatere det. Bayes' setning $\displaystyle P(B \mid A) = \frac{P(B)P(A \mid B)}{P(A)}$ gjør oppdateringen presis: prior ganger likelihood, delt på totalsannsynligheten, gir posterior. Med 1 % prevalens løftet den positive testen sannsynligheten for sykdom fra 1 % til bare 17 % – fordi de falske positive fra den store friske gruppen druknet de ekte. Å glemme dette er base rate fallacy.

Sammensatte problemer løses lagvis: binomisk fordeling innenfor hvert scenario, totalsetningen til å veie scenarioene sammen, Bayes til å snu betingelser – som i kvalitetskontrollen der 71 % av partiene ble akseptert. Strategien: identifiser relasjonene, velg verktøy per delsteg, rimelighetssjekk svaret.

Og når teorien blir for tung, finnes Monte Carlo: simuler mange ganger, tell, og estimer $\displaystyle P(A) \approx \frac{n_A}{N}$. Bursdagsproblemets overraskende 50,7 % viste både metodens kraft og intuisjonens begrensninger. Sannsynlighetsregningens verktøy er nå komplette – i neste kapittel finpusser vi valget mellom de to store fordelingene.