Sannsynlighetsbegrepet

Transkript

1 Sannsynlighetsbegrepet Notat til STK1100 Ørnulf Borgan Matematisk institutt Universitetet i Oslo Januar 2004 Formål Dette notatet er et supplement til kapittel 1 i Mathematical Statistics and Data Analysis av John Rice. Framstillingen i denne boka forutsetter at leseren fra før har en forståelse av sannsynlighetsbegrepet. I avsnitt 1.3 innføres derfor aksiomene for et sannsynlighetsmål uten at det gis noen diskusjon av hva sannsynlighet egentlig betyr. Formålet med dette notatet er å gi en slik diskusjon og å motivere aksiomene for et sannsynlighetsmål. Deterministiske fenomener og stokastiske forsøk Flere almanakker viser hvilke dager det er fullmåne og når sola står opp og når den går ned ulike steder i landet vårt. Det er mulig siden astronomene kan gi en nøyaktig matematisk beskrivelse av himmellegemenes bevegelser. Dermed kan de regne ut når vi får fullmåne og når det blir soloppgang og solnedgang. De har til og med funnet ut at vi i Norge vil få neste totale solformørkelse 16. oktober 2126! Fenomener som fullmåne, soloppgang/solnedgang og solformørkelse kan forutsies de er deterministiske. Når vi kaster en terning, vet vi ikke hvor mange øyne vi vil få. Vi vet heller ikke hva vinnertallene blir ved neste ukes lottotrekning. Terningkast og lottotrekning er eksempler på det vi kaller stokastiske forsøk (tilfeldige forsøk). Det er også et stokastisk forsøk når vi ser om et nyfødt barn er en gutt eller en jente. For heller ikke da vet vi resultatet på forhånd (hvis ikke barnets kjønn er blitt avklart i løpet av svangerskapet ved en kromosomtest eller en ultralydundersøkelse). Det avgjørende kjennetegnet på et stokastisk forsøk er altså at vi ikke på forhånd kan si hva resultatet vil bli. Vi vet bare hvilke resultater som kan forekomme. Utfall og begivenheter Når vi gjør et stokastisk forsøk, vet vi ikke på forhånd hva resultatet vil bli. Men vi kan angi de mulige resultatene, eller utfallene for forsøket. Mengden av alle utfallene for et stokastisk forsøk kaller vi utfallsrommet Ω. Eksempel 1. Når vi kaster en terning, kan vi få 1, 2, 3, 4, 5 eller 6 øyne. Disse seks mulige resultatene er utfallene ved terningkast. Utfallsrommet er altså Ω = {1, 2, 3, 4, 5, 6}. 1

2 Eksempel 2. Vi kaster en terning til vi får sekser første gang, og registrerer hvor mange kast vi må gjøre. Vi kan få sekseren i første kast, eller i andre kast, eller i tredje kast, osv. Utfallene for forsøket er 1, 2, 3, 4,..., og utfallsrommet er Ω = {1, 2, 3, 4,...}. Eksempel 3. Vi ser på forsøket som består i å registrere vekten til en nyfødt jente. Her vil de mulige fødselsvektene ligge i et intervall på tallinja 1, for eksempel i intervallet fra 0 kg til 6 kg. Da blir utfallsrommet intervallet Ω = (0, 6). I eksemplene 1 og 2 er utfallsrommet diskret. Det betyr at det enten er endelig mange utfall i utfallsrommet (som i eksempel 1), eller at det er tellbart uendelig mange utfall (som i eksempel 2). Hvis utfallsrommet er et intervall på tallinja (eventuelt hele tallinja), slik tilfellet er i eksempel 3, sier vi at utfallsrommet er kontinuerlig. Vi vil ofte være interessert i et resultat av et stokastisk forsøk som omfatter flere utfall. Et slikt resultat kaller vi en begivenhet (hendelse). Eksempel 1 (fortsatt). Ved terningkast kan vi være interessert i om vi får minst fem øyne. Begivenheten minst fem øyne består av utfallene 5 og 6. Kaller vi denne begivenheten for A, kan vi skrive A = {5, 6}. Eksempel 2 (fortsatt). Vi kaster en terning til vi får sekser og registrerer hvor mange kast vi må gjøre. Vi ser på begivenhetene A = høyst tre kast og B = minst fem kast. Da er A = {1, 2, 3} og B = {5, 6, 7,...}. Eksempel 3 (fortsatt). Vi registrerer vekten til en nyfødt jente, og er interessert i om jenta veier mellom 3 kg og 4 kg. Kaller vi denne begivenheten for A, kan vi skrive A = (3, 4). Matematisk sett er en begivenhet en delmengde av utfallsrommet. Derfor er utfallene selv også begivenheter, og vi kan snakke om den umulige begivenheten som ikke inneholder noen utfall (den tomme mengden). Vi kan også benytte vanlige operasjoner for mengder som union, snitt og komplement slik det er forklart i avsnitt 1.2 i boka til Rice. Der er det også forklart hva det betyr at to begivenheter er disjunkte. Det klassiske sannsynlighetsbegrepet De første arbeidene om sannsynlighetsregning var motivert av problemstillinger i spill, og det sannsynlighetbegrepet de brukte var tilpasset disse problemstillingene. La oss illustrere tankegangen med et enkelt eksempel. Når vi kaster en terning er det seks mulige utfall, nemlig 1, 2, 3, 4, 5 og 6. Hvis terningen er lagd av et homogent materiale, er det ingen grunn til å tro at en av de seks sidene skal ha større mulighet til å vende opp når terningen kastes enn de andre. Et slikt symmetriargument fører til at alle de seks utfallene må ha samme sannsynlighet. Siden sannsynligheten er lik 1 for at en eller annen av de seks sidene vil vende opp, må hver av de seks utfallene ha sannsynlighet 1/6 for å inntreffe. Hva er så sannsynligheten for å få minst fem øyne når vi kaster terningen? Begivenheten minst fem øyne inntreffer hvis ett av utfallene 5 eller 6 inntreffer. Vi sier at de to 1 I praksis vil en ikke måle vekten til en nyfødt jente mer nøyaktig enn til nærmeste tiende gram. Men når vi skal angi en modell for forsøket, tenker vi oss at vi måler helt nøyaktig slik at fødselsvekten kan få alle verdier i et intervall. Som vi vil se seinere, er det faktisk hensiktsmessig å la utfallsrommet være hele tallinja, selv om fødselvekter selvfølgelig må være positive. 2

3 Relativ frekvens Antall kast Figur 1: Relativ frekvens av seksere i terningkast. utfallene er gunstige for begivenheten minst fem øyne. Siden 2 av de 6 mulige utfallene er gunstige for minst fem øyne, er sannsynligheten for denne begivenheten lik 2/6. Vi kan gi en generell formulering av argumentet ovenfor. Betrakt et stokastisk forsøk hvor utfallsrommet består av N utfall, og anta at alle de N mulige utfallene er like sannsynlige. Da har hvert av dem sannsynlighet 1/N for å inntreffe. Vi ser så på en begivenhet A som består av n utfall. De n utfallene er de gunstige utfallene for A. Sannsynligheten for begivenheten A er da P (A) = n N = antall gunstige utfall for A antall mulige utfall (1) Den klassiske definisjonen (1) av sannsynlighet fungerer for de fleste spill og i en del andre situasjoner. Men definisjonen er for restriktiv til å kunne brukes i situasjoner hvor utfallsrommet er tellbart uendelig (jf. eksempel 2) eller kontinuerlig (jf. eksempel 3). Og selv når utfallsrommet er endelig er den ikke til hjelp når det er urimelig å anta at utfallene er like sannsynlige. Vi har derfor bruk for et mer generelt sannsynlighetsbegrep. Sannsynlighet som relativ frekvens i det lange løp Hva betyr egentlig at sannsynligheten er 1/6 for å få sekser når vi kaster en terning? Det betyr ikke at hvis vi kaster en terning 6 ganger, så vil vi få nøyaktig én sekser. Men hvis vi kaster mange ganger, vil vi få sekser i omtrent en sjettedel eller 16.7% av kastene. For å illustrere dette har vi (ved hjelp av datamaskin) kastet en terning ganger. Etter k kast er den relative frekvensen av seksere r k (6) = antall seksere i k kast k 3

4 Tabell 1: Fødte i Norge i ulike tidsperioder a År Levendefødte Flerfødsler Årsgjennomsnitt I alt Gutter Jenter I alt Tvillingfødsler Trillingfødsler b a Tabellen er en redigert versjon av Tabell 67 i Statistisk årbok 2003 ( b Medregnet firling- og femlingfødsler. Figur 1 viser den relative frekvensen som funksjon av k. Vi ser at variasjonen i den relative frekvensen er ganske stor til å begynne med. Men etterhvert stabiliserer den seg nær 1/6 = Hva er sannsynligheten for at et nyfødt barn er en jente? Er den 50%? Hvis det var tilfellet, ville det bli født omtrent like mange gutter og jenter hvert år. Tabell 1 viser at det ikke er slik. Det blir systematisk født litt færre jenter enn gutter. I 2002 var den relative frekvensen av jentefødsler 27109/55434=0.489, mens den i årene varierte mellom 48.3% og 49.6% (kontroller selv). At variasjonen er såpass liten skyldes at det er mange fødsler nesten hvert eneste år. I femtiårsperioden ble det tilsammen født (omtrent) barn i Norge, og av disse var (omtrent) jenter. Den relative frekvensen av jentefødsler i hele femtiårsperioden var derfor / = Den relative frekvensen av seksere vil være omtrent 1/6 når vi kaster en terning mange ganger, og den relative frekvensen av jenter blant alle nyfødte er hvert år omtrent 48.6%. Det er to eksempler på et fenomen som observeres gang på gang et fenomen som er en forutsetning for å forstå hva sannsynlighet er: Vi er interessert i en begivenhet A for et stokastisk forsøk. Forsøket gjentas under like betingelser. Etter k forsøk er den relative frekvensen av A r k (A) = antall ganger A inntreffer i k forsøk k Når k øker, vil r k (A) nærme seg en grenseverdi. Denne grenseverdien er sannsynligheten P (A) for begivenheten A. (2) 4

5 Rent språklig er ordet sannsynlighet knyttet til ett forsøk. Vi sier at sannsynligheten for å få sekser ved et terningkast er 1/6 og at sannsynligheten for at et nyfødt barn skal være en jente er Det vi egentlig uttaler oss om er imidlertid ikke et enkelt kast eller en enkelt fødsel, men hva som vil skje i det lange løp. I det lange løp vil 16.7% av terningkastene gi sekser og 48.6% av de nyfødte vil være jenter. Sannsynlighet er altså det samme som relativ frekvens i det lange løp. Merk at en forutsetning for at sannsynligheten for en begivenhet skal være lik relativ frekvens i det lange løp, er at det stokastiske forsøket gjentas under like betingelser. Hvis forsøksbetingelsene endres, vil også sannsynligheten for begivenheten bli en annen. Et enkelt eksempel er terningkast. Sannsynligheten 1/6 for sekser forutsetter at terningen kastes slik at den snurrer rundt mange ganger før den blir liggende. Hvis den i stedet kastes ved at den slippes med sekseren øverst fra tre centimeters høyde, vil sannsynligheten for sekser være større enn 16.7%. Et annet eksempel er trillingfødsler. Av Tabell 1 ser vi at andelen svangerskap som gir trillingfødsel, har økt siden midten av 1980-årene. Det kommer av at det er blitt vanligere med kunstig befruktning der flere befruktede egg blir satt inn i kvinnens livmor. De aller siste årene har det igjen vært en viss nedgang i andelen trillingfødsler, noe som skyldes at en nå setter inn færre egg enn det en gjorde for noen år siden. Vi har over fortolket sannsynligheten for en begivenhet som grenseverdien av den relative frekvensen i det lange løp. Sannsynlighet forstått på denne måten kalles enkelte ganger frekventistisk sannsynlighet. Den frekventistiske forståelsen av sannsynlighet forutsetter at det er mulig å gjenta forsøket mange ganger. Enkelte ganger brukes sannsynlighetsbegrepet i situasjoner hvor et stokastisk forsøk ikke kan gjentas. En sportsjournalist kan for eksempel skrive at det er 70% sannsynlig at Rosenborg vil slå Stabæk i fotball neste søndag. Denne sannsynligheten kan ikke fortolkes som relativ frekvens i det lange løp. Søndagens kamp kan ikke spilles mange ganger! Sannsynligheten er her et uttrykk for journalistens personlige vurdering. Når sannsynlighet blir brukt på denne måten, kaller vi det subjektiv sannsynlighet. Vi vil ikke komme nærmere inn på subjektiv sannsynlighet i STK1100, men vi merker oss at subjektive sannsynligheter spiller en sentral rolle i det en kaller Bayesiansk statistikk (jf. avsnittene 1.7 og 15.3 i boka til Rice). Aksiomene for et sannsynlighetsmål Vi kan ikke bruke grenseverdi av relativ frekvens som en matematisk definisjon av sannsynlighet. For den grenseverdien vi snakker om her er empirisk. Den er ikke en grenseverdi i samme presise forstand som grenseverdien for en tallfølge. For å løse dette problemet går vi fram på en måte som er typisk i matematikken. Motivert av det klassiske sannsynlighetsbegrepet og vår forståelse av at sannsynlighet kan fortolkes som relativ frekvens i det lange løp, setter vi opp noen regler som sannsynlighet må oppfylle. Disse grunnleggende reglene, som vi postulerer gyldigheten av uten å bevise at de er riktige, kalles aksiomer. På grunnlag av aksiomene (og definisjoner av nye begreper) kan vi så utlede nye regler for sannsynlighet. I avsnitt 1.3 i boka til Rice gis følgende aksiomer for sannsynlighet 2, eller mer presist for et sannsynlighetsmål: 2 Generelt er det ikke mulig å definere sannsynligheten for absolutt alle delmengder av Ω. Men siden det er mulig for alle delmengder som er av praktisk interesse, vil vi ikke bry oss om dette problemet (som behandles i avanserte kurs i målteori). 5

6 1 P (Ω) = 1. 2 For A Ω, er P (A) 0. 3 a) Hvis A 1 og A 2 er disjunkte, så er b) Hvis A 1, A 2, A 3,... er disjunkte, så er P (A 1 A 2 ) = P (A 1 ) + P (A 2 ) P ( A i ) = P (A i ) i=1 i=1 Vi skal altså ikke bevise at disse aksiomene er riktige. Det vi må gjøre er å motivere at de er fornuftige. Vi tar i første omgang for oss aksiomene 1, 2 og 3a. Vi ser først på den klassiske definisjonen av sannsynlighet. Siden alle de N utfallene er gunstige for Ω, følger det av (1) at det første aksiomet er oppfylt for det klassiske sannsynlighetsbegrepet. Videre er (1) alltid ikke-negativ, så aksiom 2 er også oppfylt. Vi ser endelig på aksiom 3a. La A 1 og A 2 være disjunkte begivenheter, og anta at det er n 1 utfall som er gunstige for A 1 mens det er n 2 utfall som er gunstige for A 2. Siden A 1 og A 2 er disjunkte, er det da n 1 + n 2 utfall som er gunstige for A 1 A 2. Av (1) følger det dermed at aksiom 3a er oppfylt for den klassiske definisjonen av sannsynlighet. Aksiomene 1, 2 og 3a er altså oppfylt for det klassikse sannsynlighetsbegrepet, og det gir en motivasjon for disse aksiomene. Vi ser så på det frekventistiske sannsynlighetsbegrepet, der sannsynligheten for en begivenhet A oppfattes som (den empiriske) grensen av den relative frekvensen (2) når forsøket gjentas mange ganger. Hver gang vi gjentar forsøket inntreffet begivenheten Ω. Av (2) har vi derfor at r k (Ω) = 1. Det følger også uten videre at (2) alltid er ikke-negativ. Endelig, hvis A 1 og A 2 er disjunkte begivenheter, så vil antall ganger A 1 A 2 inntreffer være summen av antall ganger A 1 inntreffer og antall ganger A 2 inntreffer. Av (2) følger det dermed at r k (A 1 A 2 ) = r k (A 1 ) + r k (A 2 ). Vi ser altså at resultater svarende til aksiomene 1, 2 og 3a holder for relative frekvenser. Siden sannsynlighet er relativ frekvens i det lange løp, gir det nok en motivasjon for disse aksiomene. Vi har nå motivert aksiomene 1, 2 og 3a. Hva så med aksiom 3b? Vi merker oss først at hvis A 1, A 2, A 3,..., A n er disjunkte begivenheter, så følger det ved induksjon fra aksiom 3a at n n P ( A i ) = P (A i ) (3) i=1 Aksiom 3b postulerer at (3) skal fortsette å gjelde når n vokser over alle grenser. Aksiomene gjelder uansett om utfallsrommet er diskret eller kontinuerlig. Men når utfallsrommet er diskret, blir situasjonen spesielt enkel. La oss se nærmere på dette. Vi betrakter et stokastisk forsøk med utfallsrom Ω = {ω 1, ω 2, ω 3,...}, og lar p i = P (ω i ) 0 for i = 1, 2, 3,... være slik at i=1 p i = 1. For A Ω, setter vi så P (A) = p i (4) i=1 i : ω i A Da vil (4) tilfredsstille aksiomene for et sannsynlighetsmål. (Kontroller dette selv!) For å spesifisere et sannsynlighetsmål for et forsøk med diskret utfallsrom er det derfor nok å angi sannsynlighetene for hvert av utfallene i utfallsrommet. 6

7 Den klassiske definisjonen (1) av sannsynlighet er et spesialtilfelle av (4), og derfor en logisk følge av aksiomene. Anta nemlig at et stokastisk forsøk har N mulige utfall ω 1, ω 2,..., ω N som alle er like sannsynlige, og la p i = P (ω i ). Siden alle p i -ene skal være like store og summen av dem skal være lik én, følger det at alle p i = 1/N. La nå A være en begivenhet som består av n utfall. Da følger det av (4) at P (A) = i : ω i A 1 N = n 1 N = n N Formel (1) gjelder derfor (selvfølgelig!) fortsatt, men den er ikke lenger en definisjon, men et resultat som er utledet av aksiomene. I avsnitt 1.4 i Rice er det gitt mange eksempler på stokastiske forsøk der alle utfallene er like sannsynlige. Vi merker oss til slutt at aksiomene bare gir oss noen generelle regler som et sannsynlighetsmål må tilfredsstille. Aksiomene sier ikke noe om hvordan sannsynlighetene for ulike begivenheter bør spesifiseres i en konkret situasjon. For å gjøre det må vi ty til symmetriargumenter slik vi gjorde i forbindelse med det klassiske sannsynlighetsbegrepet, eller vi må bestemme sannsynlighetene ut fra relative frekvenser for mange gjentatte forsøk. 7