ST0202 Statistikk for samfunnsvitere Kapittel 10: Inferens om to populasjoner

Transkript

1 ST0202 Statistikk for samfunnsvitere Kapittel 10: Inferens om to populasjoner Bo Lindqvist Institutt for matematiske fag

2 2 Kapittel 10: Inferens om to populasjoner Situasjon: Vi ønsker å sammenligne to populasjoner med populasjonsgjennomsnitt henholdsvis µ 1 og µ 2. Vi trekker da ett utvalg fra hver populasjon. To muligheter: Vi kan ha avhengige eller uavhengige utvalg. Avhengige utvalg: De samme kilder (person, gjenstand, etc.) brukes for å få data fra de to populasjonene. Uavhengige utvalg: Det trekkes ett utvalg fra hver populasjon, og kildene for dataene fra de to populasjonene har ingen sammenheng med hverandre.

3 3 Eksempel Undersøk om et nytt treningsprogram påvirker det fysiske nivået til elevene ved en videregående skole. Populasjon 1: Alle elevene før de gjennomgår programmet. Populasjon 2: Alle elevene etter at de har gjennomgått programmet. Spørsmål: Er populasjon 2 i bedre form enn populasjon 1?

4 Uavhengige utvalg: Trekk 6 elever som ennå ikke har gjennomgått treningsprogrammet og test dem. Trekk 6 elever som har gjennomgått treningsprogrammet og test dem. Elevene i de to utvalgene er forskjellige. Dataene er et sett med 6 verdier for hvert utvalg. Avhengige utvalg: Trekk 6 elever. Test dem før de gjennomgår treningsprogrammet, la dem så gjennomgå programmet og test de samme elevene etterpå. Elevene i de to utvalgene er de samme. Dataene er to verdier for hver av de 6 elevene (såkalte pardata - paired data )

5 5 Eksempel med avhengige utvalg Sammenligner to typer dekk A og B med hensyn på dekkslitasje. På 6 biler monteres ett bildekk av hver type på forhjulene. Dekkslitasje etter kjøring en viss lengde måles: Bil Dekk A (x 1 ) Dekk B (x 2 ) Pardifferanse (d = x 1 x 2 ) Vil basere analysen på differansene d. Fordel: x-ene varierer mye, da de er påvirket av mange faktorer: Bilens tyngde, type kjøring, førerens kjørevaner etc. Slike effekter elimineres i høy grad ved å basere analysen på d-ene. Dette er essensen i bruk av avhengige utvalg.

6 6 Inferens om forskjell i forventning ved å bruke to avhengige utvalg (10.2) Har nå pardata, x 1 og x 2, for hvert av n utvalgte par. Vi ønsker å finne ut om det er forskjell på forventningsverdiene µ 1 og µ 2 i de to populasjonene. For dette ser vi på: Pardifferanse ( paired difference ): d = x 1 x 2 beregnet for hvert av de n parene Antagelse om fordeling for d: Antar at de to populasjonene er normalfordelte og at de n forsøksenhetene er tilfeldig trukket ut. Da danner de beregnede d et tilfeldig utvalg fra en normalfordeling med forventning og standardavvik som vi kaller µ d og σ d. Her er µ d = µ 1 µ 2 forskjellen i forventet verdi mellom de to populasjonene, mens σ d kan estimeres fra utvalget av d.

7 Tilbake til dekk-eksemplet: På 6 biler monteres ett bildekk av hver type på forhjulene. Dekkslitasje etter kjøring en viss lengde måles: Bil Dekk A (x 1 ) Dekk B (x 2 ) Pardifferanse (d = x 1 x 2 ) Beregninger: d = 6.3 (punktestimat for µ d ), s d = 5.1 (utvalgsstandardavvik for d-ene; punktestimat for σ d ) For statistisk inferens om µ d sitter vi dermed med kun ett utvalg (av d-er), og vi er dermed tilbake til situasjonen i kap. 9.

8 8 Konfidensintervall og tester for forventet forskjell µ d ved avhengige utvalg Konfidensintervall og testing er basert på t = d µ d s d / n, som er t-fordelt med df = n 1 frihetsgrader. Et (1 α) konfidensintervall for µ d er gitt ved d ± t(n 1, α/2) s d n Mest aktuelle nullhypotese er: H 0 : µ d = 0 (hvorfor?) mot ulike alternativer for µ d Testobservator er da: d t = s d / n

9 9 Hands-on: dekkslitasje Finn et 90% konfidensintervall for µ d i dekk-eksemplet. Test H 0 : µ d = 0 mot H a : µ d > 0 med 5% signifikansnivå. Beskriv med ord hva vi ønsker å finne ut med denne testen.

10 10 Inferens om forskjell i forventning ved å bruke to uavhengige utvalg (10.3) Populasjon 1: Populasjon 2 µ 1 forventning µ 2 forventning (populasjonsgjennomsnitt) (populasjonsgjennomsnitt) σ 1 populasjonsstandardavvik σ 2 populasjonsstandardavvik n 1 observasjoner n 2 observasjoner x 1 observert variabel x 2 observert variabel x 1 utvalgsgjennomsnitt x 2 utvalgsgjennomsnitt s 1 utvalgsstandardavvik s 2 utvalgsstandardavvik Vi er nå interessert i µ 1 µ 2, som har punktestimat x 1 x 2

11 11 Utvalgsfordeling for x 1 x 2 Antagelse: Uavhengige utvalg av størrelse n 1 og n 2 trekkes tilfeldig fra normalfordelte populasjoner. Da er x 1 x 2 normalfordelt med 1. forventning 2. standardfeil µ x1 x 2 = µ 1 µ 2 σ x1 x 2 = ( σ 2 1 n 1 ) + ( σ 2 2 n 2 )

12 Dette betyr at z = x 1 x 2 (µ 1 µ 2 ) ( ) ( ) σ 2 1 σ 2 n n 2 er standard normalfordelt og kan brukes til inferens om µ 1 µ 2 hvis σ 1 og σ 2 er kjente. Hvis σ 1 og σ 2 er ukjente, erstattes disse med s 1 og s 2, og inferens baseres på t = x 1 x 2 (µ 1 µ 2 ) ( s 2 1 n 1 ) + ( ) s 2 2 n 2 som er tilnærmet t-fordelt med df frihetsgrader (se neste side).

13 Det korrekte antall frihetsgrader for t er df = {( ) ( )} s 2 1 s 2 2 n n 2 (s1 2/n 1) 2 n (s2 2 /n 2) 2 n 2 1 (1) (avrundet nedover til nærmeste hele tall). Dette brukes i kalkulatorer og dataprogrammer, men for å gjøre analyser enklere vil vi bruke som df for t: df = det minste av (n 1 1) og (n 2 1) (2) (Det kan vises at formelen (1) alltid gir en df mellom (2) og n 1 + n 2 2). Men: Ved å bruke (2) gjør vi inferensen konservativ i den forstand at vi får lengre konfidensintervall og høyere kritiske verdier for tester enn ved å bruke formelen (1).

14 14 Konfidensintervall for forventet forskjell ved uavhengige utvalg Et (1 α) konfidensintervall for µ 1 µ 2 er gitt ved ) x 1 x 2 ± t(df, α/2) ( s 2 1 n 1 + ( s 2 2 n 2 der df er lik det minste av n 1 1 og n 2 1, eller eventuelt gitt ved formelen på forrige side, )

15 15 Eksempel: Høyde til kvinnelige og mannlige studenter Hvor stor forskjell er det i høyde mellom kvinnelige og mannlige studenter? Vi ønsker et 95% konfidensintervall for differensen mellom populasjongjennomsnittet for menn og populasjonsgjennomsnittet for kvinner. Data: Tall i inch. (69.8 inch er cm, 63.8 inch er cm.)

16 16 Høyde til kvinnelige (f) og mannlige (m) studenter x m x f = = 6 n m 1=30-1=29 og n f 1=20-1=19. Minste er df = % KI gir α = 0.05 og α/2 = Den maksimale feilen E: E = t(df, α/2) (s 2 m /nm) + (s2f /n f ) = 2.09 ( /30) + ( /20) = % KI: (x m x f ) ± E = 6 ± 1.25 = [4.75, 7.25]

17 Fra eksamen 24. mai 2003

18 Løsning: Skriver x 1 for x, x 2 for y µ 1 er forventet vekt for forsvarsspiller µ 2 er forventet vekt for angrepsspiller a) x 1 = 501/6 = 83.5, x 2 = 387/5 = 77.4 s 1 = s 2 = Σx 2 1 (Σx 1) 2 /n 1 n 1 1 Σx 2 2 (Σx 2) 2 /n 2 n 2 1 = = (501) 2 /6 = (387) 2 /5 =

19 b) Bruker t-test for to uavhengige utvalg ( to-utvalgs t-test ). Utvalgene må være uavhengige og tilfeldige, fra normalfordelte populasjoner (viser seg rimelig for vekt). Tester H 0 : µ 1 µ 2 = 0 mot H 1 : µ 1 µ 2 0 c) Testobservator t = x 1 x 2 ( ) ( ) = s 2 1 s 2 n n ) + ( ( ) = 2.59 Hvis H 0 gjelder er t tilnærmet t-fordelt med df = 4 (minimum av 6-1 og 5-1). Klassisk metode: Forkast H 0 hvis t < t(4, 0.10/2) = t(4, 0.05) = 2.13 (tabell 6), eller hvis t > t(4, 0.05) = Vi forkaster altså H 0 og påstår H a siden 2.59 > 2.13.

20 Metode med p-verdi: p-verdi er gitt ved sannsynligheten for å få det vi har fått eller noe mer ekstremt i forhold til nullhypotesen, dvs. her P(t < 2.59) + P(t > 2.59) = 2 P(t > 2.59) når t er t-fordelt med 4 frihetsgrader. Tabell 7 gir at P(t > 2.6) = 0.03, så p-verdien blir ca = 0.06, som altså er mindre enn signifikansnivået på Vi forkaster altså H 0. Det er tidligere bemerket at dette er en konservativ metode. Det korrekte antall frihetsgrader er muligens større enn 4, noe som ville ha gitt en mindre p-verdi, og lavere kritisk verdi. Men sålenge vi forkaster, har dette ingen betydning for konklusjonen. (Formelen (1) for df ville gitt 8.7, dvs vi kunne ha brukt 8 frihetsgrader. Kritiske verdier ville da ha blitt ±1.86 istedenfor ±2.13, mens p-verdi ville blitt istedenfor )

21 21 Hands-on: Lauren, a brunette, was tired of hearing Blondes have more fun. She set out to prove that brunettes are more intelligent. Lauren randomly selected 40 blondes and 40 brunettes at her high school. The following overall grade statistics were calculated: Sample n mean sd Blondes Brunettes Does Lauren have support for her claim? What could Lauren say about blondes and brunettes intelligence?

22 22 Inferens om forskjell mellom andeler i to populasjoner basert på uavhengige utvalg (10.4) p 1 andel suksesser i populasjon 1 p 2 andel suksesser i populasjon 2 x 1 antall suksesser i utvalg 1 x 2 antall suksesser i utvalg 2 p 1 = x 1 n 1 andel suksesser i utvalg 1 p 2 = x 2 n 2 andel suksesser i utvalg 2 Vil gjøre inferens om p 1 p 2 ved hjelp av p 1 p 2.

23 Repetisjon: Binomisk situasjon med ett utvalg Andel med suksess i utvalget er p = x n Utvalgsfordelingen: så µ p = p pq σ p = n z = p p pq n er tilnærmet standard normalfordelt

24 24 Binomisk situasjon med to utvalg Hvis uavhengige utvalg på n 1 og n 2 trekkes tilfeldig fra store populasjoner med suksess-sannsynligheter p 1 og p 2, vil utvalgsfordelingen for p 1 p 2 ha egenskapene: 1. forventning: µ p 1 p 2 = p 1 p 2 2. standardfeil: σ p 1 p 2 = p1 q 1 n 1 + p 2q 2 n 2 3. tilnærmet normalfordelt når n 1 og n 2 er store

25 Dermed er z = p 1 p 2 (p 1 p 2 ) p1 q 1 n 1 + p 2q 2 n 2 tilnærmet standard normalfordelt når n 1 og n 2 er store. Et tilnærmet (1 α)-konfidensintervall for p 1 p 2 er gitt ved p 1 p 2 ± z(α/2) p 1 q 1 n 1 + p 2 q 2 n 2 Altså som vanlig: punktestimat ± z(α/2) standardfeil

26 Hypotesetesting om p 1 p 2. Vanlig å teste H 0 : p 1 p 2 = 0 som er det samme som H 0 : p 1 = p 2 Tar utgangspunkt i den standard normalfordelte og lager testobservatoren z = p 1 p 2 (p 1 p 2 ) p1 q 1 n 1 + p 2q 2 n 2 z = p 1 p 2 p p q p n 1 + p p q p n 2 der p p er et punktestimat for verdien av p 1 = p 2 når H 0 er sann. Et naturlig estimat er p p = x 1 + x 2 n 1 + n 2 Da er z tilnærmet standard normalfordelt når H 0 gjelder og vi kan basere testen på den.

27 27 Viktig: to andeler Konfidensintervall: Testobservator for hypotesetest:

28 28 Studenter og bilkjøring: kjønnsforskjeller? Populasjon: studenter på NTNU. Spørsmål: Er du flinkere enn gjennomsnittet (i Norge) til å kjøre bil? Ja (suksess) eller nei (fiasko). Utvalget: n = 139 studenter som tok faget TMA4245 V2006. x n x n Menn Kvinner Alle

29 29 Studenter og bilkjøring Finn punktestimat og 99% konfidensintervall for differansen mellom andelen av mannlige studenter og kvinnelige studenter som synes deres kjøreegenskaper er bedre enn gjennomsnittet. Fasit: [0.03, 0.47]. La p 1 være sannsynligheten for at en tilfeldig valgt mannlig student synes han er bedre enn gjennomsnittet til å kjøre bil, og tilsvarende p 2 for kvinner. Utfør hypotesetest med H 0 : p 1 p 2 = 0 vs. H a : p 1 p 2 > 0 og med signifikansnivå 5%.

30 30 Bytte leverandør av kaffeautomat? På sykehuset kan besøkende kjøpe kaffe fra en automat (fra Kaffeautomaten AS). Automaten er slik at den fyller kaffekoppen nesten helt full. De besøkende har vært godt fornøyd med automaten, og mengden kaffe som automaten fyller i kaffekoppen varierer lite. Kall standardavviket til fyllingsmengden σ 1.

31 31 Bytte leverandør av kaffeautomat? En konkurrerende leverandør av kaffeautomater, KaffeXX, har kommet med et interessant tilbud. men sykehuset har hørt fra andre kunder at denne nye automaten har veldig stor variasjon i mengden kaffe som fylles i kaffekoppen. Dette er leverandøren helt uenig i og mener at deres automater er ikke mer variable enn kaffeautomatene fra Kaffeautomaten AS. Kall standardavviket til fyllingsmengden til automater fra KaffeXX for σ 2. Sykehuset bestemmer seg for å sette opp en hypotesetest - hvordan gjør de det? Deretter samler de inn et tilfeldig utvalg på n 1 målinger av fyllingsgrad fra Kaffeautomaten AS. De får låne en automat fra KaffeXX og samler også inn et tilfeldig utvalg av n 2 målinger av fyllingsgrad fra den nye automaten.

32 32 Inferens om forholdet mellom varianser ved to uavhengige utvalg (10.5) Ser på to normalfordelte populasjoner med standardavvik henholdsvis σ 1 og σ 2. Ønsker å teste: som er det samme som og det samme som H 0 : σ 1 = σ 2 mot H a : σ 1 > σ 2 H 0 : σ 1 σ 2 = 1 mot H a : σ 1 σ 2 > 1 H 0 : σ2 1 σ 2 2 Kan evt. ha < og i H a = 1 mot H a : σ2 1 σ 2 2 > 1

33 33 Testobservator og test (kalt F -test ) Antagelser: H 0 : σ2 1 σ 2 2 = 1 mot H a : σ2 1 σ 2 2 begge populasjonene er normalfordelte > 1 utvalgene blir trukket uavhengige av hverandre Bruker testobservatoren f = s2 1 s 2 2 som hvis H 0 gjelder er F -fordelt med df 1 = n 1 1 og df 2 = n 2 1 frihetsgrader.

34 34 F-fordelingen 1. F er aldri negativ, den er 0 eller positiv. 2. F er ikke symmetrisk, men såkalt skjev mot høyre (som kjikvadrat-fordelingen) 3. F bestemmes ved de såkalte frihetsgradene df 1 og df 2.

35 35 Tabell 9A, 9B, 9C for F-fordelingen I samsvar med notasjon introdusert før vil F (df 1, df 2, α) betegne F -verdien slik at et areal α er til høyre:

36 36 Tabell 9A Oppgave: Hva er F (5, 8, 0.05)?

37 37 Testobservator og test (kalt F -test ) Antagelser: H 0 : σ2 1 σ 2 2 = 1 mot H a : σ2 1 σ 2 2 begge populasjonene er normalfordelte > 1 utvalgene blir trukket uavhengige av hverandre Bruker testobservatoren f = s2 1 s 2 2 som hvis H 0 gjelder er F -fordelt med df 1 = n 1 1 og df 2 = n 2 1 frihetsgrader.

38 Eksempel i boka: Sammenligning av standardavvik for påfylt mengde for to tappemaskiner for brus. La σ 1 være standardavvik for ny maskin, mens σ 2 er standardavvik for nåværende maskin. Vil teste H 0 : σ2 1 σ 2 2 = 1 mot H a : σ2 1 σ 2 2 > 1 med signifikansnivå 5%. De relevante dataene er: Utvalg n s 2 Ny maskin (1) Nåværende maskin (2) Beregner f = s2 1 s 2 2 = = 2.25 Er dette for stort til å kunne komme fra F-fordelingen med (24,21) frihetsgrader?

39 Klassisk metode: Forkast H 0 hvis f > F(24, 21, 0.05) = 2.05 dvs. H 0 forkastes siden vi har observert f = Vi bruker her Tabell 9A, i kolonnen med 24 og linjen med 21. Husk at numerator betyr teller, og denominator betyr nevner Metode med p-verdi: p-verdi = P(f > 2.25) når f er F-fordelt med 24 og 21 frihetsgrader. Vi kan ikke finne denne i tabellene, men bruk av 9A gir at P(f > 2.25) < 0.05 mens 9B gir at P(f > 2.25) > 0.025, dvs. p-verdi er mellom og 0.05.

40 Anta at vi isteden skal teste H 0 : σ2 1 σ 2 2 Dette er det samme som H 0 : σ2 2 σ 2 1 = 1 mot H a : σ2 1 σ 2 2 = 1 mot H a : σ2 2 σ 2 1 < 1 > 1 dvs. vi kan ganske enkelt bytte om rollene til de to utvalgene (og populasjonene). Bruker da testobservatoren f = s2 2 s 2 1 som hvis H 0 gjelder er F -fordelt med df 1 = n 2 1 og df 2 = n 1 1 frihetsgrader. (Merk at frihetsgradene df 1 alltid gjelder telleren, mens df 2 gjelder nevneren.)

41 Tosidig test om likhet av varianser Anta at vi skal teste H 0 : σ2 1 σ 2 2 = 1 mot H a : σ2 1 σ med signifikansnivå α. Med testobservatoren f = s2 1 skal vi s2 2 forkaste H 0 både hvis den blir for liten (under 1) eller stor (større enn 1). Siden våre tabeller bare gjelder store verdier av f (høyre hale), foreslår boka følgende metode i læreboka: 1. Beregn s 2 1 og s Beregn f som forholdet mellom disse, med den største i telleren (slik at vi garantert får f > 1) 3. Klassisk metode: Forkast H 0 hvis f > F(df 1, df 2, α/2), hvor df 1 og df 2 er frihetsgrader til henholdsvis telleren og nevneren. 4. Metode med p-verdi: p-verdi er 2 P(f > f ) der f er F-fordelt med df 1 og df 2 frihetsgrader

42 42 Hands-on: oppgave Do students who register for early morning classes typically do better than those who sign up for later day classes? Det tas et tilfeldig utvalg av størrelse n 1 = 14 fra populasjonen av studenter som følger morgenforelesninger og et tilfeldig utvalg av størrelse n 2 = 12 fra studentene som følger ettermiddagsforelesningene. Morgen: Ettermiddag: Dataene skal brukes til å teste om det er en signifikant forskjell i variabilitet (standardavvik: σ 1 og σ 2 ) og gjennomsnitt (µ 1 og µ 2 ) i de to populasjonene. Oppgitt: n 1 = 14, n 2 = 12, s 1 = 14.10, s 2 = Bruk nivå α = 0.05.

43 43 Oppsummering: Testing av varianser og standardavvik i normalfordelte populasjoner Ett utvalg med populasjonsstandardavvik σ (kap. 9.3): Tester hypoteser av formen H 0 : σ = σ 0 mot H a : σ σ 0 (evt. > eller <) for en gitt verdi av σ 0. Bruker testobservatoren χ 2 = (n 1)s2 σ 2 0 som er χ 2 -fordelt med df=n-1 frihetsgrader når H 0 gjelder. Kritiske verdier finnes i Tabell 8.

44 To utvalg med populasjonsstandardavvik σ 1 og σ 2 (kap. 10.5) Tester hypoteser av formen H 0 : σ2 1 σ2 2 (evt. > eller <) Bruker testobservatoren f = s2 1 s 2 2 = 1 mot H a : σ2 1 σ som er F-fordelt med df 1 = n 1 1 og df 2 = n 2 1 frihetsgrader når H 0 gjelder. Kritiske verdier finnes i Tabell 9.