Hypotesetesting. mot. mot. mot. ˆ x

Transkript

1 Kapittel : ypotesetesting ypotesetesting er en standard vitenskapelig fremgangsmåte for å sjekke påstander. Generell problemstilling: Basert på informasjonen i data fra et tilfeldig utvalg ønsker vi å undersøke påstander om verdien på populasjonsparametre som for eksempel og p. Dette formuleres som en hypotesetest: Eksempel: Juks på meieriet? Melkemengden som fylles i -liters melkekartonger er normalfordelt med forventning og kjent standardavvik =.2. skal være., men det påstås at <., dvs at det systematisk tappes for lite melk på melkekartongene. Undersøk dette. ypotesetest: :. :. eller eller For å undersøk dette måles nøyaktig mengde melk i n =5 tilfeldig valgte kartonger. Disse målinger gav et gjennomsnitt på.996. Dvs ˆ x.996 Gir dette grunnlag for å påstå at <.? 2

2 Eksempel: AluProd (se kap 6. i boka) AluProd ønsker basert på resultatet av prøveproduksjonen å avgjøre om ny maskin har lavere vraksannsynlighet enn gammel maskin som har p=.. ypotesetest: : p. : p. Det er fire mulige utfall: Generelt Ut fra informasjonen i et tilfeldig utvalg vil man enten forkaste og påstå, eller ikke forkaste (beholde ). Mulige utfall: Forkaster ikke sann OK gal Type II feil Forkaster Type I feil OK Prinsipp: Vi antar i utgangspunktet at er korrekt, påstår først dersom dataene peker klart i retning av. Vi prioriterer derfor å holde sannsynligheten for type I feil liten. Setter derfor: P(type I feil) = P(forkaste er sann) = 3 kalles (signifikans-)nivået til testen. 4

3 Sette opp hypoteser: Når man skal formulere en problemstilling som en hypotesetest er det ofte best å starte med å sette opp den alternative hypotesen. Den alternative hypotesen er den påstanden vi skal undersøke om er tilfelle. I eksemplet med Juks på meieriet? om forventet mengde melk er mindre en liter, dvs om <.. Vi setter da som nullhypotese at dette ikke er tilfelle, dvs i melkeeksemplet at. og får Eventuelt kan vi skrive (betyr i praksis det samme): Merk: :. :. :. :. En hypotesetest er alltid en test om verdien på en parameter, for eksempel om eller p. En test skal derfor alltid formuleres med parametre i nullhypotesen og alternativ hypotese aldri 5 stokastiske variable eller lignende. ypotesetester for når kjent X, X 2,, X n uavhengige og N(, ) Eksempel: Juks på meieriet? :. :. Generelt: : : Vi antar i utgangspunktet at er korrekt, dvs at =. Får da: Z X E( X ) X Var( X ) / n Vi forkaster dersom ˆ X peker klart i retning av - her dersom X er klart mindre enn. vor mye mindre er klar mindre enn? ~ N(,) 6

4 For den tosidige hypotesetesten : : - forkaste vi dersom Z - z /2 eller Z z /2 -z Vi forkaster dersom X er så mye mindre enn at Z -z der P(Z -z ) = P(type I feil) = Sanns. for at Z -z dersom er sann er så liten,, at dersom dette skjer velger vi heller å tro at er sann. /2 - -z /2 z /2 /2 elt analogt vil man for hypotesetesten : forkaste dersom Z z - Merk: Testene vi har sett på så langt gjelder for situasjonen med normalfordelte data med kjent standardavvik/varians. Dersom dataene ikke er normalfordelte, men antall målinger, n, er stor vil testene fremdeles gjelde tilnærmet pga sentralgrenseteoremet. 8 z

5 Eksempel: Juks på meieriet? For melkemengde i ulike kartonger kan vi anta at X, X 2,, X n er uavhengige og N(,.2). Vi skal teste: :. :. Eksempel: øyde menn. Vi antar at høyde menn er normalfordelt med ukjent forventningsverdi og kjent standardavvik =6.5. Ønsker å teste: : 8 : 8 Vi velger nivået =.5. Vi forkaster da dersom Z -z =- z.5 =-.645 n=5 målinger gav et gjennomsnitt på: ˆ x.996 n =58 målinger i klassen gav Bruk 5% nivå og utfør testen. x 8.8 Dette gir: x z / n / >-.645, dvs vi beholder. Dataene gir ikke grunnlag for å hevde at <.. 9

6 ypotesetester for når ukjent X, X 2,, X n uavhengige og N(, ) Vi begynner med å se på testen: Mer presist så forkaster vi dersom X er så mye større enn at T t,n- der: P(T t,n- ) = P(type I feil) = : : Vi har som før at: Z X E( X ) X Var ( X ) / n ~ N(,) - Sanns. for at T t,n- dersom er sann er så liten,, at dersom dette skjer velger vi heller å tro at er sann. Men nå er ukjent og må erstattes med estimatoren S. t,n- Vi får da at: T X S / ~ t ( n ) n elt analogt vil man for hypotesetesten Dette gjelder dersom er korrekt, dvs dersom =. : : - Vi forkaster da dersom ˆ X peker klart i retning av - her dersom X er klart større enn. forkaste dersom T -t,n- -t,n- 2

7 For den tosidige hypotesetesten : : forkaste vi dersom T - t /2,n- eller T t /2,n- - /2 /2 -t /2, n. t /2,n- Eksempel: En påstand om at forventet årslønn i en bestemt næring (dvs gj.sn. årslønn for alle i næringen/hele populasjonen) er større enn 4 skal undersøkes. Vi antar at årslønnen til personer i næringen er normalfordelt med ukjent forventning og ukjent standardavvik. For å undersøke denne påstanden blir årslønnen til 24 tilfeldig valgte personer i næringen registrert. Dette gav et gjennomsnitt på 437 og et standardavvik på 63. Utfør testen på 5% nivå. : 4 : 4 Med =.5 og n=24 blir t,n- = t.5,23 =.74, dvs vi forkaster dersom T.74. Merk: Disse testene (hvor vi bruker t-fordeling) gjelder kun for situasjonen med normalfordelte data med ukjent standardavvik/varians. 3 T X S / n / Dvs vi forkaster og kan påstå at forventet årslønn i næringen er større enn 4! 4

8 Eksempel: øyde menn. Vi antar at høyde menn er normalfordelt med ukjent forventningsverdi og ukjent standardavvik. Ønsker å teste: : 8 : 8 n =58 målinger i klassen gav x 8.8 og s =6.. Bruk 5% nivå og utfør testen. ypotesetester for p (når n er stor) p = P( suksess ) = andel suksesser i populasjonen. XBin(n,p). Estimator for p: pˆ Eksempel: AluProd. Basert på prøveproduksjonen av n =6 enheter ønsker de å avgjøre om vraksannsynligheten, p, er mindre enn.. X n : p. : p. Generelt: : p p : p p Vi antar i utgangspunktet at er korrekt, dvs at p=p. pˆ E( pˆ) pˆ p Får da: Z N(, ) Var( pˆ) p ( p ) / n 5 (ok når np (-p ) 5) 6

9 Vi forkaster dersom pˆ er så mye mindre enn p at Z -z der : P(Z -z ) = P(type I feil) = For den tosidige hypotesetesten : p p : p p -z - Sanns. for at Z -z dersom er sann er så liten,, at dersom dette skjer velger vi heller å tro at er sann. forkaste vi dersom Z - z /2 eller Z z /2 - /2 /2 -z /2 z /2 elt analogt vil man for hypotesetesten : p p : p p forkaste dersom Z z - Merk: Disse siste testene gjelder for situasjoner der vi har gjort et binomisk forsøk med np (-p ) 5. z 8

10 Eksemplet: AluProd : p. : p. I prøveproduksjonen på n=6 enheter ble det observert x =3 måtte vrakes, dvs x pˆ n Velger = Vi forkaster da dersom Z -z =- z.5 =-.645 Eksempel: På en sykehusavdeling fikk tidligere 2% av pasientene en bestemt infeksjon. Etter en omlegging av rutinene fikk 32 av de første pasientene denne infeksjonen. Tyder dette på at sannsynligheten for å få infeksjonen, p, har endret seg? Formuler problemstillingen som en hypotesetest og utfør testen. Bruk % nivå. Z p pˆ ( p p ) / n.8.. (. ) / > dvs vi forkaster ikke. Dataene gir ikke grunnlag for å påstå at p <. dvs vi kan ikke konkludere med at de nye utstyret er bedre basert på denne undersøkelsen. 9 2

11 Foreløpig oppsummering Vi kan sammenfatte det vi har lært om hypotesetesting så langt på følgende måte:. Formuler test: a) b) c) 2. Finn en testobservator W som har kjent fordeling under (kjent nullfordeling ). 3. Siden i W er stor når ˆ er stor og W er liten når ˆ liten har vi at forkastes dersom: a) W w, der P(W w ) = b) W -w, der P(W -w ) = p-verdi (signifikanssannsynlighet) I fremgangsmåten for hypotesetesting vi har sett på så lang setter vi opp grenser for hvilke W- verdier som er sjelden nok til at vi ikke lenger tror på nullhypotesen. En alternativ måte å gå frem på er å heller ta utgangspunkt i den observerte verdien av W og så regne ut hvor sannsynlig det er å få noe som sier minst like mye som det observerte (under antagelsen om at er korrekt). Denne sannsynligheten kalles p-verdi, og dersom p-verdien forkaster vi. Eventuelt kan vi tenke på p-verdi som den verdien av som akkurat gir forkastning for de observerte dataene. c) W -w /2 eller W w /2, der P(W -w /2 ) + P(W w /2 ) = 2 22

12 Eksempel: Juks på meieriet? Melkemengden som fylles i -liters melkekartonger antas normalfordelt med forventning og kjent standardavvik =.2. Måling av n =5 tilfeldig valgte kartonger gav et gjennomsnitt på.996. ypotesetest: :. :. Testobservator og fordeling under : Z X E( X ) X ~ Var( X ) / n Observerte data gir: N(,) x.996. zobs.4 / n.2 / 5 Sannsynligheten for at noe som sier minst like mye som dette er: pverdi P( Z zobs ) P( Z.4).79 ypotesetesting basert på p-verdi generelt p-verdi=p(observere noe som sier minst like mye som det vi har observert ) Evt: p-verdien er sannsynligheten for å observere noe minst like ekstremt som det vi har observert dersom er rett. Eller: Den sier hvor usannsynlige observasjonene vi har gjort er under.. Formuler test: a) b) c) 2. Regn ut verdien w obs testobservator W får med observerte data. 3. Forkast dersom p-verdi, der: a) p-verdi=p(w w obs ) b) p-verdi=p(w w obs ) c) p-verdi=2 P(W w obs ) 23 24

13 Eksempel: p i et vann p-nivået i et vann lå tidligere på =5.7. Vannet kalkes for å prøve å heve p-verdien. Resultatet av uavh. p-målinger etter kalking ble: Anta at målinger av p er N(, )-fordelte der både (nytt p-nivå) og er ukjente. Vi ønsker å teste på 5% nivå. : 5.7 : 5.7 Under har vi: X T ~ tn t9 S / n Fra dataene får vi at: Dvs: Da blir: t obs x s / n x 5.86 og s / 2.2 pverdi P( T tobs ) P( T 2.2).37 Dvs vi forkaster og kan påstå at p-nivået er hevet! 25 Eksempel: Vareprøve. Vi akseptere kun en ny vare dersom vi er sikre på at andel defekte varer er mindre enn.. I en stikkprøve på n =5 varer ble det observert x =7 defekte varer. Skal teste: : p. : p. Under har vi: pˆ E ( pˆ ) pˆ p Z N (,) Var ( pˆ ) p ( p ) / n Dataene gir: z obs.47..(.) /5 2.6 pverdi P( Z zobs ) P( Z 2.6).5 Dvs vi forkaster på 5% nivå (men ikke på % nivå). 26

14 ypotesetesting versus konfidensintervall Det er nær sammenheng mellom tosidige hypotesetester og konfidensintervall. Testen vil forkaste på nivå dersom verdien ikke er inneholdt i (- )% konfidensintervallet for. Eksempel: Vi har tidligere funnet at et 99% konfidensintervall for forventet høyde til norske kvinner er: [65.4, 68.6] Dette betyr at for eksempel testen : 66 : 66 ikke vil forkastes på % nivå, mens f.eks. testen : 65 : 65 vil forkastes på % nivå. Statistisk signifikant va vil det si at noe er statistisk signifikant? Statistisk signifikant vil si at noe er påvist ved en hypotesetest. For eksempel kan vi i p-eksemplet på side 25 si at vi har en statistisk signifikant økning i p. Statistisk signifikant betyr altså at noe er statistisk påvist et påvisbart avvik fra nullhypotesen. Men merk: At noe er påvisbart trenger ikke bety det samme som at det er viktig/interessant. En signifikant effekt trenger ikke bety at vi har et praktisk betydningsfullt avvik fra nullhypotesen. En hypotesetest bør derfor suppleres med et konfidensintervall som gir mer informasjon om størrelse på avvik fra enn bare en test. Se gjerne notatet Bruk statistikk riktig på ItsLearning for mer omkring dette og andre sider ved riktig bruk av statistikk i praksis

15 Til slutt: Utfallet av en hypotesetest er enten at vi forkaster eller at vi ikke forkaster. Tolkningen av disse to utfallene er: Forkaster : Betyr at vi påstår at er rett. Forkaster ikke : Betyr at situasjonen er uavklart. Enten så er korrekt, eller så er korrekt men vi har ikke nok data til å påvise det. Oppsummering ypotesetester for, kjent: X, X 2,, X n uavh. og N(, ) : : Z X / n ~ N (,) Forkaster dersom Z -z -z - Merk spesielt at vi aldri kan bevise at en nullhypotese er korrekt, vi kan bare eventuelt bevise at en alternativ hypotese er korrekt. Dersom vi ikke forkaster betyr det altså bare at situasjon er uavklart - ikke at vi har bevist at er rett! : : Forkaster dersom Z z - z : : 29 Forkaster dersom Z - z /2 eller Z z /2 - /2 /2 -z /2 z /2

16 ypotesetester for, ukjent: X, X 2,, X n uavh. og N(, ) : T X S / : ~ t ( n ) n Forkaster dersom T -t,n- -t,n- - ypotesetester for p (n stor): XBin(n, p) : p p : p p Z pˆ p p ( p Forkaster dersom Z -z -z ) / n N(,) - : : : p p : p p Forkaster dersom T t,n- - Forkaster dersom Z z - t,n- z : : Forkaster dersom T -t /2,n- eller T t /2,n- - /2 /2 -t /2,n- t /2,n- : p p : p p Forkaster dersom Z - z /2 eller Z z /2 - /2 /2 -z /2 z /2

17 Sammenfattet kan vi oppsummere de tre forrige sidene som (med = eller =p): a) b) c) forkastes dersom (der W=Z eller W=T): a) W w b) W -w c) W -w /2 eller W w /2 ypotesetesting basert på p-verdi p-verdi=p(observere noe som sier minst like mye som det vi har observert ) a) b) c) Regn ut verdien w obs testobservator W får med observerte data. Forkast dersom p-verdi, der: a) p-verdi=p(w w obs ) b) p-verdi=p(w w obs ) c) p-verdi=2 P(W w obs ) 33 34