Statistisk inferens (kap. 8) Hovedtyper av statistisk inferens. ST0202 Statistikk for samfunnsvitere

Transkript

1 2 Statistisk inferens (kap. 8) Statistisk inferens er å tolke/analysere resultater fra utvalget for å finne ut mest mulig om populasjonen. Konkret: Analysere en observator for å finne ut noe om korresponderende parameter. ST0202 Statistikk for samfunnsvitere Bo Lindqvist Institutt for matematiske fag Typiske populasjonsparametre: μ Forventningen i populasjonen σ Standardavvik i populasjonen p Andel i populasjonen/sannsynlighet for suksess Tilsvarende utvalgsobservatorer: x Gjennomsnittet i utvalget s Standardavvik i utvalget x/n Relativ frekvens/andel i utvalget 4 Hovedtyper av statistisk inferens 1. Estimering: Hva er størrelsen på parameteren? (Gitt ved ett enkelt tall, eller et intervall der parameteren antas å ligge med en høy sannsynlighet). 2. Hypotesetesting: Velger mellom to påstander om størrelsen på parameteren, for eksempel om den er større eller mindre enn en gitt verdi.

2 5 Innhold i kap. 8 Betrakt en populasjon karakterisert ved forventning μ og standardavvik σ. Det ønskes informasjon om μ, mensσ i dette kapitlet antas å være en kjent parameter. 8.2 Generelt om estimering Punktestimat Intervallestimat 8.3 Estimering av μ 8.4 Generelt om hypotesetesting 8.5 Hypotesetesting om μ: p-verdi 8.6 Hypotesetesting av μ: klassisk 6 Punktestimering (8.2) Punktestimat for en parameter: Et anslag for verdien av en parameter gitt ved ett tall, som regel den tilsvarende utvalgsobservatoren. Parameter Punktestimat μ x = Σx n σ s = Σx 2 (Σx) 2 /n n 1 σ 2 s 2 = Σx 2 (Σx) 2 /n n 1 p ˆp = x n 7 Kvaliteten til et punktestimat 8 Intervallestimering Følgende egenskaper ønskes av et godt punktestimat: Forventningsrett. En observator kalles forventningsrett ( unbiased ) hvis dens forventning er lik parameteren som skal estimeres. Hvis ikke, kalles den forventingsskjev ( biased ). Merk at x har forventning μ og er altså forventningsrett. Liten standardfeil. Merk at x har standardfeil som blir liten hvis n er stor (og σ ikke er for stor). Intervallestimat Et intervall som med stor grad av konfidens (confidence) inneholder parameterverdien. Nedre og øvre grense i intervallet er observatorer beregnet fra utvalget (og er derfor tilfeldige variable). Konfidensnivå Sannsynligheten for at intervallet skal inneholde den ukjente parameteren. Skrives 1 α hvor α er et lite tall, f.eks. α = 0.05 som gir 1 α = Konfidensintervall Et intervallestimat med et spesifisert konfidensnivå. Konfidensnivået oppgis ofte i prosent, dvs. f.eks. 95% istedenfor 0.95.

3 9 Konfidensintervall for μ (8.3) Antagelse: x er tilnærmet normalfordelt, dvs. enten populasjonen er normalfordelt eller n er stor. σ er kjent Vi ønsker å finne et intervall (a, b) slik at P(a <μ<b) =1 α Merk: Her er a og b observatorer, dvs. avhengige av utvalget. 1 α kalles konfidenskoeffisienten. Vi skal bruke at er standard normalfordelt. z = x μ For å finne et 95% konfidensintervall, dvs. α = 0.05, går vi fram slik: 0.95 = P( z(0.025) < z < z(0.025)) = P( 1.96 < z < 1.96)) = P( 1.96 < x μ < 1.96) = P( 1.96 < x μ<1.96) = P( 1.96 <μ x < 1.96) = P( x 1.96 <μ< x ) = P(a <μ<b) med a = x 1.96 σ n b = x σ n (dvs. tilnærmet gjennomsnitt pluss-minus to standardavvik ) Hvis vi bytter ut 0.95 med 1 α og z(0.025 med z(α/2) får vi det generelle 1 α konfidensintervall: med 1 α = P( z(α/2) < z < z(α/2)) = P( z(α/2) < x μ < z(α/2)) = P( z(α/2) < x μ<z(α/2)) = P( z(α/2) <μ x < z(α/2)) = P( x z(α/2) <μ< x + z(α/2)) = P(a <μ<b) a = x z(α/2) σ n b = x + z(α/2) σ n 12 Oppsummering: Konfidensintervall for μ Et 1 α konfidensintervall for μ når σ er kjent er gitt ved ( x z(α/2) σ n, x + z(α/2) σ n ) 1 α kalles konfidensnivået. σ n kalles standardfeilen ( standard error ) for gjennomsnittet x. z(α/2) kalles konfidenskoeffisienten. z(α/2) σ n kalles maksimum feil for estimatet ( maximum error of estimate ), betegnet E.

4 x = 75.92cm Eksempel: En maskin produserer deler med lengde som er normalfordelt med ukjent forventning μ cm og kjent standardavvik σ = 0.5cm. Et utvalg på 10 deler har gjennomsnittslengde cm. Finn punktestimat for μ. Finn et 95% konfidensintervall for μ. 95% (α = 0.05) konfidensintervall: ( x 1.96 σ n, x σ n ( , ) ( , ) (75.61, 76.23) Merk at følgende antagelse er gjort: x er tilnærmet normalfordelt. Diskuter! 16 Tolkning av konfidensintervall Oppgave: Lengden til 200 fisk har (utvalgs)gjennomsnitt 36.3 cm. Populasjonsstandardavviket er kjent og lik 6.4 cm. Finn et 90% konfidensintervall for populasjonens gjennomsnittslengde μ. Med P(a <μ<b) =1 α menes at dersom vi gjør et stort antall repeterte utvalg, der vi hver gang regner ut nedre grense a og øvre grense b, vil populasjonsverdien μ (ukjent) ligge i dette intervallet i en andel 1 α av gangene. Merk: a og b er observatorer, som endrer seg når vi tar nye utvalg. (a og b er jo lik x ± E) Vårt utvalg gir bare ett av disse mange intervallene, og vi vet ikke om μ er i akkurat dette intervallet. Men sjansen er altså stor hvis α er rimelig liten!

5 Vi ønsker 1. Kort intervall, dvs. presist anslag 2. Høyt konfidensnivå, dvs. stor tillit til at intervallet inneholder μ Dette er motstridende ønsker. Høyt konfidensnivå (liten α) gir langt intervall. Fikser konfidensnivå. Intervallet er definert ved x ± z(α/2) σ n = x ± E med maksimal feil E = z(α/2) σ n Hvor stor må vi velge n for å få en bestemt maksimal feil E? ( z(α/2)σ n = E ) 2 Eksempel: En maskin produserer deler med lengde som er normalfordelt med standardavvik σ = 0.5cm. Hvor stort må utvalget være for å få E lik 0.1cm (dvs. intervalllengde lik 0.2cm) med 95% konfidensnivå? ( ) z(α/2)σ 2 n = E ( z(0.025) 0.5 = 0.1 ( ) = 0.1 = ) 2 Oppgave: Hva må utvalgsstørrelsen være dersom forventningen μ skal estimeres med feil E mindre enn 75 med 99% konfidensnivå? Populasjonsstandardavviket er 900. Så n = 96 gir tilnærmet ønsket nøyaktighet.

6 21 Hypotesetesting (8.4) Sentrale termer: Hypotese Påstand om at noe er sant Hypotesetesting Hvordan man velger mellom to motstridende hypoteser Nullhypotese, H 0 Den hypotesen som er riktig inntil det motsatte er bevist. Alternativ hypotese, H a Den hypotesen vi prøver å bevise er riktig, årsaken til undersøkelsen. Eksempel: H 0 : Klimaet har ikke endret seg H a : Klimaet har endret seg H 0 : Medisin A og B virker like bra H a : Medisin A virker bedre enn medisin B To mulige avgjørelser: 1. Forkaste H 0 og påstå H a 2. Ikke forkaste H 0 Dette gir fire situasjoner: H 0 sann H 0 usann Ikke forkast H 0 Korrekt avgjørelse Type II-feil Forkast H 0 Type I-feil Korrekt avgjørelse Analogi: Straffesak H 0 : Tiltalte er uskyldig (riktig inntil det motsatte er bevist). H a : Tiltalte er skyldig (prøver å bevise). Type I-feil:justismord Type II-feil:skyldig går fri. Mest alvorlig er type I-feil. Vi ønsker liten sannsynlighet for denne. Vi setter P(type I-feil) =α der α er et lite tall. α kalles signifikansnivået til testen og velges av brukeren. Vi definerer også P(type II-feil) =β 1 β kalles styrken til testen og er sannsynligheten for korrekt forkastning av H 0. Testobservator: En tilfeldig variabel (beregnet fra utvalget) som brukes til å treffe avgjørelsen. 24 Hypotesetesting om μ (σ kjent) (8.5) Eksempel: For en standard språktest for ungdomsskoleelever er gjennomsnittsresultatet for hele landet μ N = 125 og σ N = 16.4 (N står for Norge). Skoleledelsen i en bestemt by mener imidlertid at elevene i denne byens skoler er bedre enn lands-gjennomsnittet. Det tas så et utvalg på n = 86 elever fra ungdomsskolene i denne byen. Disse skolene blir vår nye populasjon. Vi lar μ betegne populasjonsgjennomsnittet for denne populasjonen. Dette leder til testingssituasjonen H 0 : μ = 125 mot H a : μ>125, der σ = 16.4 antas kjent og utvalget består av de n = 86 elevene. Resultatet blir et gjennomsnitt x = for de 86 elevene. Kan det dermed påstås at elevene i denne byen er bedre enn landsgjennomsnittet? Vi skal gjennomføre en hypotesetest der signifikansnivået settes til 5%.

7 Vi ser altså på H 0 : μ = 125 mot H a : μ>125 med kjent σ = Vi bruker testobservatoren Store verdier av z tyder på at H a gjelder. Poenget med å bruke z er at når H 0 er riktig, er z standard normalfordelt. Vi kan derfor forkaste H 0 hvis den beregnede verdi for z er så stor at den er urimelig for en standard normalfordelt variabel. Her blir z = / 86 = 1.98 Vi beregner P(z > 1.98) =1 0.5 P(0 < z < 1.98) = = Da dette er en liten sannsynlighet, dvs. mindre enn signifikansnivået α, forkaster vi H 0. Vi konkluderer: Det er tilstrekkelig grunnlag på signifikansnivå 0.05 til å si at elevene i denne byen scorer bedre enn landsgjennomsnittet på språktesten. Den beregnede sannsynlighet P(z > 1.98) = kan generelt skrives P(z > z ) og kalles p-verdien for testen. så spørsmålet er om dette er for høyt til rimeligvis å kunne komme fra en standard normalfordeling. 27 Hypotesetesting ved å bruke p-verdi (8.5) Definisjon av p-verdi: Sannsynligheten for at vår testobservator z får en verdi som er lik den vi har fått eller en som er mer ekstrem (i retning av den alternative hypotese) når nullhypotesen gjelder. Beslutningsregel: Hvis p-verdien er mindre enn eller lik signifikansnivået α, så er beslutningen å forkaste nullhypotesen H 0. Hvis p-verdien er større enn α, så er beslutningen å ikke forkaste H 0. I vårt tilfelle tester vi H 0 : μ = 125 mot H a : μ>125 så p-verdien blir den høyre halen P(z > z ): Anta isteden at de 86 elevene hadde et gjennomsnitt x = Dette er også bedre enn landsgjennomsnittet. Men nå blir Da blir p-verdien z = / 86 = 1.13 P(z > 1.13) =1 0.5 P(0 < z < 1.13) = = som er større enn signifikansnivået Altså forkastes ikke H 0 og vi kunne konkludere: Det er ikke tilstrekkelig grunnlag på signifikansnivå 0.05 til å si at elevene ved gjeldende ungdomsskole scorer bedre enn landsgjennomsnittet på språktesten. Men merk at vi heller ikke kan påstå at de er dårligere enn landsgjennomsnittet eller at de ligger på landsgjennomsnittet. Vanligvis er det bare når vi forkaster nullhypotesen at vi kan komme med klare konklusjoner.

8 29 Hypotesetesting: klassisk metode (8.6) Situasjonen er som før og vi bruker samme testobservator, nemlig At signifikansnivå er valgt til α betyr at vi krever P(forkaste H 0 )=α hvis H 0 er sann Dette får vi til ved å forkaste H 0 hvis z > z(α), derz(α) er definert tidligere (og kalt kritisk verdi) vedat P(z > z(α)) = α der z er standard normalfordelt. Altså: Vi forkaster H 0 dersom > z(α) Med α = 0.05 får vi z(α) =1.65 mens altså x = 128.5,σ = 16.4, n = 86 z = 16.4/ = 1.98 > så vi forkaster H 0 med signifikansnivå (Men igjen forkaster vi ikke hvis x = ) Eksempel: Anta vi isteden (for en annen by) skal teste H 0 : μ = 125 mot H a : μ<125, σ = 16.4 Vi forkaster nå H 0 hvis blir for liten. (Hvorfor?) Igjen ønsker vi at P(forkaste H 0 )=α hvis H 0 er sann Dette får vi til ved å forkaste H 0 dersom z < z(α). Da har vi nemlig hvis H 0 er sann: P(forkaste H 0 )=P(z < z(α)) = α

9 Hva blir nå p-verdien? Anta at vi har observert (for en annen by) at x = 123.0, og at vi ønsker å teste H 0 : μ = 125 mot H a : μ<125 når σ = 16.4 og signifikansnivået α = Vi forkaster da H 0 dersom < z(α) = z(0.05) = 1.65 Nå blir z = 16.4/ = 1.13 > så vi forkaster ikke H 0 med signifikansnivå Husk definisjon av p-verdi: Sannsynligheten for at vår testobservator z får en verdi som er lik den vi har fått eller en som er mer ekstrem (i retning av den alternative hypotese) når nullhypotesen gjelder. Dette blir nå: p-verdi = P(z < z )=P(z < 1.13) = P(z > 1.13) =1 0.5 P(0 < z < 1.13) = = dvs. H 0 forkastes ikke siden dette er større enn α = Eksempel: H 0 : μ = 125 mot H a : μ 125, σ = 16.4 Rimelig å forkaste H 0 hvis er enten for stor eller for liten. Vi ønsker igjen at P(forkaste H 0 )=α hvis H 0 er sann Vi forkaster da H 0 dersom z < z(α/2) eller z > z(α/2). Da har vi nemlig hvis H 0 er sann: P(forkaste H 0 ) = P(z < z(α/2)) + P(z > z(α/2)) = α/2 + α/2 = α Altså: Vi forkaster H 0 dersom > z(α/2) eller z = x 125 < z(α/2) Sett α = Da er z(α/2) =1.96 Anta nå at x = 128.5,σ = 16.4, n = 86 Da er z = 16.4/ = 1.98 > så vi forkaster fremdeles H 0 med signifikansnivå 0.05.

10 p-verdien er altså sannsynligheten for at vår testobservator z får en verdi som er lik den vi har fått eller en som er mer ekstrem (i retning av den alternative hypotese) når nullhypotesen gjelder. Dette blir her (litt vanskeligere å begrunne enn for de tidligere situasjonene) p-verdi = P(z < 1.98 eller z > 1.98) = 2 P(z > 1.98) = 2(1 0.5 P(0 < z < 1.98)) = 2( ) = = som er mindre enn α = 0.05, så vi forkaster H 0 med signifikansnivå α = Oppsummering: Klassisk hypotesetesting med kjent σ Tre typer situasjoner. Her er μ 0 et gitt tall (f.eks. 125). H 0 H a Forkast H 0 hvis μ = μ 0 μ>μ 0 z > z(α) μ = μ 0 μ<μ 0 z < z(α) μ = μ 0 μ μ 0 z < z(α/2) eller z > z(α/2) z = x μ 0 De to første testene kalles ensidige ( one-tailed ) tester, mens den siste er tosidig ( two-tailed ) 39 Oppsummering: Hypotesetesting med p-verdi (og kjent σ) Tre typer situasjoner. H 0 H a p-verdi μ = μ 0 μ>μ 0 P(z > z ) μ = μ 0 μ<μ 0 P(z < z )=P(z > z ) for z < 0 μ = μ 0 μ μ 0 P(z < z )+P(z > z ) z = x μ 0 Oppgave: Jeg har trukket 10 tall fra en populasjon som er normalfordelt med gjennomsnitt μ og standardavvik σ = 10. Tallene ble med gjennomsnitt x = Finn et punktestimat for populasjonsparameteren μ Finn et intervallestimat for populasjonsparameteren med konfidensnivå Jeg påstår at μ = 100 for populasjonen. Ta stilling til dette utsagnet med en hypotesetest. Bruk signifikansnivå α = 0.1. Bruk både klassisk metode og metode med p-verdi.