MOT310 Statistiske metoder 1 Løsningsforslag eksamen 25. november 2003 Oppgave 1 a) Vi har µ D = µ X µ Y. Sangere bruker generelt trapesius-muskelen mindre etter biofeedback dersom forventet bruk av trapesius er større før enn etter biofeedback, dvs dersom µ X > µ Y eller µ D > 0. Dette er påstanden vi skal undersøke, og vi formulerer derfor hypotesetesten: D 1,..., D 24 u.i.f. N(µ D, σ 2 D ). H 0 : µ D = 0 mot H 1 : µ D > 0 Estimator: Z = ˆµ D = D D 0 N(0, 1) under H 0. σ σ 2 D 2 /n D ukjent T = D t n 1 under H 0, der S 2 SD 2 /n D = 1 n (D i n 1 D) 2. i=1 Vi forkaster H 0 dersom T t α,n 1 = t 0.05,23 = 1.714. Observert: 27.0/24 t obs = = 5.30 1 ( 24 124.65)/24 Dvs vi forkaster H 0 på 5% signifikansnivå. Sangere bruker generelt trapesius-muskelen mindre etter biofeedback. b) Vi starter med å se på differansen mellom reduksjonen for en ny sanger, D 0, og gjennomsnittet av reduksjonene for de tidligere målte sangerne, D: D0 D. Antar at D 1,..., D n og D 0 u.i.f. N(µ D, σ 2 D ) E(D 0 D) = E(D 0 ) E( D) = µ D µ D = 0 Var(D 0 D) uavh. = Var(D 0 ) + ( 1) 2 Var( D) = σd 2 + σ2 D n Z = D 0 σ D N(0, 1) 2D + σ2 Dn og T = D 0 D S 1 + 1 n t n 1 P ( t α/2,n 1 D 0 D t α/2,n 1 ) = 1 α S 1 + 1 n ( P D t α/2,n 1 S 1 + 1 n D 0 D + t α/2,n 1 S 1 + 1 ) = 1 α n 1
Dvs et (1 α)100% prediksjonsintervall for D 0 er gitt ved: [ D t α/2,n 1 S 1 + 1 n, D + tα/2,n 1 S 1 + 1 ] n Innsatt: n = 24, d = 27.0/24.0 = 1.125, s 2 = 24.65/23 = 1.01 og t α/2,n 1 = t 0.025,23 = 2.069 gir dette 95% prediksjonsintervall: [ 1.125 2.069 1.01 1 + 1 24, 1.125 + 2.069 1.01 1 + 1 ] = [ 1.07, 3.32] 24 Et prediksjonsintervall er et intervall som med stor sannsynlighet vil inneholde en ny mling - et intervall med både negative og positive verdier betyr at både en økning og en reduksjon i muskelbruken er rimelige utfall for en ny sanger. Dvs selv om vi i punkt a) har påvist at den forventede differansen (gjennomsnittsdifferansen i det lange løp) er positiv vil likevel enkelte sangere komme ut med en negativ differanse (dvs en forverring). c) Her er det umulig å gjøre direkte differansemålinger på samme enhet. Faktoren vi skal undersøke om har betydning her er kjønn, og siden en person bare har ett kjønn kan vi ikke gjøre målinger for ulike kjønn på samme person - vi er nødt til å sammenligne ved å gjøre to uavhengige måleserier. Konfidensintervall for µ X µ Y : µ ˆ X µ ˆ Y = X Ȳ Z = X Ȳ E( X Ȳ ) Var( X = X Ȳ (µ X µ Y ) N(0, 1) Ȳ ) σx 2 n X + σ2 Y n Y Her er σx 2 og σ2 Y ukjente, estimeres ved S2 X = 1 nx n X 1 i=1 (X i X) 2 og SY 2 = 1 ny n Y 1 i=1 (Y i Ȳ ) 2, og når σx 2 og σ2 Y erstattes med S2 X og S2 Y har vi fra pensum at T = X Ȳ (µ X µ Y ) S 2 X nx + S2 Y n Y t ν der det er oppgitt i oppgaveteksten at ν = 14. P ( t α/2,ν T t α/2,ν ) = 1 α P ( t α/2,ν X Ȳ (µ X µ Y ) t α/2,ν) = 1 α SX 2 n X + S2 Y n Y SX 2 P ( t α/2,ν + S2 Y n X n X Ȳ (µ SX 2 X µ Y ) t α/2,ν + S2 Y ) = 1 α Y n X n Y P ( X Ȳ t SX 2 α/2,ν + S2 Y µ X µ Y n X n X Ȳ + t SX 2 α/2,ν + S2 Y ) = 1 α Y n X n Y 2
Dvs med t α/2,ν = t 0.025,14 = 2.145 og de oppgitte dataene får vi følgende 95% konfidensintervall for µ X µ Y : [562/ 643/ 2.145 1741.5/7 + 1335.75/7, 562/ 643/ + 2.145 1741.5/7 + 1335.75/7 ] = [ 26.0, 5.] Siden µ X µ Y = 0 er inneholdt i 95% konfidensintervallet forkaster vi ikke H 0 i hypotesetesten H 0 : µ X µ Y = 0 mot H 1 : µ X µ Y 0. Dvs dataene gir ikke grunnlag for å hevde at det er forskjell mellom mannlige og kvinnelige sangere i bruk av øvre brystkasse. Oppgave 2 a) Y ij = µ i + ε ij, der ε ij uavh. N(0, σ 2 ) der µ i er forventa spenning ved materialtype i og ε ij er feilleddet (tilfeldig variasjon). Alternativt: Y ij = µ + α i + ε ij, der ε ij uavh. N(0, σ 2 ) der µ er gjennomsnittlig forventa spenning, α i er effekten av materialtype i, 4 i=1 α i = 0 og ε ij er feilleddet (tilfeldig variasjon). Kilde SS df M S F Material 16552.7 2 276.4 20.26 Feil 3676.3 9 40.5 Total 20229.0 11 H 0 : µ 1 = µ 2 = µ 3 mot H 1 : minst en ulik Vi forkaster H 0 dersom F f 0.05,2,9 = 4.26. Dvs med de observerte dataene forkaster vi H 0 på 5% nivå. Forventet spenning er ulik ved de ulike materialene. b) Ut fra plottet kan det se ut som at alle materialtyper gir høy spenning ved 50 Fahrenheit, materialtype 2 og 3 ved 65 Fahrenheit og ingen ved 0 Fahrenheit. 1. H 0 : α 1 = α 2 = α 3 = 0 mot H 1 : minst en α i 0 Siden f obs = 2.97 > f 0.05,2,27 = 3.35 forkaster vi H 0. Dvs, temperatur har betydning. 2. H 0 : β 1 = β 2 = β 3 = 0 mot H 1 : minst en β i 0 Siden f obs = 7.91 > f 0.05,2,27 = 3.35 forkaster vi H 0. Dvs, materialtype har betydning. 3. H 0 : (αβ) 11 = = (αβ) 33 = 0 mot H 1 : minst en 0 3
Siden f obs = 3.56 > f 0.05,4,27 = 2.73 forkaster vi H 0. Dvs, det er samspill mellom temperatur og materialtype! (En indikasjon på dette ser vi også fra plottet av dataene, forholdet mellom de ulike materialtypene ser ut til å være ulikt ved de forskjellige temperaturene.) Når vi har påvist et signifikant samspill, som her, så kan dette forkludre tolkningen av testene for hovedeffektene. F.eks. kan et samspill skjule effekter av hovedfaktorene. Et alternativ når man har påvist signifikant samspill er å utføre separate analyse av effekten av en faktor på hvert nivå av den andre faktoren. Siden vi her har påvist signifikante effekter av begge hovedfaktorene kan vi konkludere at de begge har betydning, men siden vi også har påvist signifikant samspill kan vi ikke si noe generelt om hvilken retning effekten av de ulike faktorene går. c) H 0 : σ 2 1 = σ 2 2 = = σ 2 9 mot H 1 : minst en ulik Som nevnt i oppgaveteksten har vi to ulike tester for dette hypotesetestingsproblemet, Cochran-testen og Bartlett-testen. Cochran-testen: Vi forkaster H 0 dersom: G = største S2 i ki=1 S 2 i g α,k,n = g 0.05,9,4 = 0.4027 Observert: g obs = største s2 i 9i=1 s 2 i = 2056.9 6077.1 = 0.33 Vi forkaster ikke H 0 på 5% nivå. Bartlett-testen: Med k = 9 og n 1 = n 2 = = n 9 = n = 4 har vi at vi forkaster H 0 dersom: B = [(S2 1 )(n 1) (S 2 2 )(n 1) (S 2 9 )(n 1) ] 1/(N k) S 2 pooled = [(S2 1 )3 (S 2 2 )3 (S 2 9 )3 ] 1/(27) S 2 pooled = (S2 1 )1/9 (S 2 2 )1/9 (S 2 9 )1/9 S 2 pooled b k (α; n) = b 9 (0.05; 4) = 0.5277 der Spooled 2 = 1 ki=1 N k (n i 1)Si 2 = SSE N k = MSE Observert: b obs = (2056)1/9 (656.3) 1/9 (371.7) 1/9 675.2 Vi forkaster ikke H 0 på 5% nivå. = 543.1 675.2 = 0.0 Dvs konklusjonen av begge testene er at vi ikke har grunnlag for å si at variansen er ulik for de ulike faktorkombinasjonene - vi har med andre ord ikke påvist noe brudd på antagelsen om lik varians. 4
Oppgave 3 a) Fra datautskriften ser vi at vi ikke vil forkaste H 0 : β i = 0 mot H 1 : β i 0 verken for β 4 (p verdi = 0.494), β 5 (p verdi = 0.234) eller for β 6 (p verdi = 0.910) på noe rimelig signifikansnivå. Dette tyder på at minst en, kanskje flere, av disse variablene er overflødige og kan utelates. Ved bakover utvelgelse starter man med en modell som innholder alle forklaringsvariablene, og fjerner så en og en variabel fra modellen om gangen inntil alle gjenværende variable bidrar signifikant til modellen. I hvert steg fjernes den av de gjenværende variablene som bidrar minst til modellen i form av å redusere SSR minst når den tas ut. Når man ikke lenger finner noen variable som gir en ikke-signifikant reduksjon av SSR fjernes ingen flere variable fra modellen. (Om den variabelen som i det jte skritt bidrar minst til modellen skal fjernes fra modellen (dvs om den gir ikke-signifikant bidrag til modellen) avgjøres ved om F = SSR(β j β 0, β 1,..., β j 1 ) S 2 < f α,1,n j der SSR(β j β 0, β 1,..., β j 1 ) = SSR(β 0, β 1,..., β j ) SSR(β 0, β 1,..., β j 1 ) er reduksjon i SSR ved å fjerne variabelen fra modellen, og hvor S 2 er beregnet fra modellen hvor variabelen er tatt med.) b) R 2 = SSR ni=1 SST = (Ŷi Ȳ )2 ni=1 (Y i Ȳ )2 R 2 forteller hvor stor andel av total variasjon (omkring Ȳ ) som er forklart ved regresjonslinja. Ulempen med R 2 som modellvalgskriterium er at R 2 alltid øker når vi tar med flere variable i modellen, skulle vi bruke R 2 alene som modellvalgkriterium ville vi alltid ende opp med modellen med alle variable inkludert - noe som i mange situasjoner slett ikke er den beste modellen. R 2 justert er en forbedret R2 som justerer for problemet med å ukritisk ta med for mange variable. Modell (1) har litt høyere R 2 (siden de to modellen har med like mange variable kan vi bruke R 2 som kriterium i sammenligningen), litt høyere R justert 2 og litt lavere s. Alt dette indikerer at modell (1) er litt bedre enn modell (2) (men forskjellene er ikke store). Videre ser vi at i modell (1) er alle forklaringsvariablene signifikante alene på et 5% nivå, mens i modell (2) er ikke x 4 signifikant alene. Dette går også i favør av modell (1) så konklusjonen blir at modell (1) er den beste modellen. c) Fra den estimerte modellen ŷ = 5.701 0.349x 1 0.001x 2 + 0.995x 3 ser vi at en økning i SO 4 (x 1 )og NO 3 (x 2 ) vil bidra til å senke ph-nivået, mens en økning i Ca (x 3 ) vil heve ph-nivået. e i = y i ŷ i (observert verdi minus estimert regresjonslinje i punktet). e 1 = y 1 (5.701 0.349x 11 0.001x 21 + 0.955x 31 ) = 5.3 5.701 + 0.349 4.9 + 0.001 39 0.955 1.54 = 0.0114 5
Plottene av residualene mot forklaringsvariablene (x-variablene), ŷ og observasjonsnummer, i, ser OK ut siden de er jevnt spredt omkring null med lik variasjon i alle områder og ingen bestemte mønster. Dette tyder på at den tilpassede modellen for forventningsverdien er god, og at antagelsene om at feilleddene (ε 1,..., ε n ) har forventningsverdi null, konstant varians og er uavhengige holder. Punktene i normaplottet ligger noenlunde på en rett linje og dette tyder på at antagelsen om at feilleddene er normalfordelte holder. Dvs alle residualplottene tyder her på at den tilpassede modellen er god. d) Vi kan tenke på β 0 som forventet ph-verdi i et vann som ikke inneholder verken SO 4, NO 3 eller Ca, dvs hvor x 1 = x 2 = x 3 = 0. Vi må da imidlertid ta forbehold om at vi ikke har målinger helt ned mot punktet hvor alle variablene er null og vi må derfor ta høyde for at vi ikke kan være sikre på at modellen virkelig er lineær helt ned mot x 1 = x 2 = x 3 = 0. Alternativt kan vi tenke på β 0 som en justeringsfaktor/konstant som gir oss ei regresjonslinje som ligger på rett nivå i det området vi har data. Estimator: ˆβ0 = B 0 Vi har at Z = B 0 E(B 0 ) Var(B0 ) = B 0 β 0 N(0, 1) Var(B0 ) og med ukjent varians får vi at T = B 0 β 0 = B 0 β 0 Var(B 0 ) ŜD(B 0 ) t n 4 P ( t α/2,n 4 B 0 β 0 ŜD(B 0 ) t α/2,n 4 ) = 1 α P (B 0 t α/2,n 4ŜD(B 0) β 0 B 0 + t α/2,n 4ŜD(B 0)) = 1 α dvs med n = 26 og α = 0.05 som gir t α/2,n 4 = t 0.025,22 = 2.074 og (fra datautskriften) b 0 = 5.701 og ŜD(B 0) = 0.069 får vi følgende 95% konfidensintervall: [5.701 2.074 0.069, 5.701 + 2.074 0.069] = [5.56, 5.4] 6