MOT310 Statistiske metoder 1, høsten 2006 Løsninger til regneøving nr. 8 (s. 1) Oppgaver fra boka:

Transkript

1 MOT30 Statistiske metoder, høsten 2006 Løsninger til regneøving nr. 8 (s. ) Oppgaver fra boka: Oppgave.5 (.3:5) ) Først om tolking av datautskriften. Sammendrag gir følgende informasjon: Multippel R =R, R-kvadrat=R 2, Justert R-kvadrat=R 2 justert, Standardfeil=s og Observasjoner=n. er en variansanalyse/anova-tabell av samme type som på forelesing/i læreboka. Merk at SK er det vi har kalt SS, GK er det vi har kalt MS og at det menes p-verdi med betegnelsen Signifikans-F. I den siste tabellen finner man under Koeffisienter estimatene for regresjonsparametrene, under Standardfeil estimerte standardavvik til regresjonsparametrene, under t-stat, t-observatorene for å teste om regresjonsparametrene er 0 eller ikke, under P-verdi p-verdier for disse testene og til slutt to konfidensintervaller for parametrene, det første 95%, det andre den prosenten man selv eventuelt har spesifisert. EXCEL-utskrift: Regression Statistics Multiple R 0,9864 R Square 0,9729 Adjusted R Square 0,972 Standard Error 2,5726 Observations 8 ANOVA df SS MS F Significance F Regression 3805, , ,0589 0,0000 Residual 6 05,892 6,683 Total 7 39,7778 Coefficients Standard Error t Stat P-value Lower 95% Upper 95% Intercept 5,8254,0750 5,49 0,000 3,5466 8,042 x (temp.) 0,5676 0, ,9804 0,0000 0,574 0,678 2) Mengde løsning ved ulike temperaturer. Modell: Y i = α+βx i +ε i der ε,..., ε n u.i.f. N(0, σ 2 ). Temperatur er x-variabel (forklaringsvariabel, ikke stokastisk) og mengde løsning er Y -variabel (respons, stokastisk). Se datauskrift. Plottet av observasjonene indikerer at det er en klar sammenheng mellom temperatur og mengde konvertert sukker. Fra utskriften ser vi at estimert regresjonslinje blir ŷ = x, og det betyr at estimert forventet mengde konvertert sukker ved temperatur 50 grader blir ŷ = = Videre har vi fra datautskriften at s 2 = = 6.62, 99% konfidensintervall for α er [2.69,8.97] og 99% konfidensintervall for β er [0.50,0.64].

2 MOT30 Statistiske metoder, høsten 2006 Løsninger til regneøving nr. 8 (s. 2) Oppgave 2.3 (2.3:3) Modell: Y = µ Y x,x 2 + ε = β 0 + β x + β 2 x 2 + ε, dvs med n observasjoner får vi n ligninger Y = β 0 + β x + β 2 x 2 + ε. eller Y n = β 0 + β x n + β 2 x 2n + ε n Y x x 2. =... Y n x n x 2n Y = Xβ + ε β 0 β β 2 + ε. ε n Med de oppgitte dataene har vi at X = og y = Vi har fra pensum at estimatoren for β er den b som minimerer SSE = n (y i ŷ i ) 2 = (y i b 0 b x b 2 x 2 ) 2 = (y Xb) T (y Xb) og denne er gitt ved b = (X T X) X T y. Med dataene i denne oppgaven blir dette b = b 0 b b 2 = (XT X) X T y = som vi leser ut av datautskriften. Dvs estimert regresjonslinje blir ŷ = ˆµ Y x,x 2 = x x 2

3 MOT30 Statistiske metoder, høsten 2006 Løsninger til regneøving nr. 8 (s. 3) Med kun alder: Oppgave Regresjon 73, , ,47 0,0000 Residualer ,7039 0,7427 Med kun kjønn: Regresjon 0,36 0,36 0,264 0,7225 Residualer ,2087,045 Med kun høyde: Regresjon 9,0668 9,0668 9,020 0,0029 Residualer ,2735,0052 Med kun vekt: Regresjon 0,306 0,306 0,2984 0,5854 Residualer ,0297,0408 Vi ser at alder er den variabelen som gir størst SSR og altså er den som velges til først å bli inkludert i modellen. F obs = 99.47, p-verdi = ; variabelen tas med i modellen. Vi ser at høyde også er signifikant (p-verdi = ), men alder har størst SSR, og det er derfor denne variabelen som tas videre i framlengs variabelutvelgelse.

4 MOT30 Statistiske metoder, høsten 2006 Løsninger til regneøving nr. 8 (s. 4) Med alder og kjønn: Regression 2 73, , ,6622 0,0000 Residual ,3960 0, 7445 Total ,3403 Økning i SSR: = 0.3, F obs = 0.3 MSE = = 0.403, ikke signifikant (f 0.05,, ); variabelen tas ikke med i modellen i tillegg til alder. Med alder og høyde: ANOVA df SS MS F Significance F Regression 2 74, ,357 50,386 0,0000 Residual 245 8,6370 0, 744 Total ,3403 Økning i SSR: =.06, F obs =.06 MSE = =.43, ikke signifikant (f 0.05,, ); variabelen tas ikke med i modellen i tillegg til alder. Med alder og vekt: ANOVA df SS MS F Significance F Regression 2 74, , ,8525 0,0000 Residual ,946 0, 7437 Total ,3403 Økning i SSR: = 0.52, F obs = 0.52 MSE = = 0.70, ikke signifikant (f 0.05,, ); variabelen tas ikke med i modellen i tillegg til alder. Siden ingen av de tre aktuelle variablene utenom alder, gir noe signifikant økning av SSR sammen med alder, stopper prosedyren for variabelutvelgelse etter dette. Resultat: kun variabelen alder i modellen.

5 MOT30 Statistiske metoder, høsten 2006 Løsninger til regneøving nr. 8 (s. 5) Oppgave 2 Modell: Y i = β 0 + β x i + ε i der ε,..., ε n u.i.f. N(0, σ 2 ) a) b = (x i x)y i (x i x) = 2 x i y i x b 0 = ȳ b x = y i (x i x) 2 = = Dvs estimert regresjonslinje blir ŷ = b 0 + b x = x b) (48.8/27) = E(B ) = E ( (x i x)y i (x i x) 2 ) = (x i x)e(y i ) (x i x)(x i x) = (x i x)(β 0 + β x i ) (x i x)x i x n (x i x) = β 0 (x i x) + β n (x i x)x i (x i x)x i x n (x i x) (Siden: = β n (x i x) = Dvs B er forventingsrett. n n n n n x i x = x i n x = x i x i = 0) ( ) ( ) 2 (x i x)y i n Var(B ) = Var = (x i x) 2 Var( (x (x i x) 2 i x)y i ) ( ) 2 uavh. n ( ) 2 = (x (x i x) 2 i x) 2 n Var(Y i ) = (x (x i x) 2 i x) 2 σ 2 σ 2 = (x i x) 2 c) Z = B E(B ) Var(B ) = B β σ 2 n (x i x) 2 N(0,) Når den ukjente σ 2 erstattes med estimatoren S 2 har vi fra pensum at: T = B β S 2 n (x i x) 2 t n 2 der S 2 = (Y n 2 i Ŷi) 2 = (Y n 2 i B 0 B x i ) 2 P ( t α/2,n 2 B β t α/2,n 2 ) = α S 2 n (x i x) 2 P (B t α/2,n 2 S (x i x) β 2 B + t α/2,n 2 S (x i x) ) 2. α

6 y MOT30 Statistiske metoder, høsten 2006 Løsninger til regneøving nr. 8 (s. 6) Innsatt b = og (x i x) 2 = 3.866, s = = 0.66 og med t 0.025,25 = får vi 95% konfidensnintervall for β : [ , ] = [0.598, 0.946] H 0 : β = 0 mot H : β 0 β = 0 er ikke innehold i konfidensintervallet, dvs vi forkaster H 0 på 5% nivå og kan påstå at luft/damp-forholdet har betydning for koksforbruket. d) x Figur : Eksempel på ok residualplott. Et residualplott bør se ut omtrent som på figuren over dersom modellantagelsene er oppfylte, dvs det bør ha - Ingen klare mønster - Gjennomsnitt 0 - Konstant variasjon U-mønsteret vi ser i residualene i figur 2 i oppgaveteksten tyder på at den tilpassede modellen ikke er tilfredstillende. Denne typen avvik indikerer enten ikke-lineær sammenheng mellom x og y eller avhengigheter i dataene. (Plottet av dataene i figur i oppgaveteksten tyder på at vi har en ikke-lineær sammenheng mellom x og y.)