STK2100. Obligatorisk oppgave 1 av 2

Transkript

1 14. februar 2018 Innleveringsfrist STK2100 Obligatorisk oppgave 1 av 2 Torsdag 1. mars 2018, klokken 14:30 gjennom Devilry ( Praktiske instruksjoner Første side av din innlevering bør inneholde følgende informasjon: fullt navn, UiO bruker navn, kurs kode og hvilken obligatorisk oppgave Du velger selv om du skriver besvarelsen for hånd eller på datamaskin (for eksempel ved bruk av L A TEX). I oppgaver der du blir bedt om å gjøre beregninger i R bør du dokumnetere koden du har brukt. Vis R-kode og utskrift av resultater direkte i de deloppgaver de tilhører og ikke i appendiks. Dette gjelder også figurer. Når du viser R-kode og utskrifter, bruk passende opsjoner for utskrift (som verbatim, listings, sweave eller knitr i L A TEX). Generelle instruksjoner Det forventes at man har en klar og ryddig besvarelse med tydelige begrunnelser. Husk å inkludere alle relevante plott og figurer. Studenter som ikke får sin opprinnelige besvarelse godkjent, men som har gjort et reelt forsøk på å løse oppgavene, vil få én mulighet til å levere en revidert besvarelse. Samarbeid og alle slags hjelpemidler er tillatt, men den innleverte besvarelsen skal være skrevet av deg og reflektere din forståelse av stoffet. Er vi i tvil om du virkelig har forstått det du har levert inn, kan vi be deg om en muntlig redegjørelse. Søknad om utsatt innlevering Hvis du trenger å søke om utsatt innlevering på grunn av sykdom eller andre grunner, må du kontakte studieadministrasjonen ved Matematisk institutt ( studieinfo@math.uio.no) i god tid før tidsfristen. For å få adgang til avsluttende eksamen i dette emnet, må man bestå alle obligatoriske oppgaver i ett og samme semester. Spesifikke krav til denne oppgaven: For å få obligen godkjent stilles det krav til at det er gjort et reelt forsøk på å løse alle enkeltoppgaver. Dette gjelder for 1. innlevering! Det er en tilfredsstillende besvarelse på minst 2/3 av deloppgavene. I de ulike oppgaver er det lagt inn kommandoer som kan brukes i R. Det er lov å bruke andre programmer, men da vil det stilles ekstra krav til god dokumentasjon av hva som er gjort og man vil ikke kunne forvente å få hjelp i det implementasjonstekniske. Husk at det er lov å spørre om hjelp! For fullstendige retningslinjer for innlevering av obligatoriske oppgaver, se her: LYKKE TIL!

2 Oppgave 1. Vi skal i denne oppgaven se på lineær regresjon med kvalitative (kategoriske) forklaringsvariable. Anta vi har data (c 1, y 1 ),..., (c n, y n ) der c i {1,..., K}. Definer for j = 1,..., K { 1 hvis c i = j x i,j = 0 ellers (a) Vis at de to modellene og Y i =β 0 + β 2 x i,2 + + β K x i,k + ε i (1) Y i =α 1 x i,1 + + α K x i,k + ε i (2) er ekvivalente. Skriv eksplisitt ned sammenhengen mellom β og α. Bruk også disse modellene til å gi en fortolkning av de ulike parametre. Vi vil i det etterfølgende holde oss til modell (2) da denne er noe enklere å forholde seg til matematisk. (b) La X være design matrisen for modell (2), dvs i-te rad av X inneholder verdiene x i,j, j = 1,..., K. Vis at X T X blir en diagonalmatrise med diagonalelementer n j der n j er antall observasjoner med c i = j. Vis også at X T y er en vektor der j-te element er lik i:c i=j y i. Basert på dette, utled minste kvadraters estimatene for α 1,.., α K. Diskuter om disse estimatene er rimelige. (c) Basert på sammenhengen mellom β og α, konstruer også estimater for β. Argumenter for hvorfor disse estimatene også blir minste kvadraters estimater for β. (d) Nok en alternativ modell er Y i =γ 0 + γ 1 x i,1 + + γ K x i,k + ε i (3) der K j=1 γ j = 0. Hvilke verdier må γ j -ene ha for at også denne modellen blir ekvivalent med de foregående modellene? Hvilken fortolkning har γ-ene i dette tilfellet. Merk at de to foregående modeller kan skrives om til Y i =β 0 + β 1 x i,1 + + β K x i,k + ε i der β 1 = 0 og Y i =α 0 + α 1 x i,1 + + α K x i,k + ε i der α 0 = 0. Dvs alle de 3 modellene er i utgangspunktet uttrykt på samme måte med K + 1 parametre men vi reduserer det til K frie parametre ved å legge ulike restriksjoner på parametrene. Vi vil se nedenfor hvordan vi kan legge inn ulike restriksjoner når vi gjør analyse i R. Vi skal i resten av oppgaven se på et datasett fra Devore & Berk (2012, oppgave 11.5). Datasettet består av målinger av jerninnhold i 4 ulike jernformasjoner (1=karbonat, 2=silikat, 3=magnetitt, 4 =hematitt). Tabellen nedenfor viser dataene, med 10 observasjoner for hver type jernformasjon. Type Vi ønsker å teste om det er forskjell i jerninnhold mellom de ulike typene. 1

3 (e) Les inn data ved kommandoen d a t a d i r = " http : / /www. uio. no/ s t u d i e r /emner/matnat/math/stk2100/ data /" Fe < read. t a b l e ( p a s t e ( datadir, " f e. t x t ", sep =""), header=t, sep =",") Prøv så ut tilpasning ved kommandoen f i t 1 < lm ( Fe~form +0, data=fe ) summary ( f i t 1 ) Hvorfor går dette galt? Angi så kommandoen Fe$form < as. f a c t o r ( Fe$form ) Prøv så det samme kallet til lm igjen. Hvorfor får du et mer fornuftig resultat nå. Hvilken av de 3 modellene svarer denne tilpasningen til? Dvs hvilken restriksjon svarer dette til? (f) Prøv så ut o p t i o n s ( ) $ c o n t r a s t s f i t 2 < lm ( Fe~form, data=fe ) summary ( f i t 2 ) o p t i o n s ( c o n t r a s t s=c ( " contr. sum ", " contr. sum " ) ) o p t i o n s ( ) $ c o n t r a s t s f i t 3 < lm ( Fe~form, data=fe ) summary ( f i t 3 ) Hvilke modeller svarer disse tilpasningene til? Er det samsvar mellom resultatene du får for de ulike tilpasningene? For alle de 3 modellene, sett opp estimatene for alle de K + 1 regresjonsparametrene. (g) Anta nå du ønsker å teste om det er forskjell mellom de ulike typer jernformasjoner. Formuler en passende hypotese for dette og forklar hvordan du kan bruke (en av) utskriftene ovenfor til å utføre en slik hypotesetest. Hva blir konklusjonen av denne testen? (h) Basert på de ulike utskriftene ovenfor, foreslå en mulig forenkling av modellene. Oppgave 2. Vi vil i denne oppgaven se på et dataset nuclear og hvordan vi kan bruke regresjon for å predikere kostnader av lett-vanns reaktorer. Data ligger tilgjengelig i filen nuclear.dat mens en beskrivelse av data ligger på nuclear.txt, begge tilgjengelig fra kurs-siden. Vår interesse vil være i cost variabelen mens de øvrige variable vil være forklaringsvariable. Da cost alltid vil være positiv, vil vi modellere denne variabelen på log-skala. (a) Gjør data tilgjengelig ved kommandoene d a t a d i r = " http : / /www. uio. no/ s t u d i e r /emner/matnat/math/stk2100/ data /" n u c l e a r = read. t a b l e ( paste ( datadir, " n u c l e a r. dat ", sep =""), header=t) n = nrow ( n u c l e a r ) n u c l e a r $ l o g c o s t = l o g ( n u c l e a r $ c o s t ) Lag også ulike plott for å få en oversikt over datasettet. (b) Vi vil først se på en modell Y i = β 0 + β 1 x i,1 + + β p x i,p + ε i der Y i er cost på log-skale for observasjon i. Hva er de vanlige antagelsene på støyleddene ε i. Diskuter også hvilke antagelser som er mest viktige. Tilpass en slik modell på alle data med logcost som respons og de øvrige forklaringsvariable innkludert (bør alle tas med?). Diskuter resultatene. 2

4 (c) Fjern nå den variabel som har tilhørende størst P-verdi og tilpass den nye modell. Hvorfor er dette en fornuftig prosedyre? Diskuter eventuelle endringer på P-verdiene til de resterende variable. Relater det gjerne til korrelasjoner mellom forklaringsvariable. (d) Fortsett å fjerne forklaringsvariable til alle P-verdier er mindre enn Hva blir din endelige modell? Lag ulike plott for å vurdere om modellen er rimelig. (e) Bruk den endelige modell til å predikere respons og lag et mål basert på gjennomsnittelig kvadratisk feil ( 1 n n i=1 (y i ŷ i ) 2 ) for å vurdere hvor god modellen er. Diskuter svakheter ved en slik prosedyre. En automatisk rutine stepaic for sekvensiell modell-seleksjon er tilgjengelig i R-biblioteket MASS. Denne prosedyren bruker ikke helt det samme kriteriet for å sammenlikne modeller, men bruker istedet (se kapittel 6 i læreboka) AIC = 2 log(l( ˆθ)) + 2d der L( ˆθ) er likelihood verdien evaluert i punktet ˆθ mens d er antall parametre i modellen. En ønsker da å ha en liten AIC verdi. For lineære regresjonsmodeller får vi AIC = Konst + n log(ˆσ 2 ) + 2(p + 2) der ˆσ 2 er estimat på σ 2 innen den model en ser på. Funksjonen stepaic kan både gjøre seleksjon bakover (med start basert på alle forklaringsvariable) og forover (med start basert på kun et konstantledd). Vi vil konsentrere oss om bakover seleksjon som oppnås ved opsjonen direction= backward. Ved bakoverseleksjon fungerer prosedyren ved at for en gitt modell med q forklaringsvariable så vil den tilpasse q ulike modeller hvor hver av de q forklaringsvariablene er fjernet. Den velger så den reduserte modellen som har størst likelihood verdi. Deretter beregnes AIC kriteriet for å se om denne nye modellen med q 1 forklaringsvariable er bedre enn modellen med q forklaringsvariable. Prosedyren fortsetter så lenge man får en reduksjon i AIC verdien. Alternativt kan stepaic bruke BIC = 2 log(l( ˆθ)) + log(n)d som for lineære modeller blir BIC = Konst + n log(ˆσ 2 ) + log(n)(p + 2). BIC oppnås ved opsjonen k=log(n). (f) Prøv ut den automatiske model seleksjonen på nuclear datasettet både ved help av AIC og BIC. Hvilke modeller ender du opp med da? (g) Se nærmere på rekkefølgen som de ulike metodene velger ut. Forklar hvorfor rekkefølgen vil være den samme for AIC og BIC. (h) Diskuter eventuelle forskjeller i forhold til den manuelle seleksjonen basert på p-verdier (både med hensyn på rekkefølge variable blir valgt ut og antall variable som tilslutt blir med i modellen). Anta nå vi ønsker å predikere cost for et nytt datapunkt. Mer spesifikt er vi interessert i θ = E[Y x ] samt η = E[exp(Y ) x ] der x er definert ved d. new = data. frame ( date =70.0, t1 =13, t2 =50, cap =800, pr =1, ne=0, c t =0,bw=1,cum. n=8, pt=1) 3

5 Prediksjon kan utføres ved predict.lm kommandoen. Kommandoen nedenfor gir prediksjon for en tilpasset model for θ 1 p r e d i c t ( f i t, d. new, se. f i t ) der fit er den tilpasset modellen. (i) Vis at hvis Z N(µ, σ 2 ) så er E[exp(Z)] = exp(µ + 0.5σ 2 ). Bruk dette til å argumentere for at vi har to mulige estimater for η: ˆη 1 = exp(ˆθ) ˆη 2 = exp(ˆθ + 0.5ˆσ 2 ) Argumentér for en av disse og bruk denne i det etterfølgende (både i neste delpunkt og i neste oppgave). (j) Utfør prediksjon basert på de tre ulike valgte modeller som du fikk tidligere (modellvalg basert på P-verdier, AIC og BIC). Kommentér resultatene. Oppgave 3. Denne oppgaven er en fortsettelse av foregående oppgave der vi skal se på bruk av bootstrapping for å evaluere resultatene vi fikk der. Vi vil fokusere på prediksjon og spesielt på θ = E[Y x ] samt η = E[exp(Y ) x ] der x er som angitt ved d.new variabelen i oppgave 2. Vi vil videre holde oss til én metode for modell-valg, AIC metoden. (a) Diskutér svakheter ved de usikkerhetsanslag som du fikk i oppgave 2(j). Diskutér spesielt problemet ved at modell-valg delen ikke tas hensyn til. (b) En alternativ mulighet er å bruke bootstrapping. Vi ønsker nå imidlertid å ta hensyn til den ekstra usikkerhet som ligger i valg av modell. Implementere en prosedyre for bootstrapping som for hvert bootstrap utvalg først utfører et modelvalg basert på AIC før estimering av θ og η. Hint: Det kan her være hensiktsmessig å lage en funksjon som basert på et gitt datasett beregner ˆθ og ˆη. (c) Basert på dine bootstrap simuleringer, estimer forventningsskjevhet og standard feil for ˆθ og ˆη. (d) Beregn 95% konfidensintervaller for θ og η basert på de ulike ikke-parametriske metoder diskutert i bootstrap notatet. Presenter resultatene i en tabell og diskuter resultatene. Hint: Hvis du i oppgave (b) lagde en egen rutine for beregning av ˆθ og ˆη, så kan du nå bruke denne der du gir som input alle observasjoner bortsett fra den ite for beregning av ˆθ i), som så kan brukes for beregning av â i BC a metoden. (e) Bruk resultatene fra (d) til å sjekke om invariansegenskapene for de ulike metoder stemmer med teorien. 1 Merk at det er nok å bruke den generiske funksjonen predict her da R forstår at det er predict.lm som er den underliggende kommandoen som brukes. Skal du imidlertid se på hvordan rutinen virker, må du bruke help(predict.lm), inkludert et anslag på usikkerhet. 4