Econ 2130 uke 19 (HG) Inferens i enkel regresjon og diskrete modeller

Transkript

1 Eco 3 uke 9 (HG) Iferes ekel regresjo og dskrete modeller

2 De ekle regresjosmodelle. Resultater fra 5m og 5m for me fra EM på skøyter Heerevee 4. ( er 5m-tde og y 5m-tde sekuder for løper.) Spredgdagram med mste kvadraters regresjoslje 5m mot 5m (ute Ervk) y R y R.4576 vser at ca. 45% av varasjoe y -ee det forelggede datamateralet er "forklart" av -ee.

3 Data: (, y ),(, y ),,(, y ), 7 Alle formler ekel leær regresjo ka reges ut ekelt med kalkulator ut fra følgede 5 størrelser, ys,,, s, s. y y y y.4 s ( ) sy ( y y) 8.4 sy sy ( )( y y) r.676 ss Mste kvadraters regresjoslje data: m( ) a + b, der sy b.46 a y b m( ) (.46) s y yˆ + d der yˆ a + b m( ) kalles predkert, og d y yˆ resduale (de "uforklarte" dele). Itutvt aslag på gjeomsttstde på 5m for e løper med tde 6:3 (39 sek.) på 5m (dage før): m (39) a+ b(39) sek. (: 5 m) y y 3

4 MODELL (som Løvås avstt 7.3. Se også kommetarer otatet «Regresjo I») La Y betege e stokastsk varabel som represeterer tde på 5m for e skøyteløper som (dage før) har oppådd e td på 5m. V har observasjoer, y, y,, y, og v treger derfor stokastske varable Y, Y,, Y, e for hver skøyteløper. Y represeterer dermed e løper som har oppådd tde på 5m. Tallee,,, betraktes som gtte tall modelle. V atar geerelt Y α + β+ e for e vlkårlg skøyteløper på dette vået, og for de aktuelle skøyteløpere, der e, e,, e med Y α + β + e for,,, atas uavhegge og detsk ormalfordelte restledd Ee ( ) og var( e) σ. Fuksjoe µ ( ) α + β kalles regresjosfuksjoe, og beteger forvetet td på 5m år oppådd td på 5m er sekuder. Altså, for e vlkårlg skøyteløper, Y µ ( ) + e, og Y µ ( ) + e,,,, for de aktuelle skøyteløpere. 4

5 I tllegg tl α og β øsker v å estmere µ (39) α + β 3 9 (39sek. 6:3 m.) Mste kvadraters estmatorer (som ka vses å være optmale dee modelle) er rett og slett estmatorer som har a, b og m(39) som estmater: De 5 gruleggede størrelsee, ys s s,,, y, y,,, y, y, ter, y, y, y ( ), oppfattes å som observerte verder av s YS S, der s er kosta, mes YS S er stokastske varable: Y Y S Y Y o g S ( ) ( Y Y) y Regel (følger av regel 4. og 4.7 pluss e del algebra) (a) Mste kvadraters estmatorer for αβ, og µ ( ) er (der er e valgt -verd, f.eks. 39) ˆ Sy β, ˆ α Y ˆ β, ˆ µ ( ˆ ˆ ) α + β s (b) ˆ βα, ˆ, og ˆ µ ( ) er alle forvetgsrette. (c) Varaser: var( ˆ β ) σ ( ) s var( ) ( ) ˆ µ σ + var( ( )) ( ) s ˆ α σ + ( ) s 5

6 Bevs for βˆ (som eksempel kke pesum): Merk først at Tlsvarede: S ( Y ) y sde ( )( Y Y) ( ) Y Y ( ) ( ) Y, der v bruker: ( ) s ( )( ) ( ) S ( ) ( ) ( ) ( )( + ) s kostat regel 4. ˆ y E( β ) E E Y E Y α β s s s s første sum ( ) ( ) ( ) ( α + β β β s β s s s altså forvetgsrett) 4 s σ regel 4.7 ˆ var( β ) var ( ) ( ) var( ) ( ) Y 4 Y σ 4 s s ( ) s ( ) σ σ s ( ) ( ) s Merkad: Uttrykket oppgtt for var( ˆ α) regel, er ltt forskjellg fra uttrykket Løvås avs , me de to uttrykkee er lke (prøv å vse det selv): 6

7 Estmerg av σ. Modellrelasjo: Y α + β + e µ ( ) + e Restledd: Resdual: e Y µ ( ) Y α β (kke-observerbar (sde α og β er ukjete) stokastsk varabe l) (Felaktg kalt «resdual» Løvås sde 87 ederst (sde 7 øverst)) eˆ Y ˆ α ˆ β (kalt regresjo-i-otatet) d SS E eˆ eholder formasjo ok tl å estmere σ. Regeformel (se regel 3 regresjo-i-otatet) SS S r S S S S S s Regel ( ˆ β ) y y E ( ) y( ) ( ) y ( ) ( ) y y ss y s E forvetgsrett estmator for σ. er SS ( S y β s) ˆ E ˆ eˆ (kalt s Lø vås) σ 7

8 Iferes. La og stå for e av de ukjete populasjosstørrelsee, θˆ for mkv estmatore. αβµ,, ( ) θ Populasjosstørrelse Mkv estmator Estmert stadardfel θ ˆ θ SE( ˆ θ ) α ˆ α Y ˆ β y β β s ˆ S ˆ σ + ( ) s s ˆ σ µ ( ) ˆ( µ ) ˆ α + ˆ β ˆ σ ( ) + ( ) s I eksemplet: ( β ) ˆ σ S ˆ s 7 og obs y gr obs θ α β µ(39) Mkv estmat sek (:5 m) ˆobs θ SE( ˆ θ )

9 Regel 3. La θ være e av αβµ,, ( ), ˆ θ mkv-estmatore og SE( ˆ θ ) estmert stadardfel. a. Uder modelle på sde 4 gjelder for > : ˆ W θ θ ~ t ( ) ( t-fordelt med - frhetsgrader) uasett hva θ er. SE( ˆ θ ) b. Hvs 3 omtret, er W tlærmet N(,) uasett hva θ er selv om (eller -ee) kke er ormalfordelte (!). e -ee Y Kofdestervall: La t α være α/-kvatle t ( )-fordelge. α P( t W t ) som før P( ˆ θ t SE( ˆ θ) θ ˆ θ + t SE( ˆ θ) ) α α α α tabell E5 (D5) 7 atall frhetsgrader er 5 et 95% KI er, ˆ θ ± t SE( ˆ θ) ˆ θ ± (.6) SE( ˆ θ).5 95% kofdestervall Parameter θ Nedre grese Øvre grese α β µ(39) (6 : 3m) sek (:48 m).8 sek (:5 m) 9

10 Hypotesetestg. La θ være e av αβµ,, ( ), og θ e kjet hypotetsk verd av θ. Om de sae verde av θ er lk eller kke, vet v kke. θ Testobservator: ˆ θ θ θ θ T (Merk at T W + ) T ~ t( ) hvs (og bare hvs) θ θ. SE( ˆ θ ) SE( ˆ θ ) t, α er α-kvatle t ( )-fordelge. Teststuasjo 3 H H θ θ Testobservator α-vå test: Forkast hvs T t α θ > θ T, θ θ T t α θ < θ, θ θ θ θ ˆ θ θ SE( ˆ θ ) ˆ θ θ T SE( ˆ θ ) ˆ θ θ T SE( ˆ θ ) H T t T t, α eller, α θ θ P-verd ( t o er observert verd av T) P ( T t ) θ θ o P ( T t ) θ θ o P ( T t o )

11 Testeksempel. E test for om det er e sammeheg mellom Y og populasjoe. H : β (ge sammeheg) H : β (sammeheg) ( β ) Testobservator: 5% test: T ˆ β β ˆ β SE( ˆ β) SE( ˆ β) tabell E5 (D5) "For ka st H hvs T t eller T t " "Forkast H hvs T.6 eller T.6" 5,.5 5,.5.44 Observert: t T obs Koklusjo: Forkast H. (dvs. det er sterk evdes data for at β. ) V kue ha tolket problemet esdg ved: H : β mot H : β >, om v hadde sagt «hvs det er e sammeheg det hele tatt, bør de være postv» 5% test: tabell E5 (D5) "Forkast H hv s T t " "Forkast H hvs T.78" 5,.5 Koklusjo: Forkast H sde T obs (dvs. det er sterk evdes data for at ) β >

12 -tervall struktur (for dskrete modeller). La θ være e ukjet parameter, ˆ θ estmator og SE( ˆ θ ) stadardfel ( SD( ˆ θ ) hvs ˆ θ er forvetgsrett). ˆ θ θ -test og -tervall er aktuelt hvs (*) W ~ N(,) (eksakt eller tlærmet) SE( ˆ θ ) SE( ˆ θ ) er ofte ukjet, me ka som oftest estmeres ute at (*) blr vesetlg berørt (ka vses). -α kofdestervall: ( ) α P( z W z ) som før P( ˆ θ z SE( ˆ θ) θ ˆ θ + z SE( ˆ θ) ) α α α α Modell X~ b( p, ) X ~ hypergeom. ( M,, N) p M N X ~ pos( tλ) Estmator θˆ X X ˆ λ X t Betgelse for ormal-tl. var( X ) 5 p( p) 5 N p( p) 5 N tλ 5 Tlærmet fordelg basert på regel 5. p p( p) tl. ~ N (,) p tl. ~ N (,) p( p) N N ˆ λ λ tl. ~ N (,) λ t ˆ θ θ SE( ˆ θ ) (med estmert SE) p ( ) p ( ) N N ˆ λ λ ˆ λ t

13 -test struktur (for dskrete modeller). La θ være e ukjet parameter, ˆ θ estmator og SE( ˆ θ ) stadardfel. La θ være e kjet hypotetsk parameterverd. Grulaget for -test (Løvås versjo): ˆ θ θ tlærmet ~ N(,) hvs θ SE ( ˆ θ θ θ ) θ Alteratv H H θ θ θ > θ Testobservator ˆ θ θ ( ˆ θ ) SE θ θ α-vå test: Forkast H hvs z α P-verd z o er observert verd av P ( z ) θ θ θ θ θ < θ ˆ θ θ ( ˆ θ ) SE θ θ z α P ( z ) θ θ 3 θ θ θ θ ˆ θ θ ( ˆ θ ) SE θ θ z z α α eller P ( z ) θ θ 3

14 -tester for alteratv (sde 3). Sgfkasvå tlærmet α. Tlsvarede for alteratv og 3 sde 3. Modell Estmator θˆ Betgelse for ormal-tl. var( X ) 5 Testobservator ˆ θ θ SE θ θ ( ˆ θ ) Forkastgskrterum z o P-verd er observert verd av X~ b( p, ) X ~ hypergeom. ( M,, N) p M N X ~ pos( tλ) ˆ λ X X X t p( p) 5 N p( p) 5 N tλ 5 p p p( p) N N p ( p ) ˆ λ λ λ t z α z α z α P ( θ θ z ) o P ( θ θ z ) o P ( θ θ z ) o Eksempel. (Jfr. forelesg uke 3) I et farlg kryss har ma tdlgere reget med gjeomsttlg ca..4 ulykker pr. uke. Sste år var det alt 6 ulykker krysset. Tyder dette på at ulykkesrate har gått ed? La X være atall ulykker et år (5 uker). Atar ~ pos(5 ) der λ E( ˆ λ) E X 5 er ulykkesrate (ukjet) X λ ( ) Skal teste H: λ.4 mot H: λ <.4 4

15 Testobservator: ˆ λ λ ˆ λ.4 tlærmet N λ λ t.4 t ~ (,) hvs.4 ˆ X ˆ 6 λ og estmatet: λobs % test: " Forkast H hvs z.5(. 645) " Observert: z o.5.4 obs Koklusjo: Ikke forkast H. (Det er kke formasjo ok data tl å kokludere at ulykkesrate pr. uke har gått ed.) P-verd: ˆ α Pλ.4( zo ) Pλ.4(.5) G(.5).64 (der Gz ( ) er de kumulatve fordelgsfuksjoe N(,).) Mage vlle ok lkevel tolke e p-verd på 6.4% som rmelg sterk evdes for at ulykkesrate hadde gått ed. 5

16 Eksempel 3. V øsker å teste om e terg er rettferdg med hesy på å produsere 6-ere. V kaster terge gager og oterer X atall 6-ere. Rmelg modell X ~ b(, p) der p P(6-er et kast). Øsker å kostruere e 5% test for H: p 6 mot H: p 6 Testobservator: p som er ~ (,) hvs 6. p ( p ) tlærmet N p p 5% test: " Forkast H hvs z.5 eller z.5 " " Forkast H hvs.96 eller.96" Sjekk selv at dette krteret er ekvvalet med " Forkast H hvs X 9 eller X 4" V har altså fått e regel som ser at X-verder blat tallee,,,,3 er forelg med hypotese at terge er rettferdg m.h.p. seksere, mes X-verder utefor dsse gr sterk evdes (med vå tlærmet 5%) for at terge kke er rettferdg. 6