#include <stddisclaimer.h>

Transkript

1 Ihold Kapittel Sasylighet.3 Sasylighetsfuksjo : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :.4 Diskrete og kotiuerlige sasylighetsfuksjoer : : : : : : : : : : : : : : : : : :.6 Betiget sasylighet : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :.7 Uavhegig sasylighet : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 3.8 Gjetatte uavhegige forsk : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 3.9 Kombiatorikk : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 3.10 Kombiatorisk sasylighet : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 3.11 Kombiatorisk{hypergeometrisk og biomalfordelig : : : : : : : : : : : : : : : : : 3 3 Kapittel 3 Tilfeldige variabler 4 3. Tetthet og fordeliger : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Simultae tettheter : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Uavhegige tilfeldige variabler : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Kombiasjo og trasformasjo av variabler : : : : : : : : : : : : : : : : : : : : : : Ordigsobservatrer : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Betigedetetthetsfuksjoer : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Forvetede verdier : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Egeskaper til forvetedeverdier : : : : : : : : : : : : : : : : : : : : : : : : : : : : Variase : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Mometgeererede fuksjo : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Chebyshev's ulikhet : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 8 4 Kapittel 4 Spesielle fordeliger 8 4. Poisso-fordeliga : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Normal-fordeliga : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Geometrisk fordelig : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : De egative biomial-fordeliga : : : : : : : : : : : : : : : : : : : : : : : : : : : : Gamma-fordeliga : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 9 5 Kapittel 5 Estimerig Deisjoer : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Setrerig og esiet av puktestimater : : : : : : : : : : : : : : : : : : : : : : : : Setrerig (ubiasedess) : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Esiet : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Miimum-varias Cramer-Rao edre grese : : : : : : : : : : : : : : : : : : : : Kosistes av estimator : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Maximum Likelihood (MLE) og mometprisippet : : : : : : : : : : : : : : : : : : Itervall-estimerig : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Kodes-itervall for \p" i biomisk fordelig : : : : : : : : : : : : : : : : : : : : 13 6 Kapittel 6 Hypotesetestig Desisjosregele : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : TypeIogtype II feil : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Optimalitet geeralisert likelihood ratio : : : : : : : : : : : : : : : : : : : : : : : : 14 7 Kapittel 7 Normalfordeliga Puktestimater for og : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Liere kombiasjoer av ormalfordelte variabler : : : : : : : : : : : : : : : : : : Setral-grese-teoremet : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 15 8 Hot Vault 15 Copyright c 1996, SR The Firm. #iclude <stddisclaimer.h> 1

2 Kapittel Sasylighet.3 Sasylighetsfuksjo Teorem.3.1 P (A C )=1; P (A). Teorem.3. P ( ) =0. Teorem.3.3 Om A B, erp (A) P (B). Teorem.3.4 For uasett hedelse er P (A) 1. Teorem.3.5 La A 1, :::, A vre hedelser deert over S. Om A i \ A j = for i 6= j,er P [ A i! = X i=1 i=1 P (A i ) Teorem.3.6 P (A [ B) =P (A)+P (B) ; P (A \ B)..4 Diskrete og kotiuerlige sasylighetsfuksjoer Krav for diskrete sasylighetsfuksjoer er at P (s) 0 for hver s S P alle ss P (s) =1 For kotiuerlige sasylighetsfuksjoer har ma at f(x) 0 for alle x S R S f(x) dx =1 R P (A) = A f(x) dx.6 Betiget sasylighet OmAogBertohedelser, hvor ma atar at B allerede har skjedd, ka ma rege ut sasylighete for A skjer, P (AjB) gitt ved: P (AjB) = Bemerk at P (A \ B) =P (A j B)P (B). P (A \ B) P (B) Teorem.6.1 La fa i g i=1 vre et sett avhedelser deert oversslikat S = S i=1 A i, A i \ A j = for i 6= j. Daer P (B) = X i=1 P (BjA i )P (A i ) Teorem.6. S (Bayes) La fa i g i=1 vre et sett avhedelser deert over S slik at S = i=1 A i, A i \ A j = for i 6= j. Daer P (A j jb) = P (BjA j )P (A j ) P i=1 P (BjA i)p (A i )

3 .7 Uavhegig sasylighet Def..7.1 To hedelseraogbsiesavreuavhegige hvis P (A \ B) =P (A) P (B) Def..7. Hedelser A 1, :::, A er uavhegige hvis hvert sett av i 1, i, :::, i k mellom 1 og, P (A i1 \ A i \\A ik )=P (A i1 ) P (A i ) P (A ik ).8 Gjetatte uavhegige forsk Uavhegige forsk kalles trials. Det vil si at det j'te forsket er upavirket av dej-1 tidligere. Eksempelvis vil P (A) = "summe av alle gustige utfall som utgjr A". Et yttig tips i dee sammehege er de uedelige summe av geometriske rekker, hvor p [0 1] 1X p k = 1 1 ; p.9 Kombiatorikk k=0 Multiplikasjoregele Om e operasjo A ka utfres pa m forskjellige mater og B sie mater, ka sekvese (operasjo A, operasjo B), utfres pa m forskjellige mater. Dette ka geeraliseres, slik at det gjelder for operasjoer. Teorem.9.1 Atall permutasjoer av legde k som ka formes av distikte elemeter ute gjetakelse, er ( ; 1)( ; 1) ( ; k +1)=! ( ; k)! Av dette far ma et korollar som sier at atall mater a permutere objekter pa er! Biomialformele Atall mater for a forme kombiasjoer av strrelse k fra et sett pa distikte objekter hvor gjetakelse ikke ertillatt, er! = k k!( ; k)!.10 Kombiatorisk sasylighet Det som gar igje her er P("hedelse") = atall gustige atall mulige..11 Kombiatorisk{hypergeometrisk og biomalfordelig Hypergeometrisk Ata eureieholder r rde ogw hvite brikker (r +w = N). Om brikker trekkes vilkarlig ute gjetakelse og Y forteller totalt atall rde brikke valgt, er P (Y = k) = ; r w k; ;k ; N Biomialfordelig Ata e serie med uavhegige forsk, hvert av dem resulterede i "suksess" eller "feil". La p = P (suksess i gitt forsk) kostat. Y forteller atall suksesser i forsk. E(X) = p og Var(X) = p(1 ; p). P (Y = k) = p k (1 ; p) ;k k =0 1 ::: k 3

4 3 Kapittel 3 Tilfeldige variabler 3. Tetthet og fordeliger Def E reell fuksjo som har utfallsrommet S som deisjosmegde, kalles e tilfeldig variabel. Disse gjegis ved store bokstaver, f.eks. X, Y, Z. Oftest teller ma opp atall utfall som oppfyller betigelse og deler pa atall mulige. pdf f Y (y) Forklarer sasylighetsstrukture idusert pa de reelle lija av Y. Eksempel er f Y (3) = P (sum lik 3) = P ((1 ) ( 1)) =.For kotiuerlige 36 fuksjoer sier ma geerelt P (a Y b) = Z b a f Y (y) dy Mediae, y Dette erverdie y hvor P (Y = y )= 1. Dette lser ma ved a e itegralverdie fra 0 til y,ogdermed lse de ukjete y ved a sette uttrykket lik 1. Def.3.. La Y vre tilfeldig variabel pa S med sasylighetsfuksjo P.De kumulative fordeligsfuksjoe av Y, F Y (y), er sasylighete for at verdiee fra Y mappes til verdier pa de reelle lija midre eller lik y. F Y (y) =P (fs SjY (s) yg) =P (Y y) Regler forbudet med de kumulative fordeligsfuksjoe, cdf: P (Y >y)=1; F Y (y) P (a <Y b) =F Y (b) ; F Y (a) P (Y = t) =F Y (t) ; lim y!t ; F Y (y) Teorem 3..1 Om Y er kotiuerlig variabel med pdf f Y (y) og cdf F Y (y), da er f Y (y) =F 0 Y (y) 3.3 Simultae tettheter Def Diskrete X og Y er to diskrete variabler pa S. De simultae pdf f X Y (x y) =P (X = x Y = y). Def Kotiuerlig X og Y er to kotiuerlige variabler pa S. De simultae pdf F X Y (x y) eromradet R i xy-plaet, P ((X Y ) R) =P (fs S j (X(s) Y(s)) Rg) = Z R Z f X Y (x y) dx dy Def La X og Y vre to tilfeldige variabler. De simultae kumulative fordeligsfuksjoe (eller simulta cdf) av X og Y, er F X Y (x y) =P (X x Y y) Domee til F X Y (x y) ersettet med alle par av reelle tall. Teorem La X og Y vre kotiuerlige tilfeldige variabler og F X Y (x y) vre simultae cdf. Da er: f X Y (x F X Y (x y) 4

5 Teorem 3.3. La X og Y vre diskrete variabler med simulta pdf f X Y (x y). De idividuelle pdf's for X X og Y f X (x) ogf Y (y), respektivt, X ka utreges ved: (a) f X (x) = f X Y (x y) (b)f Y (y) = f X Y (x y) alle y Likede er det for kotiuerlige variabler. (a) f X (x) = Z 1 ;1 f X Y (x y)dy (b)f Y (y) = 3.4 Uavhegige tilfeldige variabler alle x Z 1 ;1 f X Y (x y)dx Def Tilfeldige variabler X og Y er uavhegige hvis for hvert itervall A og B P (X A Y B) =P ((X Y ) A B) =P (X A) P (Y B) Teorem To tilfeldige variabler X og Y f X Y (x y) =f X (x) f Y (y) for alle x og y. er uavhegige hvis og bare hvis Def tilfeldige variabler X 1, :::, X er uavhegige for alle x 1, :::, x hvis f X1 ::: X (x 1 ::: x )=f X1 (x 1 ) f X (x ). Def Om alle X 1, :::, X har samme pdf, er settet ett tilfeldig utvalg av strrelse. 3.5 Kombiasjo og trasformasjo av variabler Teorem La X vre tilfeldig variabel med pdf f X (x), a 6= 0ogb vre kostater og deer Y = ax + b. (a) Om X er diskrete, (b) Om X er kotiuerlig, y ; b f Y (y) =f X a f Y (y) = 1 jaj f X y ; b a Teorem 3.5. La X vre e kotiuerlig tilfeldig variabel med pdf f X (x). Y = X.For y>0, f Y (y) = 1 p y (f X ( p y)+f X (; p y)) La Teorem La X og Y vre uavhegige tilfeldige variabler med pdf's f X (x) og f Y (y), respektivt. La Z = X + Y. (a) Om X og Y er diskrete, X f Z (z) = f X (x)f Y (z ; x) alle x (b) Om X og Y er kotiuerlige, Z 1 f Z (z) = f X (x)f Y (z ; x) dx ;1 Sistevte itegral kalles ofte kovolusjoe f X og f Y. 5

6 3.6 Ordigsobservatrer E observator er e fuksjo av etilfeldig variabel. Eksempelvis ka gjeomsittet vre e slik observatr. Image tilfeller ka det ogsa vreetilfeldig variabel. F.eks. X 1, :::, X er et tilfeldig utvalg (stikkprver). Nar alle X i er observert ka vi ordedem fra mistetil strste verdi. Dette medfrer e yotasjo X1, 0 :::, X 0. Dette erordigsobservatre. OfteerX mi = X 0 1 og X max = X. 0 Teorem La X vre kotiuerlig med pdf f X (x). Om et utvalg av strrelse trekkes fra f X (x), sa erde margiale pdf for i'te orde statistikk gitt: f Xi (y) =! (i ; 1)!( ; i)! (F X(y)) i;1 (1 ; F X (y)) ;i f X (y) Korollar X mi og X max er heholdsvis miste og strste orde statistikk. (a) f X mi (y) = f X(y) (1 ; F X (y)) ;1 (b) f X max (y) = f X(y) (F X (y)) ;1 3.7 Betigede tetthetsfuksjoer Def De betigede pdf av Y gitt x, dvs. sasylighete for at Y tar verdi y gitt at X = x, skrives f Y jx (y) oggisved: f Y jx (y) =P (Y = yjx = x) = f X Y (x y) f X (x) Dee deisjoe ka geeraliseres for a ivolvere ere e to tilfeldige variabler. Kotiuerligtilfelle Om X er kotiuerlig, teker ma pa P (Y yjx = x) som grese: R x+h R y x ;1 P (Y yjx = x) = lim f X Y (t u) du dt h!0 R x+h f x X (t) dt 3.8 Forvetede verdier Def La X vre tilfeldig variabel med pdf f X (x). Forvetet verdi for X skrives E(X) P eller. (a) E(X) = R alle x x f X(x) om X er diskret. 1 (b) E(X) = ;1 x f X(x) dx om X er kotiuerlig. Mediae Mediae er este de samme som forvetet verdi. La m vre mediae. Da er P (X <m=0:5), som lses med hesy pa m. 3.9 Egeskaper til forvetede verdier Teorem La X og Y vre t.v. og a, b reelle tall. E(aX + by )=ae(x)+be(y ) Dette teoremet ka geeraliseres slik at det ivolverer ere variabler og kostater. Ma sakker om at E er e lier trasformasjo. 6

7 Teorem 3.9. Om X er diskret med pdf X f (x) oghvis g(x) erfuksjo av X, er: E(g(X)) = g(x) f X (x) alle x Om X er kotiuerlig sa er: E(g(X)) = Z 1 ;1 g(x) f X (x) dx Teorem Ata X og Y er diskrete t.v. med simulta pdf f X Y (x y). g(x y) er e fuksjo av X og Y. X X E(g(X Y )) = g(x y) f X Y (x y) alle x alle y For kotiuerlige t.v. har ma: E(g(X Y )) = Z 1 Z 1 g(x y) f X Y (x y) dx dy ;1 ;1 Teorem La X og Y vre uavhegige t.v. Da er: 3.10 Variase E(XY ) =E(X) E(Y ) Def Variase, Var(X) er forvetet verdi av des kvadrerte deviatio fra = E(X). Var(X) = = E((X ; ) ) Teorem La =mea = E(X). Da er: Var(X) =E(X ) ; Teorem La X vre t.v. og a, b kostater. Deer Y = ax + b. Var(Y )=a Var(X) Teorem La X 1 ::: X vre uavhegige variabler og Y = X X. Var(Y )=Var(X 1 )++ Var(X ) Tips Husk at E(sittet av X)= og Var(sittet av X)=. 3.1 Mometgeererede fuksjo Def De \mometgeererede fuksjoe" (MGF) for X er gitt ved M X (t) =E(e tx ) Teorem La X vre e t.v. med pdf f X (x) ogm X (t) vre MGF for X. M (r) X (0) = E(Xr ) 7

8 Teorem 3.1. Ata X og Y er t.v. hvor M X (t) =M Y (t) for et itervall av t ieholdede 0.Daerf X = f Y, dvs. at dehar samme pdf. Teorem a) La X vre t.v. med MGF M X (t) ogdeer Y = ax + b. Sa: M Y (t) =e bt M X (at) Teorem b) La X 1 ::: X vre uavhegige t.v. med MGF'er M Xi (t). Deer Y = X X. Dermed er 3.13 Chebyshev's ulikhet M Y (t) =M X1 M X M X Teorem Chebyshev's ulikhet La X vre t.v. med mea og varias.for >0erde edre gresa: mes de vre gresa er: P (jx ; j <) > 1 ; P (jx ; j ) 4 Kapittel 4 Spesielle fordeliger Det er 5 familier med sasylighetsfuksjoer i kapittel 4 poisso, ormal, geometrisk, egativ biomial og gamma. 4. Poisso-fordeliga Teorem 4..1 La vre ksert og et vilkarlig heltall. For x 0er p x (1 ; p) ;x = e; x lim!1 x x! Teorem 4.. La p(x ) vre poisso-pdf'. p(x ) = e; x Vet ogsa at E(X) = og Var(X) =. Poisso-fordeliga ka blat aet brukes til radioutstralig, krigsutbrudd, telefosamtaler, trakkulykker og skrivefeil i bker. Nar atall blir stor i Beroulliforsk (biomialfordeliga) og p er lite, er omtretlig bi(, p) Po(). Dessute har ma ved biomisk situasjo at p =. 4.3 Normal-fordeliga Teorem DeMoivre-Laplace La X vre biomial t.v. med uavhegige forsk med suksess p. lim!1 P x! c< X p ; p <d = 1 pq Z d p e ;x = dx c 8

9 Tips Nar blir stor ved biomialfordeliga og skal e P (X k), reger ma ut c og evetuelt d for isettig rett i i dette ovestaede itegralet. Dermed har ma e god tilrmig pa sasylighete. Teorem 4.3. P (a <X<b)=P ( a; < X; < b; )= 1 p R h v e;x = dx: Def E t.v. Z har stadard ormalfordeliga dersom pdf' gis ved f Z (z) = p 1 e ;z = ;1<z<1 X sies vre ormalfordelt med parametre og, N( ), dersom f X (x) = 1 p e ;0:5((x;)=) ;1<x<1 Teorem Nar X har ormalfordeliga, N( ), er E(X) = og Var(X) =. 4.4 Geometrisk fordelig De geometriske fordeliga brukes for a e ut hvor mage forsk som tregs for a oppa frste suksess. Fordeliga blir Dee har bare e parameter. f N () =p(1 ; p) ;1 = pq ;1 Teorem La N vre geometrisk fordelt med p (= suksess pa forsk). Da er E(N) = 1 1;p p og Var(N) = p. 4.5 De egative biomial-fordeliga Dee familie brukes ar ma skal e ut sasylighete for r'te suksess i et atall Beroulli-forsk. Deer X som atall forsk for de r'te suksesse. Videre er Y = atall askoer fr suksess er oppadd. Dermed er Y = X ; r. Tomater for egative biomialfordeliga (har to parametre, r og p): x ; 1 f X (x) = p r (1 ; p) x;r x = r r+1 r+ ::: suksesser r ; 1 og + r ; 1 f Y () = p r (1 ; p) =0 1 ::: askoer Teorem 4.5. Om Y er t.v. og har egativ biomialfordelig med r og p, sa er E(Y )= r p og Var(Y )=r(1 ; p) p 4.6 Gamma-fordeliga Gamma-fordeliga brukes til a male tida det tar fr r hedelser skjer. Def For et reelt tall r > 0 gis gamma-fuksjoe av r slik: ;(r) = Z 1 x r;1 e ;x dx 0 9

10 R 1 Teorem La ;(r) = 0 xr;1 e ;x dx (a) ;(1) = 1 (b) ;(0:5) = p (c) ;(r + 1)= r;(r) forpostive reelle r (d) ;(r + 1)= r! dersom r er ikkeegativt heltall = (e) ; +r;1 ;(+r) ;(+1);(r) (f) ;(r);(s) ;(r+s) = R 1 0 ur;1 (1 ; u) s;1 du Def La X vre t.v. med fordelig gitt edefor. Da er X gamma-fordelt med parametre r og, hvor r, >0. f X (x) = r ;(r) xr;1 e ;x x>0 Teorem 4.6. La X vre gamma-fordelt med parametre r og. Da er E(X) = r og Var(X) = r Tricks Summe av ekspoesialfordelte variabler er gammafordelt. 5 Kapittel 5 Estimerig 5. Deisjoer Om e gitt parameter i er ukjet, ma vitilrme de. Til dette bruker vi e fuksjo kjet som statistisk, W = h(y 1 ::: Y ), fra et tilfeldig utvalg av strrelse. Eksempler: mea = Y P = (1=) i=1 Y i, stadardavviket = S = q (1=( ; 1)) P i=1 (Y i ; Y ). Vi kaller formeav uttrykket for estimerig av ukjet parameter for e estimator. De resulterede umeriske verdie fra det, kalles estimat. Det er to typer estimerig, puktestimat og itervallestimat. Sistevte forteller litt mer om dataee legda av itervallet forteller estimatores yaktighet. 5.3 Setrerig og esiet av puktestimater To krav til e god estimator er at de skal vre setrert rudt de virkelige verdie (), dvs. at de er ubiased. Videre ma estimatore vre yaktig (precisio) dvs. esiete har lite varias. Dette tas yere opp i de to este uderkapitlee. 5.4 Setrerig (ubiasedess) Def La Y 1 Y ::: Y vre tilfeldig utvalg fra f Y (y ). Estimatore W = h(y 1 ::: Y )ersetrert for om E(W )= for alle. Merk atdet es ere setrerte estimatorer for e uderskelse. Ellers heder det at vima estimere P ute a kjee. Statistikke ofte brukt her er sample variase S = 1 (Y ;1 i=1 i ; Y ). 5.5 Esiet Esiet brukes til a bestemme hvilke estimator som er bedre e adre. 10

11 Def La W 1 og W vre to setrerte estimatorer. W 1 er mer esiet e W dersom Var(W 1 ) <Var(W ) Relativ esiet av W 1 i forhold til W er Var(W )=V ar(w 1 ). 5.6 Miimum-varias Cramer-Rao edre grese Teorem Cramer-Rao ulikhete La Y 1, :::, Y vre tilfeldig utvalg fra f Y (y ). Atasettet hvor f Y (y ) 6= 0 ikkeavheger av. LaW = h(y 1 ::: Y ) vre setrert estimator, som i kotiuerlig tilfelle har 1. og. ordes partiell deriverte: ( " #) l f Y (Y ) a) Var(W ) b) Likhet hvis: X l f Y (Y = A()[h(y 1 ::: y ) ; ] for alle y 1 ::: y,hvor A() ikkeavheger av y i.idet tilfellet, Var(W )= [A()] ;1. c) Kotiuerlig: Var(W ) l f Y (Y ;1 Def W er beste estimator om de er med i klasse av setrerte estimatorer (W) og Var(W ) Var(W ), dvs. sammeliket med estimatorer som oppar Cramer-Raos edre grese. Def E estimator W = h(y 1 ::: Y )eresiet hvis og bare hvis Var(W )= 1 E l fy (Y i Esiete av e setrert W deeres som \utreget varias" / \virkelige varias". NB! Om variase til W er lik Cramer-Rao, sa er de beste estimator. Det motsatte er ikke alltid sat ige treger mte Cramer-Rao gresa. Dermed er ige esiet, me mist e av dem er de beste estimatore. Det ka eksistere variaser midre e Cramer-Rao, me da er ikke hypotesee i Teorem tilfredsstilt. 5.7 Kosistes av estimator E estimator er kosistet ar P(W ligger vilkarlig r parametere som skal estimeres)=1omblirstor. W er da asymptotisk setrert og Var(W )kovergerer mot 0. Def W = h(y 1 ::: Y )erkosistet omde kovergerer i sasylighete til dvs. for >0og>0 eksisterer det ( ) s.a.: P (jw ; j <) > 1 ; for >( ) Merk! Fra Chebychevs ulikhet ka vi skrive P (jw ; j <) > 1 ; Var(W ). 11

12 5.8 Maximum Likelihood (MLE) og mometprisippet Her diskuteres to metoder for a e estimatorer, MLE og mometprisippet. Sistevte er ofte mye eklere a rege ut. Def La Y 1 ::: Y vre utvalg fra f Y (y ). Om simulae pdf for alle Y i,l, tekes pa som fuksjo av og hvis y i er ksert, da er \Likelihood-fuksjoe" L = L() = i=1f Y (y i ) Def (Maximum-Likelihood-Estimerig) La L() vre likelihood-fuksjoe. For a kostruere estimatorer, leter vi etter de w som maksimerer L(), dvs. L(w) L(). Dette er maximum-likelihood-estimatet (MLE) for. Ofte skrevet som w = ^. NB! Ofte er det eklere a maksimere l L() istedefor L(). NB! Om fuksjoe har k ukjete parametre, ler det seg a lse de k likigee av de deriverte L( 1 ::: k ) lik 0. NB! Det ka hede at derivasjo ikke frer frem. Plott grafe! Deer (j) = E(Y j ) = R 1 ;1 yj f Y (y 1 ::: k ) dy. (j) blir fuksjoer av 1 ::: k slik (i) = (i) ( 1 ::: k ). Videre er m (j) = 1 P i=1 yj i j =1 ::: k. Mometprisippet gar ut paasette (j) = m (j). Def (Mometprisippet) La Y 1 ::: Y vre tilfeldig utvalg fra f Y (y 1 ::: k ). La (j) og m (j) vre teoretisk og virkelige mometer, heholdsvis. For a e mometestimat for 1 ::: k, lses likigee med hesy pa 1 ::: k : (j) = j ( 1 ::: k )=m (j) j =1 ::: k Lsigee, w 1 ::: w k kalles mometestimater. Ofte erw i skrevet som ^. 5.9 Itervall-estimerig Puktestimater sier ikke oe om hvor rt parametere estimatet ligger. Derfor skal vi bruke kodes-itervall for (1) a e sasylighete for at W ligger mellom to tall og () e tallee som ieholder W med gitt sasylighet. Vi sker a e to greser, a og b, slik at P (a <W <b)=0:90 og P (W a) =P (W b) =0:05. Disse er ma ved a lse (for uiform fordelig) Z a 0 f W (w) dw =0:05 og Z ((+1)=) b f W (w) dw =0:05 For uiform-fordeliga har ma derfor flgede 90% kodes-itervall w p ; 0:95 +1 w p ; 0:05 +1 Dette betyr at ved 100 forsk, vil cirka 90 av itervallee ieholde parametere. Kodes-itervallet for ormalfordeliga er! P ( Y ; u0:05 p << Y + u0:05 p )=0:90 1

13 5.10 Kodes-itervall for \p" i biomisk fordelig La Y vre bi(, p). Nar!1er Y p(1;p)! N(p ). Dette og DeMoivre- Laplace gir e parabel med to ullpukter, p 1 og p. Omradet mellom disse er kodes-itervallet vi sker. Deer z = som -kvatile for Z N(0 1), dvs. skillepuktet mellom kodesitervallet. Om z = far ma 100(1 ; )% kodes-itervall for p 0 Y Y ; z = (1 ; Y ) Y + z = s Y (1 ; Y ) Ofte erdet iteressata e miste slik at P (j Y ;pj <d)=1;. Veda bruke idetitete for N(0 1) ved stor, far ma frst et uttrykk for ieholdede ukjet p. For a vre sikker pa atvalgte tilfredsstiller kravee, velger vi de verdie som gir strst mulig verdi av p(1 ; p) (biomial), dvs. p = 0:5. Dermed blir = z = 4d 6 Kapittel 6 Hypotesetestig 6. Desisjosregele Hypotesetestig era bruke sasylighetsteori foravelge mellom toalterativer, H 0 (de origiale, ullhypotese) og H 1 (det ye alterativet). H 0 atas vre korrekt til det motsatte er bevist(murder 1). Def Ehver fuksjo av observerte data avgjrede om vi skal godta eller forkaste H 0, kalles test statistikk. Etter utregig med utfallsdata har ma w, e observert test statistikk. Omradet som resulterer i forkastelse av H 0, kalles kritisk regio og skrive som C. Forskere deerer ofte herskede tvil dersom W sier at H 0 er korrekt i midre e 5% av tida. Med adre ord, y burde velges slik at P (Y y j H 0 korrekt) = 0:05. De utregede verdie av likiga br vre strre eller lik de observerte, for at H 0 skal forkastes. Teorem 6..1 Ata y observerte suksesser blat Beroulli-tester. La p = P (suksess) og vre deisjoe pa tvile. For a sjekke H 0 : p = p 0 mot H 1 : p 6= p 0 brviforkaste H 0 om y;p0 p p0(1;p0) ete er ;z = eller +z =,hvor P (Z z = )=P (Z ;z = )==. For a sjekke om br vi forkaste H 0 om H 0 : p = p 0 mot H 1 : p>p 0 y;p0 pp0(1;p0) +z For a sjekke om 1 A br vi forkaste H 0 om H 0 : p = p 0 mot H 1 : p<p 0 y;p0 p p0(1;p0) ;z Fremgagsmate ved hypotesetestig er Formuler ullhypotese og alterativ hypotese. 13

14 Velg testobservator (X). Velg sigikasiva. Ofte er = 0:05. Bestem forkastigsomradet for teste. Udersk om observert verdi for testobservator faller i forkastigsomradet eller ikke. Tosidig test Merk atar vi tester H 0 : p = k mot H 1 : p 6= k, far ma to kritiske regioer. Vi lser begge likiger P (Y y 1 j H 0 er sa) 0:05 P (Y y j H 0 er sa) 0:05 hvor y 1 og y er de tokristiske skillepuktee. 6.3 Type I og typeiifeil Type 1 feil Vi forkaster H 0 ar H 0 er korrekt. Slike ugas ved a kreve at sigi- kasivaet er lavt (vektleggede bevis), f.eks. = 0:01. Type feil Vi aksepterer H 0 ar H 0 er feil. Symbolet for P(Type II feil oppstar) er (p). De forteller hvorda det ye systemet gar \uoppdaget" etterhvert som p varierer. Spesikt (p) =P (forkaste H 0 j p) Styrkefuksjoe,1; = P (W C j H 1 sa), brukes for a agi kvalitete av e test. Ved sammelikig av tester, br ma velge de med \brattest" kurve. 6.4 Optimalitet geeralisert likelihood ratio Geeralisert Likelihood Ratio, GLR, foreslar faktisk testprosedyrer aalogt med maximum likelihood ved estimerig. Def La Y 1 ::: Y vre tilfeldig utvalg fra f Y (y 1 ::: k ). GLR, skrevet med, deeres som max! = L( 1 ::: k ) L( 1 ::: k ) = L(^!) L(^) max NB! er e tilfeldig variabel som e fuksjo av det tilfeldige utvalget. Def E geeralisert-likelihood-ratio test (GLRT) er e som forkaster H 0 ar 0 < hvor y velges slik at P (0 < j H 0 er korrekt) = Dersom var r 0, ville det vre aturlig a forkaste H 0. Om distribusjoe uder H 0 var kjet, f ( j H 0 ), ka ma e y ved a lse = Z y 0 f ( j H 0 ) d Som oftest er ikke dette kjet. Da ma viviseat er e mooto fuksjo av strrelse W,hvor fordeliga av W er kjet. Nar vi har fuet e slik statistikk, ehver test basert pa W er ekvivalet med e basert pa. 14

15 7 Kapittel 7 Normalfordeliga 7. Puktestimater for og Teorem 7..1 La Y 1 ::: Y vre t.v. fra N( ). MLE for parametree er: ^ = 1 ^ = 1 X i=1 X i=1 y i =y (y i ; y) Teorem 7.. Gitt Y 1 ::: Y vre t.v. setrerte, esiete ogkosistete. fra N( ), Y, MLE estimatoree er Teorem 7..3 Gitt Y 1 ::: Y vre t.v. fra N( ), er flgede setrert og kosistet (brukes til tilrme ) S = 1 ; 1 X i=1 (Y i ; Y ) 7.3 Liere kombiasjoer av ormalfordelte variabler Lemma Om Y 1 N(0 )ogy N(0 1), hvor Y 1 og Y er uavhegige, er: Y 1 + Y N(0 +1) Teorem Om Y 1 N( 1 1)ogY N( ), hvor Y 1 og Y er uavhegige, er: Y 1 + Y N( ) Korollar Om Y P = 1 i=1 Y i er sittet av uavhegige N( ) t.v., sa er Y N( =). 7.4 Setral-grese-teoremet E sum av mage \ikke-ormale" variabler, er tilrmet ormalfordeliga. Setral-grese-teoremet La Y 1 Y ::: vre uedelig sekves av t.v. med samme fordelig (uasett type). Ataat sittet og variase til f Y (y) eredelige. For c og d, er: Z lim!1 P c< Y Y ; p <d = p 1 d e ;(1=)y dy Lemma Ata at Y Y 1 Y ::: er t.v. med lim!1 M Y (t) =M Y (t) for alle t iet itervall rudt 0.Daerlim!1 F Y (y) =F Y (y) for alle reelle verdier y. 8 Hot Vault c Z 1 y k 1 0 e;y= dy = k! k 1X x=0 x x! = e; 15

16 Summe av beroulli-forsk er biomialfordelt. Z 1X =0 a 0 r = a 0 1 ; r uv 0 = uv ; Kodesitervall med uiform fordelig W =(( + 1)=) Ymax. Wgar fra 0 til (( +1)=). f W (w) = +1 w ;1 (+1).Metode: Fi greser for W. Itegrer for a e a og b. Deretter, ls ut slik at ma estimatore imidte av ulikhete. R P (a <W <b)=0:90. a f p ; 0 W (w) dw =0:05 () a = 0: Z vu 0 R ((+1)=) bes ved f b W (w) dw =0:05. p ; P ( 0:05 +1 <W< p ; 0:95 +1 )=0:90 () W P ( p 0:95( +1 << W p ) 0:05( +1 )=0:90! ) w p ; 0:95 +1 w p ; 0:05 +1! Uiformfordeliga med parameter iefor itervall (a, b), har: f U (x) = 1 F U(x) = x a+b og E(U) =. Oversikt over oe fordeliger. Fordelig Forvetig Varias Biomisk p p(1-p) Poisso Ekspoesiell Normal Geometrisk 1 1;p p r p Neg.biom Normal uiform 1/ 1/1 r r Gamma p r(1;p) p 16