Motivasjon for kurset. ÅMA110 Sannsynlighetsregning med statistikk, våren Oppsummering. ÅMA110 Sannsynlighetsregning med statistikk våren 2008

Transkript

1 ÅMA0 Sannsynlighetsregning med statistikk, våren 008 Oppsummering ÅMA0 Sannsynlighetsregning med statistikk våren 008 Pensum: Pensumbok: Per Chr. Hagen: "Innføring i sannsynlighetsregning og statistikk", 4. utgave; Cappelen akademisk forlag, 003. (ISBN: ) Pensum: kp.,, 3, 4, 5 og utgave i bokhandelen både 4. og 5. kan brukes. Motivasjon for kurset Hva skal du med statistikk-kunnskaper? Kan anvendes på svært mange fagfelter Blir mer og mer relevant siden det er vanligere å registrere og lagre data Er et utmerket verktøy for usikkerhetshåndtering Hva håper jeg at du sitter igjen med etter kurset? Gjenkjenne situasjoner hvor du får bruk for den statistiske verktøykassen, spesielt skille mellom Problemstillinger knyttet til beskrivende statistikk Problemstillinger knyttet til statistisk inferensteori Problemstillinger knyttet til statistisk/stokastisk modellering Større forståelse for usikkerhetsbegrepet Lysten til å lære mer! 3

2 Oversikt over delene i pensumboken kp. : Beskrivende statistikk kp., 3, 4: Sannsynlighetsregning (sannsynlighetsteori...) kp. 5, 6: Statistisk inferensteori Beskrivende statistikk Numeriske beskrivelser Grafiske beskrivelser Tidsrekkediagram Histogram Prikkdiagram Relativfrekvenshistogram areal = relativfrekvens => høyde av søyle = rel.frk. / bredde 5 Beskrivende statistikk, grafisk Histogram klasser frekvenser (-6,-]: (-, 0]: 4 ( 0, ]: 5 (, 4]: 8 (4, 6]: (6, 8]: 6

3 Beskrivende statistikk Numeriske beskrivelser (numeriske mål) Sentrumsmål (beliggenhetsmål): Empirisk gjennomsnitt Empirisk median Empirisk prosentil (Q og Q 3 : nedre- og øvre kvartil) 7 Beskrivende statistikk Median: Den verdien der 50% av målingene er mindre og 50% er større. Temperaturdata: (.7+.8)/ =.75 Merknad: Medianen kalles også P50 og blir mye brukt i olje- og gassindustrien NB: forventer også at dere kan regne medianer for kontinuerlige sannsynlighetsfordelinger 8 Grunnbegrep Stokastisk forsøk: forsøk med uforutsigbart utfall Enkeltutfall: et av de mulige utfallene av et stokastisk forsøk Utfallsrom: samling av alle mulige utfall Eks.: et terningkast; utfallsrommet kan bestå av de seks enkeltutfallene,, 3, 4, 5, og 6 (Andre utfallsrom er mulige) 9 3

4 Grunnbegrep, operasjoner med begivenheter (kp..,.3) Vi har ofte behov for å utrykke og finne sannsynligheten for sammensatte begivenheter; A eller B, A eller B eller C, B og C, osv. Snitt, union og komplement fra mengdelæren brukes. 0 Regneregler med sannsynlighet. Komplementsetningen: P( A) = P( A) ( P( Ω) = ) A A C Regneregler med sannsynlighet. Addisjonssetningen (generell): P( A B) = P( A) + P( B) P( A B) A B 4

5 Sannsynlighetsregning, oppsummering av regneregler Sannsynligheten for A: P( A) = P( u), u A P(A) 0 P( A), P( Ω) = Komplementsetningen : P( A) = P( A) Addisjonssetningen : P( A B) = P( A) + P( B) P( A B) Disjunkte begivenheter : C D = φ, ("den tomme mengden"; C og D har ingen felles element / utfall) 3 Opptellingsregler, oppsummering Multiplikasjonsregelen : m m L m k Antall ord. utvalg, s fra N Antall permutasjoner av N : ( N) = N( N )( N ) L ( N s + ) s : ( N) = N( N )( N ) L 3 = N! N Antall utvalg, s fra N N ( N) s : = s s! 4 Betinget sannsynlighet Def. For to begivenheter A og B definerer vi den betingede sannsynligheten for A gitt B (at B har inntruffet) ved: P( A B) P( A B) = P( B) (Sannsynlighetene på høyre side er vanlige, ubetingede.) 5 5

6 Betinget sannsynlighet Multiplikasjonsloven for sannsynligheter (s. 49 i bok): P( A B ) = P( A B ) P(B) Veldig viktig verktøy for å finne sannsynligheter for snitt, det vil si og-hendelser. (Bevises ved rett fram manipulering av definisjon av betinget sannsynlighet.) Obs.: Generelt er det ikke slik at: P(A B) = P(A) P(B) (Dette gjelder dersom A og B er uavhengige begivenheter som vi skal lære om siden.) 6 Statistisk uavhengighet, definisjon P( A B ) = P( A ) P( B ) Eks.: To kast med terning; Sanns. for ikke sekser på første og sekser på andre. Løsning: A= ikke sekser på første B= sekser på andre. Vi vil finne: P( A B ) = P( A ) P( B ), siden A og B opplagt er uavh. = (5/6) (/6) = 5/36. 7 Statistisk uavhengighet, flere begivenheter Setning Dersom de k begivenhetene A, A,...,A k er uavhengige, så er: P(A A... A k ) = P(A ) P(A )... P(A k ) (Sannsynligheten for snittet av A, A,...,A k er lik produktet av sannsynligheten for hver enkelt.) 8 6

7 Lov om total sannsynlighet B og B er en oppdeling av utfallsrommet: B B Da gjelder for en hvilken som helst begivenhet A: P( A ) = P( A B ) + P( A B ) = P( A B )P(B ) + P( A B )P(B ) 9 Bayes formel P(A)P(B A B) A) P( A B) = P( B) - Svært anvendelig formel for reelle problemstillinger - P(A) kalles apriori sannsynligheten (det vi vet på forhånd) - P(A B) kalles aposteriori sannsynligheten (den oppdaterte sannsynligheten gitt data eller observasjoner) 0 Diskrete tilfeldige variable, innledning {KKK, KKM, KMK, MKK, KMM, MKM, MMK, MMM} = { u, u, u 3, u 4, u 5, u 6, u 7, u 8 } 0 3 X = antall mynt i tre kast med pengestykke Mulige verdier for X: 0,, eller 3 En diskret sannsynlighetsfordeling gis ofte i tabell. Fordeling til X: x 0 3 P(X=x) /8 3/8 3/8 /8 (Obs: sannsynlighetene i en fordeling må summere seg til!) 7

8 Diskrete tilfeldige variable, varians (kp. 3.4) Varians måler spredning i sannsynlighetsfordelingen. (Empirisk varians måler spredning i data.) Def.: Variansen til en tilfeldig variabel X defineres ved : Var(X) = E{(X -μ) }, der μ = E(X). Obs.: Dersom X er en diskret tilf. var. som kan anta verdiene x, x, x, K, så har vi : Var(X) = (x - μ) P(X = x ) + (x - μ) P(X = x ) + (x -μ) P(X = x ) + L Regneregler for varians Var(X) 0, X : tilfeldig variabel Var(k) = 0, k : konstant V: Var(X) = E(X ) { E(X) } V3: Var(aX + b) = a Var(X), a,b : konstanter Eks.: Innkjøp av el.artikler; varians til kostnad. 3 Varians til sum; kovarians Def.: Kovariansen mellom to tilfeldige variable defineres ved: Cov( X, Y ) = E[(X μ )(Y μ )], X Y der μ = E[X], og μ = E[Y]. X Y Kovarians er et viktig mål på statistisk samvariasjon 4 8

9 Korrelasjon Def.: Korrelasjonen mellom to tilfeldige variable X og Y er definert ved: ( X,Y) Cov ρ ( X, Y) = = Corr SD(X)SD(Y) ( X, Y) 5 Korrelasjon Obs.: Korrelasjonen - er alltid mellom og, - har samme fortegn som kovariansen, og - er også et mål på styrken av samvariasjonen Corr(X,Y) = (eller ): komplett (lineær) sammenheng Corr(X,Y) = 0: ingen (lineær) sammenheng 6 Noen viktige sannsynlighetsmodeller ( Sanns.modell : nå betyr det klasse/type sanns.fordeling.) Binomisk modell (kp. 3.6) Hypergeometrisk modell (kp. 3.7) Geometrisk modell (notater) Poisson-modell (kp. 3.8) (Seinere skal vi se på viktige kontinuerlige sannsynlighetsmodeller.) 7 9

10 Binomisk modell X = antall ganger en bestemt begivenhet inntreffer i løpet av et fastlagt antall forsøk. = antall suksesser i n delforsøk Delforsøkene må tilfredstille:. uavhengige resultat i ulike delforsøk. resultatet er enten suksess eller fiasko 3. P( suksess ) er konstant i alle delforsøkene Def.: Når disse kravene er tilfredsstilt kaller vi de n delforsøkene for en binomisk forsøksrekke. 8 Binomisk modell Dersom: X ~ B(n, p) X kan anta verdiene 0,,,..., n sannsynligheter og forventning og varians gitt ved formel: P ( X = x) n x = p ( p) x n x, for x = 0,,, K,n E ( X) = np ( X) = np( p) Var (obs: forutsetningene om binomisk forsøksrekke medfører resultatene over.) 9 Hypergeometrisk modell Generelt: Vi trekker n stykker fra en populasjon på N objekt; hvert objekt kan kategoriseres som defekt eller ikke-defekt ; det er M defekte blant de N N-M (ikke-defekte) M (defekte) Y = antall defekte i utvalget Vi sier da at Y er hypergeometrisk fordelt, (N,M,n) 30 0

11 Hypergeometrisk modell Def.: Når Y er hypergeometrisk fordelt, (N,M,n), er sannsynlighetsfordelingen gitt ved: P(Y = y) = P( akkurat y defekte i utvalget ) M N m y n y =, for y = 0,,,..., n N n N-M (ikke-defekte) n-y N M n y M (defekte) M y y ( P(Y = y) = 0, dersom y > M. ) 3 Geometrisk modell Def.: Dersom Y er antall delforsøk til første suksess i en binomisk forsøksrekke, så sier vi at Y er geometrisk fordelt med suksessannsynlighet p, der p=p(suksess). Vi skriver: Y ~ geom.(p) (Man sier ofte at dette er en ventetidsfordeling.) 3 Geometrisk modell Def.: Dersom Y er antall delforsøk til første suksess i en binomisk forsøksrekke, så sier vi at Y er geometrisk fordelt med suksessannsyn-lighet p, der p=p(suksess). Vi skriver: Y ~ geom.(p) Sannsynlighetsfordeling, generelt: P(Y = y) = (- p) y- p, y =,, 3,... E(Y) = p og p Var(Y) = p 33

12 Poissonmodell (kp. 3.8) Situasjoner der Poissonfordeling kan være en god beskrivelse: X=antall forekomster av en bestemt begivenhet i et tidsrom (f.eks. antall ulykker pr. måned) eller X=antall forekomster av et bestemt objekt i et bestemt volum eller areal (f.eks. antall bakterier i en vannprøve) 34 Poissonmodell Eks.: La Y = antall telefonsamtaler inn til sentralbordet i løpet av ett minutt. Y kan anta: 0,,,... I slike situasjoner er det ofte rimelig å anta. at antall forekomster i disjunkte intervall er statistisk uavhengig av hverandre,. at forventet antall forekomster pr. enhet er konstant, og 3. at sannsynligheten for to eller flere forekomster i samme intervall, går mot null når intervallengden går mot null 35 Poissonmodell Resultat: Dersom Y er Poissonfordelt med parameter λt, har vi at: E(Y) = λt og For y = 0,,, 3,... y ( λt) λt P(Y = y) = e y! Var(Y) = λt Skrivemåte : Y ~ Poiss. ( λt ) 36

13 Kontinuerlige tilfeldige variable, intro. Def.: Kurven f(x) kalles sannsynlighetstetthetsfunksjonen til X. For tetthetsfunksjonen f(x) må vi ha at : ) f(x) 0 ) for to tall a og b der a < b, P(a X b) = f(x) dx 3) f(x) dx = - b a er 37 Kontinuerlige tilfeldige variable, intro. Forventning og varians for kontinuerlige variable: Def.: Dersom X er en kontinuerlig tilfeldig variabel med tetthet f(x), så E(X) = xf(x)dx = μ - Var(X) = (x - μ) f(x)dx - ( = E{ ( X μ) }) 38 Kontinuerlige tilfeldige variable Viktige klasser av kontinuerlige fordelinger som vi skal se på: Eksponensialfordelingen (kp. 4.) Normalfordelingen (kp. 4.3) Seinere: Student s t-fordeling (kp. 6.6) 39 3

14 f(x),0 0,5 0, x Eksponensialfordelingen (kp. 4.) Def.: Vi sier X er eksponensialfordelt med parameter λ dersom X har tetthet f(x) gitt ved : λx λe, f(x) = 0, for for x > 0 x 0,0 λ = : x e, for f(x) = 0, for x > 0 x 0 f(x) 0,5 0, x 40 Eksponensialfordelingen Def.: Vi sier X er eksponensialfordelt med parameter λ dersom X har tetthet f(x) gitt ved : λx λe, for x > 0 f(x) = 0, for x 0 Setning : Dersom X er eksponensialfordelt med parameter λ, så E(X) = og Var(X) = λ λ 4 Normalfordelingen Definisjon: Dersom X er en tilfeldig variabel med tetthet : f ( x) = e πσ ( x ) σ μ, < x <, sier vi at X er normalfordelt med forventning μ og varians σ. Skriver : X ~ N( μ, σ ) 4 4

15 Normalfordelingen, sannsynligheter La Z~N( 0, ). 0,5 P(Z ) = - f(x)dx = 0,4 0,3 0, 0, 0,0-4,0 -,0 0,0,0 4,0-0, = Normalfordelingen Setning: Dersom X,..., X n er uavhengige, normalfordelte tilfeldige variable (og a 0, a,..., a n er konstanter), så er Y = a 0 + a X a n X n en normalfordelt tilfeldig variabel. Forventning: E(Y) = E(a 0 +a X a n X n ) = a 0 + a E(X )+...+ a n E( X n ) Varians: Var(Y) = Var(a 0 +a X a n X n ) =a Var(X )+...+ a n Var( X n ) 44 Statistiske egenskaper til gjennomsnittet Setning : Dersom X,X, K,X er n uavhengige tilfeldige variable som alle er normalfordelte med forventning μ og varians σ, så er X = ( X + X n + L+ X ) n n normalfordelt med forventning μ og varians σ. n 45 5

16 Sentralgrensesetningen Obs : Sentralgrensesetningen : Dersom X, X, K, X n er n uavhengige og identisk fordelte tilfeldige variable med forventning μ og varians σ, så er ( X + X + + X ) Y = L tilnærmet normalfordelt med forventning n μ og varians n σ, når n er stor. n Videre : Y - E(Y) SD(Y) er tilnærmet normalfordelt med forventning 0 og varians. 46 Normaltilnærming, binomisk Altså: Y ~ B( n, p ). np( p) 0, så har vi med god tilnærming : P(Y y) P(X y), der X ~ N( np, np(- p) ) 47 Estimering. Målemodellen. Innhold:. (Punkt)Estimering i binomisk modell (kp. 5.). Målemodellen... (kp. 5.3) 3. (Punkt)Estimering i målemodellen (kp. 5.3) 4. Estimere, estimat, estimator 5. Intervallestimering (konfidensintervall) (kp. 5.4) i målemodell med a) normalantakelse og kjent varians, eller med b) normaltilnærming i binomisk modell med normaltilnærming 48 6

17 Estimering i binomisk modell Estimering av suksessannsynligheten i binomisk modell: X ~ B(n,p) Estimator for p : Forevntingsrett : X pˆ = n E( pˆ ) = L = p Varians til estiamtor : p( p) Var( pˆ ) = L = n 49 (Punkt)Estimering i målemodellen Generelt: Vi har n målinger, x, x,..., x n, og n tilhørende tilfeldige variable, X, X,..., X n. La θ være en (ukjent) parameter i fordelingen til X i ene, og θˆ en estimator av θ. Vi sier θˆ er forventningsrett for θ, dersom E( θˆ) = θ (Begrepet og definisjonen gjelder ikke bare for målemodellen, naturligvis også for binomisk modell, Poissonmodell, osv....) 50 (Punkt)Estimering i målemodellen Generelt om best estimator: Dersom vi kan velge mellom flere forventningsrette estimatorer, velger vi den med minst varians. 5 7

18 Konfidensintervall, innledning Konfidensintervall er en meget god måte å rapportere resultater på. punktestimatet i midten (i de fleste typer konfidensintervall) bredden på intervallet forteller om grad av statistisk usikkerhet 5 Konfidensintervall, innledning. Mer om hva konfidensintervall er. Konfidensintervall i ulike situasjoner: i. for forventningen, μ, i målemodellen med normalantakelse og kjent varians, σ. ii. for forventningen, μ, i målemodellen med stor n og normaltilnærming. iii. for suksessannsynligheten, p, i binomisk modell med stor n og normaltilnærming. (Konfidensintervall for forventningen i målemodellen med normalantakelse og ukjent varians: etter at vi har gjennomgått t-fordeling!) 53 Hypotesetesting, innledning Begrep: nullhypotese alternativhypotese ensidig, tosidig teststørrelse (testobservator) nullfordeling kritisk verdi, forkastningsområde Signifikansnivå Styrke p-verdi 54 8

19 Hypotesetesting oppskrift. Formuler H 0 og H - gjelder testen μ eller p? (kan også gjelde λ) - er den ensidig eller tosidig?. Er n > 30 eller er np(-p) > 0? - hvis ja, bruk normaltilnærming -hvis nei: -hvis X i -ene er normalfordelte og σ er kjent, bruk normalfordeling -hvis X i -ene er normalfordelte og σ er ukjent, bruk t-fordeling 3. Finn formelen for caset identifisert i. og gjennomfør testen 55 Hypotesetesting, innledning Først noen kommentarer. Statistiske hypoteser: alternativhypotesen, H : μ < 6.0, uttrykker at virkelig ph er mindre enn 6.0. nullhypotesen, H 0 : μ = 6.0, ville det gjerne vært naturlig å hatt som: H 0 : μ 6.0, men det er en forenkling åbruke =; dette spiller i praksis ingen rolle for resultatet i de fleste situasjoner.. Vi forblir ved å tro på H 0 inntil noe annet er bevist

20

21 6 6 63

22

23

24 70 7 4