FYS våren Linjetilpasning. Alex Read Universitetet i Oslo Fysisk institutt

Transkript

1 FYS150 - våren 019 Linjetilpasning Alex Read Universitetet i Oslo Fysisk institutt

2 Mål Studere en alternativ linjetilpasning der vi kjenner usikkerheten per målepunkt σ i (i stedet for å hente denne usikkerheten fra dataene, som i Squires) Beregn også kovariansen mellom linjens stigningstall og skjæringspunkt - viktig skal vi propagere usikkerhetene gjennom funksjoner av linjeparametrene Etter en kalibrering av y versus x (e.g. h versus m i Masse og kraft), vi måler y±σ y. Hva er x±σ x? "

3 Maximum likelihood Likelihood-funksjonen: Sannsynlighetsfordeling av data gitt en modell og parameterverdier μ Likelihood-prinsippet: Informasjonen om parameterverdiene for en statistisk modell ligger i de observerte dataene. Maximum likelihood: Parameterverdiene som maksimerer verdien av L(X, μ) er gode estimatorer av de sanne verdiene μ 0. Med nok data finner vi estimatorer med ønsket presisjon. μ μ μ 0 L(X, μ) X RMS for gjentatte målinger mht. de sanne verdiene kan ikke bli mindre. I praksis er det altid en bias: Som blir mindre med mer data e.g. Som kan estimeres og korrigeres for σ = 1 (x n i x) 1 (x i n 1 i x) i "3

4 Modellen vår: en linje Observasjoner på posisjoner x i som vi mener kommer fra en underliggende linje (vår modell) y i, i = 1,n y = mx + b La oss starte med at observasjon y i har en usikkerhet, dvs. kommer fra en fordeling med std.avvik σ i y i σ i Da er likelihood for disse dataene L(x, y m, b) = i 1 πσ i e (y i mx i b) σ i "4

5 Minimum χ Praktisk å maksimere L (mht. m, b) ved å minimere χ χ = i (y i mx i b) ln L = i (y i mx i b) σ i σ i = χ +konstanter = i 1 σ i + i ln(πσ i ) (y i + m x i + b mx i y i by i + mbx i ) Σ y + m Σ x + b mσ xy bσ y + mbσ x ( dvs. Σ z i z i /σ i og z Σ z = i z i /σ i i 1/σ i ) "5

6 Minimum χ χ = Σ y + m Σ x + b mσ xy bσ y + mbσ x Finn estimatorene χ m = 0 = mσ x Σ xy + bσ x χ b = 0 = bσ 1 Σ y + mσ x m, b som gir χ m = χ b = 0 Σ x Σ xy Σ x m Matriseligning! [ Σ x ] [ b] = [ Σ y ] "6

7 Løs for estimatorene A B [ C D] 1 = 1 AD BC [ D B C A ] m [ b] = Σ x Σ x [ Σ x ] 1 Σ xy Σ xy [ Σ y ] = 1 Σ x Σ x Σ x [ Σ x Σ x ] [ Σ y ] Σ xy Σ x Σ y m = Σ x Σ x b Σ x Σ y Σ x Σ xy = Σ x Σ x "7

8 Stigningstall m Σ xy Σ x Σ y m = Σ x Σ x Brukte e.g. Σ xy i x iy i /σ i i 1/σ i xy = Σ xy Σ x Σ y NB! Hvis σ i = 1 = i 1 σ i = n Σ x Σ x ( Σ ) 1 xy xȳ Squires: m = (x i x)y i (x i x) = x x = xy xȳ x x "8

9 Skjæringspunkt b b Σ x Σ y Σ x Σ xy = Σ x Σ x m x + b = xy xȳ x x x + x ȳ xxy x x = Σ x Σ x Σ y Σ x Σ xy Σ x ( Σ ) 1 = x ȳ + x ȳ x x b = ȳ m x = ȳ = x ȳ xxy x x Squires: b = ȳ m x For σ i =σ gir Squires og χ -metoden de samme resultatene for m og b! "9

10 Usikkerheter i estimatorene Det er klart at estimatorene for m og b vil være usikker pga usikkerhetene i y i < (δy i ) > σ i Avvikene er antagelig uavhengig av hverandre, dvs. < δy i δy j i > = 0 Vi anvender propagering (forplantning) av usikkerhet m m = m(y), δm δy i i y i < (δm) > σm "10

11 Usikkerhet i stigningstallet < (δm) m m > < ( δy y i )( δy i y j ) > j = < ( m ) (δy i y i ) + i i i ( m ) < (δy y i ) > + i i = ( m ) σ i i y i m m δy j i y i y i δy j > j m m < δy j i y i y i δy j > j Σ xy Σ x Σ y m = Σ x Σ x m y i = x i /σ i Σ x /σ i Σ x Σ x "11

12 Usikkerhet i stigningstallet σm < (δm) > = ( m ) σ i i = y i i ( x i /σ i Σ x /σ i Σ x Σ x ) σ i = i Σ 1 x i /σ i + Σ x /σ i Σ x x i σ i (Σ x Σ x) = Σ 1Σ x + Σ x Σ x = (Σ x Σ x) (Σ x Σ x) (Σ x Σ x) = Σ x Σ x Hva er forskjellen?! = Squires: (Δm) = 1 D 1/ Σ x / (Σ x / ) = 1 x x 1 di n = 1 1 x x n d i n "1

13 Usikkerhet i stigningstallet σ m = 1 x x 1 Hvis σ i = σ, 1 = 1 n/σ = 1 n σ (Δm) = 1 1 x x n d i n 1 n d i n 1 n 1 n i [(y i (mx i + b)] Dette er et estimat for standardavvik (σ ) fra dataene! Faktoren under er n- og ikke n fordi vi har brukt opp frihetsgrader (for m og b) for å finne en linje vi beregner avvikene med hensyn til (se Squires Appendiks C for utledningen). Gjennomsnitt (1 frihetsgrad) σ = 1 n i (x i x) 1 n 1 i (x i x) "13

14 Usikkerhet i stigningstallet Kan vi anslå σ i eller σ selv, kan vi bruke χ -metoden Vi kan bruke avvikene mellom dataene og en tilpasning for å anslå σ (trekke fra frihetsgrader) Hvis det er stor forskjell burde vi undersøke om et problem ligger bak! En ting vi ikke kan gjøre er å anvende χ -metoden og sette inn vilkårlig σ! "14

15 Usikkerhet i skæringspunktet b Σ x Σ y Σ x Σ xy = Σ x Σ x b y i = Σ x/σ i Σ x x i /σ i Σ x Σ x < (δ b) > i ( b y i ) σ i = i Σ x /σ i + Σ x x i /σ i Σ x Σ x x i /σ i (Σ x Σ x) = Σ x + Σ x Σ x Σ x Σ x (Σ x Σ x) = = Σ x Σ x Σ x (Σ x Σ x) = "15 Σ x Σ x Σ x Σ x Σ x Σ x (Σ x Σ x) = x x x 1

16 Usikkerhet i skjæringspunktet σ b < (δ b) > x x x 1 Hvis σ i = σ, 1 = 1 n/σ = 1 n σ Squires: (Δb) = ( 1 n + x D ) d i n (Δb) = ( 1 n + x D ) n n d i n = ( 1 + n x D ) 1 n d i n = ( 1 + x x x ) 1 n di n = x 1 x x n d i n Samme forskjell og kommentarer som for m! "16

17 Konsekvenser Så lenge usikkerhetene er like (σ i =σ) vil χ -metoden og Squires gi de samme verdiene for m, b for et gitt datasett Har vi anslått riktig de sanne usikkerhetene vil vi få litt annerledes, og i snitt litt bedre (mindre RMS mht. de sanne verdiene), estimater for usikkerhetene i linjeparametrene. Er det et stort misforhold mellom de usikkerhetene vi anslår og usikkerheten vi får fra dataene må vi stille kritiske spørsmål til modellen og eksperimentet. Hvis vi vet at usikkerheten varierer betydelig fra datapunkt til punkt bør vi bruke χ -metoden. "17

18 Vi trenger kovariansen - hvorfor? Vi har m ± σ m, b ± σ b og vil vite f(m, b) og σ f. σ f = < (δf ) > ( f m f δm + b δb ) = ( f m δm ) f + ( b δb ) + ( f m f b δmδb ) f = ( m ) σ m + ( f b ) σ b + f m f covar(m, b) b "18

19 Kovarians Ingen kovarians Hvis kovariansen er null er avvikene i m og b ukorrelerte, dvs. hvis vi gjør mange tilpasninger blir < (δm)(δb) > = 0 Vi skal senere se at vi kan få dette for linje-modellen ved å flytte x-origo til x Regnestykke ligner på dem for < (δb) > og < (δm) > "19

20 Kovarians cov(m, b) σ mb < (δm)(δb) > = < ( i m y i δy i )( j b y j δy j ) > i m y i b y i σ i "0

21 Kovarians cov(m, b) σ mb < (δm)(δb) > i m b σi y i y i Her ser vi at om vi trekker x fra alle x i -ene blir kovariansen 0. = i (Σ x /σ i Σ x x i /σ i )( x i /σ i Σ x /σ i )σ i (Σ x Σ x) Σ = x x i Σ x Σ x Σ x x i x i + Σ x x i 1 i (Σ x Σ x) σi = Σ x Σ x Σ x Σ x Σ x Σ x + Σ 3 x (Σ x Σ x) = Σ x (Σ x Σ x ) (Σ x Σ x) = "1 Σ x Σ x Σ x = x x x 1

22 Kovarians i Squires σ mb < (δm)(δb) > Eller bruk σ m = x 1 x x 1 1 x x x σ x x n for σ i = σ σ mb = xσ m Erstatt σ med Squires-estimat for variansen har vi et utrykk for kovariansen vi kan bruke mot data med ukjent men uniform usikkerhet i y cov(m, b) = x 1 x x n d i n = x(δm) (Se Squires C.33) "

23 Bruken av (ko-)varians La oss anta nå at vi har tilpasset linjemodellen til noen datapunkter. Vi kan stille flere spørsmål som kan svares vha. variansene og kovariansen, dvs. beregne f(m, b) ± σ f. Hva er usikkerheten i y gitt en x? Hva er usikkerheten i skjæringspunktet på x-aksen? Gitt en måling på y, hva er usikkerheten på x? Typisk for selv-kalibrert utstyr (e.g. x=kalibrert masse m, y=målt nedbøying h) "3

24 Usikkerheten i y gitt x 0 y 0 (x 0 ) = mx 0 + b σ y (x 0 ) = ( y m ) σ m + ( y b ) σ b + y m y b σ mb = x 0 σ m + σ b + x 0 1 σ mb σ y (x 0 = 0) = σ b Usikkerheten på skjæringspunktet "4

25 Usikkerheten for x-skjæringspunkt 0 = mx sp + b, x sp = b m x σx sp sp = ( b ) σ b + ( x sp b ) σ b + x sp m x sp b σ mb = 1 m σ b + ( b m ) σ m + ( b m ) ( 1 m ) σ mb "5

26 Måling på y±σ y, hva er x±σ x? σ x = ( y = mx + b, x = y b m x σ y ) y + x σ ( b ) b + x σ ( m ) m + x m = 1 m σ y + 1 m σ b + ( x b σ mb b σ m ) m + b 1 ( m ) ( m ) σ mb Usikkerheten i x pga. usikkerheten i y (σ y -leddet) er nesten like stor som totalusikkerheten i x (pga. både usikkerheten i y og usikkerheten i linjeparametrene). Her (og ofte) en god approksimasjon å bare bruke det første leddet σ x 1 m σ y "6

27 Oppsummering m = xy xȳ x x b = ȳ m x σ b = x x x 1 σ m = 1 x x 1 σ mb = x x x 1 σ i i 1 Vi har utledet formler for linjeparametrene og deres usikkerheter når vi selv anslår måleusikkerhetene for en lineær tilpasning til datapunkter De kan relateres til utrykk vi finner i Squires der vi estimerer måleusikkerheten vha. selve dataene Legg merke til at y-ene opptrer ikke i usikkerhetene i χ -metoden! Vi har sett flere eksempler av forplantning/propagering av usikkerheter σ mb For linjen må vi ta hensyn til kovariansen i tillegg til variansene σ m og σ b "7